EyeCue:基于注视点与自视视频的驾驶员认知分心检测框架
📄 全文中文译稿已上线:本文所述论文(arXiv:2605.07859)的20 页全文译稿(保留全部图表、含工程向译者解读)已发布在论文库,需要逐节细节请直接读译稿。
EyeCue:基于注视点与自视视频的驾驶员认知分心检测框架
论文信息
| 项目 | 内容 |
|---|---|
| 标题 | EyeCue: Driver Cognitive Distraction Detection via Gaze-Empowered Egocentric Video Understanding |
| 作者 | Lang Zhang et al. |
| 来源 | arXiv:2605.07859 |
| 发表时间 | 2026年5月 |
| 代码 | https://github.com/langzhang2000/EyeCue |
| 数据集 | CogDrive(3,662样本,多场景认知分心标注) |
核心创新
EyeCue 是首个将时序眼动数据与自视视频(egocentric video)融合来检测驾驶员认知分心的框架。关键洞察:认知分心体现在注视点与视觉场景的交互模式变化中,而非注视点本身。驾驶员可能”看着路面”但实际上”心不在焉”。
与传统方法的区别
| 方法类型 | 检测手段 | 局限性 |
|---|---|---|
| 手动分心 | 手部离开方向盘 | 可直接观察 |
| 视觉分心 | 视线偏离前方 | 可直接观察 |
| 认知分心 | 注意力被无关思维占据 | 隐性、不可直接观察 |
| 传统EEG方法 | 脑电信号 | 需接触式传感器,干扰驾驶 |
| 自评问卷 | 主观报告 | 仅支持事后评估 |
| EyeCue | 注视点+场景上下文 | 非侵入式,连续监测 |
方法详解
整体架构
graph TB
A[自视视频帧] --> B[视频编码器<br/>提取场景上下文]
C[眼动追踪数据] --> D[注视编码器<br/>提取眼动模式]
B --> E[注视驱动语义查询模块<br/>GDSQ]
D --> E
E --> F[跨模态融合层<br/>检测认知分心]
F --> G[输出: 认知分心/正常]
三大核心组件
1. 视频编码器(Video Encoder)
处理每个自视视频片段,提取驾驶员周围环境上下文信息。使用预训练的视觉模型提取视频帧特征序列,捕获场景的时空结构。
1 | import torch |
2. 注视编码器(Gaze Encoder)
分析眼动追踪数据,提取驾驶员注视模式。包括注视点坐标、注视持续时间、扫视幅度等时序特征。
1 | class GazeEncoder(nn.Module): |
3. 注视驱动语义查询模块(GDSQ)
这是EyeCue的核心创新:利用注视点动态选择视频中与驾驶员注意力相关的视觉token。
1 | class GazeDrivenSemanticQuery(nn.Module): |
完整推理流程
1 | class EyeCueModel(nn.Module): |
CogDrive 数据集
| 数据源 | Attentive | Distracted | 总计 |
|---|---|---|---|
| DR(eye)VE | 1,485 | 409 | 1,894 |
| BDD-A | 424 | 210 | 634 |
| DADA-2000 | 463 | 164 | 627 |
| TrafficGaze | 481 | 26 | 507 |
| CogDrive 总计 | 2,853 (77.91%) | 809 (22.09%) | 3,662 |
标注方式
遵循DR(eye)VE的标注流程:
- 每段视频按时间窗口切分
- 每个窗口标注”认知分心”或”正常”标签
- 分心定义:注意力被与驾驶无关的思维占据,即使视线在路面上
实验结果
| 配置 | 准确率 | 说明 |
|---|---|---|
| EyeCue(完整) | 74.38% | 注视+视频+GDSQ |
| 仅注视特征 | 54.13% | 无场景上下文 |
| 仅视频特征 | 67.53% | 无注视信息 |
| 仅 GDSQ 模块 | 68.80% | 查询模块单独使用 |
| video+gaze 直接融合 | 72.31% | 不经过 GDSQ |
摘要另称:EyeCue 超越 6 个模型家族共 11 个基线方法 7 个百分点以上。
跨场景泛化
论文按道路类型/时段/天气三个维度报告分场景准确率(无”直道/弯道”维度):
| 维度 | 场景 | 准确率 |
|---|---|---|
| 道路类型 | 城市 | 73.64% |
| 道路类型 | 高速 | 76.00% |
| 道路类型 | 乡村 | 78.79% |
| 时段 | 白天 | 74.32% |
| 时段 | 傍晚 | 61.36% |
| 时段 | 夜间 | 79.73% |
| 天气 | 晴天 | 74.70% |
| 天气 | 多云 | 72.79% |
| 天气 | 雨天 | 72.62% |
IMS 开发启示
1. 算法架构启示
注视-场景交互建模是认知分心检测的关键突破方向。当前IMS的视线落点模块主要输出视线方向,但缺少”视线与场景的关系建模”。EyeCue的GDSQ模块提供了一种可落地的跨模态注意力机制:
- 输入:IMS已有的视线方向 + 摄像头场景帧
- 改造:在现有视线落点输出后增加一个注意力查询层
- 输出:认知分心概率 + 注意力分配热力图
2. 数据采集启示
CogDrive数据集的构建方式表明:可复用现有驾驶数据集(如DR(eye)VE)增加认知分心标注层,而不必从零采集。IMS可考虑:
- 复用现有DMS数据集中的视频片段
- 增加认知分心标注层(基于眼动模式+驾驶场景)
- 扩充到中国道路场景
3. 部署可行性
| 维度 | EyeCue方案 | IMS可落地性 |
|---|---|---|
| 眼动输入 | Meta Aria Gen 2 AR眼镜 | IMS已有红外眼动追踪 |
| 视频输入 | 自视摄像头 | IMS DMS摄像头可直接复用 |
| 模型大小 | 138M参数(TimeSformer骨干设置,760G FLOPs) | 需量化压缩后再评估 |
| 推理速度 | 论文报告L40S GPU单样本约0.4s | 未报告FPS,嵌入式平台未实测 |
| 精度 | 74.38% | 高于行业基线,可用于辅助判断 |
4. 与Euro NCAP的关联
Euro NCAP 2026 DSM协议中”认知分心”是未来扩展方向。EyeCue提供了首个可量产的认知分心检测框架:
- 不依赖EEG等侵入式传感器
- 仅使用DMS已有摄像头+眼动追踪
- 跨场景泛化能力>70%
5. 技术路线建议
1 | IMS认知分心检测路线图(基于EyeCue): |
与其他认知分心方法的对比
| 方法 | 输入模态 | 准确率 | 侵入性 | 实时性 | IMS可落地 |
|---|---|---|---|---|---|
| EEG + 眼动 | 脑电+眼动 | —(原文未提供该类方法数字) | 高(需传感器接触) | 否 | ❌ |
| 问卷/DRT | 自评/响应任务 | —(原文未提供) | 高(干扰驾驶) | 否 | ❌ |
| 仅眼动指标 | 眼动统计 | —(原文未提供) | 低 | 是 | ⚠️ 缺场景上下文 |
| 仅视频行为 | 面部表情 | —(原文未提供) | 低 | 是 | ⚠️ 缺注视信息 |
| EyeCue | 眼动+场景视频 | 74.38% | 低 | 是 | ✅ 推荐 |
局限性与改进方向
- 标注主观性:认知分心标签依赖人工标注,标注一致性需验证
- 文化差异:数据集基于欧美驾驶场景,中国道路场景需验证
- 实时性未验证:论文仅在 L40S GPU 上报告单样本推理约 0.4s,未给出 FPS,嵌入式平台(NPU)未实测
- 多乘员场景:仅针对驾驶员,未涉及乘员分心
论文GitHub仓库:https://github.com/langzhang2000/EyeCue
数据集申请:CogDrive已公开
本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 Dapalm | IMS技术前沿!