中文搜索引擎指南网
标题:
FieldWorkArena - AI 智能体评测基准
[打印本页]
作者:
sowang
时间:
4 天前
标题:
FieldWorkArena - AI 智能体评测基准
FieldWorkArena 是由卡内基梅隆大学与富士通(Fujitsu)联合开发的一项 AI 智能体评测基准。该基准于 2026 年 1 月在新加坡举办的 AAAI 人工智能大会上正式发布,旨在通过真实工厂、仓库和零售场景的数据,定量评估 AI 智能体在实际物理作业环境中的效能与安全性。
官网地址与资源获取
数据集平台:Hugging Face(已发布工厂、仓库及零售场景数据集)
代码库:GitHub(提供整体系统配置与评估代码)
核心特色
聚焦真实物理场景:与传统针对网页或仿真环境的测试不同,FieldWorkArena 重点覆盖工厂、仓库等物流与制造业场景,填补了真实现场作业评估的空白。
采用真实数据源:数据集完全基于真实环境构建,包含经脱敏处理的现场拍摄视频、实际使用的作业手册及安全规章制度,任务设计直接来源于对现场工人和管理者的实地访谈。
强调安全与合规:核心任务包括检测安全规则违规、作业流程偏差以及生成事故报告。例如,核查高风险区域个人防护装备(PPE)的佩戴合规性,要求智能体具备理解标准、识别人员、分析穿戴并统计数量的综合能力。
隐私保护机制:所有视频素材均在获取拍摄对象同意的前提下取得,并对人物面部及敏感作业区域进行了模糊化处理,确保数据隐私安全。
如何使用
获取数据集:前往 Hugging Face 平台,搜索并下载 FieldWorkArena 发布的对应场景(工厂、仓库或零售)数据集。
部署评测框架:从 GitHub 获取 FieldWorkArena 的代码库,配置整体系统环境。
执行评估任务:将待测的多模态大语言模型接入框架,运行安全合规检测、流程偏差识别等任务。
分析评估结果:通过框架内置的评估函数,获取智能体在多样化现实任务中的综合性能得分(注:近期研究指出,部分顶尖模型在该基准下仍存在幻觉及精准计数困难等问题,准确率得分普遍偏低)。
适用场景
具身智能与工业AI:用于评估和微调部署在制造业、仓储物流现场的 AI 智能体。
安全合规检测:测试 AI 在复杂工业环境中识别安全隐患、违规行为的能力。
企业级多模态模型评测:帮助企业和研究人员检验大模型在真实物理世界交互任务中的可靠性与效能。
欢迎光临 中文搜索引擎指南网 (http://sowang.com/bbs/)
Powered by Discuz! X3.2