麻省理工学院研究人员开发系统，让机器人标记并修复记忆中不可靠的物体标签
麻省理工学院的研究人员开发了一种记忆系统，可以识别机器人存储的物体描述中可能存在的错误并加以修正，MIT News于11月5日报道。
该系统名为UQ-DAAAM，是Uncertainty Quantification for Describe Anything, Anywhere, at Any Moment的缩写。团队表示，该系统最终可帮助家用或工业机器人完成复杂的多步骤任务，例如清理餐桌或协助人们组装机械。
问题：错误的记忆持续存在
UQ-DAAAM以该团队此前开发的系统DAAAM为基础。该系统使用视觉-语言模型（一种连接图像与文本的AI模型）来描述机器人车载摄像头所看到的物体。这些描述会以标题的形式保存在环境的3D地图中，机器人之后可以对其进行查询。
研究人员表示，机器人可能只能局部看到某个物体、距离较远，或者图像模糊、昏暗，此时DAAAM可能会对其做出错误描述。文中举的一个例子是，屋顶上的一个灰色烟囱被误认为是松鼠。
“由于无法自我纠正，这种错误记忆会在机器人于环境中行动时持续存在，进而可能影响下游应用，”
纠正的工作原理
机器人移动时，会从不同角度收集同一物体的大量图像。MIT表示，UQ-DAAAM首先计算模型对其为某个物体生成的词语的置信度，然后检查该描述与其他视角下同一物体的标题之间的一致性。
“我们将这两种不确定性融合为一个数值，用以反映视觉-语言模型对物体整体理解的确定程度，”
如果该数值超过阈值，系统会使用一条简单规则（即启发式方法）来选取额外的视角。研究人员表示，他们已通过数学证明，该规则无需重新运行视觉-语言模型即可找出最佳帧，从而大幅减少计算量。随后，大型语言模型将所选标题合并为一段描述，并赋予较新且歧义较少的标题更高权重。
报道的结果
MIT表示，优化步骤可解决机器人环境中约92%物体的歧义问题，每个物体只需额外两条标题。据报道，与现有先进技术相比，该方法将物体描述的准确率提高了5%。
MIT表示，与基线方法相比，该系统在回答机器人观察到了哪些物体、在何处看到它们以及最后一次遇到它们是何时等问题时，也给出了更准确的答案。
“与ChatGPT不同，当我们考虑物理AI时，仅仅附上免责声明，提醒机器人有时可能出错，是远远不够的。让机器人知道自己不知道什么，对于这项技术安全部署并对社会产生积极影响至关重要，”
下一步计划
Carlone是该论文的资深作者，Zhang和Nicolas Gorlo为共同第一作者。该研究将在神经信息处理系统大会上发表。
团队计划将UQ-DAAAM用于指导其他类型的机器人，例如移动操作机器人，并将其不确定性技术应用于其他领域。团队还在研究该系统如何指示机器人重新访问高不确定性区域，并探索用于预测机器人周围环境变化的系统的不确定性方法。MIT表示，该研究部分资金来自美国陆军研究实验室和美国海军研究办公室。
来源
- 清理机器人模糊的记忆 — MIT News | Massachusetts Institute of Technology
