如果 AI 能以我们从未有过的方式看见世界会怎样?

·1 min read·Translated

前几天我在想一件既明显又安静深刻的事。

我们人类通过一套相当有限的传感器体验世界。眼睛只能看到电磁频谱的狭窄切片。耳朵只能捕捉有限范围的频率。皮肤以相当粗糙的方式感受压力和温度。对大多数人来说,就是这样了。

另一方面,深度神经网络不必受到同样的限制。

想象一个系统,它不仅处理相机图像和文本,还从红外传感器、超声波阵列、电磁场探测器、高光谱相机、振动传感器以及谁知道还有什么中接收连续的实时数据。突然之间,网络不只是在可见世界中学习模式。它同时学习热量、密度、电磁活动、材料成分和结构完整性中的模式。

而且因为这些网络善于泛化,在一个感官领域获得的知识可以迁移到其他领域。最初在热特征中注意到的模式,后来可能帮助系统解释超声波反射,或反之。模型开始构建一个比任何单传感器系统(或人类)单独能管理的更丰富、更基于物理的现实模型。

在真正的意义上,这些系统不会只是分析数据。它们会感知世界——持续地、从多个角度同时、注意到我们根本无法察觉的东西。在具身 AI 研究中,这越来越多地被描述为构建感知世界模型:持续的、多层次的理解,而不是孤立的预测。

可能的传感器列表比我们通常想到的要长得多。除了红外和超声波,研究人员已经在使用或积极探索:

  • 可按需切换尺度的宏观和微观视觉系统
  • 卫星和航空影像(光学、合成孔径雷达、热、高光谱)以获得行星尺度上下文
  • 化学和气体传感器
  • 磁场探测器
  • 高频振动和声学阵列
  • 事件相机和其他仍在进入更广泛使用的专用传感器

卫星 + 地面传感器融合,特别是,已成为地球观测研究的一个主要领域。

一旦学习系统能流畅地组合所有这些,它能帮助解决的问题类型开始感觉几乎像科幻——而其中许多已经在真实研究和早期应用中被处理。

地球观测与气候
系统融合高光谱红外、太赫兹、微波和可见卫星数据,创建温度、湿度和痕量气体的高分辨率大气剖面。这改善了天气预报、气候建模和空气质量监测。多传感器方法也支持土地覆盖制图、森林冠层测量、土壤湿度估计和大规模环境变化检测。

农业
精准农业系统将卫星影像与地面高光谱相机、土壤传感器和无人机相结合。结果是更早检测作物胁迫、更好的产量预测,以及更有针对性的水、肥料和农药使用。

灾害响应
光学、合成孔径雷达、热和雷达数据的融合帮助绘制洪水、监测野火、评估地震损坏,并在烟雾或瓦砾中给响应者更好的态势感知。实时多传感器系统正在开发中,以加快检测并缩短响应时间。

基础设施与工业
振动、超声波、热和视觉数据可以结合,用于早期检测桥梁、建筑、电力线和工业设备中的结构弱点——从被动维护转向真正的预测监测。

医疗
医学中的具身 AI 系统开始融合视觉、力/扭矩传感、热和其他信号,用于手术辅助、康复机器人、诊断和医院物流。目标是对患者和临床环境都有更丰富的感知。

城市制图与太空
研究人员融合激光雷达、合成孔径雷达和光学影像,以获得更准确的城市制图。在太空中,红外 + 可见融合被用于即使在黑暗中或物体处于阴影时也能检测碎片。

重点不只是更好的数据。它是一种不同质量的感知。一个栖居在比我们更广阔的感官世界中——并能跨这些感官泛化——的系统,开始以对我们几乎陌生的方式理解物理现实。

这不是纯粹的猜测。多传感器融合与深度学习多年来一直是活跃的研究领域,尤其是在自动驾驶、机器人、遥感和具身 AI 中。将 RGB 相机与热成像、激光雷达、雷达和其他模态结合,已经改善了在恶劣天气、低光和复杂环境中的鲁棒性。你添加的互补传感器越多,系统在任何给定情况下完全失明就越难。

令人兴奋——也有点令人不安——的是在规模和实时中做这件事的想法。不只是为特定任务融合几个额外传感器,而是给学习系统持续访问更广阔的感官调色板,并让它们弄清楚这些信号如何相互关联。

仍然挡在路上的难题

当然,把这个愿景变成可靠的东西仍然很messy。

不同的传感器不只是产生不同的数字——它们说完全不同的语言。相机、热传感器、激光雷达单元和卫星馈送都有自己的分辨率、时序、噪声和描述世界的方式。让它们共享共同理解而不丢失重要细节,比看起来更难。

然后是时序问题。这些传感器几乎从不在完全同一时刻捕捉世界。即使是小的不匹配也会造成混乱,尤其是当事物快速移动时。研究人员有时把这造成的额外延迟和复杂性称为「传感器融合税」。

在机器人、汽车或无人机上实时运行所有这些是另一个持续的斗争。边缘设备没有无限的功率或内存,所以精度的每次提升往往以速度为代价,反之亦然。

在现实世界中,传感器也会失败。相机变脏或被遮挡。激光雷达在雨或雾中挣扎。热读数会被天气干扰。一个在某个传感器掉线时就崩溃的系统没什么用。

即使在实验室一切都正常,模型也常常难以泛化。改变传感器组合、天气或位置,性能可能急剧下降。高质量、良好同步的多传感器数据集仍然惊人地稀缺,这使得整个问题更难。

还有更安静的信任问题。当涉及许多传感器时,很难理解系统为什么得出特定结论。对于安全关键用途——驾驶、医疗、灾害响应——这种缺乏清晰度很重要。

这些问题中没有一个让这个方向变得不那么有希望。它们只是表明,在系统能流畅地通过多种感官同时感知世界之前,还需要多少仔细的工作。

在某种意义上,这就像给智能一个更大的身体去栖居。它能感知物理世界的方式越多,它的理解就越完整。我们仍处于学习如何正确构建那个身体的早期阶段。

我们开始构建的系统不只是以我们看见世界的方式看见世界。

它们开始以我们从未有过的方式感知它。

Share