盖世汽车讯 从鸟群编队飞行到学生小组合作，团队的运作不仅需要协调和沟通，更需要信任——每个成员都必须对其他成员充满信心。互联机器网络也是如此，这类网络在当今世界正迅速发展——从自动驾驶共享车队到智能电网，无不体现着这一点。

据外媒报道，哈佛大学（Harvard）的计算机科学家与一个由信息论、无线通信、优化理论、机器学习和机器人领域的专家组成的跨多所大学的团队合作，提出了将信任概念融入新兴网络物理系统的愿景。哈佛大学约翰·A·保尔森工程与应用科学学院（Harvard John A. Paulson School of Engineering and Applied Sciences，SEAS）工程与应用科学副教授、肯普纳研究所（Kempner Institute）副研究员Stephanie Gil在其主导的一篇最新论文提出了一个基础框架，旨在帮助多智能体互联系统在采取行动之前确定哪些信息值得信赖。

图片来源：哈佛大学

Gil表示：“网络物理系统将会变得非常普遍。问题在于，我们如何确保这些系统的安全？我们如何确保它们在实际应用中具有弹性？这是我们在确保互联网系统安全方面必须学习的经验。”

该论文引入了“网络信任（cy-trust）”的概念：它是一种量化指标，用于衡量自主智能体（例如车辆或机器人）在做决策时应该对其他智能体或数据流的信任程度。研究人员认为，建立这种信任框架对于未来开发安全可靠的互联系统至关重要。

传统的网络安全基础设施旨在保护软件和数据免遭滥用或窃取，通常侧重于谁可以访问系统。但对于必须实时协调的机器人、车辆或智能设备集群而言，Gil及其同事认为，这些传统的安全措施远远不够。

该论文探讨了多智能体网络物理系统特有的威胁，包括单个智能体的恶意或“贪婪”行为会扰乱协同——例如，自动驾驶汽车加速插队，造成危险的并线。这也可能意味着众包交通地图中存在虚假或篡改的数据，黑客可以利用这些数据重新规划交通路线以达到不正当目的。或者，在执行搜救任务的智能体集群中，被黑客入侵的智能体可以伪造其位置，谎称自己身处其他地方，从而造成监控漏洞。

所有这些例子都可能在现实世界中造成实际危害，例如引发事故、危及行人安全或影响应急响应。然而，该论文也指出，这种“具身化”系统具有一项关键优势，即其内置了独立的传感器和计算机系统。

Gil及其合作者提出，车载传感器（例如摄像头、激光雷达、雷达和GPS）可用于交叉验证从其他智能体或云端接收的信息，以此作为内置的信任度量。对接收到的无线通信应用信号处理技术，可以让每辆车或机器人验证数据的来源。

他们设想：每个智能体可根据感知、上下文、网络行为和过往经验等线索，为来自其他智能体的数据分配一个介于0和1之间的数值信任值。这些值将决定每条信息对智能体决策的影响程度；例如，如果共享出行车队中的某辆车的信任值较低，其他车辆可能会选择忽略它，以避免整个系统崩溃。

Gil表示：“这种网络信任的概念与我们熟悉的心理信任有着明显的相似之处。心理信任是指在风险不可避免的环境中接受风险的一种方式，在这种环境中，你无法完全获取信息，但你仍然需要做出决策。”

Gil已经在实验室里测试了这些想法。

在一组实验中，一组蓝队机器人代表试图达成共识的合作智能体——例如，确定行进方向以便作为一个小队行动——而一组红队机器人则模拟攻击者，通过创建虚假身份发起“女巫攻击（Sybil Attack）”，破坏网络。

通常情况下，联网机器人会简单地接受每条消息并运行标准的分布式共识或优化算法，这使得它们很容易受到攻击。红队机器人可以通过伪装成许多不同的智能体或伪造位置来诱使机器人群体做出不安全或低效的行为。

在Gil的实验中，每个蓝队机器人监听接收到的无线消息；对物理无线信号进行信号处理；并判断看似来自多个不同智能体的消息是否实际上来自同一物理源。由此，系统会为每个疑似智能体生成一个信任评分。

随着时间的推移，系统会学习哪些智能体可能具有恶意，并选择忽略它们的输入，从而使蓝队机器人能够继续执行集体任务。

研究人员还指出，网络信任必须纳入政策和法规才能获得公众认可，尤其是在自主协同系统已经蓬勃发展的当下。共享出行车队正在凤凰城和旧金山等城市部署。卡车列队行驶和自动车队技术正在积极研发，旨在简化供应链。而像亚马逊（Amazon）物流中心那样的自动化仓库，虽然是在受控环境中运行，但已经依赖于机器人集群。Gil表示，将此类系统推广到开放世界是令人兴奋且合乎逻辑的下一步。

该论文合著者、石溪大学（Stony Brook University）校长Andrea Goldsmith表示，这篇关于在网络物理系统中建立信任的跨学科综述论文“可谓恰逢其时”。他说道：“随着我们迈入一个物理系统日益依赖云端人工智能控制的多个智能体的世界，我们需要一个严谨的框架来设计这些系统，使其安全可靠，能够抵御恶意攻击。我们的论文全面概述了最先进的技术和新的研究方向，旨在设计安全、稳健的协作式多智能体系统。”