盖世汽车讯 据外媒报道，成均馆大学（Sungkyunkwan University）电子电气工程学院 Minhae Kwon 教授领导的研究团队开发了两项下一代人工智能 (AI) 核心技术，使 AI 系统能够更有效地处理复杂的长期任务，同时降低计算成本并提高安全性。这些发现解决了阻碍昂贵的人工智能助理服务商业化以及阻碍人工智能在机器人和自动驾驶等安全关键领域部署的关键挑战。研究结果发布在 arXiv 预印本服务器上。

图片来源：成均馆大学

接收用户指令并自主计划和执行任务的人工智能助手（例如基于 ChatGPT 的代理）正变得越来越普遍。然而，许多现有的人工智能代理在任务的每个阶段都依赖于另一个高性能人工智能模型的重复反馈——本质上是在问“我做得正确吗？”在每一步。此过程显着增加了服务器和计算成本，同时也减慢了响应时间。

选择性反馈可降低计算成本

为解决这一问题，由博士生Heewon Park担任第一作者的研究团队开发了一种名为“SAG”（即“带门控评估的自我提升智能体”，Self-improving Agent with Gated critique）的框架。这类似于学生自主学习的过程——只有在遇到特别棘手的问题时才会向老师求助；SAG框架允许人工智能（AI）智能体评估自身的不确定性，仅在获取外部反馈“物有所值”时才寻求反馈。该框架还能让AI积累成功经验，实现自我持续改进，从而随着时间的推移，逐渐降低对外部反馈的依赖。

得益于此，该系统将计算资源消耗降至传统方法的三分之一左右，同时在复杂的虚拟环境中，任务成功率从24.6%提升至78.3%，实现了超过三倍的性能提升。

剔除由偶然因素促成的“成功”

与此同时，由硕士生Guhyeon Kang担任第一作者的研究团队开发出一种名为“VAN-Flow”的高可靠性强化学习技术。该技术旨在防止人工智能（AI）系统在机器人和自动驾驶汽车等对安全性要求极高的应用场景中，将偶然的成功误判为真正有效的策略。

在现实世界中进行“试错”可能会引发事故，因此AI往往只能基于既往收集的数据进行训练。在此过程中，系统可能会从某些恰好“侥幸成功”的危险行为中进行学习，进而将这种不稳定的行为错误地视为有效策略，这极易导致系统故障或运行失常。

研究团队设计了一种全新的数学算法，能够剔除那些依赖偶然因素、不可靠的行为，转而优先选择在各种不同条件下均能稳定取得成功的行动方案。基于这一方法，在超过40项复杂的机器人控制模拟任务中——这些任务往往伴随着显著的环境干扰，且需要长周期的精确控制——VAN-Flow展现出了比目前大多数前沿方法更高的成功率。