新一代物理机器人控制系统。
Gecko Robotics 和 NVIDIA 之间的合作是对现实世界中自主人工智能系统日益增长的风险的回应。到目前为止，安全问题主要集中在软件方面，但当人工智能开始控制机器人、车辆或工业机械时，风险会转移到物理领域。NVIDIA Open Agent Safety Platform 被设计为一个全面的解决方案，涵盖整个技术层--从软件和硬件到计算基础设施。
Gecko Robotics 在实践中利用该平台，在其机器人上测试其功能，这些机器人可以在关键基础设施（从核电站到潜艇）中运行。在这种情况下，NVIDIA OpenShell 实施的独立安全层成为一个关键要素。它充当人工智能代理和物理硬件之间的屏障，确保机器人仅执行开发人员明确允许的操作。
控制不是一种选择--而是一种工程责任。
在声明中，Gecko Robotics 的负责人 Jake Loosararian 强调，人工智能的安全是一个工程问题，而不是法律问题。“普遍的观点是，对人工智能失去控制是不可避免的，这是一种为不作为辩解的不良借口，”他说。与 NVIDIA 的合作旨在表明，可以构建系统，从而在不承担失去控制风险的情况下实现更大的自主性。这不仅仅是关于限制--而是要确保人工智能以可预测且符合人类价值观的方式运行。
将这项技术应用于支持美国海军的 Komodo 系统，展示了其现实意义。该机器人运行于潜艇和航空母舰上，在这些环境中，错误可能会造成灾难性的后果。独立的控制层可确保，即使人工智能决定采取超出范围的操作，硬件也不会执行该命令。这是朝着高风险领域负责任的自动化迈出的关键一步。
放大图像关闭放大上一张图片人工智能的安全必须与技术发展同步。
假设可以稍后添加安全性是不可接受的--尤其是在涉及物理系统时。如果缺乏硬件和运行时级别的控制，仅在人工智能级别进行模型化安全是不够的。Gecko Robotics 和 NVIDIA 的合作表明，安全性必须从一开始就内置到整个系统架构中。这意味着开发人员不能仅仅依赖于人工智能“想要”做什么，而是必须拥有可以检查并阻止它的机制。
虽然该合作目前仍处于测试阶段，尚未正式确认是否大规模实施，但其意义重大。它表明，即使是最先进的系统也可以通过安全措施来防止不受控制的操作。这不仅仅是一个技术步骤--这是一个向整个行业的信号：对安全的责任不能推迟到未来。当人工智能进入物理世界时，控制必须与人工智能同步进行。
对工业和关键基础设施的前景
这项技术的应用可能对许多行业具有重要意义--从能源和制造业到国防。在所有机器人需要在难以到达或危险地点工作的环境中，确保对其操作进行无条件控制至关重要。对于《财富》100 强企业或美国海军等客户而言，这不仅仅是效率问题--更是关于人员和基础设施的安全。
未来，可能需要对具有此类安全层的系统进行测试，然后才能在关键设施中部署自主机器人。Gecko Robotics 和 NVIDIA 的合作不仅测试了技术，而且还在为未来的机器人技术构建新的标准。如果成功，它可能会成为其他从事人工智能现实世界应用的公司可以效仿的模式。然而，重要的是不要将其视为“现成的解决方案”，而应将其视为构建对技术的信任过程中的一个步骤。