新算法可以帮助机器人和自动驾驶汽车协商现实世界

新算法可以帮助机器人和自动驾驶汽车协商现实世界

人工智能正在赋予机器人，自动驾驶汽车以及无数其他形式的技术以新的能力和自给自足的水平。

但是，这些模型会根据输入到其中的任何数据忠实地“做出决定”，这可能会带来危险的后果。

例如，如果自动驾驶汽车在高速公路上行驶，并且传感器接收到一个混乱的信号（例如，油漆污渍被错误地解释为车道标记），则可能导致汽车不必要地转向另一条车道中国机械网okmao.com。

但是，在不断发展的AI世界中，研究人员正在开发新方法来应对此类挑战。一组研究人员设计了一种新算法，该算法允许AI模型处理不确定数据，他们在2月15日发表在《IEEE Transactions on Neural Networks and Learning Systems》上的一项研究中对此进行了描述。

“虽然我们希望机器人在现实世界无缝工作，现实世界充满了不确定性，说：”迈克尔·埃弗雷特， AP OST-d octoral一个ssociate麻省理工学院谁 帮助开发了新的方法。“对于系统来说，了解自己知道的和不确定的东西非常重要，这对现代AI来说是一个重大挑战。”

他的团队专注于一种叫做强化学习（RL）的AI，该模型试图通过反复试验来学习在给定场景中采取每种行动的“价值”。他们开发了一种辅助算法，称为深度RL的认证对抗鲁棒性（CARRL），可以在现有RL模型的基础上构建。

“我们的关键创新是，我们的算法CARRL不会像今天（通过AI模型）那样盲目地相信测量结果，而是会考虑可能进行的所有可能的测量结果，并做出考虑最坏情况结果的决策，”埃弗里特解释说。

在他们的研究中，研究人员对CARRL进行了多个不同任务的测试，包括防撞模拟和Atari pong。对于可能不熟悉它的年轻读者，Atari pong是一款经典的计算机游戏，其中使用电子桨将乒乓球引导到屏幕上。

在测试场景中，CARRL帮助将球拍稍微向上或向下移动，以补偿球可能在与输入数据所指示的位置略有不同的位置接近的可能性。一直以来，CARRL都会努力确保球至少与桨的某些部分接触。

在一个理想的世界中，AI模型始终保持准确的信息，并且AI模型将表现良好（左图）。但是在某些情况下，可能会给AI提供不正确的数据，从而使AI错过目标（中）。新算法CARRL可帮助AI解决其数据输入中的不确定性，在依赖不良数据时可获得更好的性能（右）。

在所有测试方案中，与没有CARRL相比，RL模型在补偿潜在的不准确或“嘈杂”数据方面表现得更好。

但是结果还表明，与人类一样，过多的自我怀疑和不确定性可能无济于事。例如，在避免碰撞的场景中，沉迷于过多的不确定性会导致仿真中的主要移动对象避开障碍物及其目标。埃弗里特说：“在不变得过于保守的前提下，对算法的怀疑程度绝对是有局限性的。”

这项研究由福特汽车公司资助，但埃弗里特指出，它可能适用于许多其他需要安全意识AI的商业应用，包括航空航天，医疗保健或制造领域。

Everett说：“这项工作向我创建“可认证的学习机”的愿景迈了一大步，该系统可以发现自己如何在现实世界中进行探索和执行，同时仍然具有安全性和鲁棒性保证。” “我们希望将CARRL引入机器人硬件，同时继续探索机器人技术和AI界面上的理论挑战。”

欧易平台app软件地址

okex平台下载

okex平台app官方地址

欧易okxapp官方下载