Google、AIロボットが人間に危害を加えないことを保証する「ロボット憲法」を起草

グーグルのディープマインドは1月5日、3つの新たな開発を発表した。その1つは、AIロボットが人間に危害を加えないようにするためのトレーニングデータを収集するシステムのための「ロボット憲法」の起草だった。

Google のデータ収集システムである AutoRT は、視覚言語モデル (VLM) と大規模言語モデル (LLM) の両方を活用して、環境を理解し、未知の環境に適応し、適切なタスクを決定します。

今回起草された「ロボット憲法」は、アイザック・アシモフの「ロボット三原則」にヒントを得て、安全性を重視し、LLMに対して、人間、動物、鋭利な物体、さらには電化製品に関わる作業を避けるよう指示している。

ディープマインドは、安全性を高めるために、ロボットの関節は力が一定の閾値を超えると自動的に停止するようにプログラムされていると述べた。また、専用の物理的な緊急停止スイッチも装備されている。

グーグルは、過去7か月間に4つの異なるオフィスビルに53台のAutoRTロボットを配備し、7万7000回以上の試験を実施したと述べた。

一部のロボットは人間のオペレーターによって遠隔操作されますが、他のロボットはスクリプトに従って動作したり、Google の Robot Transformer (RT-2) 人工知能学習モデルを使用して完全に自律的に動作します。

試験で使用されたロボットは、カメラ、ロボットアーム、移動ベースのみを備えており、派手さよりも実用性を重視している。各ロボットについて、システムは VLM を使用してその環境と視野内のオブジェクトを認識します。次に、LLM は、カウンターにスナックを置くなど、ロボットが実行できる創造的なタスクのリストを作成し、ロボットが実行すべき適切なタスクを選択する意思決定者の役割を果たしました。

IT Homeはレポートから、DeepMindのもう一つの新技術は、既存のRobotic Transformer RT-2よりも正確で高速なニューラルネットワークアーキテクチャであるSARA-RTであることを知りました。

Google は、テーブルを拭くなどの特定の物理的タスクをロボットがより適切に実行できるように 2D 輪郭を追加する RT-Trajectory も発表しました。