海外メディア：人工知能はすでに自身のミスを警告できる

[[354534]]

海外メディアは、人工知能は急速に発展しており、この分野における最新の技術的成果が、人工知能を信頼すべきでないときを認識するニューラルネットワークの作成に役立っていると報じた。

11月26日のアルゼンチンのブエノスアイレス経済ニュースネットワークによると、このディープラーニングニューラルネットワークは人間の脳を模倣するように設計されており、さまざまな要素を同時に評価できるため、人間の分析では達成できないレベルでデータに基づいて特定のパターンを判断できるという。

これは非常に重要なことだ。なぜなら、今日では人工知能は、自動車や飛行機の自動運転や完全な交通システム、さらには医療診断や手術など、人間の生活に直接影響を与えるさまざまな分野で使用されているからだ、と報告書は述べている。

人工知能は映画「アイ、ロボット」やテレビ番組「ブラック・ミラー」の悪名高い犬ほど破壊的ではないが、自律的に行​​動できる機械はすでに私たちの日常生活の一部となっており、その予測はより正確になり、故障しそうなこともわかるようになるかもしれない。これは、彼らの活動を改善し、SFの世界の核災害を回避するために極めて重要です。

「高性能なモデルを生成する能力だけでなく、こうしたモデルが信頼できないと判断する能力も必要だ」と、MITコンピュータ科学・人工知能研究所（CSAIL）のコンピュータ科学者、アレクサンダー・アミニ氏は報告書で述べている。

アミニ氏は、同僚のコンピューター科学者ダニエラ・ラス氏とともに、人工知能における前例のない進歩を達成するために、ニューラルネットワークの限界を押し広げることに取り組んでいる研究者チームの一員です。

彼らの目標は、AI に自身の信頼性についての自己認識を与えることであり、彼らはこれを「ディープ エビデンス回帰」と呼んでいます。

報告書では、新しいニューラルネットワークは、より高速に動作し、計算要件が低いため、これまでに開発された同様の技術の中で最新の進歩を示すものであると指摘されている。ニューラル ネットワークは、一定の信頼レベルで人間の意思決定と同期して実行できます。

「このアイデアは重要で、一般的に適用可能です。自己学習モデルに基づく製品の評価に使用できます。モデルの不確実性を評価することで、モデルがどの程度のエラーを起こすと予想されるか、モデルを改善するために他にどのようなデータが必要かを理解することもできます」とラス氏は述べました。

研究チームは、精度の異なる自動運転車と比較することでこれを説明しました。たとえば、交差点を通過するか待つかを決定する場合、ニューラル ネットワークは予測に自信がありません。ネットワークの機能には、より正確な予測を行うためにデータを改善する方法に関するヒントも含まれています。

「人間の安全が脅かされ、生命が危険にさらされる状況において、ニューラルネットワークモデルが研究室から現実世界へと移行し始めているのを目にするケースが増えている」とアミニ氏は述べた。