AIのブラックボックス問題をどう解決するか？ニューラルネットワークモデルアルゴリズムが答えを導きます

AIが特定のタスクを完了することは目新しいことではありません。結局のところ、AIは産業、医療、農業など多くの分野で活躍しています。最近、ロボットの脳は継続的に開発されてきました。ロボットは自己学習を促す好奇心を持つようになっただけでなく、なぜ特定の決定を下したのかを人々に説明したいと考えるようになりました。ロボットの開発は質的な飛躍をもたらすでしょう。

[[186163]]

「アルゴリズムプログラムがなぜこのような決定を下すのかを問う必要がある。AIの動機を説明しなければ、知能システムを信頼することはできない」とカーネギーメロン大学のコンピューターサイエンス教授、マヌエラ・ベロソ氏は語った。

スタートアップ企業OptimizingMindが、インテリジェントマシンの意思決定プロセスを観察できる技術を発明したとみられる。 このアルゴリズムの目的は、機械学習がどのように予測を行うかを示すために、システムへの「透過的なアクセス」を作成することです。 OptimizingMindの責任者であるTsvi Achler氏は次のように述べている。「このシステムは人間の脳のニューラルモデルに基づいており、あらゆるディープネットワークをこのシステムのモデルに変換できます。その目的は、AIの行動の潜在的な期待を探り、AIの思考パターンのどの側面が意思決定に最も大きな影響を与えるかを見つけることです。」

「私は脳とコンピュータの共通点に興味があります。人間の脳はなぜ学習したモデルを解釈できるのでしょうか？私が『タコ』と言ったら、それが何なのか教えてくれますか？タコの触手がどんな形をしているか尋ねたら、教えてくれますか？」

もちろん、AI と人間の脳の主な違いの 1 つは、人間は自律的かつ反射的に学習するのに対し、AI では一連のプログラム入力が必要であり、1 つの動作が体全体に影響するという点です。こうした柔軟性と自律性は、AI が突破口を開く大きな可能性を秘めています。

さらに、このシステムの「透明なアクセス」も非常に優れています。このシステムは、AI の決定をリアルタイムで観察する方法を提供し、重要な情報を取得する時間を大幅に節約します。エンジニアが機械を開発する時間を大幅に短縮し、企業のリソースを節約するのに役立ちます。アヒラー氏はまた、透明性を提供することに加えて、アルゴリズムを変更することも可能だと述べた。期待を表現できるだけでなく、新しい情報に基づいて個々の期待が瞬時に変化することもあります。

[[186164]]

現在、ほとんどの機械学習手法では、ポジティブフィードバック手法が使用されています。ベンチャーキャピタル会社Naiss.ioの共同設立者エド・フェルナンデス氏は、ポジティブフィードバックはタスクを実行するために最適化された重みを使用すると述べた。ポジティブフィードバック システムでは、固有の情報はトレーニング中に出現する頻度に基づいて重み付けされます。つまり、トレーニング セット全体で重みを最適化する必要があります。これは、重みを最適化するのではなく、パターン認識を最適化することで、「認識されるパターンに基づいて最適化を実行できる」ことを意味します。

ロボットがビジネスとますます密接に結びつく今日、よりインテリジェントで専門性の高いロボットが必須となっています。ロボットの行動の動機付けにブレークスルーが起これば、将来的には的外れな質問に答えるロボットや片腕で世界を旅する低エネルギーのロボットではなく、器用で間違いを修正できるロボットが見られるようになるでしょう。