新しい機械学習の考え方を使用して、自然な異常と人間の誤解を区別する

ディープニューラルネットワークは、数学モデルを使用して画像やその他のデータを処理する多層システムであり、現在では人工知能の重要な基礎となっています。

ディープニューラルネットワークの結果は複雑に見えるかもしれませんが、誤解を招く可能性もあります。このような誤解により、自動車が誤ってある動物を別の動物と認識したり、自動運転車が一時停止の標識を通常の動きであると誤認したりするおそれがあります。

こうした仮説上の問題の背後にある共通の仮定は、誤解を招くような情報がそのようなネットワークの信頼性に深刻な影響を及ぼす可能性があるということだと、ヒューストン大学の哲学者が『ネイチャー・マシン・インテリジェンス』誌に掲載された論文に記している。

機械学習やその他の人工知能が社会に深く浸透するにつれ、ATMからサイバーセキュリティシステムまで、幅広い分野でその利用が広がり始めています。哲学准教授のキャメロン・バックナー氏は、この人気こそが、明らかな誤りがどこから来るのかを理解することが非常に重要だと語った。研究者たちは、この種の情報を「敵対的サンプル」と呼んでいます。これは、ディープニューラルネットワークが学習プロセス中にトレーニング入力以外の情報に遭遇すると、誤った結論を導き、最終的に画像やデータの誤判断につながる可能性が高いことを意味します。このような問題は、別の機械学習ネットワークによってのみ生成または発見されることが多いため、「敵対的」と呼ばれます。機械学習分野の最先端技術として、敵対者は能力をアップグレードし続け、より複雑な方法で干渉と反干渉を達成しようとします。

バックナー氏は、「しかし、この敵対的な行動は、時には人間による誤解から生じることもあるため、ニューラルネットワークの信頼性をより深く理解するためには、誤解を招く問題についての徹底的な研究を行う必要がある」と述べた。

言い換えれば、誤解を招く結果は、ネットワークが処理する必要があるものと、関連する実際のパターンとの間の何らかの相互作用が原因である可能性が高いです。これは、従来の意味での誤解を招くという概念とまったく同じではないようです。

「敵対的統合の影響を理解するには、3 つ目の可能性、つまり、これらのパターンの少なくとも一部は人工的であるという可能性を探る必要があるかもしれない」とバックナー氏は書いている。「したがって、現在のジレンマは、これらのパターンを単に破棄するだけではモデルの学習に悪影響を与える可能性があるが、直接使用すると潜在的に危険であるということです。」

機械学習システムにエラーを引き起こす敵対的なイベントは、意図的なものである場合もあれば、意図的でない場合もあります。バックナー氏は、これはより深刻なリスクであり、「悪意のある人物が、セキュリティ アプリケーションなど、信頼できるはずのシステムを騙す可能性があることを意味します」と考えています。

例えば、顔認識技術に基づくセキュリティシステムはハッキングされて違反行為につながる可能性があり、また、特定のグラフィックが交通標識に掲示され、自動運転車に意図しない誤解を引き起こす可能性もあります。

これまでの研究では、予想に反して、敵対的例は使用シナリオに自然に存在し、機械学習システムがデータエラーではなく予期しない相互作用のために何かを誤解する可能性があることが判明しています。このような状況は非常にまれであり、他の人工知能技術を通じてのみ発見できます。

しかし、これらの問題は現実であり、研究者は自然異常と人間の誤認を区別する方法を再考する必要があります。

実際のところ、この種の人間による誤解に対する私たちの理解は明確ではありません。しかし、これはカメラのレンズに時々現れる光輪に少し似ており、写真の中の太陽の位置を判断するために光輪に頼るのと似ています。研究者は、このような手がかりを利用して、機械学習における悪意のある誤解を招く方法を推測できるようです。

さらに重要なのは、この新しい考え方は、誤解された結論を単純に無効なディープラーニングと見なすのではなく、ディープニューラルネットワークで成果物を使用する方法にも影響を与えるということです。

彼は、「一部の敵対的なイベントは、仕組まれたものである可能性が高い。ディープ ニューラル ネットワークの信頼性を真に理解するには、そのテクニックとアーティファクトが何であるかを知る必要がある」と結論付けました。