潜在意識を使うとAIと何ら変わりません

誰もが騙される可能性がある現代では、別の人を騙して機械が騙されるかどうか試してみませんか?

人工知能の研究開発の50年間で、私たちは常に、人間が世界を認識する方法を機械に理解させようとしてきました。大きな進歩を遂げていない脳型コンピューティングであれ、外界に対する人間の知覚のメカニズムを模倣した人工ニューラルネットワークであれ、それらは本質的には人間の行動のさまざまな模倣である。

もちろん、これらの模倣は応用面で大きな進歩を遂げているものの、本質的には人間の認知方法とは大きく異なることもわかっています。

視覚を例にとると、人間があらゆるものを認識するのは包括的な知覚から生まれます。少し前にソーシャルメディアで話題になったポケモン映画については、ピカチュウの3Dバージョンを見て人々はとても驚きました。ピカチュウには本当に毛があるのか​​？

実は、これは人間に関する非常に興味深い点を反映しています。包括的な知識基盤に基づいて、人間の五感は相互に連携しており、限られた情報から関連付けを行い、未知のものに対する認識を構築することができます。

ピカチュウの毛皮を見ると、すぐにそのふわふわした感触が思い浮かび、大きなネズミのようでまったくかわいくないと思います。

機械の心は思い通りに騙される

対照的に、マシン ビジョンの認知モードは比較的分離されています。分類器が確立されると、ニューラル ネットワークのレイヤーが編成され、レイヤーごとに画像を処理し、画像が橋なのか、猿なのか、木なのかを識別します。最終的な結論は、この絵が橋である可能性は 97%、猿である可能性は 2%、大きな木である可能性は 1% であるということです。

人間の場合、頭の中に十分な基礎知識がなく、認知の中でゴリラとサルの概念を区別できないため、サルをゴリラと間違えることがあります。しかし、私は橋と猿と大きな木という全く無関係なものを混同することは決してありません。

しかし、マシンビジョンの場合は異なります。マシンの「目」では、すべての画像はピクセルの配置と組み合わせです。私たちにとって、猿と木の違いは哺乳類との違いです。しかし、機械にとって、猿と木の間にはデジタルの境界線しかありません。

その結果、マシンビジョンが「標的」にされ、騙され、画像認識で完全に間違った結果が出力されることになります。これは、敵対的生成サンプルと呼ばれるものです。

たとえば、写真のピクセルをわずかに動かすと、人間の目には 2 つの写真に違いは見えませんが、機械の認識ロジックでは、機械が猿を大きな木と間違える可能性があります。

もうひとつの例は、以前紹介した「サイケデリックステッカー」です。これは、ある物体の分類特性を非常に小さなパターンに凝縮し、それを他の画像に「貼り付ける」というものです。画像認識の出力は、複数の結果の比率に基づいています。ステッカーを貼る前に、画像認識によって、その写真が猿である可能性が 98% あることが明確に分析される可能性があります。しかし、特徴を凝縮したステッカーを貼ることで、画像認識の結果をすぐに変えることができます。

人間に機械の思考を理解させることは、私たちが考えるよりも簡単かもしれない

機械は人間の思考方法を真似しようとしてきたが、最終的には人間と機械はお互いを理解できないようだ。

では、視点を変えて、人間が機械の考え方を学べるようにしたらどうなるでしょうか?

ジョンズ・ホプキンス大学は最近、そのような実験を行った。

ジョンズ・ホプキンス大学は、人間が「見ることができない」変化を機械が見ることができる理由を理解するために、人間のボランティアが写真の中の「機械が起こした間違い」を見つける一連の実験を開始した。

たとえば、ボランティアにノイズの多い画像や一見意味のないパターンを与え、その画像がどの物体に似ているかを識別するように依頼し、AI が出した結果を混乱させます。たとえば、人間にまだら模様のデジタルパターンをいくつか与え、AI が誤ってそのパターンをどのような数字として認識したかを人間のボランティアに選んでもらいます。

驚くべきことに、ほとんどの実験で、人間のボランティアは直感に基づいて AI の思考パターンをすぐに識別しました。上の写真を例にとると、人間のボランティアの 81% が機械が犯すであろう間違いを正確に検出しました。 48 の実験に参加した 1,700 人のボランティアのうち、機械と同じ答えを選んだ人は 75% でしたが、機械と同じ答えをまったく選ばなかった人はわずか 2% でした。

この驚くべき実験結果は、人間の基本的な認知論理を脇に置いて、潜在意識の最初の反応を利用したとしても、機械と同じ結果が得られるということを示しています。ニューラルネットワークのブラックボックスから抽出される人間の経験の深さは、私たちの想像をはるかに超えるものである可能性があるようです。

敵対的なイメージとの戦い: 人間が機械を理解し始めるとき

この実験の意義は、私たちが実はロボットであるということを皆に伝えることではなく、機械視覚が起こす可能性のある間違いに対処する方法を教えることです。

マシンビジョン認知モデルには固有の欠点があるため、悪用される可能性のある抜け穴が多数形成される可能性があります。例えば、自動運転が道路上の交通標識を認識する際、小さなステッカーがあると視覚システムが交通標識を突然現れた歩行者と誤認し、システムが急ブレーキをかける可能性があります。

このような状況を解決するには、機械の思考を理解し、それをリバースエンジニアリングすることが良いアプローチになるかもしれません。

この実験から、非論理的なパターンやテクスチャであっても、人間は連想能力を利用して、これらの画像に対するより高いレベルの認識と処理を獲得できることがわかります。実験では、人間と機械が同じ状況に入り、いくつかの分類オプションを含む多肢選択式の質問に答えました。そして、この分類の選択が、機械に間違いを起こさせる鍵となるのかもしれません。

もう一つのポイントは、人間は敵対的な画像をはっきりと認識できるということです。たとえば、デジタルパターンを認識しにくくする、意図的にまだら模様にしたものや、特徴が非常にわかりやすい派手なステッカーなどです。つまり、これらの対立パターンにも独自の「対立特性」があるということです。

このような状況に直面した場合、理想的な方法は、畳み込みニューラル ネットワークを放棄し、認知コンピューティングを適用して、人工知能がより完全な世界観に基づいた認識を確立できるようにすることです。しかし、コグニティブ コンピューティングが画期的な進歩を遂げるまでは、代替ソリューションを探す必要があるかもしれません。

たとえば、セキュリティや自動運転などの重要な状況で意図的に敵対的サンプルを生成し、人間にラベル付けさせることができます。さらに、車や歩行者などの従来のカテゴリに「敵対的サンプル」カテゴリを追加して、畳み込みニューラルネットワークがこれらの破壊的なパターンを認識できるようにすることもできます。

数ピクセルの移動で機械の認識が変わるような状況では、データ循環中の圧縮によってエラーが発生する可能性が高いです。機械の認識結果を変える圧縮ルールを探し、逆にソースでエラーが発生するのを防ぐことができます。

今日では、人間と機械の思考パターンが非常に似ているというニュースは冗談のように聞こえます。しかし、私たちが誇る「人間の意識」は結局それほど複雑なものではなく、最終的には予期せぬ形で機械の思考と出会うことになるのかもしれません。

しかし、私たちが出会う前に、人間の思考とロボットの思考の類似点を利用して現実の問題を解決する必要があります。