人工知能詐欺は注目に値する

[[263745]]

あらゆるテクノロジーは諸刃の剣であり、人工知能テクノロジーも例外ではありません。人工知能技術は、真実を隠蔽し虚偽を明らかにするのに役立ち、勢いを創出して軍事に活用できるほか、民間では製品の実用性を向上させることができます。しかし、近年では「迷惑電話」「口コミの氾濫」、合成音声、AIが生成した実写動画や画像など、AIが生成した大量の情報がインターネットや人々の日常生活に溢れかえっています。これを踏まえて、多くの専門家は、人工知能の急速な発展により、現実とサイバースペースにおける対人コミュニケーションにインテリジェントで自動化されたインタラクションが影響を与えていると考えています。では、人工知能詐欺という現象をどう理解し、どう変えていけばよいのでしょうか。これは深く考えなければならない重要な問題です。

本質的に、機械は偽造することはできません。機械の動作原理は、入力を出力に変換することであり、数量のみを数え、正しいか間違っているかを問うことはありません。したがって、人工知能による詐欺は本質的に人間の詐欺です。成熟したアルゴリズムと豊富なデータ リソースを組み合わせることで、リアルな写真、ビデオ、テキスト マテリアルを生成できます。これは技術的に難しいことではありません。その目的は、人々に混乱を感じさせ、現実を仮想化することです。

しかし、根本的に言えば、人工知能は人間の行動を模倣したり偽装したりすることはできても、人間の行動の背後にあるさまざまな関係性を模倣することはできません。つまり、「モノとモノのつながり」の本質をつかめば、ほとんどのAI不正は暴くことができるのです。

人工知能による不正行為は、機械の深い状況認識や文脈認識技術によってフィルタリング、選別、排除することができます。正常な人が異常なことを簡単に行わず、正常な組織が法規制を不当に違反しないのと同じように、個人や組織の過去の実績を観察し比較することで、不正行為があるかどうかを判断することができます。しかし、一般的にそれを識別するのは難しくありませんが、難しいのは特殊な状況での微妙な区別です。そのため、AI偽造に対しては、従来の偽造防止技術手段に加え、偽造の早期段階で可能な限り識別して介入するための新たな深層状況認識技術とツールを開発し、状態、勢い、知覚、認知の各段階から綿密な分析と対応を行うことも必要です。さらに、対応する管理緊急メカニズムの方法と手段を研究し、関連法規をできるだけ早く制定し、知識を普及させ、AI詐欺対策技術の関連アプリケーションの広範な実装を促進し、それによって人間・機械・環境システムを統合したAI詐欺対策エコロジカルチェーンを形成することもできます。

諺にもあるように、偽物は本物にはなれないし、本物は偽物にはなれない。悪魔は1フィートの高さだが、道は10フィート高い。結局のところ、人工知能がいかに優れていても、それは人間が作ったものであり、人間自身が不完全な知能を扱う「ハンター」なのです。