ハッカーはAIの顔を変える技術を使って就職活動を行っている。人工知能のセキュリティ問題は無視できない

米国での流行後、多くの企業が「在宅勤務」（WFH）モデルを採用しました。 FBIの刑事告訴センターは、最近多くの企業雇用主から、採用プロセス中に求職者が他人の個人情報を盗み、ディープフェイク技術を使用して遠隔面接に参加したという苦情を受けていると述べた。

これらの職種には、情報技術、コンピュータプログラミング、データベース、ソフトウェア関連の分野が含まれます。求職者の中には、仕事を得るために他人の経歴や専門知識を利用し、ディープフェイク技術を使用してビデオを偽造しようとする人もいます。

研究者らは、求職者とのオンライン面接を実施したところ、求職者の動きや唇の開閉が、話す音と一致していないことを発見した。例えば、くしゃみや咳の音が現れると、映像が同期していなかった。

これらの求職者の身元調査を実施したところ、彼らの中には実際に他人の身元を利用して仕事を探している者もいたことが判明した。就職活動だけであればまだ小さな問題ですが、ハッカーであれば契約に成功すれば会社に侵入して機密データにアクセスすることができます。

あなたも興味がありますか、このソフトウェアはとても使いやすいですか?

答えは、確かに非常に進んでいるということです。

ディープフェイクは、生成的敵対ネットワーク (GAN) の強力な画像生成機能を使用して、既存の画像やビデオをソース画像やビデオに組み合わせて重ね合わせます。人物の顔の詳細を記録できます。ディープフェイク技術は長年の開発を経て、今では違和感なくリアルタイムで顔を置き換えることができるようになりました。

しかし、ディープフェイクでは、動画内の顔がまったく瞬きをしないか、瞬きの頻度が高すぎたり不自然だったりするため、動画内の顔の表情を忠実に再現したアニメーションを作成することが困難です。さらに、音声とダミー画像が十分に自然に調整されません。

したがって、このタイプのビデオが 10 秒間続くと、疑惑を招きます。インタビュー全体が長くなるため、欠陥が明らかになりやすくなります。

科学技術の進歩と変化は諸刃の剣である。

人工知能技術は私たちに多大な利便性をもたらす一方で、セキュリティ、倫理、プライバシーなど一連の問題を引き起こす可能性もあります。

人工知能開発の本質は、アルゴリズム、計算能力、データを通じて、完全な情報と構造化された環境における決定論的な問題を解決することです。データに支えられたこの時代において、人工知能は多くのセキュリティ上のリスクに直面しています。

まず、中毒発作に遭う可能性があります。

つまり、ハッカーは悪意のあるデータを挿入して AI システムの信頼性と精度を低下させ、AI の意思決定エラーを引き起こします。トレーニング データに偽装データや悪意のあるサンプルなどを追加すると、データの整合性が損なわれ、トレーニング アルゴリズム モデルの意思決定に逸脱が生じます。

このような操作を自動運転の分野で使用した場合、車両が交通規則に違反したり、交通事故を引き起こしたりする可能性があります。

第二に、データ漏洩の問題があります。

逆攻撃はアルゴリズムモデル内のデータ漏洩につながる可能性があります。現在、スマートブレスレット、スマートスピーカー生体認証システム、スマート医療システムなど、さまざまなスマートデバイスが広く使用されており、個人情報はあらゆる方向から収集されています。顔、指紋、声紋、虹彩、心拍、遺伝子などを含むこれらの情報は固有かつ不変であり、一度漏洩したり悪用されたりすると、深刻な結果を招きます。

例えば、国内の多数の店舗がユーザーの同意なく収集した大量の顔写真が流出したことが発覚しました。これらの顔写真は多かれ少なかれ闇市場に流出しており、詐欺や金銭的セキュリティのリスクがあります。

繰り返しますが、サイバーリスクは存在します。

人工知能は必然的にネットワーク接続を導入し、人工知能技術自体もネットワーク攻撃の知能レベルを向上させることができ、それによってインテリジェントなデータ盗難やデータ強要攻撃を実行したり、大量の偽の脅威インテリジェンスを自動的に生成して分析システムを攻撃したりすることができます。

主な攻撃方法には、バイパス攻撃、推論攻撃、バックドア攻撃、モデル抽出攻撃、属性推論攻撃、トロイの木馬攻撃、モデル反転攻撃、アンチウォーターマーク攻撃、再プログラミング攻撃などがあります。

人工知能の時代においては、データセキュリティも多くの新たな課題に直面していることを私たちは明確に認識しなければなりません。データセキュリティとアルゴリズムセキュリティの保護は、企業にとって最優先事項となっています。