IEEE: 新興人工知能サイバーセキュリティの課題と解決策

合成現実

（１）課題

人工知能は、人々がこれまでしたことのない、または言ったことのないことをしたり、したりしている様子を示す超現実的な画像やビデオを生成することができます。こうした「ディープフェイク技術」により、偽情報の拡散の検出がさらに困難になるだろう。

（２）解決策

「AIアルゴリズムは、ディープフェイク特有のパターンや特徴を認識するように訓練されています」とIEEEシニアメンバーのカルメロ・ホセ・アルバネス・バストス・フィリョ氏は言う。「これらのアルゴリズムは、視覚的特徴と音声的特徴を分析し、不規則性や通常のパターンからの逸脱を探します。」

データ侵害

（１）課題

チャットボットに入力した情報は、チャットボットのトレーニングに使用できます。これにより、モデルから機密情報や個人情報が漏洩する可能性があります。

（２）解決策

チャットボットのデータプライバシーの問題について、IEEE会員のQiqi Wang教授は次のように指摘した。「機密データをプライベートな環境に保存することで、そのデータがパブリックなグローバルデータベースに追加されるのを効果的に防ぐことができます。」

偽データ

（１）課題

偏ったデータ、不正確なデータ、または誤ったデータが AI モデルに注入され、誤った結果や欠陥のあるシステムが生じる可能性があります。 AI 脅威検出テクノロジーは、スパム フィルターの再トレーニングにすでに実世界で使用されています。

（２）解決策

IEEE 終身上級会員のラウル・コルチャー氏は次のように述べている。「この形式の攻撃は、モデルの学習とトレーニングが不当に妨害されないように、より厳格なデータ フィルタリングとレビュー メカニズムによって対抗できます。高度なフィルタリング、監視、および人間による監督のシステムがすでにこれに対抗しています。」

高度なフィッシング

（１）課題

フィッシング詐欺では、偽の電子メールを使用して個人や企業を騙し、金銭を送金させたり機密データを共有させたりします。人工知能により、よりリアルでありながらも欺瞞的な電子メールやボイスメールを簡単に作成できるようになります。

（２）解決策

「組織は、悪意のある試みを検出してブロックするために、高度な脅威検出技術への投資を検討する必要がある」とIEEE会員のイェール・フォックス氏は述べた。「これらの技術は、機械学習と人工知能を使用して、潜在的なフィッシングの試みを識別し、警告を発する。」

システム保護の回避

（１）課題

AI 開発者は、自分の作品が不快なコンテンツや違法なコンテンツを生み出すのを防ぐために、ガードレールを作成することがよくあります。

（２）解決策

「システムをハッキングしようとする人は常に存在する」とIEEE会員のレベッカ・ヘロルド氏は言う。「彼らを阻止する最善の方法は、大規模な言語モデルアルゴリズムをより厳密に開発し、徹底的にテストすることだ」

AI対AI

（１）課題

AI は、他の AI システムを悪用したり、他の AI システムに対抗したりするために使用されています。敵対的 AI などの手法を使用して、多くの場合、重要な安全要件を持つシステムを欺くのです。

（２）解決策

「トレーニングプロセス中にモデルをさまざまな攻撃シナリオにさらすことで、モデルはより洗練され、悪意のある入力を識別して拒否できるようになります」とIEEEの上級会員であるアモル・グルハネ氏は語った。