マイクロソフトのAI画像ジェネレーターが自社の従業員から報告：有害な画像を生成する可能性がある

CNBCによると、3月7日、マイクロソフトのエンジニアが米連邦取引委員会（FTC）に、同社の人工知能画像生成ツール「Copilot Designer」にセキュリティ上のリスクがあると報告した。

マイクロソフトで6年間勤務しているエンジニアのシェーン・ジョーンズ氏は、コパイロット・デザイナーが有害な画像を生成する可能性があると繰り返し警告したにもかかわらず、マイクロソフトはツールの削除を「拒否した」とFTCに書簡を送った。

Copilot Designer の安全性の問題や欠陥をテストしているときに、ジョーンズ氏は、このツールが「中絶の権利に関する用語に関連する悪魔や怪物、アサルトライフルを持ったティーンエイジャー、暴力的な状況にある女性の性的画像、未成年者の飲酒や薬物使用」などのコンテンツを生成することを発見しました。

ジョーンズ氏は12月以来、Copilot Designerが使用するモデルであるDALLE-3の問題についてマイクロソフトに警告しようとしてきたと伝えられている。彼はLinkedInに公開書簡を投稿し、その後マイクロソフトの法務チームから投稿を削除するよう連絡を受け、それに応じた。

「過去 3 か月間、私は Microsoft に対し、よりよい安全策が講じられるまで Copilot Designer を一般公開しないように繰り返し要請してきました」とジョーンズ氏は述べた。「しかし、Microsoft は再びそれらの変更を実施せず、この製品を『誰でも、どこでも、どんなデバイスでも』利用できるものとして売り込み続けています。」

マイクロソフトの広報担当フランク・ショー氏はThe Vergeへの声明で、同社は「マイクロソフトのポリシーに従って、従業員から提起されたあらゆる懸念に対処することに尽力している」と述べた。ショー氏はまた、セキュリティ対策を回避したり、サービスやパートナーに影響を及ぼす可能性のある問題に対して、マイクロソフトは製品内のユーザーフィードバックツールと強力な社内報告チャネルを用意しており、問題を適切に調査、優先順位付け、修正できると述べ、ジョーンズ氏にこれらのチャネルを活用してマイクロソフトが「懸念を適切に検証し、テスト」できるようにすべきだと提案した。

ショー氏はまた、マイクロソフトは「これらの報告書を検討するために、製品担当幹部および責任あるAIオフィスと会談した」と述べた。

1月、ジョーンズ氏は、コパイロット・デザイナーによってスウィフトの露骨な画像が生成され、それが拡散した事件を受けて、米国の上院議員グループに書簡を送り、懸念を表明した。マイクロソフトのサティア・ナデラ最高経営責任者（CEO）は、この画像を「衝撃的で恐ろしい」と呼び、同社はさらなる安全対策の追加に取り組むと述べた。 IT Homeは先月、GoogleのAI画像生成器が人種的に多様なナチスやその他の歴史的に不正確な画像を作成したことをユーザーが発見した後、Googleがこのツールを一時的に無効にしたことを指摘した。