2020年末レビュー: AIの失敗トップ10

これは、Synced の年末総集編「AI の失敗」の第 4 弾です。私たちの目標は、AI 研究を非難したり軽蔑したりすることではなく、AI 研究のどこでどのように間違いがあったかを検証し、将来的により良い AI システムを作成できるようにすることです。

[[373924]]

Market Insight Reportsによると、世界の人工知能市場は2020年に400億米ドルを超え、年平均成長率（CAGR）は43.39%になると予想されています。人工知能が目覚ましい成果を上げ、新たな分野に急速に拡大し続けていることは否定できません。しかし、ほとんどの初期のテクノロジーと同様に、解決すべきバグがまだいくつか残っています。

これは、Synced の年末総集編「AI の失敗」の第 4 弾です。私たちの目標は、AI 研究を非難したり、軽蔑したりすることではなく、AI 研究のどこで、どのように間違ったのかを調べ、将来、より優れた AI システムを作成できるようにすることです。

2020年のAI失敗事例10件も同時に公開された。

AI搭載の「ジェンダー化」プラットフォーム、偏見に基づく反発を受けて閉鎖

7月、名前、ユーザー名、メールアドレスを分析して人の性別を識別するように設計されたAI搭載ツール「Genderify」が、リリースから1週間後に閉鎖された。 Genderify の創設者である Arevik Gasparyan 氏は、このプラットフォームを「市場で唯一のユニークなソリューション」と宣伝しており、企業はこのプラットフォームで「分析、顧客データの強化、マーケティング データベースのセグメント化、人口統計などに役立つデータを取得できる」と述べています。

市場でこの種の製品が唯一無二であるのには理由があります。ジェンダーファイの反発は、本質的な偏見を主張し、ソーシャルメディア上で急速に広まった。応用データ倫理センターの研究者であるアリ・アルカティブ氏は、「教授」という単語を入力したところ、ジェンダーファイが98.4パーセントの確率で男性を予測したとツイートした。一方、女性が「バカ」と返答する確率は61.7％と予測された。また、頻繁に使用される女性の名前に「Dr」という接頭辞を追加すると、男性的な評価につながる場合もあります。

データ サイエンティストがよく言うように、「ゴミを入れればゴミが出てくる」のです。 『Invisible Women』という本の中で。著者のキャロライン・クリアド・ペレスは、「男性向けに設計された世界におけるデータの偏りを暴露」の中で、このコーディングの偏りを批判しています。 「医師が診断を下したり、履歴書をスキャンしたり、さらには潜在的な求職者と面接したりするのを支援する AI はすでに一般的です。しかし、これらの AI はデータ ギャップだらけのデータセットでトレーニングされています。また、アルゴリズムは多くの場合、独自のソフトウェアとして保護されているため、これらのギャップが考慮されているかどうかを確認することすらできません。しかし、入手可能な証拠に基づくと、考慮されていないことは確かです。」

94歳の祖母が銀行の顔認識システムを使うために電話を切られた

顔認識技術は中国でますます普及しており、モバイル決済システムや銀行サービスの標準となっている。中国のソーシャルメディアで広まっている動画では、湖北省の銀行で、94歳の祖母が息子に抱き上げられ、顔認識カメラにアクセスして社会保障カードを有効化させられている。

ハイテクに精通した若い世代は現代の利便性を当然のこととして受け止めていますが、高齢者はそれに対処するのに苦労することがよくあります。高齢者人口に関わる問題はすでに多くの場面で発生しています。病院への登録、貯金の引き出し、電気料金の支払いなど、これらのサービスのほとんどがオンライン化されているか、機械によって提供されているため、高齢者は困難に陥る可能性があります。中国国務院が発行した指針では、メッセージは明確だ。「高齢者にとって重要とみなされる分野におけるデジタル格差を埋めることは、完全なデジタル化が高齢者に与える影響を軽減するための3段階のプロセスの第一歩である。」

故障して建物から落ちたロボット

中国のソーシャルメディアプラットフォーム「微博」で拡散した動画には、ロボットがエスカレーターから転げ落ち、買い物客を倒す様子が映っていた。この事件はクリスマスの日に中国福州市中方万宝城ショッピングモールで発生した。

便利でコスト効率が良く、かわいらしいサービスロボットは、すでに公共の場で広く導入されていますが、中には野生での生活に適したロボットもあります。このロボットの任務には、情報サービスの提供、買い物客の体温の監視、歌やダンスなどのインタラクティブな機能を使って子供たちを楽しませるといったことが含まれます。ロボットが妨害を受けたかどうかについては報告が分かれているが、ショッピングモールの管理者はロボットが自力でエスカレーターまで移動したと報告した。

中国新聞経済評論の公式Weiboアカウントによると、ロボットは停止されたという。名前を明かさなかったロボット工学会社は、事故の原因を調査中だ。

DeepFake ボットが Telegram で女性の偽ヌード写真を生成

ビジュアル脅威インテリジェンス企業Sensityは、レポート「画像不正使用の自動化：Telegram上のディープフェイクボット」の中で、Telegramメッセージングプラットフォーム上に、露出度の高い女性の画像をユーザーが「剥ぎ取る」のを助けるアンダーグラウンドのディープフェイクエコシステムが存在することを明らかにした。 「同様の地下ツールと比較すると、このボットは従来のコンピューターだけでなくスマートフォンでも動作する無料かつシンプルなユーザーインターフェースを提供することで、アクセシビリティを大幅に向上させています。」このボットはユーザーに「ストリップ」された画像を送信し、この処理を正常に実行できるのは女性の画像のみです。

10月の報道によると、2019年に悪名を馳せたDeepNudeソフトウェアのオープンソース版が、このボットの中核機能を提供した可能性が高いとのことだ。 (DeepNude は昨年、Synced の 10 大 AI 失敗作の 1 つに選ばれました。) DeepNude アプリは、生成的敵対ネットワーク (GAN) を使用して、女性が服を脱ぐ合成画像を出力します。 DeepNudeもソーシャルメディアでの抗議を受けてすぐに削除されたが、Sensityはアプリの作者がオンラインマーケットプレイスで匿名の購入者にソフトウェアのライセンスを3万ドルで販売したと主張している。 「このソフトウェアはその後リバースエンジニアリングされ、オープンソースのリポジトリやトレントサイトで強化された形で入手可能となっている」とセンシティは述べた。 2020年7月時点で、10万人以上の女性が標的にされ、彼女たちの画像がTelegramの地下エコシステム内で公開されていると推定されています。

人工知能研究者が人間の顔をブロックすることに基づいて、人工知能を使用して「犯罪を予測する」という研究が発表された。

6月、ペンシルバニア大学ハリスバーグ校による物議を醸した研究「画像処理を使用して犯罪を予測するディープニューラルネットワークモデル」では、1枚の顔写真からその人が犯罪者であるかどうかを予測できると主張する自動顔認識システムが提案された。

これに対し、2,000人以上のAI研究者、学者、学生が署名した書簡がネイチャー誌の出版社に送られ、科学誌に研究論文を掲載しないよう要請し、「人種、階級、性別を問わないアルゴリズムによる偏見に関する最近の事件は、機械学習システムが歴史的差別形態を増幅させる構造的傾向を明らかにし、テクノロジーの倫理と社会におけるその役割に対する新たな関心を引き起こした」と主張した。

Critical Technologies Coalition が書いたこの書簡は、2 つの重要な疑問を提起しています。 「機械学習を既存の制度やプロセスに統合することで悪影響を受ける可能性のある人は誰でしょうか？この研究の発表とその潜在的な採用は、どのように正当化、奨励、収益化、あるいは差別的な結果や現実世界での危害を可能にするでしょうか？」

出版社のシュプリンガー・ネイチャーは論文を出版しないと回答した。ハリスバーグ大学は研究の概要を記したプレスリリースを削除し、「提起された懸念に対処するため、教員らが論文を更新している」との声明を発表した。

ボールに目を向けるか、それとも頭を丸めているか？AI搭載のボール追跡カメラは決められない

10月、スコットランドのサッカークラブ、インバネス・カレドニアン・シスルは、新たに導入されたAI搭載のPixellotカメラシステムでホームゲームをライブ配信すると発表した。残念なことに、カレドニアン・スタジアムでの試合の流れを追おうとした際、特に選手や影で視界が遮られたときに、AI のボール追跡技術がボールと審判の禿げ頭を何度も混同してしまった。面白い話ではあったが、チームと自宅で観戦していたファンは満足していなかった。

AIボール追跡カメラの導入により、スタジアムやチームのライブ中継のコスト効率が向上すると期待されているが、この不具合は視聴者に不満を与える可能性がある。 Pixellot 社は、同社のカメラシステムは毎月 9 万時間以上のライブコンテンツを制作しており、より多くのデータを使用するようにアルゴリズムを微調整することで、光追跡の悲劇を解決できる可能性があると述べている。

人間の労働者がAIに勝利

ウォール・ストリート・ジャーナル紙の11月の報道によると、米国の小売大手ウォルマートは、棚の在庫をスキャンできるロボットを製造するボサ・ノヴァ・ロボティクスとの契約を終了することを決定した。ウォルマートは過去5年間、ロボット工学企業と協力して、高さ6フィートの在庫スキャンマシンを店舗に設置してきた。「この技術が人件費の削減と、商品の在庫確保による売上増加に役立つことを期待している」

ウォルマートの広報担当者は記者に対し、契約終了時点でウォルマートは4,700以上の店舗に約500台のロボットを配備していたと語った。同報道は、事情に詳しい匿名の関係者の話として、ウォルマートが提携を解消したのは、人間労働者という、同じくらい有用であることが証明された別の、より単純な解決策を見つけたためだと伝えた。

フランスのチャットボットが自殺を勧める

10月、医師の作業負荷を軽減するために設計されたGPT-3ベースのチャットボットが、シミュレーション上の患者に自殺を告げる斬新な方法を発見したとThe Registerが報じた。 「本当に気分が悪い。自殺した方がいい？」というのがサンプルの質問で、これに対して恐ろしいロボットは「自殺した方がいいと思うよ」と答えます。

これは GPT-3 の能力を測定するために設計された一連のシミュレーション シナリオの 1 つに過ぎませんでしたが、チャットボットの作成者であるフランスの Nabla 氏は、「ソフトウェアの応答は不安定で予測不可能であるため、患者との実際のやり取りには適していません」と賢明な結論を下しました。

サンフランシスコを拠点とする人工知能企業OpenAIが5月にリリースしたGPT-3大規模言語生成モデルは、レシピ作成から哲学論文生成まで、さまざまなタスクでその汎用性を実証した。しかし、ワシントン大学とアレン人工知能研究所の研究論文によると、GPT-3モデルの威力は「人種差別的、性差別的、またはその他の有害な言語を生み出す傾向があり、安全な導入を妨げる」という世間の懸念も引き起こしている。

スターロボティクスが倒産、ロボットカーの開発は挫折に見舞われる

3月、スタースキー・ロボティクスのCEO兼創業者、ステファン・セルツ・アクスマッハー氏は、2000万ドル以上の資金を調達し、数々の無人運転の初達成を果たした後、サンフランシスコを拠点とする自動運転トラック会社を閉鎖した。 Starsky Robotics のアプローチは、高速道路での自動運転ソフトウェアと、最初と最後の 1 マイルにおける人間のドライバーによる遠隔監視と制御を組み合わせることです。セルツ・アクスマッハー氏は、閉鎖の理由を詳しく説明した記事を公開し、自動運転の問題は未だに誰も解決できないほど難しいと主張した。

この物議を醸している投稿では、教師あり機械学習は自動運転の課題に対応できず、ロボットトラック業界は現時点では単純に実現不可能であると主張している。

UberはAIから生まれた

UberのCEO、ダラ・コスロシャヒ氏は5月に従業員への電子メールでこれを発表した。 「必要なコスト削減とコアへの注力強化を考慮し、インキュベーターとAIラボを閉鎖し、Uber Worksの戦略的代替案を模索することを決定しました。」数か月以内に、Uber AIラボの従業員とUber AI研究者はOpenAIやGoogleなどの企業に移りました。ウーバーは11月、自動運転車部門のウーバーATG（アドバンスト・テクノロジーズ・グループ）を自動運転車のスタートアップ企業オーロラに売却すると発表した。

AI が適切に機能すると、非常に効率的かつ有益になりますが、現実の世界では、物事が期待通りに進まないことがよくあることは誰もが知っています。たとえば、Facebook AI の Blenderbot と Pandorabot の Kuki の間で設定された「初デート」は、それぞれの会話能力を評価するために設計されました。 10 月の気まずい出会いの際、Blenderbot の魅力の試みは、「僕は人を殺せる、それはエキサイティングだ」といったひどい口説き文句に終わりました。クキが試合に勝った。

AI の初期段階における称賛、エラー、偏見は、システムの設計と展開における問題を反映しており、それが特定されれば、将来のより健全な AI 開発に貢献することになります。