Amazon AIツールQが「打撃」を受けた：精度不足、プライバシー侵害、幻覚、データ漏洩

少し前にAmazonはAIツール「Amazon Q」をリリースしましたが、その競合はMicrosoft Copilotです。業界では当初、Amazon が大きな勢いで参入しており、Q は非常に優れているはずだと考えていましたが、最新のレポートでは、この AI ツールは成熟しておらず、まだ準備ができていない可能性があることが示されています。

Q何が問題なのですか？プラットフォーム業者は、Q は精度が不十分で、プライバシーを侵害し、「錯覚」（エラーに相当）があり、データが漏洩していると報告しました。調査レポートによると、Amazon の大規模言語モデルは極めて不正確であり、企業データベースに接続した際に十分な透明性が得られないことが明らかになっています。

アマゾンの広報担当者は、Q氏はいかなる機密文書も漏洩していないと回答した。広報担当者は次のように述べた。「アマゾンの従業員の中には、社内のチャネルやシステムを通じて情報を共有している人もいますが、これはアマゾンの標準的な慣行です。フィードバックによってセキュリティ上の問題が発生したという証拠はありません。当社はすべてのフィードバックを収集しており、プレビュー製品から一般向け製品に移行するにつれて、Q の調整を継続していきます。」

Amazon 自身によれば、Q はすでに数え切れないほど多くの人々の仕事のパートナーとなっているが、レポートでは、Q はまだ企業での使用には準備ができていないと考えている。

EIIRTrend & Pareekh ConsultingのCEO、Pareekh Jain氏は次のように述べている。「『錯覚』が起きれば、Qは企業の意思決定に利用できません。個人的な使用や情報入手のためだけであれば、Qを使うことに何の問題もありませんが、意思決定に使うことはできません。」

Amazon Qにはさらなるテストが必要

Amazon の生成 AI が正式に商業的に利用できるようになるまでには、さらなるテストが必要になるかもしれない。

パリーク・ジェイン氏は「まずアマゾンは社内の従業員でもっとテストすべきだと思う。アマゾンがそうしているのは明らかだ。外部の情報源はこの問題について言及していない。重要なのは2つあり、1つはデータ、もう1つはアルゴリズムだ。アマゾンはそれがデータの問題なのかアルゴリズムの問​​題なのかを突き止めるべきだ」と語った。

Amazon AWS は 17 年分のデータを蓄積してきました。 Qは高いポジショニングを誇り、企業にとっての「万能ツール」となることを目指しています。業界の発展動向から判断すると、Qは非常に重要であり、Amazonの将来に影響を与える可能性があります。

IDC の幹部である Sharath Srinivasamurthy 氏は、「幻覚」によって消費者や企業ユーザーにとっての AI の可能性が減ることはないと考えているが、より良いトレーニングが依然として重要である。

シャラス・スリニヴァサムルシー氏は次のように述べた。「アマゾンは、より高品質なデータ、より優れたプロンプト（モデルが理解しやすいより正確なプロンプトでユーザーをガイドする）でモデルをトレーニングし、組織や業界固有のデータでモデルを継続的に最適化し、疑わしい状況が発生した場合に手動検査を増やすことで、新技術をより適切に採用するための対策を講じることができます。」

AIの「幻覚」は規制されるべきか？

AIが「幻覚」を示す場合、監視を強化すべきか？グレイハウンド・リサーチのCEO、サンチット・ヴィル・ゴジア氏は、規制は裏目に出る可能性があると考えている。

サンチット・ビル・ゴジア氏は次のように述べた。「いかなる規制もデータの交換と使用を妨げる可能性があります。今のところ、規制が少ないほど、業界は良くなります。規制が少ないほど、データの使用はより簡単でスムーズになります。OpenAI の GPT を見てください。クロールすべきデータとクロールすべきでないデータが制限されている場合、GPT は普及しない可能性があります。」

サンチット・ヴィル・ゴギア氏はまた、外部に境界線を設けるのは現実的ではないかもしれないと考えており、企業自身に境界線を設定させる方が良いかもしれないと考えている。同氏は「規制はあるかもしれないが、重要なのは企業が自ら規制できるようにすることだ。監督や指導は必要だが、監査をどう行うかが問題だ。責任あるAIを作ることに重点を置くべきだ。つまり、作成者が顧客に内部ロジックを説明できるということだ。ブラックボックスのシステムであってはならない」と説明した。

「新参者」アマゾン、AI分野ではまだ長い道のり

アナリストは、より優れた AI を構築するために、Amazon は社内テストと自己規制を強化すべきだと考えています。これは確かに正しいのですが、企業に AI を導入することの複雑さの方が注目に値します。 Amazon はこれらの課題に取り組む必要がある。AI 分野の新参者として、まだ道のりは長い。

「AWS は実際にはこの分野で少し遅れをとっており、Microsoft と Google が先頭を走っています」と Jain 氏は言う。「特にチャットボットやその他の関連技術に関しては、ユーザーの期待は非常に高いです。」

Amazon AIが「幻覚」を起こすことは珍しくありません。ChatGPTも、真実と虚偽を区別できず、時には人を傷つける発言をしたり、誤った情報を流したりするなど、多くの問題を抱えています。しかし、アマゾンは事業を開始したばかりで、良い成果を上げていないため、同社の AI 事業に大きな打撃を与えることになるだろう。

疑問に直面したアマゾンの広報担当者は、この問題を軽視しようと全力を尽くした。先週、Amazon AWSの責任者であるアダム・セリプスキー氏が記者のインタビューを受けた。その時、彼は、Apple、Verizon、Northrop Grummanが、主にプライバシーと漏洩の懸念から、従業員によるChatGPTの使用を禁止するポリシーを今年初めに発行したと述べた。これについてどう思うかと尋ねられると、アダム・セリプスキー氏は「消費者向けチャットボットと比較して、Amazon Qはより安全で、プライバシーに重点を置いています」と答えた。

しかし、現在、アダム・セリプスキー氏の主張は検証に耐えないという報告が上がっている。 （ナイフ）