合成データとAIの「非現実的な」世界を探る

最近、アクセンチュアは「メタバースで出会う：テクノロジーとエクスペリエンスの連続体のビジネスを再構築」と題した主要テクノロジーを検証したレポート「テクノロジー アウトルック 2022」を発表しました。

このレポートは、アクセンチュアのテクノロジービジョン外部諮問委員会（学界、ベンチャーキャピタル、公共部門および民間部門の専門家で構成）からの意見と、業界の専門家へのインタビュー（「35か国、23の業界にわたる24,000人の消費者と4,650人の役員および取締役を対象とした世界規模の調査」を含む）を組み合わせて作成されています。このレポートでは、人工知能、Web 3.0、デジタルツイン、エッジコンピューティング、量子コンピューティングなどの最先端技術を検証し、メタバースの構築という文脈で、これらの技術がビジネスと人間の体験をどのように変革しているかを探ります。

「メタバース」という言葉は、インターネットの次の技術革命か、あるいは「現実的」とは思えない過剰に宣伝された市場の流行かのいずれかという漠然とした概念のため、すぐに一部の人々を遠ざけたかもしれません。しかし、アクセンチュアによれば、これは「ユーザーが閲覧、居住、参加するだけでなく、物理的世界と仮想世界、そしてその間のかすかな領域にまたがる永続的で没入感のある共有体験を行えるようにするインターネットの進化」です。そして、メタバース技術の発展は、こうした物理的世界とデジタル世界、つまり「現実」と「非現実」の融合を加速させています。

報告書の著者らは、AI についての議論を通じて「非現実」の概念を探求し、「ビジネスや環境は、現実世界を説得力を持って反映する AI 生成データによってますます強化されている」と述べている。ディープフェイクやその他の生成 AI 技術によって生み出されるこのような説得力のある模倣は、何が本物で何がそうでないか、またどのような状況で私たちはそれを気にし、あるいは気にしないのかを私たちに問いかけます。大統領のビデオを例に挙げて、その信憑性がいかに重要であるかを示しますが、ディープフェイクの製品広告の場合はそれほど重要ではありません。このぼやけた現実認識は「合成現実」と呼ばれ、報告書では「合成現実が発展するにつれ、善と悪、本物と偽物を組み合わせるAIについての議論は、真正性に焦点を当てたものへと移行するだろう」と述べている。

人工知能は合成データを通じて合成現実を推進しています。アクセンチュアは、かつては人工知能の活用がテクノロジートレンドをリードする企業にとって競争上の優位性となっていたが、今日のデータが溢れる世界では、AIの洞察を解き放つことがビジネスプロセスの合理化、顧客体験の最適化、そしてより大きな成果の促進に不可欠であると述べた。これらの目標を達成するために、多くの企業が実際のデータと合成データを組み合わせて AI モデルをトレーニングしています。

2021 年 6 月のレポートで、ガートナーは合成データを、直接測定やその他のビジネス プロセスを通じて収集された実際のデータではなく、単純なルール、統計モデリング、シミュレーションを通じて生成されたデータと定義しています。アクセンチュアのレポートでは、2030年までにAIモデリングで使用されるデータのほとんどが合成データになるというガートナーの予測を引用しています。これは、「合成データは AI モデルのトレーニングに使用されているが、現実世界のデータは実際には利用できない、または利用すべきではない」という事実によるものだと同社は考えています。機密性とプライバシーを保護しながら同じ統計特性を維持しながら、多様性を高めて偏見と戦うことで、現実世界のデータの落とし穴を克服することもできます。このレポートでは、合成データの作成方法や操作方法をより「人間らしく」する方法についても説明しており、特に開発や顧客サービスのシナリオで、ユーザーの時間と労力を節約するのに役立ちます。

技術の進歩により、こうした新しいツールを違法に利用する日和見主義の悪意あるユーザーが現れるのは当然のことです。報告書は、欠点のある合成データを使用する傾向を認めている。たとえば、ブラウン大学の調査では、気候危機関連のツイートの25%と一般的な「偽科学」ツイートの38%がボットによって投稿された。さらに、カーネギーメロン大学の調査によると、COVID-19についてツイートしているTwitterアカウントの45%～60%がボットだったことが判明した。アクセンチュアはこの状況を「インフォデミック」と呼び、人工知能が進歩し「偽情報のサービス化」が続くにつれて状況は悪化する可能性が高いと述べている。

「説得力のある、誘惑的な虚偽情報が増えるにつれ、何が真実なのかがますます曖昧になるだろう」とアクセンチュアは述べた。「これは企業とその評判に直接的な損害を与えるだけでなく、企業が構築されているAIエコシステムへの信頼を損なう恐れもある」

これにもかかわらず。このレポートでは、「世界中の消費者の 73% が、今後 3 年間で AI または AI 生成コンテンツとのやり取りが増加すると考えています」と述べています。では、これらのやり取りの害を減らすために私たちは何ができるでしょうか?

アクセンチュアは、「本物」に重点を置くのではなく、「本物」とは「自分自身に対して誠実で真実であり、他者に対して本物であること。より具体的には、生成 AI を本物の方法で使用するということは、情報源、ポリシー、人、目的に注意を払うことを意味する」と定義しています。

ブロックチェーンなどの分散型台帳技術は、デジタルコンテンツの出所を確立するのに役立ちます。マイクロソフトが主導する Origin という共同プロジェクトでは、偽情報の拡散に対抗するためにこれを使用しています。

カリフォルニア州の BOT 開示法など、生成 AI に関する政策が役立つ可能性があります。この法律では、「ロボットが商品やサービスの販売、または選挙での投票を促すコミュニケーションに使用されている場合は、その使用の開示を義務付けています。」

適切な人材も信頼性の向上に貢献します。組織は、虚偽の情報やフィッシング キャンペーンが発生した場合に説明責任と専門知識を高めるために、ガバナンス構造を導入する必要があります。

最終的には、目的によって生成 AI の最適な使用方法が決まります。報告書によると、単にコスト削減のためだけに顧客サービス業務に人間ではなくロボットを使用するのは、信憑性に欠ける可能性があるという。しかし、ヘルスケアや美容業界など、顧客が実際の人間と話すことに恥ずかしさを感じたり、抵抗を感じたりするような状況では、AI の方が好ましい可能性があり、アクセンチュアは AI が消費者にとって付加価値をもたらす現実的な方法になると述べています。

アクセンチュアは「非現実」に関する報告書の中で、AI モデルにおける合成データの使用増加は世界を改善するか、悪意のある行為者に対して世界を脆弱にするかのどちらかになる可能性があるが、現実はその中間になる可能性が高いと結論付けている。同社は、信頼性とは「情報源、ポリシー、人材、目的を考慮し、業界、ユースケース、時間を超えて企業が AI を信頼できる方法で使用できるように導く羅針盤とフレームワーク」であると改めて強調した。