AI生成コンテンツの隠れた危険性：AIがAIを学習するだけでは、インターネットは意味のないコンテンツで満たされる

6月20日のニュースによると、人工知能（AI）は急速に発展しているが、隠れた危険性ももたらしている。最近、英国とカナダの科学者グループは、AIが他のAIによって生成されたコンテンツのみを学習すると、数世代のトレーニングの後、AIは意味のないジャンク情報を出力し、オンラインコンテンツの品質が低下することを発見しました。

科学者たちは5月に、AI同士が互いに訓練し合うと何が起こるかを探る論文を発表した。彼らは、この場合、AI の出力が次第にばかばかしくなっていくことを発見しました。たとえば、中世の建築についての記事は、9世代にわたる AI トレーニングの後、さまざまな色のウサギについての意味不明な文章に変わりました。

この現象は「モデル崩壊」と呼ばれます。現在、ほとんどの AI 言語モデル (ChatGPT や OpenAI など) は、インターネットから取得した大量のデータに基づいてトレーニングされており、そのほとんどは人間によって生成されています。しかし、AI が生成したコンテンツが増えるにつれて、将来の AI トレーニングは必然的にこのコンテンツの影響を受けることになります。これは、虚偽で意味のない情報が蓄積され続け、やがて AI が事実と虚構を区別できなくなり、自らの誤った考えを信じ始めることを意味します。

論文の著者の一人であるケンブリッジ大学のロス・アンダーソン教授は、ブログ投稿でこの現象を公害に例え、「私たちがプラスチックごみで海を、二酸化炭素で大気を汚染したのと同じように、インターネットもナンセンスで汚染されようとしている」と書いた。

実際、AI によって生成されたコンテンツはすでにインターネット上で広く流通しています。 5月、オンライン誤情報監視組織「ニュースガード」は、完全にAIによって書かれたニュースウェブサイト49件を発見したと警告した。さらに、マーケティングおよびPR代理店はコピーライティングをチャットボットにアウトソーシングするケースが増えており、人間のライターが仕事の機会を失っています。