研究によると、人工知能が書いたツイートに騙される可能性が高くなる

6月29日のニュースによると、新たな研究によると、人間が書いたツイートよりも、人工知能の言語モデルによって生成されたツイートを信じる傾向が強いという。

この研究では、人間が作成したツイートとOpenAIのGPT-3モデルを比較し、オンラインアンケートを通じてツイートの信憑性と、それがAIによって作成されたものか人間によって作成されたものかを判断するよう人々に依頼した。結果は、どのツイートが GPT-3 によって生成されたのかを人間が判断するのは困難であり、ツイートの情報が正しいか間違っているかに関わらず、人間が書いたツイートよりも GPT-3 によって生成されたツイートを信じる傾向があることを示しました。

この研究の主執筆者で、チューリッヒ大学生物医学倫理・医学史研究所のポスドク研究員兼研究データマネージャーであるジョバンニ・スピターレ氏は、このような強力なAI言語モデルは、さまざまなトピックについてオンラインで偽情報を作成するために悪用される可能性があると述べた。しかし彼は、そのような技術は本質的に善悪ではなく、人間の意図によって決まるとも信じており、そのような技術を開発する際には、それが誤解を招く情報を広めるのに使用されないようにする方法を検討すべきだと提案している。

IT Homeは、この研究から、スピターレ氏とその同僚がTwitter上でワクチン、新型コロナウイルス、気候変動、進化などの問題を含む11の異なる科学的トピックに関するツイートを収集したことを知った。次に、GPT-3 にこれらのトピックに基づいて新しいツイートを生成させました。その中には正しい情報が含まれるものもあれば、誤った情報が含まれるものもありました。研究チームは2022年にFacebook広告を通じて、主に英国、オーストラリア、カナダ、米国、アイルランドの英語を話す参加者697人からオンラインで回答を収集した。彼らの研究結果は本日、科学誌「サイエンス・アドバンス」に掲載された。

研究では、GPT-3によって生成されたツイートは実際のツイートと「区別がつかない」ことがわかり、参加者はどのツイートがAIによって書かれたものかを見分けることができませんでした。実際、この研究では、ソーシャルメディアから収集されたツイートがChatGPTのようなAIの助けを借りて書かれたものであるかどうかを研究者自身が100％確信することはできなかったとも指摘されている。

この研究には、参加者が文脈なしでツイートを判断しなければならないなど、他の限界もあった。ツイートを書いた人の Twitter プロフィールを見ることはできないため、ボットかどうかを判断するのに役立つ可能性があります。また、アカウントの過去のツイートとプロフィール写真を知るだけでも、アカウントに関連付けられたコンテンツが誤解を招くものかどうかを特定しやすくなる可能性があります。

研究では、参加者は実際のTwitterユーザーが書いた虚偽の情報を識別することに成功している一方で、GPT-3によって生成された虚偽の情報を含むツイートは参加者を欺く可能性が高いことが判明しました。現在、GPT-3 よりも強力で高度な大規模言語モデルが存在します。たとえば、ChatGPT は GPT-3.5 および GPT-4 モデルを使用します。

新たな研究では、被験者がGPT-3よりも強い判断を下したケースもあったことがわかった。研究者らはまた、言語モデルにツイートを分析して正確かどうかを判断するよう依頼した。正確なツイートを識別するという点では、GPT-3 は人間の参加者よりも低いスコアを出しました。誤情報の検出に関しては、人間と GPT-3 のパフォーマンスは同様です。

言語モデルの開発に使用されるトレーニングデータセットを改善することで、悪意のある人物がこれらのツールを使用して偽の情報を作成することが難しくなる可能性があります。たとえば、GPT-3 は、特にワクチンと自閉症に関する偽の情報を生成する際に、一部の研究者のヒントに「反抗」しましたが、これは、トレーニングデータセットにこれらの陰謀説を反駁する情報が多かったためと考えられます。

<<: