MITの新しい研究によると、機械学習ではフェイクニュースを検知できない

MITの研究者らが発表した2つの新しい論文は、現在の機械学習モデルがフェイクニュース報道を区別する能力にまだ達していないことを示している。さまざまな研究者が、コンピューターが人間の監視をほとんど必要とせずに、説得力のある架空のニュース記事を生成できることを示した後、一部の専門家は、同じ機械学習に基づくシステムがそのようなニュースを検出するように訓練できることを期待しています。しかし、MITの博士課程の学生タル・シュスター氏の研究によると、機械学習モデルは機械生成テキストの検出は得意だが、記事が真実か虚偽かを識別することはできないという。

多くの自動ファクトチェック システムは、FEVER (Fact Extraction and Verification) と呼ばれる真実のステートメントのデータベースを使用してトレーニングされます。

ある研究で、シュスター氏と彼のチームは、機械学習による事実確認システムは、肯定的な発言（「グレッグは自分の車は青だと言った」）が真実だとわかっていても、否定的な発言（「グレッグは自分の車は青ではないとは言っていない」）を処理するのに苦労することを示した。

研究者らによると、問題はデータベースに人間の偏見が満ち溢れていることだという。 FEVER を作成した人々は、偽のエントリを否定文として書き、真のステートメントを肯定文として書く傾向があったため、コンピューターは否定文を含む文を偽として評価することを学習しました。

これは、システムがフェイクニュースを検出するよりも簡単な問題を解決していることを意味します。 「自分自身に簡単な目標を設定すれば、その目標を達成できる」とMITのレジーナ・バルジレイ教授は言う。「しかし、それでもフェイクニュースと本物のニュースを区別することはできないだろう」

両研究はシュスター氏が主導し、MITの協力者チームによって実施された。

結論：2 番目の研究では、機械学習システムは機械で書かれたストーリーをうまく検出できるが、真実のストーリーと虚偽のストーリーを区別できないことが示されました。