AI 開発の世界では、自然言語処理を真に習得することはどれほど重要ですか?

人工知能開発の分野で最も重要な目標は、自然言語処理 (NLP) を真に習得したシステムを作成することです。これは、AI を広く普及させるための鍵となります。なぜなら、AI には人間 (機械言語を理解しておらず、プログラミング スキルも持っていない) とのやり取りが必要になるからです。 NLP への道のりでは、まず AI に人間の言語を話すことを学習させることによってのみ、AI が人間の言っていることを理解できるようになると言えます。

[[275189]]

問題は、AI に人間の言語で書かせるために多大な努力が払われてきたものの、かなりおかしな結果に終わってしまったことです。しかし、いくつかの新しい AI テキスト ジェネレーターは現在成熟しつつあり、生成されたテキストは人間が書いたテキストとほとんど区別がつかなくなっています。最新バージョンの AI テキスト ジェネレーターは非常にスマートであるため、開発者は悪用を防ぐためにアクセスを制限し始めています。

AI NLPは、近年大きな注目を集めている顔交換技術DeepFakeの過ちを繰り返さないために、業界全体がそれに伴う倫理的問題に対処し始めなければならない段階に達している。

対処しなければならない潜在的な問題が 3 つあります。

1. フェイクニュースの蔓延

AI テキスト生成が悪意ある目的で使用される可能性のあるあらゆる方法の中で、世界全体にとって大きな脅威となるものが 1 つあります。それは、AI が大規模に虚偽の情報を作成し、想像もできない方法でそれを拡散するために使用される可能性があることです。これには大きなリスクが伴います。 Grover と呼ばれる AI ツールがあり、その設計者はそれを使用して AI によって書かれたフェイクニュースを検出しようとしています。しかし、実際のところ、グローバーはフェイクニュースを作るのも得意です。新しい AI テキスト生成ツールがどのような課題をもたらすかについては完璧な仮説はありません。課題は問題であると同時に解決策でもあります。

2. 教育への課題

インターネットの登場以来、教育機関は学生にウェブを利用して世界中の知識にアクセスすることを奨励してきました。問題は、多くの学生が独自のアイデアを考えるよりも、インターネットからテキストを切り取って貼り付ける方が簡単だと感じているため、盗作のケースも急増していることです。

インターネットでは、教師に気付かれずに学生が自分の負担を軽減するために使用するライティング サービスも数多く生まれています。新しい AI テキスト生成が教育にどのような影響を与えるかは容易に想像できます。まったく新しい方法で、学生が文章作成やエッセイ作成の退屈な作業から逃れられるようになるでしょう。この点で AI が広く使用されると、世界中の教育成果が深刻な危険にさらされることになります。

3. 検索エンジンへの悪影響

今日のインターネットにはあらゆる種類の無意味なコンテンツが溢れているため、情報が必要なときは、関連性があり有用なものを判断するために検索エンジンの助けを借ります。検索エンジンは、ウェブサイトを評価し、ユーザーのクエリをどの程度満たしているか、提供しているコンテンツの品質に基づいてスコアを割り当てて判断します。しかし、検索業界では、AIによって作成された何百万ものブログ投稿、ニュース記事、その他のコンテンツが現在の検索エンジンの判断に影響を与えるのではないかと懸念する人もいます。

その影響は、Google が対抗するためにアルゴリズムの全面的な見直しを余儀なくされた、記事スピニングと呼ばれるより破壊的な記事生成システムと同等になると予想する人もいる。専門家は、AI コンテンツの波を制御することは決して迅速かつ容易なことではないと考えています。

雨の日に備えて

これまで、上記で概説した AI の問題をいかにして防ぐかについては、少なくとも公的領域では、あまり議論されてきませんでした。 AI 技術の主要な開発者が、新たな研究が引き起こす可能性のある問題に対処しようとしていることは間違いありませんが、技術コミュニティ全体も、これらの問題を解決するために高度なスキルを適用し始める必要があります。そうしないと、いったん「モンスター」が解放されてしまうと、取り戻すのは困難になります。その結果がいかに壊滅的なものになるかを考えると、私たちは問題の地雷原に陥らないように早急に何らかの解決策を見つけなければなりません。