メタ副社長：生成AIはまだ愚かなので、リスクを心配する必要はありません

メタの副社長兼国際問題担当会長で元英国副首相のニック・クレッグ氏は、BBCとの最近のインタビューで、生成型AIのリスクを軽視し、それは非常に愚かなことだと述べた。彼は、現在の誇大宣伝は「技術より少し先を行っている」と考えている。

IT Homeは、クレイグ氏の発言が、Metaがオープンソースの生成型人工知能モデルLlama 2をリリースした時期になされたことに気づいた。Metaによると、Llama 2はLlama 1よりも40%多くの事前トレーニング済みコンテンツを備えており、研究および商用目的で無料で使用できるという。

生成AIとは、入力データに基づいてテキスト、画像、音声などのコンテンツを自動的に生成できるAI技術を指します。その中でも、大規模言語モデル (LLM) は、与えられたテキストまたは音声入力に基づいて一貫したテキストまたは音声出力を生成できる一般的な生成人工知能モデルです。Llama 2 は大規模言語モデルです。

クレッグ氏が大規模言語モデルは「愚か」だと評価したことは、まったく根拠がないわけではない。現在、これらのモデルは依然として「幻覚」の問題を抱えており、事実と完全に矛盾する答えを出すことがある。

BBC がレポートで Llama 2 に関して指摘したもう 1 つのリスクは、モデルがオープン ソースであり、誰でもコードを編集できるという点です。クレッグ氏は、悪意を持って有害な発言をすることを防ぐ保護を解除できるという考えは誇張だと一蹴し、ラマ2号は「生物兵器を作る」どころか画像を生成することすらできないと主張した。彼はさらに、大規模な言語モデルは常にオープンソース化されており、Llama 2 は他のどのモデルよりも安全であると説明しました。

これらのモデルが悪意を持って使用されるかどうかは、時が経てばわかるだろう。ただし、オープンソース モデルの利点の 1 つは、生成 AI を民主化することです。スタートアップ企業はこのコードを使用して革新を起こし、ChatGPTやGoogle Bardなどの大企業と競争しながら技術の進歩を促進することができます。