OpenAIは、AIモデルが人間の価値観と一致していることを確認するために世論を集める新しいチームを結成しました

米国現地時間1月17日火曜日、人工知能分野のリーダーであるOpenAIは、自社のブログで「Collective Alignment」という新しいチームを結成すると発表した。

主に研究者とエンジニアで構成されるこのチームは、潜在的な偏見やその他の問題に対処するために、AI モデルの行動を訓練し形成するために一般からの意見を収集するプロセスの設計と実装に重点を置く予定です。

「私たちの目標は、私たちのモデルの行動に関する世論を収集して『エンコード』し、これらの貴重な洞察を私たちの製品やサービスに組み込むシステムを構築することです」とOpenAIはブログ投稿で述べた。「こうすることで、私たちの将来のAIモデルはより『人間の価値観に合致』したものになるでしょう。」

この目標を達成するために、OpenAI はさまざまな技術的背景を持つ研究エンジニアを積極的に募集し、新しいチームに参加させています。 「我々は、外部のコンサルタントやパイロットを含む他のチームと緊密に協力し、プロトタイプを我々のモデルに統合していきます。この作業を前進させるためには、さまざまな分野の専門家が必要です」と彼らは語った。

この「集団調整」チームは、実は昨年 5 月に OpenAI が立ち上げた公開プロジェクトの延長です。このプログラムは、AIシステムが従うべきルールを決定するための「民主的なプロセス」を確立するための実験に資金を提供することを目的としています。 OpenAI は、このプログラムは AI のガードレールとガバナンスに関する疑問に答えるための概念実証を開発する個人、チーム、組織に資金を提供することを目的としていることを明らかにしました。

「超知能モデルの開発を進めていくと、これらのモデルは徐々に私たちの社会に不可欠な一部となるでしょう。そのため、人々に直接意見を述べる機会を与えることが重要です」と、新しいOpenAIチームの創設メンバーであり研究エンジニアでもあるティナ・エロウンドゥ氏は強調した。

たとえば、人間だけが投票して意見を述べることができるようにするために、OpenAI は Worldcoin との連携も検討しています。 Worldcoin は、OpenAI の CEO サム・アルトマン氏が作成した暗号通貨プロジェクトであり、人間と人工知能ロボットを効果的に区別する方法を提供します。

2022年後半にChatGPTを立ち上げて以来、OpenAIは生成型人工知能技術で広く注目を集めています。簡単なプロンプトからテキストを生成できるこのテクノロジーにより、ChatGPT は史上最も急速に成長しているアプリケーションの 1 つになりました。

しかし、人工知能技術の急速な発展は人々の懸念も引き起こしています。特に、ディープフェイク画像やその他の偽情報を作成する能力は、2024年の米国大統領選挙を控えて人々を不安にさせている。批評家は、ChatGPTのようなAIシステムは入力データの影響により本質的に偏っていると指摘しており、ユーザーはAIソフトウェアの出力に人種差別や性差別の例をいくつか発見している。

OpenAIは新しいブログ投稿で、ビデオチャットインターフェース、AIモデルのクラウドソーシング監査プラットフォーム、「モデルの動作を微調整するために使用できる次元に信念をマッピングする」方法など、助成金受領者の取り組みをレビューした。また、助成金受給者のすべての作業で使用されたコードと各提案の簡単な概要も公開されます。

OpenAIは、このプロジェクトが商業的利益から独立したものであると主張しているが、CEOのアルトマン氏がEUのAI規制を批判していることを考えると、これは少々信じ難いようだ。アルトマン氏は、OpenAIのグレッグ・ブロックマン会長、イリヤ・スツケヴァー主任科学者とともに、AIの革新は非常に速いスピードで起こっているため、既存の当局ではその技術を適切に管理することは期待できないと繰り返し強調している。そこで彼らは、この作業をクラウドソーシングするという解決策を思いつきました。