AI言語モデルのオープンソース化による10のプラスとマイナスの影響

GPT や PaLM などの独自のソフトウェアが市場を支配していますが、多くの開発者は依然としてオープンソースの言語モデルの価値を認識しています。オープンソース言語モデルには多くの利点と欠点があり、AI 業界にプラスとマイナスの両方の影響を与える可能性があるため、知って理解しておくべき重要なポイントをまとめました。

オープンソース言語モデルの 5 つのプラスの影響

オープンソース言語モデルは、世界中の開発者からの意見、コメント、ユースケースを集約します。複数の関係者によるコラボレーションにより、プロジェクトをより迅速に実装できます。

1. AI開発者はオープンソースモデルを使用してリソースを節約する

独自の言語モデルを採用すると、数百万、あるいは数十億のリソースが必要になります。 OpenAIを例に挙げてみましょう。 Business Insiderは、ChatGPTを効果的に運営するには同社が約300億ドルを調達する必要があると報じた。ほとんどの企業にとって、これだけの資金を調達するのは不可能です。初期段階のテクノロジー系スタートアップは、7桁に達することさえ幸運です。

オーバーヘッドが大きいため、多くの開発者はオープンソースの言語モデルに目を向けます。これらのシステムのアーキテクチャ、ニューラル構造、トレーニングデータ、アルゴリズム、コード実装、トレーニングデータセットを活用することで、数百万ドルを節約できました。

2. オープンソースモデルはより速い進歩につながる

多くのテクノロジーリーダーはコミュニティの貢献とコラボレーションを重視しているため、オープンソース言語モデルは独自の言語モデルよりも早く改善されると考えています。何百万人もの熟練した開発者がオープンプロジェクトに取り組んでおり、理論的には、バグのない複雑な反復をより迅速に達成できます。

オープンソース AI を使用すると、知識のギャップをより迅速に埋めることもできます。バグの発見、更新のテスト、実装の調査のためにチームをトレーニングする代わりに、企業はコミュニティの貢献を分析して活用することができます。そのため、知識の共有により、ユーザーはより効率的に作業できるようになります。

3. 開発者は脆弱性をより早く発見できる

オープンソース言語モデルは、共同コミュニティによるピアレビューと積極的な参加を奨励し、開発者はコードベースの変更に自由にアクセスできます。オープンプロジェクトを分析するユーザーが非常に多いため、セキュリティの問題、脆弱性、システムエラーがより迅速に発見される可能性が高くなります。

同様に、エラー解決も簡素化されます。開発者は、システムの問題を手動で解決する代わりに、プロジェクトのバージョン管理システムで以前の修正を確認できます。一部のエントリは古くなっているかもしれませんが、研究者や AI トレーナーにとって有用な出発点となるでしょう。

4. AI技術のリーダーはオープンソースモデルから学ぶ

オープンソース言語モデルはフィードバックループの恩恵を受けます。ポジティブフィードバックループは、効果的なアルゴリズム、データセット、および関数を共有し、開発者がそれらをエミュレートすることを奨励します。このプロセスにより、多くの時間を節約できます。また、ユーザーが何気なくコピーした肯定的なフィードバックには誤りが含まれている可能性があることにも注意してください。誤りは気付かれないことがよくあります。

5. オープンソースAIプラットフォームが新システムで優先される

テクノロジー企業は、何十億ドルもの価値がある言語システムを親切心から共有しているわけではない。オープンソースライセンスは、サードパーティのユーザーにシステムを変更して販売する自由を与えますが、制限もあります。ディーラーは、ある程度の権限を保持するために条件を設定することがよくあります。したがって、オープンソースプログラムのライセンス契約には、エンドユーザーが権利を 100% 取得することはほとんどありませんというルールが記載されています。

Meta が LLaMA によってサポートされる製品を制御したいとします。同社の法務チームは、Meta が自社の言語モデルに基づいて構築されるあらゆる新しいシステムに投資する権利を留保すると明記する可能性があります。しかし、誤解しないでください。サードパーティの開発者とパブリッシャーは、依然として相互に利益のある契約を結ぶでしょう。後者は数十億ドル相当の技術とシステムを提供します。一方、スタートアップ企業や独立系開発者は、それらをさまざまなアプリケーションに実装する方法を模索しています。

オープンソース言語モデルの5つの悪影響

オープンソースの言語モデルは本質的に公平ですが、人間はそうではありません。悪意のある消費者、開発者、企業がこれらのシステムのオープン性を悪用して個人的な利益を得る可能性があります。

1. 企業が恣意的にAI競争に参加することによる悪影響

現在、企業は AI 競争に参加しなければならないという大きなプレッシャーにさらされています。 AI システムが普及するにつれ、多くの企業は AI を導入しなければ時代遅れになってしまうのではないかと懸念しています。その結果、企業は、製品を販売し、競争に遅れを取らないために、たとえ価値のあるものを何も提供していなくても、オープンソースの言語モデルを自社製品に統合することで、無計画に時流に乗ったのです。

AI は急速に成長している市場ですが、複雑でありながら安全でないシステムを不注意にリリースすると、業界全体に損害を与え、消費者の安全を損なう可能性があります。開発者は、マーケティングの仕掛けを作るのではなく、問題を解決するために AI を使うべきです。

2. 消費者はほとんど理解していないテクノロジーにアクセスする

オンライン画像エディターから健康モニタリングアプリまで、さまざまなテクノロジーツールがさまざまな AI に基づいています。 AIが進歩するにつれて、ブランドは新しいシステムを導入し続けるでしょう。 AI モデルは、既存のプラットフォームをよりカスタマイズし、ユーザー中心に反復して提供するのに役立ちます。

テクノロジー業界はイノベーションを歓迎していますが、AI の急速な発展はユーザーの教育を上回っています。消費者はほとんど理解していないテクノロジーにアクセスできるようになります。この教育不足により、大きな知識格差が生じ、一般の人々がサイバーセキュリティの脅威や略奪行為に対して脆弱な状態に置かれます。

そのため、企業は製品開発と同様にトレーニングを優先する必要があります。強力な AI ベースのツールを安全かつ責任を持って使用する方法をユーザーが理解できるように支援する必要があります。

3. 全ての開発者が善意を持っているわけではない

誰もが AI ツールを本来の目的通りに使用しているわけではありません。たとえば、OpenAI は、仕事で使える一般知識の質問に答え、自然言語の出力を再現するために ChatGPT を開発しましたが、犯罪者はそれを違法行為に利用しました。 2022年11月にAIチャットボットがリリースされて以来、ChatGPT詐欺が複数発生しています。

したがって、AI ラボが厳しい制限を実施したとしても、犯罪者はそれを回避する方法を見つけ出すでしょう。もう一度 ChatGPT を例に挙げてみましょう。ユーザーは ChatGPT の脱獄のヒントを使用して制限を回避し、禁止されたタスクを実行します。

4. オープンソースAIを規制することは機関にとって難しいかもしれない

規制当局は AI の進歩に追いつくのに苦労しており、オープンソースモデルの急増により監視はさらに困難になるだろう。 AIの進歩はすでに規制の枠組みを上回っています。イーロン・マスク、ビル・ゲイツ、サム・アルトマンといった世界的なテクノロジーリーダーたちも、AI規制の強化を求めている。

民間部門と政府部門の両方がこれらのシステムを管理する必要があります。そうしないと、悪意のある人物が引き続きそれらを使用して、データプライバシー法に違反し、個人情報を盗み、被害者を騙し、その他の違法行為に従事することになります。

5. 参入障壁を下げると品質に影響が出る

オープンソース言語モデルの普及により、何千もの AI ベースのツールがオンラインで見つかるようになり、AI 競争に参加するための参入障壁が低くなりました。

企業が機械学習やディープラーニングを導入しているのを見ると感心するかもしれませんが、実際に価値を生み出している企業はほとんどありません。ほとんどの人は単に競合他社を真似するだけです。時間が経つにつれて、洗練された言語モデルやトレーニングデータセットが利用できるようになると、無意味な AI プラットフォームがコモディティ化される可能性があります。