サイバー犯罪におけるAI時代の到来

人工知能の分野で画期的な進歩が起こったばかりであり、サイバーセキュリティに携わっている人であれば、その影響をすぐに実感できるでしょう。私の専門分野は主にサイバーセキュリティですが、ここ数年はさまざまなツールを使用して人工知能を理解することを含むさまざまな研究プロジェクトに取り組んできました。

皆さんも人工知能についてますます意識するようになるでしょう。今では、ほとんどの人が少なくとも ChatGPT を試したことがあるでしょう。これは、リアルタイムのやり取りが可能で、歴史上のどの人間よりも多くの知識を持つ、素晴らしいテキストベースのチャットボット AI です。この AI のさまざまな機能は API (アプリケーション プログラミング インターフェイス) を通じて非常に低コストで呼び出すことができるため、サイバー セキュリティにいくつかの問題が発生しています。

ChatGPT やその他の商用 AI プラットフォームの不正使用はポリシーによって制限されていますが、非倫理的または違法な使用はまず検出する必要があります。これらの AI は意図的に法律を破ることはありませんが、道徳心を持たない AI はルールを回避する方法を見つけるのに忙しくしています。

すべてがどのように起こったのかを説明する前に、結末に移りたいと思います。サイバー犯罪者が、巨大なデータセンターの代わりに、ChatGPT 3.5 や 4.0 のような強力な AI にアクセスし、別のマシン上で完全に独立したインスタンスを実行し、従うルールやポリシーを決定できるとしたら、何が起こるか想像してみてください。

技術的には、サイバー犯罪者がこの成果物を再利用することは違法ですが、残念ながら、複数の関係者の努力により、ChatGPT 3.5（基本機能を実行するために大規模なデータセンターを必要とする AI）の機能を備えた AI モデルを使用して、オリジナルよりも優れた、より小型で効率的なバージョンを作成できることが証明されました（これまでに実施されたいくつかのテストでは）。

何が起こったかは以下の通りです:

AI が登場すると、その発展のペースは飛躍的に速まるだろうと、私たちは長い間警告されてきました。

スタンフォード大学の研究チームは、手動で作成されたわずか 175 個の異なるタスク (自己ガイド型シード タスク) を使用し、これを ChatGPT 3.5 (興味のある方には DaVinci バージョン) への API 接続と組み合わせることで、サンプル サイズが 52,000 件の会話に達するまで自動生成のループに入ることができました。

その後、これらのサンプルを別の AI モデル (Metas Llama 7B) に入力し、微調整しました。これまでのところ、このモデルは元のモデルと効果的に競合することができ、派生モデルには依然として強力なクラウド コンピューティングが必要です (ただし、GPT を実行するために必要なコンピューティング能力のほんの一部にすぎません)。

上記の実行プロセスは時間単位で測定されます。

OpenAI のさまざまな利用規約では、GPT の出力を使用して競合モデルを作成することを禁止しているため、これらのタスクは研究目的でのみ許可されていることに注意してください。

この成果の公開に合わせて、研究者らはすべての重要なデータを公開した。彼らは、その結果生まれた AI チャットボット モデルを Alpaca 7B と名付けました。

この結果の可能性に興奮する一方で、モデルをさらにどこまで圧縮できるかを研究する人も増えています。使用されるプロセスは LoRA (Low-Rank Adaptation) と呼ばれ、あらゆる面で次元を削減します。たとえば、冗長な機能の削除、識別機能の簡素化、多くの場合、大規模な多次元の数式グリッドを単一の数値に削減します。

この圧縮により、モデルが非常に小さくなり、Raspberry Pi のような小型デバイスでも実行できるようになるはずです (免責事項にあるように、研究目的)。

圧縮がどこまで可能か、そして近い将来にそれがどの程度の依存度を持ち続ける可能性があるかという疑問が生じる一方で、サイバーセキュリティの文脈におけるこの事件の影響は計り知れない。

強力な AI モデルの盗難と再利用はサイバー犯罪者の手の届く範囲にあるだけでなく、非常に小型で安価なハードウェアでも実行可能であるという証拠が (これまでのところ) あります。

これは、業界として、大手 AI 企業のポリシーや管理に頼ることなく、AI の悪意のある使用を防止できることを意味します。現在、世界中の巧妙なサイバー犯罪者は AI を盗み、再利用することができますが、数週間前までは、必要なコンピューティング リソースの規模とコストによって、このようなことは防げると考えられていました。

今すぐシステムのロックダウンを開始してください。2023 年までにデジタル防御を強化し、生死に関わるサイバーセキュリティにおける最新の AI 主導の課題に備える必要があるからです。