EUはAI法に加えて、GPT-4などの高機能モデルにも追加の規則と制約を追加する予定である。

今週末の12月10日、欧州連合はChatGPTを含む一般的な人工知能システムを対象とする世界初のAI規制法案「AI法」について暫定合意に達しました。これは世界初のAIの包括的な規制の重要なリンクと見られています。

フォーチュン誌とブルームバーグが現地時間土曜日夜に報じたところによると、ブルームバーグが入手したEUの文書によると、汎用人工知能システム（または広く利用される可能性が高い強力なモデル）の開発者は、そのシステムが無料かつオープンソースでない限り、基本的な透明性要件を満たす必要があるという。

IT Home は、関連する要件を次のように添付します。

• 許容される使用ポリシーを作成する
• モデルトレーニングに関する最新情報を入手
• モデルのトレーニングに使用したデータを要約し、詳細な要約をレポートします。
• 著作権法を尊重するポリシーを策定する

文書によれば、「システムリスク」をもたらすとみなされるモデルには追加規則が適用されることになる。報道によると、EUはトレーニングモデルの計算能力に基づいてリスクがあるかどうかを判断する予定で、モデルに設定されている閾値は1秒あたり10兆回以上の演算となっている。一部の専門家は、現在この閾値に到達できる唯一のモデルはOpenAIのGPT-4であると述べています。

さらに、EU 執行機関は、データセットのサイズ、EU 内に少なくとも 10,000 人の登録済みビジネス ユーザーがいるかどうか、最終的な登録ユーザー数などの考えられる指標に基づいて、他のしきい値を指定する場合もあります。

報告書はまた、欧州委員会がより協調的で長期的に効果的な管理策を策定する間、これらの「より有能な」モデルは行動規範に署名する必要があるとも述べている。これらのモデルは次の要件も満たす必要があります。

• エネルギー消費量を積極的に報告する
• 社内または社外でレッドチームテスト/敵対的テストを実施する
• 起こりうるシステムリスクを評価して軽減し、インシデントを報告する
• 適切なサイバーセキュリティ管理が実施されていることを確認する
• モデルとそのシステム構造を微調整するために使用される情報を報告します
• よりエネルギー効率の高い基準が確立された場合、開発プロセスは新しい基準に準拠する必要があります。

行動規範に署名していないモデルについては、欧州委員会に対して、AI法に実際に従うことを証明する必要がある。オープンソース モデルの免除は、「システムリスクをもたらすとみなされる」モデルには適用されないことに注意することが重要です。