最初の生成 AI 安全ガイダンス文書がここにあります。理解できましたか?

10月11日、国家情報セキュリティ標準化技術委員会の公式サイトで「生成型人工知能サービスの基本セキュリティ要件」（意見募集草案）が公開され、一般からの意見が募集された。

元の発表: https://www.tc260.org.cn/front/postDetail.html?id=20231011143225

これは中国で生成AIセキュリティ分野に特化した初の規制案であり、7月に中国サイバースペース管理局と他の7つの部門が発表した「生成人工知能サービスの管理に関する暫定措置」も支持するものである。

コメント用の草案では、コーパス セキュリティ、モデル セキュリティ、セキュリティ対策、セキュリティ評価などの側面を網羅し、生成 AI サービス プロバイダーが従わなければならない基本的なセキュリティ要件が初めて提案されました。

以下に、この文書のハイライトの一部を紹介します。

要件: プロバイダーは、研究開発のために管轄当局に登録されていない基本モデルを使用しないでください。トレーニング プロセス中は、生成された結果の品質を評価するための主要な考慮事項の 1 つとして、生成されたコンテンツのセキュリティを考慮する必要があります。

各会話では、ユーザーの入力情報のセキュリティがチェックされ、モデルが肯定的なコンテンツを生成するようにガイドされる必要があります。

「要件」では、コーパス ソースのブラックリストを作成し、ブラックリスト ソースのデータをトレーニングに使用しないことを提案しています。すべてのソース コーパスに対してセキュリティ評価を実施し、違法または有害な情報が 5% 以上含まれるソース コーパスはすべてブラックリストに追加する必要があります。

個人情報を含んだコーパスを利用する場合には、当該個人情報主体の許可と同意を得るか、または個人情報の合法的な利用に関するその他の条件を満たす必要があります。

顔などの生体情報を含むコーパスを使用する場合は、対応する個人情報主体から書面による許可を得るか、生体情報の合法的な使用に関するその他の条件を満たす必要があります。

トレーニング プロセス中は、生成された結果の品質を評価するための主要な考慮事項の 1 つとして、生成されたコンテンツのセキュリティを考慮する必要があります。

全文: https://www.tc260.org.cn/upload/2023-10-11/1697008495851003865.pdf