AIはどのようにして責任を持つようになるのでしょうか?英国規格協会が答えを持っている

人工知能（AI）は、現在世界で最も革新的で影響力のある技術の1つであり、さまざまな分野や産業に浸透し、人間の生活と仕事に多大な利便性と価値をもたらしています。しかし、AIの開発と応用にはさまざまな課題とリスクも伴います。AIの安全性、信頼性、持続可能性をどのように確保するか、AIの革新性と倫理性をどのように両立させるか、AIの利害関係者の権利と責任をどのように保護するかは、取り組むべき緊急の課題となっています。そのためには、AIの発展と競争力を促進しながら、AIの責任ある開発と利用を指導・監督するためのAI標準と規範を確立・改善する必要があります。

AI規制を求める声に応えて、AIを取り巻く課題に対処し、新しいモデルの安全性を確保するために、一部の国では2023年の戦略的取り組みの一環としてAI規制の枠組みを策定しています。

これらのイベントの多くは、2023 年末の英国 AI 安全サミットに合わせて開催されます。このサミットには世界のリーダーやビジネスの専門家が集まり、人工知能の開発をより適切に規制する方法について議論した。サミットでは、25カ国と欧州連合が、人工知能の発展に伴うリスクに対処する必要があることを認める国際宣言に署名した。

1月16日にaimagazineに掲載されたレポート「政府の規制戦略による責任あるAIの推進」では、AIの標準と規範の重要性と緊急性、そして政府の規制戦略を通じて責任あるAIを推進する方法について分析、検討しました。 「人工知能管理システム仕様書」（以下、「仕様書」といいます）の重要性について詳しく紹介します。 BSI が立ち上げた高度な AI 管理システムをご紹介します。このシステムは、組織が法的、倫理的、社会的責任の要件に準拠しながら、AI の責任ある開発と使用を実現できるように設計されています。この仕様は、BSI が発行する自主的な技術仕様であり、AI システムのライフサイクル全体をカバーする統一されたフレームワークとガイダンスを提供し、組織が責任ある AI システムを構築および運用することをサポートします。

BSI は最近、AI への信頼に関する調査を実施し、回答者の 61% がグローバルな AI ガイドラインを望んでいることがわかりました。同社は1万人の成人を対象にAIへの信頼について調査し、世界中の人々の62%がAIに関する国際的なガイドラインを望んでいることがわかった。また、38% がすでに日常業務で AI を使用しており、3 分の 2 以上 (62%) が 2030 年までに業界で AI が使用されることを期待しています。

1. AIの標準と規範の重要性と緊急性

米国はテクノロジー企業にAIの安全性データの開示を義務付け、AI企業向けのガイドラインを発行した。欧州連合も、AI法案について暫定合意に達した後、規制ガイドラインに関する議論を強化している。これにより、AI モデルがより安全かつ公平になり、AI の倫理的環境が改善されると考えています。

AIの開発と応用が直面する課題とリスクは、以下の側面からまとめることができます。

データ品質: データは AI の基盤であり原動力であり、データの品質は AI のパフォーマンスと有効性に直接影響します。しかし、データの収集、処理、保存、共有の過程で、不完全、不正確、矛盾、信頼できない、安全でないデータなどの問題が発生する可能性があり、AI にエラー、バイアス、抜け穴などの問題が生じ、AI の信頼性と信頼性に影響を与える可能性があります。

プライバシー保護: データの使用と分析には、身元、場所、健康、財務、行動など、個人または組織のプライバシーと機密情報が含まれる場合があります。データの利用や分析がデータ主体の同意や許可を得ていない場合、または有効な保護措置が講じられていない場合、データの漏洩、乱用、盗難などの問題につながり、データ主体のプライバシー権や知る権利を侵害し、データ主体に損失や損害を与える可能性があります。

アルゴリズムの説明可能性: アルゴリズムは AI の核であり魂です。アルゴリズムの設計、トレーニング、テスト、最適化によって AI の機能と効果が決まります。しかし、アルゴリズムの複雑さと不透明性により、アルゴリズムの動作プロセスと結果の理解、検証、監督、評価が困難になり、アルゴリズムの解釈可能性とレビュー可能性に影響を与える可能性があります。

人工知能と自然知能のコラボレーション: AI アプリケーションとサービスは、音声、画像、テキスト、ビデオなどの人間の知能や行動と連携して対話する必要があります。 AI の連携や相互作用が人間のニーズ、期待、習慣、感情などの要素を考慮に入れなかったり、人間のルール、基準、価値観などの原則に従わなかったりすると、AI の連携や相互作用がスムーズでなく、不親切で不適切なものになり、AI の受容性や適応性に影響を与える可能性があります。

人権と公平性: AI の決定や行動には、雇用、教育、医療、司法、安全など、個人またはグループの権利と利益が関係する場合があります。 AIの判断や行動が人間の基本的権利や尊厳を尊重・保護せず、差別、偏見、不平等などの問題を排除・回避しない場合、AIの不公平、不合理、違法な判断や行動につながり、AIの公平性や説明責任に影響を及ぼす可能性があります。

上記の課題やリスクに対応し、解決するためには、AIの発展と競争力を促進しながら、AIの責任ある開発と利用を指導・監督するためのAI標準と規範を確立し、改善する必要があります。 AI の標準と規範の重要性と緊急性は、次の側面から説明できます。

AI のセキュリティと信頼性の確保: AI 標準と仕様は、AI の開発と使用に関する明確で一貫性のあるフレームワークとガイドラインを提供し、AI の品質、パフォーマンス、信頼性、使いやすさ、保守性、および AI のテスト、検証、評価、レビューの方法に関する要件を指定して、AI のセキュリティと信頼性を確保し、AI のエラー、障害、攻撃などの問題を回避し、AI 関係者のセキュリティと信頼を保護します。

AI 関係者の権利と責任の保護: AI 標準と仕様は、AI の開発と使用に対して公正で透明な枠組みとガイドラインを提供し、データ主体のプライバシー権と知る権利、アルゴリズム開発者のイノベーション権と責任、アルゴリズム利用者の選択権と責任、アルゴリズム受益者の享受権と責任、アルゴリズム被害者の控訴権と責任など、AI 関係者の権利と責任を規定し、AI 関係者の権利と責任を保護し、AI 関係者の損失や損害を回避します。

AI イノベーションと倫理のバランスをとる: AI 標準と規範は、AI の開発と使用のためのバランスのとれた調整されたフレームワークとガイドラインを提供し、AI の有効性、正義、尊重、責任、持続可能性、AI の社会的、環境的、経済的、文化的基準などの AI イノベーションと倫理の原則と基準を規定して、AI イノベーションと倫理のバランスを取り、AI イノベーションと倫理の間の衝突や矛盾を回避します。

AIの発展と競争力の促進：AIの標準と仕様は、AIの発展と利用に有利で支援的な枠組みとガイドラインを提供し、AIの効率、有効性、品質、革新性、多様性、包括性、AIの市場、産業、技術、人材、政策、国際指標など、AIの発展と競争力の目標と指標を規定し、AIの発展と競争力を促進し、AIの発展と競争力の遅れや後れを回避することができます。

AI の標準と規範の重要性と緊急性を無視したり先送りしたりすることはできません。 AI標準規格は、AIの責任ある開発と利用に必要な条件と保証であり、AIの発展と競争力にとって重要な要素と原動力でもあります。 AIの標準と規範がなければ、AIの開発と応用はより多くの不確実性と制御不能性に直面し、AIに損害を与えたり、AIの制御を失ったり、AI関係者の利益と信頼を損なったり、AIの革新と進歩を妨げたりする可能性があります。

2. 政府の規制戦略を通じて責任あるAIを推進する

AI 標準と規範の重要性と緊急性が認識され、合意された今、AI 標準と規範をどのように策定し、実装するかが重要かつ緊急の課題となっています。この問題においては、政府の役割と責任は不可欠であり、逃れることはできない。政府は AI 標準と規範の主な策定者および実行者であり、政府の規制戦略は AI 標準と規範の主な根拠と保証となります。

AIに関する法律と政策の策定：政府は、立法と政策の策定を通じて、AI標準と規範の法的および政策的枠組みと基礎を提供し、AIの定義、分類、範囲、目的、原則、要件、方法など、AI関係者の権利と責任、AIの監督と管理のメカニズム、AIの賞罰、紛争解決のメカニズムなどを明確にし、AI標準と規範の正当性と有効性を確保し、AI標準と規範の曖昧さと混乱を回避することができます。

AI標準と規範の策定と実施の促進：政府は、AI標準と規範の策定と実施を支援・参加することで、AI標準と規範の推進・調整の枠組みとプラットフォームを提供し、AI関係者のニーズと利益を調整・統合し、AI標準と規範の研究開発を促進・参加し、AI標準と規範の応用とサービスを促進・実施することで、AI標準と規範の科学性と適用性を確保し、AI標準と規範の遅れと孤立を回避することができます。

AIインフラとエコシステムの構築：政府はAIインフラとエコシステムに投資して構築し、AI標準と仕様のサポートと保証の枠組みと環境を提供し、AIデータ、アルゴリズム、コンピューティング、ネットワーク、セキュリティなどのインフラを提供・最適化し、AIの市場、産業、技術、人材、政策、国際などのエコシステムを育成・発展させ、AI標準と仕様の持続可能性と競争力を確保し、AI標準と仕様の欠如と後進性を回避できます。

政府の規制戦略は、政府の法律、政策、支援、参加、投資、建設を通じて、AIの標準と規範に関する包括的かつ体系的な枠組みとガイドラインを提供し、AIの責任ある開発と使用を促進し、AIの発展と競争力を高めることです。政府の規制戦略は、AI 標準と規範の主な原動力であり、保証です。政府の規制戦略がなければ、AI 標準と規範には法的および政策的根拠とサポート、科学的で適用可能な研究開発、持続可能で競争力のあるインフラストラクチャとエコシステムが欠けることになります。

3. BSIのAI管理システムの特徴と利点

BSI は、政府の規制戦略に導かれ、支援を受けて、組織が法的、倫理的、社会的責任の要件を遵守しながら AI の責任ある開発と使用を実現できるように設計された高度な AI 管理システムを立ち上げました。

英国の国家標準化機関である BSI によって英国で発行されたこのガイドでは、安全対策に重点を置きながら、AI 管理システムを確立、実装、維持、継続的に改善する方法を説明しています。英国政府の国家 AI 戦略では、これを AI の安全かつ倫理的な開発を可能にするための一歩と見なしています。

BSI の AI 管理システムは、仕様に基づいた完全かつ実用的なソリューションであり、次の側面が含まれます。

"仕様"

この仕様は、BSI が発行する自主的な技術仕様であり、AI システムのライフサイクル全体をカバーする統一されたフレームワークとガイドラインを提供し、組織が責任ある AI システムを構築および運用することをサポートします。仕様の主な内容は以下の部分から構成されます。

AI システムの定義と分類: この仕様では、AI システムの概念と特性、および AI システムの分類と範囲 (AI システムの機能、パフォーマンス、複雑さ、影響、その他の側面を含む) を定義し、組織が AI システムを識別および管理できるようにします。

AI システムの原則と要件: この仕様では、AI システムの原則と要件 (有効性、公正、尊重、責任、持続可能性の原則、AI システムのデータ、アルゴリズム、人工、自然、社会の要件など) を規定しており、組織が AI システムの原則と要件に従って実装できるようにします。

AI システムの方法とガイドライン: 仕様では、AI システムの設計、開発、展開、運用と保守、監視、終了段階、および AI システムのテスト、検証、評価、レビュー、改善の方法を含む AI システムの方法とガイドラインを提供し、組織が AI システムの方法とガイドラインを実装および最適化できるようにします。

自己評価ツール

自己評価ツールは、組織が AI 管理システムの成熟度とパフォーマンスを確認し、改善できるようにするために BSI が提供するオンライン ツールです。自己評価ツールの主な内容は次のとおりです。

AI 管理システムの評価: 自己評価ツールは、組織が AI 管理システムの現在の状態と目標状態、および AI 管理システムの長所と短所を評価するのに役立ちます。これにより、組織は AI 管理システムのレベルと状態を理解し、改善することができます。

AI 管理システムの改善: 自己評価ツールは、組織が AI 管理システムの戦略とアクション、および AI 管理システムの監視と評価を改善するのに役立ち、組織が AI 管理システムの有効性と品質を改善および維持できるようにします。

AI 管理システムに関するレポート: 自己評価ツールを使用すると、組織は AI 管理システムの結果と進捗状況、および AI 管理システムの長所と短所をレポートできるため、AI 管理システムから得た経験と教訓を紹介して共有できます。

ウェビナー

このウェビナーは、BSI が提供するオンライン プラットフォームであり、組織が仕様と自己評価ツールを理解して適用し、AI の責任ある開発と使用を促進するのに役立ちます。オンラインセミナーの主な内容は以下のとおりです。

紹介と解釈: オンライン ワークショップでは、組織が規範の背景と目的、および規範の内容と構造を理解して解釈し、規範の重要性と価値を把握して理解するのに役立ちます。

適用と実践: オンライン ワークショップは、組織が規範の原則と要件、および規範の方法とガイドラインを適用および実践するのに役立ち、組織が規範のフレームワークとプロセスを実装および最適化できるようにします。

事例と経験: オンライン ワークショップは、組織が規範の事例と経験、および規範の長所と課題を学び、活用するのに役立ちます。これにより、組織は規範の実践と教訓を参照して活用できるようになります。

BSI の AI 管理システムは、組織が法的、倫理的、社会的責任の要件を遵守しながら AI の責任ある開発と使用を実現するのに役立つ、完全かつ実用的なソリューションです。 BSI の AI 管理システムは、仕様に基づいたフレームワークとガイドラインのセット、および自己評価ツールやウェビナーなどのツールとプラットフォームのセットであり、組織に責任ある AI システムを効果的かつ便利に構築および運用する方法を提供します。

BSI 規格ディレクターのスコット・スティードマン氏は次のように語っています。「規制の枠組みは確立されていませんが、AI 技術はすでに英国の組織で広く使用されています。政府が最善の規制方法を検討する中、世界中の人々が AI 技術を保護するためのガイドラインやガードレールを求めています。新しい AI 規格のビジネス リーダー向けガイダンスは、主要なリスク、責任、保護策に焦点を当てることで、イノベーションとベスト プラクティスのバランスを取ることを目的としています。」 ”

BSI は、AI 信頼ギャップを埋め、AI への信頼を構築することが、世界中の人類がこのテクノロジーのメリットを活用する上で重要であると考えています。