人工知能、ロボット工学、そして道徳的リスク

人工知能は、産業用ロボットやロボットプロセス自動化 (RPA) における新たなアプリケーションを推進する活気ある技術分野です。これまでの変革的テクノロジーと同様に、AI によってもたらされる倫理的問題はますます厳しく精査されるようになり、その範囲を制限する規制やポリシーにつながっています。では、人工知能を導入するリスクは何でしょうか? AIの倫理的な使用を促進するためにどのような措置が講じられているのでしょうか?

AIとロボットの交差点

人工知能とはいったい何であり、ロボット工学においてどのような役割を果たすのでしょうか。時間の経過とともに、学習と推論が可能なコンピューティング、パターン認識システムを使用するという概念は、機械学習、自然言語処理、データサイエンスなどのより広範な分野に拡大してきました。産業用ロボット工学では、操作を安全に自動化するために、物理的な機械が動作する環境を感知して認識するために AI がよく使用されます (自動車の組み立てライン上のロボット アームなど)。産業用ロボットは反復的な動作に限定されることが多く、継続的な学習を必要とせず、通常は脅威とは見なされません。

しかし、AI は産業機械のセンサーやアクチュエーター以上のものです。AI は、強力なモデリング ソフトウェア、意思決定支援ソフトウェア、予測分析ソフトウェア、および疑わしい自律出力を生成できるその他のインテリジェント アプリケーションの開発の原動力でもあります。したがって、ロボットとは異なり、AI アプリケーションは、継続的な学習を可能にするためにリアルタイムで解釈および分析する必要がある大量のデータを受信するため、リスクの影響を受けやすくなります。

モラルハザードやその他のリスクとは何ですか?

AI 技術の範囲がまだ定義中であり、それが機能する状況がやや不明瞭なことを考えると、倫理的に AI の利点を実現することは非常に難しい場合があります。いずれにせよ、AI の潜在的な問題をめぐる議論は続いており、現在はいくつかの重要な疑問に焦点が当てられています。

• プライバシーとセキュリティ – AI はデータに基づいて実行されますが、すべてのデータの収集と保存がデジタル化されネットワーク化されているため、サイバーセキュリティ侵害は個人や組織に脅威をもたらす可能性があります。
• 不透明度/透明性 – データはどのように処理され、どのように使用されますか? AI システムによって識別されたパターンは、分析の決定出力を正確に表すとは限りません。どのデータが選択され、その品質はどのように決定されるのでしょうか? AI から得られる出力が倫理的、公平、かつ偏りのないものであるという確信を確保するには、透明性、コミュニティの関与、および「アルゴリズムの説明責任」をシステムに組み込む必要があります。
• バイアス – 欠陥のあるデータや、当面の問題とは無関係なデータセットを使用すること（統計的バイアス）、分析対象に無意識のうちに肯定的または否定的な性質を帰属させること（無意識のバイアス）、または個人的な先入観を裏付けるような方法で情報を解釈すること（確証バイアス）など、バイアスはさまざまな方法でアルゴリズムに影響を与える可能性があります。

倫理的問題の解決

AI 以前の他の破壊的技術と同様に、この驚くべき成長と機会の領域に関しても規制が追いついています。 AI システムにおけるバイアスの検出と除去に関しては、まだ初期段階にあるテクノロジーやアプリケーションが数多くあります。さらに、技術的な修正には限界があり、達成が難しい数学的公平性の概念を開発する必要がある。

実際の政策はほとんど制定されていないものの、いくつか注目すべき始まりがありました。データイノベーションセンターが2019年に発表したEU政策文書では、「信頼できるAI」は合法的、倫理的、技術的に堅牢であるべきであると提案し、これらの目標を達成するための要件として、人間による監視、技術的堅牢性、プライバシーとセキュリティのデータガバナンス、透明性、公平性、福祉、説明責任を明記しました。現在、EUの枠組みは2021年4月に規制に書き込まれており、ニューヨークタイムズ紙が史上最も重要な技術の1つと見なされているものを政府や企業がどのように使用できるかを概説した初めての政策と呼んだ法案が提出されている。

人工知能アプリケーションを評価するためのフレームワーク

AI は、その力をうまく活用すれば企業に多大な利益をもたらしますが、倫理的な保護措置なしに導入されると、企業の評判や将来の業績に損害を与える可能性もあります。しかし、Bluetooth などの他の新しく導入された技術とは異なり、標準を設定したり法律を起草したりするのは簡単ではありません。なぜなら、AI は戦場のロボットから契約書を確認する自動法律アシスタントまで、幅広く漠然とした分野を網羅しているからです。実際、機械学習やデータサイエンスに関連するほぼすべてのものが現在では AI の一形態と見なされており、業界標準の設定という点では AI は見劣りします。

今後、倫理的な実施を確保するための提案された枠組みが焦点になりつつあります。このフレームワークは、信頼性、透明性、公平性、プライバシーという 4 つの主要な柱を中心に構築されています。

• 信頼性 – まず、AI アプリケーションの信頼性を証明できることは、確認する必要がある基本的な問題です。人々は、自分が使用する AI アプリケーションが信頼できるソースから提供され、責任ある信頼できる監督の下で開発されていることを知る必要があります。
• 透明性 – AI がどのように使用されているかについて透明性を保ち、特定のユースケース シナリオで AI の利点を説明すると、懸念が大幅に軽減され、導入が拡大します。
• 公平性 — 開発者は、AI が公平かつ公正な方法で展開されていることを実証する必要があります。 AI は基本状態では判断力がなく、主にパターン認識に重点を置いているため、バイアスを排除するためにアルゴリズムを微調整する必要があります。人間が自身の経験から持ち込む偏見を避けるためのプロセスも導入する必要があります。
• プライバシー – 開発者は、AI の使用が、処理されるデータに埋め込まれている個人を特定できる情報 (PII) にどのような影響を与えるかを考慮することが重要です。 AI 処理は機密データに対する人間の介入を回避するため、プライバシーに関する懸念をある程度解消しますが、情報がどの程度広く使用されているか、どこに保存されているか、誰がアクセスできるかなど、別の疑問が生じます。

結論は

AI は今後も存在し続けるため、業界関係者は積極的に考え、自社のアプリケーションを前述のフレームワークに組み込む方法を見つける必要があります。 1 つの可能性は、信頼を構築し透明性を高めるためにピアレビュー システムを使用することです。ここで、AI 開発者は、以前のオープンソース環境と同様に、AI コミュニティでレビューのためにユースケースを提出します。

オープンソースは当初は挫折に見舞われましたが、最終的には改善されました。当初、ソースコードを無料で配布するというアイデアは、世界中のテクノロジー企業のCFOを恐怖に陥れました。時間の経過とともに、コミュニティが監視、更新、コメントを提供するオープンソース ソフトウェアのリリースによってもたらされる透明性により、大幅な効率化とより重要な開発が実現しました。今日、オープンソース コードを活用していないソフトウェア会社は存在しません。

AI アプリケーションに関する明確性を高めるもう 1 つの方法は、アドホック グループを設立し、そのプロジェクトとアプリケーションを中央 AI レジストリに送信することです。議題を管理する大規模な組織によって支配されることが多い正式な標準化団体とは異なり、レジストリはフィードバック、提案、確認を収集する自己報告機関になります。結局のところ、AI アプリケーションが倫理的に展開されるようにするための最善の方法は、最初からコンピューター サイエンスのコースに倫理を組み込むことかもしれません。