人工知能は大きな可能性を秘めているが、大きな責任も抱えている

AI はあらゆるところに存在し、その可能性は計り知れません。しかし、諺にあるように、大いなる力には大いなる責任が伴います。残念ながら、Uber の「神」モードや、現在議論されている差別的なアルゴリズムなどのアプリは、やってはいけないことの例となっています。

あらゆる業界で、ビジネス上の課題を克服し、ビジネスを前進させるために AI を活用する組織が増えていますが、間違った理由で注目を集める次の企業にならないようにするにはどうすればよいでしょうか。障害や具体的な落とし穴はどこにありますか。組織はどうすれば適切なアプローチをうまく進めることができるでしょうか。問題は AI 自体ではなく、AI がどのように開発され、使用されるかです。

[[418188]]

道徳

まず、組織は、悪いニュースを受け入れないことだけでなく、倫理的な AI がなぜ重要であるかを理解する必要があります。

AI の大きな利点の 1 つは、大規模な影響を与えるために使用できることですが、それは、AI の活用が間違っていたり、正しい場合でも、広範囲にわたる結果をもたらすことを意味します。先ほど述べた Deliveroo と Uber の例に戻ると、これらのアルゴリズムは最終的に多くの仕事と人々に影響を与えました。 AIが人類に与える影響を忘れないことが重要です。

実際、AI に倫理を統合することが、偏見やその他のリスクを防ぐ最善の方法です。同じ伝統的な方法と手順が使用され続けると、同じ問題が引き続き発生し、（無意識ではあるが）差別が確実に続くことになるでしょう。慎重に開発された AI を使用すれば、人間の偏見を排除できる可能性がありますが、それは AI が倫理的に行われる場合に限られます。これは単なる理論的な記述や研究ではありません (誤解のないように言っておきますが、これも非常に重要です)。組織、その顧客、ユーザーのために日常業務を適切な方法で遂行するためのツールです。とても簡単です。

問題点を見つける

倫理的 AI に関する当初の最大の問題の 1 つは、「倫理的」なものの概念が曖昧で、解釈の余地があることでした。組織が倫理的な AI を作成しようとする前に、倫理に関する理解を明確に定義して、全員が同じ認識を持つようにする必要があります。誰もが、AI テクノロジーを開発する理由とその用途を決定する必要があります。 AI 技術がなぜ、どのように使用されるのかを明確に概説して説明し、ルールを定めることは、Uber の場合のように、起こり得る悪用を防ぐのにも役立ちます。

これらの倫理的概念を AI の実際のアプリケーションに反映させることが、企業が直面する次の大きな課題です。ここで、問題は企業がアルゴリズムの作成と開発を開始するときに始まります。アルゴリズムの構築方法は、それをどのように使用するかと同じくらい重要です。初期データ入力とその後の計算モデルによって、組織が望ましい結果を達成できるか、倫理的なジレンマが生じるかが決まります。たとえば、これまで多くのアルゴリズムは履歴データに基づいて設計されてきましたが、これは多くの場合、古いパターンが単純に繰り返されることを意味します。つまり、同じ問題が継続し、同じ差別や偏見が生じる可能性があります。

過去の問題への対処

組織は同じパターンや同じ問題を繰り返すのをやめる必要があります。多くはデータに帰着します。

人工知能は独自のモデルを形成し、入力データに基づいてタスクを実行するプロセスを生成します。したがって、アルゴリズムの良し悪しはデータの良し悪しによって決まります。データが何らかの形で歪んでいると、最終的な出力に影響を及ぼし、パターンが確立されると、AI は単純にそのパターンに従い続けます。したがって、データの質の高さと、そのデータの出所を理解することが最も重要です。組織は、最新のクリーンなデータを使用して作業し、必要に応じて、何らかの措置を講じる前にデータをクリーンアップする必要があります。結局、アルゴリズムはデータに隠されたパターンをほぼ実現しましたが、大きな役割を果たしたのはデータでした。

この段階では、注意が必要な人為的エラーの可能性という重要な要素もあります。データは、偏見や差別を防ぐためにクリーニングされているかもしれませんが、データの入力とアルゴリズムの作成を担当する人が、無意識のうちに偏見や先入観を投影している可能性があります。 AI の開発は、差別的なパターンが形成されないように、偏見のない心で行われる必要があります。職場における多様性と包括性についてはよく話しますが、アルゴリズムにおける多様性と包括性についても考え始める必要があります。

組織とそのビジネス上の希望や野心は、AI アルゴリズムの良し悪しによってのみ決まります。したがって、これらのアルゴリズムは慎重に考え抜いて開発し、定期的にテストし、急いで導入してはなりません。アルゴリズムをどのように使用するかは、どのように構築するかと同じくらい重要です。企業にとって幸いなことに、倫理的な AI の作成に対する外部からのサポートが増えています。たとえば、欧州連合の AI に関する 7 つの原則は、データ サイエンティストや AI の専門家が倫理的な AI アプリケーションを運用するためのフレームワークを提供しています。しかし、最終的には、AI テクノロジーの成功と影響、そしてそれが革新性で賞賛されるか、差別として非難されるかの責任は、個々の組織と、その組織がどのように AI を開発し、使用するかにかかっています。