より良いAIでより良い社会を築く

人工知能 (AI) には、従来のエンジニアリング システムからヘルスケア、芸術やエンターテイメントの創造プロセスに至るまで、イノベーションを通じて社会のあらゆる側面を改善する大きな可能性があります。たとえばハリウッドでは、スタジオが AI を使って脚本の偏りを明らかにし、測定しています。これはプロデューサーや脚本家がより公平で包括的なメディアを作成するために必要なツールです。

しかし、AI の賢さはトレーニングに使用したデータによって決まり、そのデータは現実の偏見を反映しています。固定観念や排除が永続することを避けるために、技術者は現実の生活とイノベーションにおける公平性と包括性の問題に取り組んでいます。

人間の偏見

技術者が AI を利用して、業界の慣行や日常生活を最適化する人間中心のソリューションを見つけようとしているため、私たちの生来の偏見が意図しない結果をもたらす可能性があることを意識することが重要です。

「人間として、私たちは非常に強い偏見を持っています」と、デロイトAI研究所のグローバルリーダーであり、デロイトのテクノロジーとAI倫理のリーダーであるアマナス氏は語った。 「こうした偏見がシステムに組み込まれると、少数派や特定のツールにアクセスできない人々など、社会の一部が取り残されるリスクが高まり、世界の不平等が拡大する恐れがある」

平等な結果を生み出したり、過去の不公平を緩和したりするという善意から始まったプロジェクトでも、偏ったデータでシステムをトレーニングしたり、研究者が自分の視点が研究の方向性にどのような影響を与えるかを考慮しなかったりすると、結局は偏った結果になってしまう可能性があります。

アマナス氏は、これまでのところ、AIの偏りに対する調整は、偏ったアルゴリズムや過小評価されている人口統計が事後に発見されたことに応じて行われるのが一般的だと述べた。しかし、企業は今、積極的に行動し、これらの問題を早期に軽減し、AI の取り組みにおける失敗の責任を取る方法を学ばなければなりません。

人工知能におけるアルゴリズムの偏り

AI では、バイアスはアルゴリズムのバイアスという形で現れます。 「アルゴリズムの偏りは、AI モデルの構築においてよくある課題です」と、HP ラボのチーフ アーキテクトであり、ヒューレット パッカード エンタープライズ (HPE) の副社長であるカーク ブレスニカー氏は説明します。 「アルゴリズムが異なる入力を処理できないため、またはモデルのトレーニングに組み込むのに十分な広さのデータセットを収集していないために、課題に直面する可能性があります。いずれの場合も、データが足りないのです。」

アルゴリズムの偏りは、不正確な処理、データの変更、または誰かが誤った信号を挿入することによっても発生する可能性があります。意図的であるかどうかにかかわらず、この偏見は、あるグループに特権を与えたり、別のグループを完全に排除したりする不公平な結果につながる可能性があります。

たとえば、アマナス氏は、ビーチサンダル、サンダル、ドレスシューズ、スニーカーなど、さまざまな種類の靴を認識するように設計されたアルゴリズムについて説明しました。しかし、リリースされた当初は、アルゴリズムは女性のハイヒールの靴を認識できなかった。開発チームは大学を卒業したばかりの男性ばかりで、女性用の靴でトレーニングをしようとは考えてもいませんでした。

「これは些細な例だが、データセットには限りがあることが分かる」とアマナス氏は語った。 「では、過去のデータを使って病気や疾患を診断する同様のアルゴリズムについて考えてみましょう。もしそれが特定の体型、特定の性別、特定の民族向けに訓練されていなかったらどうなるでしょうか。その影響は甚大です。」

「重要なのは、多様性がなければ、特定のシーンを見逃してしまうことになる、と彼女は言った。」

より良いAIとは自己規制と倫理を意味する

より多くの（そしてより多様な）データセットを単に取得することは、特にデータがより集中するにつれて、困難な課題となります。データ共有には多くの問題が伴いますが、最も重要なのはセキュリティとプライバシーです。

「現在、個人ユーザーの力は、ユーザーのデータを収集し処理する大企業に比べてはるかに弱い」とコロラド大学ボルダー校のメディア研究助教授、ネイサン・シュナイダー氏は言う。

最終的には、法律や規制の拡大によって、データがいつどのように共有され、使用されるかが規定されるようになると思われます。しかし、イノベーションは立法者を待ってはくれません。現在、AI 開発組織には、アルゴリズムの偏りを減らす取り組みをしながら、適切なデータ管理者として個人のプライバシーを保護する責任があります。デロイトのアマナス氏は、テクノロジーが急速に成熟しているため、あらゆるシナリオを網羅するために規制に頼るのは不可能だと述べた。 「既存の規制の遵守と自主規制の間でバランスを取らなければならない時代に入るだろう。」

この自己規制は、データからトレーニング、そしてこれらのソリューションを実現するために必要なインフラストラクチャに至るまで、AI ソリューションを構築するためのテクノロジー サプライ チェーン全体の基準を引き上げることを意味します。さらに、企業は部門を超えて個人が偏見についての懸念を表明できる道筋を作る必要があります。偏見を完全に排除することは不可能ですが、企業は AI ソリューションの有効性を定期的に監査する必要があります。

AI は状況に大きく左右されるため、自己規制は企業ごとに異なります。たとえば、HPE は倫理的な AI ガイドラインを開発しました。社内のさまざまな人々が協力して約 1 年かけて会社の AI 原則を策定し、その後、幅広い従業員を対象にその原則をレビューして、遵守可能であり、企業文化に合致していることを確認しました。

「私たちは、こうした問題に対する一般的な理解を深め、ベストプラクティスを収集したいと考えています」とHPEのブレスニカー氏は語った。「これは全員の仕事です。この分野では十分な認識があります。」

人工知能技術は、あらゆる産業において、研究開発から実用化、価値創造まで成熟してきました。社会における AI の普及が進むにつれ、企業には強力で包括的かつアクセスしやすいソリューションを提供する倫理的責任が生じています。この責任により、組織はプロセスに取り込むデータを、場合によっては初めて検査する必要に迫られます。 「私たちは人々に先見の明を身につけてもらい、入ってくるデータに測定可能な信頼感を持ってもらいたいのです」とブレスニカー氏は言う。「彼らには根強い制度的不平等を止め、より良い未来のために公平な結果を生み出す力があるのです。」