人工知能にブレーキをかけるべき6つの理由

人工知能は徐々にビジネスプロセスに導入されつつあります。しかし、CIO は立ち止まって、AI ツールがビジネスに与える潜在的な影響を、良くも悪くも検討する必要があります。

2017 年、人工知能をめぐる誇大宣伝は最高潮に達し、CIO、コンサルタント、学者らが、ビジネスや IT 運用から顧客とのやり取りまであらゆるものを自動化できるこの技術の可能性を称賛しました。しかし、2018年第1四半期には、通常人間の知能が必要となるタスクをコンピューターに実行させる訓練など、人工知能の危険性について複数のメディアが報道しました。

「メディアではAIについて大騒ぎになっているが、それはジャーナリストがネガティブなことを語ることでその大騒ぎを増幅させようとしているだけだ」と、認知技術の講座を教えるバブソン大学の著名な教授、トーマス・ダベンポート氏は言う。

確かにそうかもしれないが、人種、性別、その他の偏見に対する恐怖から、制御不能な自律型ドローンによる致命的な結果の可能性に至るまで、こうした懸念は目新しいものではなく、長続きしないだろう。

[[226926]]

MITテクノロジーレビューが「AIがついに人を殺したとき、誰が責任を負うのか？」という記事を掲載してから1週間後。この記事は、アリゾナ州でUberの自動運転車が女性を死亡させたように、自動運転車が人を死亡させた場合にどのような法律が適用されるのかという疑問を提起している。彼が言ったように、タイミングがすべてです。

以下では、AI の導入に関するいくつかの質問について詳しく説明し、その後にこのテクノロジーをテストしようとしている CIO へのアドバイスをいくつか紹介します。

人工知能に関する6つの大きな懸念

1. 失礼すぎる

Microsoft の悲惨な Tay チャットボット事件から学んだように、会話型メッセージング システムはばかばかしく、不快で、突然なものになることもあります。 CIO は、何をどのように使用するかについて注意する必要があります。チャットボットによる突然の、中傷に満ちたアクションが 1 つあるだけで、ブランドの親しみやすいイメージが台無しになってしまいます。

2. 認知能力の低下

グーグルのAI科学者でスタンフォード大学の教授でもあるフェイフェイ・リー氏は、ニューヨーク・タイムズ紙の論説で、AIは人間によって開発されたが、皮肉なことにAIは人間とは全く似ていないと述べた。フェイフェイ・リー氏は、人間の視覚認識は状況に大きく左右されるが、人工知能の画像認識能力には大きな限界があると指摘した。

リー氏は、人間と機械の認識のギャップを縮めるために、AIプログラマーは、その分野の学問的ルーツに戻って、さまざまな分野の専門家と協力する必要があるかもしれないと述べた。

3. ブラックボックス問題

AIを活用したい企業は多く、戦略的な優位性をもたらす可能性のある活動も含んでいますが、金融サービスなどの業界の企業は、AIがどのように結論に至ったのかを説明できるように注意する必要があります。ファニーメイの業務・技術責任者ブルース・リー氏は、ネスト社のサーモスタットのような製品を使って電気代を管理している住宅所有者は、住宅ローンを返済するためのフリーキャッシュフローが増える可能性があると推測するのは合理的かもしれないと述べた。しかし、規制当局の目から見れば、AIにそのような資格を与えることは問題がある。

「公正な融資に関するこの種の問題に取り組み始めるとき、サンプルセットにどう偏りを持たせるか、Nestを使用する人々に徐々により良い住宅ローン金利を与えるか？ 信用判断のように一見明白なことへのAIは、実際にはクリアすべき規制上のハードルに満ちています。そのため、私たちが行うことの多くは、不当な偏りが生じていないこと、そしてこれが住宅インフラに純利益をもたらすことを確認するために、徹底的にバックテストされる必要があります」とリー氏は記者団に語った。「AIは説明可能でなければなりません。」

AI ソフトウェアがどのようにパターンを検出し、結果を観察するかが不明な場合、企業は機械の信頼性に疑問を抱き、規制当局の監視を受けるリスクを負うことになります。 「コンテキスト、倫理、データ品質は、特に規制の厳しい業界ではAIの価値と信頼性に影響を与える問題です」と、法律事務所フォックス・ロスチャイルドのテクノロジー部門共同議長ダン・ファリス氏は語る。「規制の厳しい業界すべてにAIを導入すると、コンプライアンスの問題が生じる可能性があります。」

4. 民族誌、社会経済的偏見

スタンフォード大学の博士課程の学生、ティムニット・ゲブルさんは、グーグル・ストリートビューの車から撮影した画像を使って、米国のすべての町の人口統計を調べるプロジェクトに取り組んでいる。彼女は研究における人種、性別、社会経済的な偏見を懸念している。ブルームバーグの報道によると、この暴露がきっかけでゲブル氏はマイクロソフトに入社し、人工知能における偏見の調査に取り組んだという。

AI 仮想アシスタントでさえ偏見に悩まされています。 Alexa、Siri、Cortana などの仮想アシスタント技術がすべて女性である理由を考えたことがあるでしょうか。カスタマー サービス ソフトウェア会社 LivePerson の CEO、Rob LoCascio 氏は記者に次のように質問しました。「なぜこれらの「アシスタント」技術を女性とみなすのでしょうか。これは、世界や職場の女性に対する私たちの期待という点で何を意味するのでしょうか。女性は基本的に「ヘルパー」であり、「おしゃべり」で、管理職を務め、指示を受けるのが得意です。」

5. 攻撃のための人工知能、致命的な攻撃

ケンブリッジ大学、オックスフォード大学、イェール大学の技術・公共政策研究者25人が執筆した98ページの報告書によると、人工知能の急速な発展により、悪意のあるユーザーが近い将来、その技術を悪用して自動ハッキング攻撃を仕掛けたり、人間を模倣して誤情報を広めたり、市販のドローンを標的型兵器に変えたりするリスクがあるという。

「AIには多くの有益な応用があることは誰もが認めるところだ。だが、悪意ある使用の問題については文献に空白がある」とオックスフォード大学人類の未来研究所の研究員マイルズ・ブランデージ氏はロイター通信に語った。ニューヨーク・タイムズとギズモードも「人工知能の悪意ある利用：予測、予防、緩和」と題するレポートを発表した。

6. 人工知能は私たちを飼い猫に変える

次は奴隷制の理論です。テスラやスペースXで知られる起業家イーロン・マスク氏は、人間は優れた知能と能力を持つ人工知能に奴隷化され、依存的な「飼い猫」になる危険性があると警告した。最近、イスラエルの歴史家ユヴァル・ノア・ハラリ氏は、あらゆるものを自動化する人工知能の出現により「地球規模の無用階級」が生まれる可能性があると主張した。そのような世界では、人間は機械ほど自分自身を理解していないため、民主主義が脅かされるでしょう。

IT、粘り強いIT

一般的に言って、こうした懸念は大部分誇張されているとダベンポート氏は述べた。例えば、通常の分析プロジェクトの範囲内でも偏見は長い間存在していたと彼は述べた。 「私が知る限り、分析に携わった人の中で、偏見が存在することを否定する人はいない」とダベンポート氏は述べ、最近「AIの優位性：大企業におけるAI導入のすべて」という新著を執筆し、いくつかの大企業が本格的にAIをテストしていると語った。

「今日、企業向けアプリケーションは数多く登場しているが、IT の取り組みを止めるつもりだと言っている人は誰もいない」とダベンポート氏は述べ、この技術はまだ未成熟だと付け加えた。 「賢明な企業はこうした取り組みを継続し、メディアからの脅迫を避けようとしている。」

実際、ガートナーによれば、IT リーダーたちはこの誇大宣伝にほとんど動じていないようで、2020 年には CIO の 85% 以上が購入、構築、アウトソーシングを通じて AI イニシアチブを試行する予定だという。ガートナーは、顧客や市民が AI ベースのアシスタントによる仲介を期待している分野で、CIO にインテリジェントな仮想サポート機能を構築するようアドバイスしていますが、CIO はビジネス パートナーと緊密に連携してデジタル倫理戦略を構築する必要があります。