2018 年の人工知能の予測を振り返ってみると、どれが現実になったのでしょうか?

人工知能は非常に複雑であり、急速に発展しています。今後数年間でそれがどうなるかを正確に予測することは誰にも不可能です。しかし、2018 年に AI がどのように発展し、それがビジネス、政府、社会にどのような影響を与えるかについては、いくつか具体的な予測を立てることができます。いくつかの新たなトレンドが現れ始めています。

ここでは、AI の先見者による分析と、世界中のクライアントに AI アプリケーションに関するアドバイスを提供してきた PwC の経験に基づいた 8 つの予測を紹介します。

1. AIは雇用に影響を与える前に雇用主に影響を与える

長期的には、AI が雇用市場を破壊することはないでしょう。少なくとも 2018 年においてはそうではありません。しかし、企業は大きな課題に直面しています。AI は、さまざまな種類のデータとさまざまな分野のチーム メンバーを統合したときに最も効果を発揮します。同時に、人間と機械のコラボレーションを実現するには、対応する構造とスキルの使用も必要です。しかし、ほとんどの企業は共同のエンタープライズ データベースとチーム データベースにデータを保存しています。 従業員に必要な基本的な AI スキルを身につけさせ始めた企業はほとんどありません。平均的な企業は AI の要求に対応する準備ができていません。

ロボットや人工知能が仕事を奪うというニュースをよく読んだことがあるでしょう。しかし、私たちはそうは思いません。より複雑な状況が明らかになりつつあります。人工知能は雇用市場の段階的な進化を促進するでしょう。この傾向が適切に処理されれば、雇用に良い影響を与えるでしょう。新たな雇用が失われた雇用を補うことになる。人々は引き続き仕事をしますが、人工知能の助けを借りてより効率的に仕事をするようになります。

同様に、人工知能が世界最高のチェスのグランドマスターに勝利したという話を聞いたことがあるかもしれません。しかし、AI チェスの名人に勝つために何が必要なのか、つまり「人間と機械」のシステムなのか、それとも人間と AI がチームとしてチェスをプレイするのかを誰もが知っているわけではない。人間は AI パートナーからのアドバイスを受け入れることができるようになるが、それを無視することも自由にできるようになる。これは両者のつながりを確立するプロセスであり、成功の鍵となります。

この比類のない組み合わせは、将来の労働力の新たな標準となるでしょう。 AI が製品設計プロセスをどのように強化するかを考えてみましょう。人間のエンジニアが各部品に使用される材料、機能、制約を定義し、それらを AI システムに入力すると、多数のモデルが生成されます。エンジニアはこれらのモデルのいずれかを選択するか、入力を改善して AI に再度モデルの生成を試みることができます。

このパターンは、AI が経済発展を推進している理由の 1 つです。しかし、一部の業界、経済、ビジネス（特に反復的な作業を伴うもの）では、仕事が変化したり、なくなったりすることは否定できません。しかし、今後 2 年間での影響は比較的限定的となるでしょう。PwC の国際職業自動化調査では、分析対象となった 29 か国のうち、2020 年までに自動化のリスクが高い職業は約 3% に過ぎないと推定されています。

なぜ一部のビジネスは成功し、他のビジネスは失敗するのでしょうか?

2018 年、企業は現在の働き方を変える必要があることに気づき始めるでしょう。その際、過去に起こったこと、つまり失敗した技術移行に特に注意を払う必要があります。これが起こる理由は多数ありますが、そのうちの 2 つは多くの企業が AI に取り組む方法に関係しています。まず、彼らは柔軟性がなく、常に物事を当然のこととして受け止めます。次に、彼らは孤立した島で考え、働きます。

AI に精通した従業員は、適切なアルゴリズムを選択してモデルにデータを入力する方法以上の知識が必要です。また、結果をどのように解釈するか、いつアルゴリズムに判断させるか、いつ介入するかについても知っておく必要があります。

同時に、人工知能を効果的に活用するには、異なるチーム間の連携が不可欠です。病院のスタッフがどの医療処置を承認するかを決定するのに役立つ AI システムを想像してみてください。医療や AI 分野の専門家だけでなく、法務、人事、財務、サイバーセキュリティ、コンプライアンスの各チームからの入力も必要になります。

ほとんどの企業は境界を設定し、特定のチームに特定の領域またはプロジェクトの責任を割り当て、それに応じて予算を割り当てることを好みます。しかし、AI では、問題を解決するために多分野にわたるチームが協力する必要があります。その後、チームメンバーは他の課題に進みますが、最初の課題の監視と改良を継続します。

人工知能に関しては、他の多くのデジタル技術と同様です。企業や教育機関は、役職名について考えることを減らし、仕事の内容、スキル、考え方にもっと重点を置くべきです。これは、新しい働き方を受け入れることを意味します。

影響

（１）人々は人工知能を一般的に受け入れるだろう

AIが発展するにつれ、AIが仕事を破壊するというのは単なる誤報だったと人々は気づくだろう。職場や社会において、人々は AI に対してよりオープンになるかもしれません。 AIが私たちの仕事を奪うという話は消え去り、ロボットが私たちの生活や仕事を楽にしてくれるという話になるでしょう。これにより、企業はより迅速に人工知能を導入せざるを得なくなります。

（２）企業はリストラを開始する

これは長いプロセスになりますが、先進的な企業の中には、企業やチームを統合するデータベースにデータを保存するという方法からすでに移行しつつあるところもあります。一部の企業では、人工知能やその他のデジタル技術に必要な労働力を大幅に増やし始めています。この増加により、従業員は新しいスキルを習得するだけでなく、同僚や AI とのコラボレーションを重視する新しい考え方を身に付けることができます。

2. 人工知能は現実に統合され、その役割を果たし始める

大きなニュースにはならないかもしれませんが、AI は現在、ますます複雑化するプロセスを自動化し、ビジネス価値を生み出すトレンドを特定し、将来を見据えたインテリジェンスを提供する態勢が整っています。

その結果、従業員の労働時間が短縮され、より適切な戦略的意思決定が可能になり、従業員は以前よりも優れた仕事をするようになります。 しかし、従来の投資収益率 (ROI) 戦略ではこの価値を正確に特定できない可能性があるため、企業は AI が何を実現できるかをより深く理解するために新しい指標を検討する必要があります。

経営幹部の 54% が、AI ソリューションによって生産性が向上したと回答しています。

多くのメディア報道では、AI を活用した未来は素晴らしいものとして描かれています。自動運転車が交通事故や渋滞に遭遇することはほとんどなくなり、ロボット医師は通常、わずか数ミリ秒で病気を診断し、スマート インフラストラクチャが人や物の流れを最適化し、修理が必要になる前に自動的にメンテナンスを行います。これらすべては将来起こるかもしれないが、2018 年には起こらないだろう。

調査対象となった経営幹部のうち、72% が AI が自社の成功に不可欠になると考えており、72% が AI が将来のビジネス上の利点になると考えています。しかし、私たちが直面している疑問は、「それが今私たちに何をもたらすのか？」ということです。答えはここにあります。

人間の生産性を向上させる

人工知能が非現実的に聞こえるなら、退屈で反復的なホワイトカラーのタスクを実行し、管理者が分析に時間を費やせるようにするツールはどうでしょうか。不正行為を特定し、サプライチェーンの回復力を向上させるツールはどうでしょうか。

これが 2018 年の AI の価値です。まったく新しい産業 (次の 10 年) を生み出すことではなく、既存の従業員の能力を強化し、既存のビジネスにさらなる価値を付加することにあります。主な方法は3つあります。

• 古いテクノロジーでは複雑すぎるプロセスを自動化します。
• 履歴データから傾向を発見してビジネス価値を生み出します。
• より良い意思決定を可能にするために、将来を見据えた情報を提供します。

退屈な作業から価値を引き出す

ほとんどの企業の財務部門が、ERP、支払い処理、ビジネス インテリジェンス、その他のシステムからのデータの閲覧に、ほとんどの時間を費やしていることを想像してみてください。多くの従業員は、法的な契約書や電子メールを調べたり、日常的な取引業務を実行したりするために、毎日何時間も費やしています。

その結果、多くの財務専門家は、日常業務の余った時間を利用して付加価値分析を行っています。

では、そのすべてのデータをスキャンし、傾向や異常を見つけ出し、多くのトランザクションを自動化し、関連する問題にフラグを立ててさらにフォローアップできる AI システムを想像してみてください。この AI システムが、起こり得るリスクを識別して解釈し、データに基づく予測を提供して管理者の分析と意思決定をサポートすると想像してみてください。

スマートシティほど魅力的ではないかもしれませんが、この種の実用的な AI は現在利用可能です。たいていは「裏口からこっそり侵入」します。 Salesforce、SAP、Workday などのエンタープライズ アプリケーション スイートでは、人工知能の採用がますます進んでいます。

影響

（１）ビジネス上の問題が人工知能への扉を開く

リーダーは AI そのもののために AI を導入する必要はありません。ビジネスニーズに最適なソリューションを模索する中で、人工知能が果たす役割がますます大きくなると考えられています。請求を自動化しますか? 一般的な会計および予算作成機能、および多数のコンプライアンス機能を自動化しますか? 調達、物流、顧客サービスの一部を自動化しますか? ユーザーが認識しているかどうかに関係なく、AI はソリューションの一部になる可能性があります。

（２）新たなROI測定戦略が必要

場合によっては、AI の価値を測定する最良の方法は、収益の増加やコストの削減など、他のビジネス投資と同じ指標を使用することです。 しかし、AI のメリットは間接的なことが多いため、企業は ROI を測定するための他の指標を検討する必要があります。 自動化されたフルタイム従業員は、AI が労働者を日常的な作業から解放する方法を示しています。 他の指標は、AI が人間の意思決定と予測をどのように改善しているかを示します。

3. AIはデータに関する大きな疑問に答えるのに役立つ

データ テクノロジーとデータ統合への投資の多くは、「ROI はいくらか」という大きな疑問に答えることができませんでした。AI がこれらのデータ プロジェクトのビジネス ケースを提供している今、新しいツールによってこれらのプロジェクトの価値がより明確になります。

企業はもはや「データを消去する」ことを決定する必要はなく、またそうすべきでもありません。まず、AI のメリットを定量化するためにビジネス上の質問から始める必要があります。データが特定の問題の解決に使用されると、さらなるデータ駆動型 AI ソリューションの開発が容易になり、好循環が生まれます。 問題はどこにあるのでしょうか? 一部の企業は、適切なデータ基盤を構築するかどうかについてまだ躊躇しています。あるいは、まだ構築していません。

多くの企業はビッグデータへの投資のメリットを実感できていません。ここには断絶があります。ビジネスおよびテクノロジーのエグゼクティブは、データを使ってより多くのことを実現できると考えています。しかし、学習曲線は急峻で、ツールは未熟です。つまり、彼らはかなりの課題に直面しているのです。

現在、ユースケースが成熟し、AI 自体がより現実的かつ有用になるにつれて、データ戦略を再考する企業も出てきています。彼らは、次のような適切な質問をし始めます。プロセスをより効率的にするにはどうすればよいか? データ抽出を自動化するには何が必要か?

同時に、企業は次のような新しいツールや技術の進歩を活用できるようになりました。

• テキストのインデックス作成や分類のための自然言語処理などの、構造化が不十分なデータのマイニングに、より単純な方法を採用する。
• エンタープライズ アプリケーション スイートには、ますます多くの AI ツールが含まれるようになります。
• 新たなデータレイク サービス プラットフォームの登場。
• さまざまな種類のデータを活用できるパブリック クラウド。
• 自動化された機械学習とデータ管理。

AIの獣に餌を与える

こうした進歩にもかかわらず、多くの企業は依然として数多くの課題に直面しています。教師あり機械学習やディープラーニングなど、多くの種類の AI では、標準化され、ラベル付けされ、バイアスや異常が「除去」された大量のデータが必要です。そうしないと、不完全または偏ったデータセットによって誤った結果が生じます。データは、個人のプライバシーを保護しつつ、有用であるほど十分に具体的でなければなりません。

典型的な銀行業務のプロセスを考えてみましょう。個々の事業分野 (小売、クレジットカード、証券会社など) には、独自の顧客データ セットがあります。さまざまな部門 (マーケティング、アカウント作成、カスタマー サービスなど) にも独自のデータ形式があります。 AI システムは、銀行にとって最も収益性の高い顧客を特定し、そのような顧客をさらに見つけて獲得するための提案を行うことができます。しかし、これを実現するには、システムが標準化された偏りのない形式で、事業分野や部門全体のデータにアクセスする必要があります。

データを処理する正しい方法

クリーンなデータから始めるのは良い考えではありません。ビジネスケースから始めて、その特定のケースでどのように成功するかを評価する方がよいでしょう。

たとえば、医療提供者は患者の転帰を改善するために働くかもしれません。ベンダーは、システムの開発を開始する前に、AI がもたらすメリットを定量化します。次にベンダーは、電子医療記録、関連するジャーナル記事、臨床試験データなど、どのようなデータが必要か、またその取得とクリーニングにどれくらいのコストがかかるかを検討します。

ベンダーは、間接的なメリットと将来のアプリケーションでのデータの使用方法の両方において、ベンダーにとってのメリットがコストを上回る場合にのみ前進します。

これは、最終的にデータ アーキテクチャと管理を全面的に見直す企業がどれだけあるかを示す指標です。AI やその他のテクノロジは、それを必要とする価値提案を提供します。

影響

（１）成功は成功を呼ぶ

1 つのアプリケーションのデータ問題を解決した企業は、次のアプリケーションでも有利なスタートを切ることができます。彼らは、データ リソースを効果的に活用し、企業の境界を越えて作業するための最も実用的なプロジェクトを開発します。

（２）サードパーティデータプロバイダーが繁栄する

企業内のデータは AI やその他のイノベーションにとってかけがえのないものですが、それを補完するものとして、サードパーティ ベンダーがパブリック データ ソースを取得し、それをデータ レイクに整理して AI で使用できるように準備するケースが増えています。

（３）合成データが増える

データの価値が高まるにつれて、合成データやその他の「リーン」および「拡張」データ学習の技術的進歩が加速します。たとえば、道路上でどのように動作するかについてのデータを生成するために、自動運転車の艦隊は必要ないかもしれません。 必要なのは、数台の車と高度な数学だけです。

4. AI人材獲得競争を決めるのは技術者ではない

現在、大企業はコンピューター科学者の獲得を競っていますが、人工知能を成功させるには、トップクラスの技術的才能だけでは不十分です。 企業には、AI を活用できるさまざまな分野の専門家と、プログラマーである必要のない AI スペシャリストが必要です。しかし、データサイエンスとデータ視覚化の基礎、そして AI の考え方を理解している必要があります。

AI がコンピューター ラボを離れ、日常のワークフローに導入されるようになると、これらの専門家はコンピューター サイエンティストよりもさらに重要になります。 しかし、多くの専門家は、適切にスキルを向上させる必要があります。

AI がより具体的な領域に拡大するにつれて、データ サイエンティストや AI の専門家が通常欠いているドメインの専門知識とスキルが必要になります。

資産管理の意思決定をサポートする人工知能アプリケーションを作成するコンピューター科学者を想像してください。 AI の専門家は、市場分野の専門家ではない可能性があります。そのため、AI がどこで役立つかを判断し、人々が AI を効果的に使用できるように AI を設計およびトレーニングする方法を決定するために、経済学者、アナリスト、トレーダーの協力が必要です。

また、金融の世界は絶えず変化しているため、AI が運用されると、継続的なカスタマイズと調整が必要になります。したがって、プログラマーではなく、金融分野の専門家が主導権を握る必要があります。金融サービスだけでなく、ヘルスケア、小売、製造など、AI が関係するあらゆる分野に広がっています。

市民データサイエンティスト

人工知能がさらに便利になりました。一部の AI アプリケーションを使用するために、ユーザーはコードの書き方を知る必要がなくなりました。しかし、ほとんどの人にとって、スプレッドシートやワードプロセッサプログラム以上の技術的な知識が依然として必要です。

たとえば、多くの AI ツールでは、ユーザーが要件を一連の機械学習の問題として定式化する必要があります。また、特定の問題や特定のデータ セットにどのアルゴリズムが最も適しているかを理解する必要もあります。

必要な知識の正確なレベルは異なりますが、AI が人間の知識に求めるニーズは、大きく 3 つのカテゴリに分けることができます。まず、AI を活用した企業のほとんどのメンバーは、AI の価値と、AI がデータで何ができるか、何ができないかについての基本的な知識が必要です。第二に、最も成熟した AI プロジェクトであっても、小規模なコンピューター科学者のチームが必要です。最後に、3 番目のカテゴリは、多くの企業がまだ気づいていないものです。それは、AI を理解しているさまざまな分野の専門家です。

前述したように、プログラマーである必要はありません。しかし、データサイエンスとデータ視覚化の基礎、そして AI の考え方を理解している必要があります。彼らは市民データサイエンティストでなければなりません。

小売アナリスト、エンジニア、会計士、および人工知能を最大限に活用できるようにデータを準備して文脈化する方法を知っている他の分野の多くの専門家は、ビジネスの成功に不可欠です。 AI がコンピューター ラボを離れ、日常のワークフローに導入されるようになると、これらの専門家はコンピューター サイエンティストよりもさらに重要になります。

影響

（１）スキルアップが早ければAI導入も早まる

AIを最大限に活用したい企業は、優秀なコンピューター科学者を争って獲得するだけでは不十分です。 AIを早く動かしたいなら、各分野の専門家のAIリテラシーを向上させるべきだ。大企業の中には、さらに一歩進んで、業務の中で AI が果たす役割を特定し、対応するスキルを優先させる必要があるところもあります。

（２）スキルの向上は新たな学習方法につながる

企業は、データサイエンスの基礎と AI アプリケーションのような考え方を習得できるよう、従業員のスキルを向上させる必要があります。このタスクの膨大さを考えると、組織は、潜在能力の高い学習者のスキルを評価し、より早く個別の学習パスに配置する方法を見つけなければなりません。

5. サイバー攻撃は人工知能によってさらに強力になるが、サイバー防御も同様に強力になる

インテリジェントなマルウェアやランサムウェアは、拡散しながら学習したり、機械知能を通じて世界規模のサイバー攻撃を調整したり、高度なデータ分析を通じて攻撃をカスタマイズしたりすることがよくありますが、残念ながら、これらはすべて進行中の作業です。

企業はナイフを手に銃撃戦に臨むことはできない。彼らは人工知能に対して人工知能で対抗しなければならない。 AIに対して非常に警戒心を持つ企業や組織であっても、AIサイバー防御システムを導入せざるを得ません。サイバーセキュリティは、多くの企業にとって AI 活用への最初の取り組みとなるでしょう。

経営幹部の 27% は、自社が 2018 年にサイバー防御システムの構築に人工知能と機械学習を利用するための投資を計画していると回答しました。

ハッカーの攻撃により、人工知能は人間よりも優れていることが証明されました。たとえば、機械学習はソーシャル メディアでのユーザーの行動を簡単に追跡し、ユーザー個人に合わせたフィッシング ツイートやメールを作成できます。人間のハッカーがこれを素早く実行できる方法はありません。

人工知能が発達すればするほど、サイバー攻撃の可能性は高まります。高度な機械学習、ディープラーニング、ニューラル ネットワークなどの技術により、コンピューターはパターンを発見して解釈できるようになります。ハッカーはこれを利用して脆弱性を見つけ、悪用することもできます。

インテリジェントなマルウェアやランサムウェアは、多くの場合、拡散するにつれて学習し、機械知能を通じて世界規模のサイバー攻撃を調整し、高度なデータ分析を通じて攻撃をカスタマイズします。残念ながら、あなたの会社や組織もすぐに影響を受けることになります。 AI自体に関しては、適切に保護されていない場合、新たな脆弱性が生じてしまいます。たとえば、悪意のある行為者がアルゴリズムのトレーニング セットに偏ったデータを挿入する可能性があります。

人工知能が救世主

2018 年に AI がサイバー脅威として増大すると予想されるのと同様に、AI が解決策の一部となることも確信しています。スケーラブルな機械学習技術とクラウド テクノロジーを組み合わせることで、大量のデータが分析され、リアルタイムの脅威検出と分析が可能になります。 AI は、サイバー攻撃が急増している「ホットスポット」を迅速に特定し、サイバーセキュリティ インテリジェンス レポートを提供することもできます。

しかし、サイバーセキュリティにおいても、人間にしかできないことがいくつかあります。人間は状況を吸収し、想像力豊かに考えるのに優れています。サイバー戦争は単なる2台のコンピューター間の戦争ではありません。しかし、AI はあらゆる大手企業や組織のサイバーセキュリティ ツールキットに不可欠な要素となるでしょう。

影響

（１）銃撃戦にナイフを持って行かない

企業の他の部分では、多くの企業が AI の導入を遅らせることを選択するかもしれませんが、サイバーセキュリティに関しては躊躇しません。攻撃者は AI を使用するので、防御側も AI を使用する必要があります。 組織の IT 部門またはサイバーセキュリティ ベンダーがまだ AI を使用していない場合は、今すぐ AI の適用を検討し始める必要があります。 使用例には、分散型サービス拒否攻撃 (DDOS) パターンの識別、調査ログアラートのエスカレーションと優先順位付け、リスクベースの認証などがあります。

（２）サイバーセキュリティはAIの普及を加速させる可能性がある

AIに対して非常に警戒心を持つ企業や組織であっても、AIサイバー防御システムを導入せざるを得ません。サイバーセキュリティは、多くの企業にとって AI 活用への最初の取り組みとなるでしょう。 AI に対する理解が深まり、他の分野でも AI を活用したいという意欲が高まっていることがわかります。 AI のさらなる受容は、データへの渇望から生まれます。組織全体に AI が浸透し、データにアクセスできる AI が増えるほど、サイバー脅威に対する防御力が高まります。 一部の組織では、AI の機能を活用できるオンプレミスおよびクラウドベースの「脅威レイク」を構築しています。

（３）AIハッカーが国民の不安を増大させる可能性がある

すでに多くの人が人工知能に対して不安を抱いており、サイバーセキュリティについてはさらに不安を感じることになるでしょう。 2018年に人工知能が話題になったとき、それは人類を助けるためではなく、大規模なハッキングを可能にしたためだったかもしれない。 サイバーセキュリティを強化することで、このリスクを軽減できます。 このセキュリティニーズの高まりにより、企業は AI テクノロジーを活用するだけでなく、高度なアクセス監視、オブジェクト レベルの変更管理、ソース コードのレビュー、サイバーセキュリティ制御の拡張などの予防策をサポートするために、データおよびコンピューティング プラットフォームを強化する必要があります。

6. 人工知能の「ブラックボックス」の解明が最優先課題となる

人工知能が制御不能になることは、2018 年に私たちが直面する危険ではありません。結局のところ、人工知能はまだ十分に賢くないのです。しかし、本当の危険は AI の紛らわしい動作にあり、リーダーや消費者が AI に慎重にアプローチする原因となる可能性があります。

我々はより大きな圧力に直面することになるだろう。そのため、人工知能の「ブラックボックス」を開いて説明できるようにする必要があります。しかし、これにはコストと利益のトレードオフが伴います。 企業は、AI の説明可能性の適切なレベルを決定する際に、ビジネス、パフォーマンス、規制、評判の問題を評価できるフレームワークを確立する必要があります。

AI 駆動型自律兵器は連続殺人犯になる可能性があるのか​​？ AI システムは、大気汚染を減らす最も論理的な方法は人間を排除することだと教えてくれるのだろうか？ この恐怖は、いくつかの優れたスリラー映画を生み出すかもしれないが、危険は管理可能なものだ。

多くの AI 支持者が言いたくない秘密があります。それは、少なくとも今のところ、AI は皆さんが思っているほど賢くないということです。 AI はパターン認識や画像認識、複雑なタスクの自動化、人々の意思決定の支援においてますます向上しています。これらすべてが、数兆ドル規模のビジネスにチャンスをもたらします。

たとえば、過去には、AI プログラムがチェスやその他のゲームのプレイ方法を学習するために、科学者は AI プログラムに大量の過去のゲームデータを入力する必要がありました。今、彼らは AI にゲームのルールを提供する必要があります。数時間後には、世界最高のマスターを倒す方法がわかるようになるでしょう。

これは人間の意思決定をサポートする大きな可能性を秘めた驚異的な進歩です。チェスをプレイするのとは異なり、適切なルールを持つ AI プログラムは、企業戦略、顧客の維持、新製品の設計において優れたパフォーマンスを発揮できます。

しかし、それは依然として人間が設計したルールに従っているだけです。責任ある AI に適切な注意を払えば、その機能を安全に活用することができます。

本当のリスク

AIは制御可能ですが、必ずしも理解できるとは限りません。一方で、多くの AI アルゴリズムは人間の理解を超えています。一方、一部の AI ベンダーは知的財産を保護するためにプロジェクトを公開しません。どちらの場合も、AI が決定を下すと、エンドユーザーにはその決定がどのように下されたのかがわかりません。つまり、AI は「ブラック ボックス」であり、内部を見ることはできません。

ある意味、これは問題ではありません。たとえば、電子商取引のウェブサイトがアルゴリズムを使用して消費者に新しいシャツを推奨する場合、リスクは低くなります。しかし、銀行が説明できない理由で AI 駆動型ソフトウェアが住宅ローンの申請を拒否したらどうなるでしょうか。AI が空港のセキュリティで特定のカテゴリの人々を理由もなくフラグ付けしたらどうなるでしょうか。AI ベースの取引ソフトウェアが不可解な理由で株式市場でレバレッジをかけた賭けをしたらどうなるでしょうか。

ユーザーが AI の仕組みを理解できない場合、AI を信頼しない可能性があります。リーダーは、AI がどのように意思決定を行うかがわからなければ、AI に投資しないかもしれません。その結果、「ブラックボックス」上で実行される AI は不信の波に遭遇し、その使用が制限される可能性があります。

影響

（１）多くのブラックボックスが開かれる

企業は、説明可能で透明性があり、証明可能な AI を導入するよう、エンドユーザーや規制当局からますます圧力を受けると予想され、ベンダーは何らかの秘密を共有する必要が生じる可能性があります。同時に、ディープラーニングなどの高度な AI のユーザーは、これまで理解が難しかった AI を新しいテクノロジーを使って説明する必要も出てくるかもしれません。

（２）企業はトレードオフをする必要がある

ほとんどの AI は説明可能ですが、それにはコストがかかります。他のプロセスと同様に、すべてのステップを文書化して説明する必要がある場合、プロセスは遅くなり、コストが高くなる可能性があります。しかし、ブラックボックスを公開することで、特定のリスクが軽減され、利害関係者の信頼を得ることにつながります。

（３）企業はAIの説明可能性の枠組みを確立する必要がある

説明可能性、透明性、証明可能性は絶対的なものではなく、スペクトル上に存在します。 ビジネス、パフォーマンス、規制、評判の問題を評価するフレームワークにより、AI の使用事例がこの範囲内のどこに当てはまるかについて最適な決定を下すことができます。 AI を使用して生死の判断を支援するヘルスケア企業と、AI を使用してさらなる研究の潜在的なターゲットを特定するプライベート エクイティ ファンドのニーズは異なります。

7. AIの競争は国家レベルにまで高まる

AIは大きなチャンスであり、多くの政府は自国がその大きなシェアを獲得できるよう取り組んでいます。 カナダ、日本、イギリス、ドイツ、アラブ首長国連邦はいずれも国家的な AI イニシアチブを持っています。 米国の税制改革と規制緩和は、AIの急速な発展を促進する可能性がある。

中国は、将来の経済発展のために AI をどのように活用するかを理解しようとする取り組みがすでに実を結び、「スプートニク」の瞬間につながる可能性があるという点で独特です。これは貿易戦争ではなく、研究、投資、人材の問題であり、中国は急速に発展しています。米国は人工衛星の分野でロシアに追い抜かれたように、人工知能の分野でも技術的優位性を失うことを懸念し始めている。

当社の調査によると、AI は 2030 年までに 15.7 兆ドル規模の巨大な市場となるでしょう。 AIのパイは非常に大きいため、個々の企業に加えて、国もその最大のシェアを獲得するための戦略を策定しています。

米国は好調なスタートを切り、2016年に3つの報告書を発表しました。彼らは、米国を人工知能の強国にし、経済発展を促進し、国家安全保障を確保する計画を概説した。

推奨事項には、連邦政府の資金増額、規制の変更、共有の公開データセットと環境の確立、標準とベンチマークの開発、AI がサイバーセキュリティと軍事をサポートできる人材と方法の開発などが含まれます。

しかし、2017年初頭に新政権が発足して以来、この計画は放棄されている。人工知能の研究資金を削減している。

しかし、最近可決された税制改革により、米国における AI の発展が促進される可能性がある。法人税率の引き下げ、海外からの現金の本国送金規定、100%の資本投資の許可は、AIやその他の技術への投資を促進する可能性がある。現政権は、規制緩和がドローンや自動運転車など特定の産業における人工知能の発展に役立つ可能性があると強調している。

新たなAIリーダー

英国では、データへのアクセスを改善し、AI スキルを高め、AI の研究と普及を促進するためのプログラムが昨年開始されました。最新の予算では、責任あるAIを推進し、データトラストに関する取り組みを調査するために、データ倫理・イノベーションセンターへの資金提供を増額しました。

すでに人工知能のリーダーであるカナダは、AIを将来の経済の鍵にすることを目指して取り組んでいます。連邦政府は昨年、全カナダ人工知能戦略を立ち上げた。この計画には、民間企業や大学と提携したAI研究センターへの資金提供も含まれています。また、優秀な AI 人材を引き付け、維持することも目的としています。

日本は、真のAIエコシステムを実現するための3段階の計画を含むAI技術戦略を発表しました。日本政府はロボット工学における成功を基に、モノのインターネット、自動運転車、サイバー空間と物理空間の融合など他の先進技術とAIを組み合わせることを構想している。

ドイツの自動運転に関する倫理規定やインダストリー4.0イニシアチブ、UAEのAIを活用して政府のパフォーマンスやさまざまな経済分野を改善する戦略など、他の国々もAI計画を発表している。

中国は違う

2017年、中国は次世代人工知能計画を発表し、AIを国家戦略上の優先事項と宣言し、AI主導の新しい経済モデルに対する中国最高指導部のビジョンを示しました。

米国とは異なり、中国政府はこの計画を実行している。例えば、百度はトップクラスの大学と共同で国家レベルの「ディープラーニング研究所」を設立するよう委託されており、この作業には非公開の金額の資金が投入された。

中国はすでに人工知能に強い。百度、アリババ、テンセントは人工知能の世界的リーダーです。中国のプログラマーがImageNet人工知能コンテストで優勝した。大手の電子商取引企業は、倉庫や業務に非常に洗練された AI を活用しています。

他の国にも革新的なエンジニア、大学、企業が存在します。しかし、違いは、中国政府が人工知能に並外れた優先順位を与えている点だ。 私たちの調査によると、今後10年間でAIから最も大きな利益を得るのは中国で、生産性と消費の増加により、2030年までにGDPが7兆ドル増加すると予想されています。

影響

（１）中国の投資は西側諸国を目覚めさせる可能性がある

中国が人工知能の開発をリードし始めれば、西側諸国も反応する可能性が高い。それが「スプートニク」の瞬間であろうと、リーダーシップを失いつつあるという徐々に認識であろうと、政策立案者は AI に関する規制や資金提供を変更するプレッシャーを感じるかもしれません。

（２）より多くの国と地域がAI戦略を導入する

より多くの国が AI 戦略を発表し、それがビジネスに影響を与えるでしょう。すでに一般データ保護規則（GDPR）を通じて個人データの保護を開始している欧州が、同地域におけるAI開発を促進する政策を導入しても驚かないだろう。

（３）相互協力も

AIをめぐる国家間の競争は決して止まらないだろう。そこには多額の金銭が絡んでいるからだ。しかし、国連、世界経済フォーラム、その他の多国間組織が促進する国際的な関心分野における各国間の AI 共同研究によって成長が促進されると期待しています。

8. 責任あるAIの開発へのプレッシャーはテクノロジー企業だけにかかってくるわけではない

プライバシー侵害、アルゴリズムによる偏見、環境破壊、ブランドと収益への脅威など、人工知能に関する懸念は数多くあります。 幸いなことに、責任ある AI を開発するための原則について世界的なコンセンサスが形成されつつあります。 これらの原則は企業を保護し、企業が経済的利益を享受できるようにします。

規制当局が最新の技術開発に対応するのに苦労する中、自主規制組織は規制のギャップを埋めるためのますます重要な解決策となる可能性があります。

正当であるかどうか、陰謀論であるかどうかに関係なく、新しいテクノロジーはしばしば新しい脅威をもたらします。 2017年のPwCの調査によると、CEOの77%がAIと自動化によってビジネスを行う際のリスクが増大すると回答しています。政府関係者からも同様の回答を得た。

近い将来、リーダーたちは人工知能に関連した難しい問題に立ち向かわなければならないだろう。コミュニティグループや有権者はアルゴリズムの偏りを懸念するかもしれません。顧客は AI の信頼性を懸念するかもしれません。そして、リスク管理、ROI、ブランディングを懸念する取締役会は難しい問題を提起するかもしれません。

いずれの場合も、利害関係者は、AI がビジネスと社会をより良い方向に導くことができるように、企業が AI を責任を持って使用していることを知りたいと考えています。

これにより、責任ある AI の原則が生まれると私たちは考えています。

世界的な運動が始まった

これを信じているのは私たちだけではありません。世界経済フォーラムの第四次産業革命センター、IEEE、AI Now、AIパートナーシップ、Future of Life、AI for Good、DeepMindなどは、AIが人類にもたらす利益を最大化し、リスクを制限するための一連の原則を発表しています。

私たちが支持する原則の一部は次のとおりです。

• 社会的影響を人工知能設計の重要な基盤として活用する
• AIはリリース前に広範囲なテストが必要
• AIの透明な利用
• 人工知能はリリース後に厳格な監視が必要
• 人材育成と再訓練の促進
• データのプライバシー保護
• データセットの由来、使用、保護に関する標準の設定
• 監査アルゴリズムを確立するためのツールと標準

新しいテクノロジーの場合、私たちが従うべき黄金律は単なる規制要件ではありません。規制当局や法律はイノベーションに遅れをとることが多い。政治家による規制制定に頼るのではなく、積極的かつ責任を持って新しいテクノロジーを活用する企業は、リスクを軽減し、投資収益率を高め、ブランドの評判を高めることができます。

影響

（１）責任あるAIのための新たな企業体制

組織は信頼できる AI システムを設計、構築、展開するというプレッシャーに直面しており、多くの組織がデータとモデルの偏りを探し、悪意のある行為者がアルゴリズムを「騙す」方法を綿密に監視するためのチームとプロセスを確立するでしょう。 AI ガバナンス ボードも多くの企業に適している可能性があります。

（２）官民連携と国民同士の協力

AI を責任を持って使用する最良の方法の 1 つは、特に AI が社会に与える影響について、公共部門と民間部門の機関が協力することです。 同様に、より多くの政府が AI を活用してサービスを効率的に配分することを検討しており、そのプロセスに国民を関与させています。

（３）自主規制組織が責任あるAIイノベーションを推進する

規制当局が最新の技術開発に対応するのに苦労する中、自主規制組織は規制のギャップを埋めるためのますます重要な解決策となる可能性があります。この制度は、特定の原則に基づいて AI のユーザーを集め、その使用を監視および基準を設定し、必要に応じて罰金を課し、違反を規制当局に報告するものです。これは他の業界でも機能しているモデルです。 AIやその他のテクノロジーについても同様であると考えられます。