「AI」の限界：人工知能は未来を変えるが、まだ解決されていない問題がある

  [[348196]]

画像ソース: unsplash

人工知能はこの時代の合言葉であり、技術専門家、学者、ジャーナリスト、ベンチャーキャピタリストが皆 AI を称賛しています。しかし、専門的な学術分野から日常生活にまで広がるいくつかのフレーズと同様に、「人工知能」という用語の使用もまた大きな論争を引き起こしてきました。

しかし、これは「一般の人々は科学者を理解できない」ことによって引き起こされる通常の論争ではありません。実際、科学者も一般の人々と同様に混乱しています。この時代に人間に匹敵するデジタル知能が出現するという考えは、誰にとっても刺激的であると同時に、恐ろしく、気が散るものでもあります。

これは、シリコンベースの知能に対する人々の幻想ではなく、人間、コンピューター、データ、そして生死に関わる決定を扱った、今日の文脈で設定されたユニークな物語です。

14年前、私の親戚は妊娠した後、超音波検査を受けていました。部屋にいた遺伝学者は胎児の心臓の周りの白い斑点を指差して「これはダウン症候群の兆候で、胎児がこの病気になるリスクは20人に1人です」と言った。そして彼女は、羊水穿刺によって胎児が本当にダウン症候群、つまり先天性の遺伝子変異を持っているかどうかを調べることができるかもしれないと語った。しかし、羊水穿刺は危険を伴い、その処置中の胎児死亡率は約300人に1人である。

統計学者として、私はこれらの数字の根拠と出典を理解したいと思います。 10年前、英国で統計調査が行われ、カルシウムの蓄積を示すこれらの白い斑点がダウン症候群の予測因子として実際に特定されました。しかし、私たちがテストした画像システムは、英国の分析で使用されたシステムよりも 1 平方インチあたり数百ピクセル多いこともわかりました。

私は遺伝学者に、白い斑点はおそらく偽陽性で、単なる「ホワイトノイズ」だと思うと伝えました。 「数年前、ちょうど新しいコンピューターが登場した頃に、ダウン症の診断が急増したのはそのためです」と彼女は語った。

結局、羊水検査は行われず、数か月後に健康な女の子が生まれました。しかし、私はそれが恐ろしいと思っています。おおよその推定では、世界中で数千人が同じ日にこの診断を受け、その多くが羊水穿刺を選択し、多くの赤ちゃんが不必要に亡くなったのです。ある日バグが修正されるまで、これは毎日起こります。

この物語が明らかにした問題は、私の個人的な健康管理とはまったく関係がありません。これは、さまざまな場所や時間における変数と結果を評価し、統計分析を実行し、他の場所や時間の研究結果を使用する医療システムに関するものです。

こうした疑問は、データ自体の分析だけでなく、データベースを研究する研究者が関心を持つ「出所」にも関係します。一般的に、データ サイエンティストは、データがどこから来たのか、どのように導き出されたのか、そして、これらの推論が現状にとってどのような重要性を持つのかを明らかにする必要があります。熟練したデータ サイエンティストはケース スタディを 1 つずつ作成できますが、今日の課題は、地球規模の医療システムには広範囲にわたる人間による監視が必要ないということです。

私もコンピューター科学者ですが、コンピューターサイエンスと統計を組み合わせ、人間の有用性を考慮した世界規模の推論および意思決定システムを構築するという概念を学校で見つけることはできませんでした。私の意見では、開発は医療分野に限定されるべきではなく、貿易、輸送、教育などの分野も含めるべきであり、これらは少なくとも人工知能システムの構築と同じくらい重要です。

「知能」をすぐに理解するかどうかに関わらず、私たちは機械と人間をどのように組み合わせて人間の生活を向上させるかという大きな課題に直面しています。このタスクは「人工知能」の開発に従属すると考える人もいますが、エンジニアリングの新しい分野として見ることもできます。数十年前の土木工学や化学工学と同様に、この新しい分野は、いくつかの重要な概念の力を結集して、人々に安全かつ確実に作業を行うための新しいツールとスキルを提供することを目指しています。

土木工学や化学工学は主に物理学と化学に重点を置いていましたが、この新しい工学分野は「知識」「アルゴリズム」「データ」「不確実性」「計算」「推論」「最適化」など、前世紀のアイデアを基盤としています。さらに、この新しい分野の焦点の多くは人間から得たデータと人間についてのデータに置かれ、全体的な研究の方向性もこれに重点が置かれることになります。

構成要素は現れていますが、これらのブロックをどのように組み合わせるかを導く原則はまだ発展していないため、ブロックはアドホックな方法で組み合わされています。つまり、構造工学の出現以前に建物や橋が設計されていたのと同じように、人間はコンピューター、人間、環境が関与する社会規模、推論、意思決定の構造を構築しているのです。

[[348197]]

画像ソース: unsplash

初期の建物や橋が予期せぬ形で崩壊し、壊滅的な結果を招いたのと同様に、初期の社会的推論や意思決定のプロセスの多くは、深刻な概念上の欠陥に悩まされていました。残念ながら、私たちは次の致命的なエラーを予測するのがあまり得意ではなく、実際に失ってしまったのはエンジニアリングの分野とその理論と設計概念です。

多くの場合、公共の場での議論では、人工知能 (AI) が分析上のワイルドカードとして使用され、新興技術の性質や影響について考えることが難しくなっています。以下では、「AIの過去と現在」について詳しく見ていきます。

今日「人工知能」と呼ばれているものは、何十年もの間「機械学習」と呼ばれていました。機械学習はアルゴリズムの分野に属し、統計、コンピューターサイエンス、その他多くの分野のアイデアを取り入れて、データの処理、予測、意思決定のサポートのためのアルゴリズムを開発します。

機械学習は長い間世界に影響を与えてきました。 1990 年代初頭までに、機械学習が産業上非常に重要な製品に発展したことはすでに明らかでした。世紀の変わり目には、先進的な企業によって機械学習が活用され始めました。

Amazon などの企業では、不正検出やサプライ チェーン予測などのミッション クリティカルなバックエンドの問題を解決したり、推奨システムなどの画期的な消費者向けサービスを開発したりするために、すでに機械学習が適用されています。今後 20 年間でデータ セットとコンピューティング リソースが急速に増加するにつれ、Amazon だけでなく、意思決定が大規模な情報に結び付けられるほぼすべての組織が機械学習によって制御されることがすぐに明らかになるでしょう。

科学者たちは、新しいビジネスモデルが今後も発展し続けると予測しています。 「データ サイエンス」という用語は、この現象を指すために使われるようになりました。これは、機械学習アルゴリズムの専門家が、データベースや分散システムの専門家と協力して、生成されたシステムのより広範な社会的および環境的影響を表現できる、スケーラブルで安定した機械学習システムを作成する必要があることを示しています。

歴史を振り返ると、「人工知能」という用語は、ソフトウェアとハ​​ードウェアで人間レベルの知能を備えたオブジェクトを実現するという強いビジョンを指すために 1950 年代後半に造られました。動作分析、統計、パターン認識、情報理論、制御理論など、人間の知能に影響を受けることが多い関連する学問分野がありますが、人工知能は実際には学術的な事業です。

これらの分野は、例えばリスが生息する森の三次元構造を認識し、枝の間を飛び越える能力からインスピレーションを得ています。 「人工知能」は、人間の高度な「推論」や「思考」、あるいは「認知」能力に焦点を当てることを目的としています。

しかし、60年経った今でも、より高度な推論や思考は解明されていない。現在、工学分野で「人工知能」として知られているものは、低レベルのパターン認識と調整、および統計に重点を置いており、データと傾向を徹底的に特定した上で、知識に基づいた予測、仮説のテスト、意思決定を行っています。

実際、1980 年代初頭に David Rumelhart によって再発見され、現在ではいわゆる「AI 革命」の基礎と考えられている人気の「バックプロパゲーション」アルゴリズムは、1950 年代から 1960 年代にかけて制御理論の分野で初めて登場しました。初期の用途の 1 つは、月へ向かうアポロ宇宙船の推力を向上させることでした。

1960 年代以降、人類の技術は大きく進歩しましたが、人工知能の発展はピークに達していません。むしろ、アポロ宇宙船と同様に、研究者が直面する特有の技術的問題に関連するこれらの概念は、背景に隠されたままになっています。

明示的に公開されてはいませんが、研究により、ドキュメント検索、テキスト処理、スパム検出、推奨システム、カスタム検索、ソーシャル ネットワーク分析、準備、診断、A/B テストの分野で大きな成果が得られました。これらのイノベーションは、Google、Netflix、Facebook、Amazon などの企業の成長も促進しました。

これらを総称してAIと呼んでいますが、最適化や統計の研究者が一夜にして「AI研究者」と呼ばれるようになったのは驚きでした。しかし、より深刻な問題は、この曖昧な特殊な略語の使用により、関連する知識やビジネス上の問題を人々がより明確に理解できなくなることです。

過去 20 年間にわたり、人間のような人工知能 (「情報拡張」とも呼ばれる) に向けた産業界と研究において大きな進歩がありました。ここでは、コンピューティングとデータを使用して、人間の知性と創造性を構築および強化します。検索エンジンは、IA（人間の記憶と事実の感覚を拡張する）と自然言語翻訳（人間のコミュニケーションを拡張する）の例として見ることができ、計算に基づく音と画像の生成は、アーティストの創造性のパレットであり、強化装置です。

これらのサービスには高度なロジックと分析が必要な場合がありますが、現時点ではそれらはありません。これらのサービスは、さまざまな種類の文字列の一致と数値の操作を実行して、人間が使用できるパターンを識別するだけです。

読者の皆さんが、この最後の頭字語を「AI」の代わりとして受け入れ、人間の環境をより親しみやすく、興味深く、安全にすることができるコンピューティング、データ、および物理的エンティティのネットワークが存在する「インテリジェント インフラストラクチャ」(II) の分野を思い描いてくれることを願っています。この種のインフラは、交通、医療、貿易、金融などの分野で出現し始めており、個人やコミュニティに大きな影響を与えています。

こうした議論はしばしば「モノのインターネット」と呼ばれますが、これは通常、インターネット上の問題のみを指し、データ ストリームを操作して関連するコンテキスト情報を検出し、その情報を伝達できる、より抽象度の高いレベルの問題は指しません。

私の考えでは、読者は「社会規模の医療システム」の中で生活している自分を想像できると思います。このシステムは、医師と人体の中や周囲に設置されたデバイスの間でデータの流れとデータ分析を作成し、人工知能が診断を行い、治療を行うことを可能にします。

この枠組みは、ヒト細胞、DNA、血液サンプル、気候、集団遺伝学、膨大な科学文献から得られた薬物や治療法に関する知識を統合するものである。現在の医学研究が人間（または動物）の対照群でテストされるのと同じように、個々の患者と医師だけでなく、すべての人間同士の関係に焦点を当てます。既存の銀行システムが金融や支払いの問題に対処するのと同じ方法で、重要性、出所、継続性の概念が保持されます。プライバシー、責任、保護の問題など、システム内でいくつかの問題が発生することが予想されるものの、これらの問題は一時的な障害にすぎません。

今取り組む必要がある重要な質問は、古典的な人工シミュレーション AI を研究することが、より大きな課題に取り組むための最善または唯一の方法であるかどうかです。実際、機械学習における最近の成功事例には、コンピュータービジョン、音声認識、ゲームプレイ、ロボット工学など、人間を模倣する人工知能の分野が含まれています。したがって、いくつかの分野ではさらなる発展を待つべきなのかもしれません。

この記事では2つの点を指摘します。まず、人間による AI の模倣の進歩には限界があり、人間による AI の模倣に対する期待を達成するにはまだまだ遠いことは明らかです。しかし現実には、人間を模倣した AI がわずかに進歩したことに対する喜び (と恐怖) が、他のエンジニアリング分野では見られなかったような過度な期待とメディア報道を煽っています。

第二に、これらの分野における進歩は、重要な IA および II の問題に対処するには十分でも必要でもありません。たとえば、自動運転車の開発には、人間の能力とはまったく関係のないさまざまな工学上の問題を解決する必要があります。全体的な輸送構造 (タイプ A) は、現在の緩く、前向きで、注意力のない人間のパイロットのグループよりも、現在の航空管制システムに似たものになるでしょう。

特に、きめ細かな意思決定に役立つビッグデータと適応型統計モデリングを活用する点で、現在の航空管制システムよりも高度なものになります。これらの問題は極めて重要であり、人間を模倣する AI に重点を置くと、注意が散漫になる危険性があります。

必要性に関しては、人間を模倣した AI システムは、従来の AI の問題 (チューリング テストなど) を解決できるだけでなく、AI と II の両方を解決するための最良の選択肢でもあるため、人間を模倣した AI は IA と II の両方の願望を包含すると一般に考えられています。

しかし、この主張には歴史的根拠がありません。土木工学は人工の大工やレンガ職人を作ろうとして開発されたのでしょうか？化学工学は人工の化学者を作るために設計されるべきなのでしょうか？さらに議論の余地があるのは、私たちの目標が化学工場を建設することである場合、まず人工の化学者を作り、次にその化学者が化学工場を開発するためにどう考えるかを観察できるのでしょうか？

同様に、人間の知能は私たちが知っている唯一の知能の形態であり、最初のステップはそれを模倣するよう努めることです。しかし現実には、人間はいかなる種類の推論もあまり得意ではありません。なぜなら、人間は間違いや偏見、弱点に陥りやすいからです。さらに、人間は、現代の II システムが直面しなければならないような大規模な意思決定を行えるほど根本的に進化しておらず、また、II 環境で生じる曖昧さに対処できるほど進化していません。

AI システムは人間の知能を模倣するだけでなく、「正しい」ものであり、問​​題を恣意的に増幅するものであると考える人もいるかもしれません。しかし、これはサイエンス フィクションの世界であり、このような憶測はフィクションの文脈では刺激的であるものの、Ia と II の重大な問題に直面して前進するための主要な戦略であってはなりません。 AI のリズムを完全に模倣するのではなく、IA と II の問題を独自に解決する必要があります。

II システムにおける人間をシミュレートする AI 研究の中心的なトピックではないアルゴリズムやテクニックを特定することは難しくありません。 II システムは、急速に進化し、世界的に一貫性のない分散情報ソースを処理できる必要があります。このようなシステムは、タイムリーで分散的な意思決定を行いながらクラウドとエッジのやり取りに対処する必要があり、また、一部のユーザーには大量のデータ負荷があり、他のユーザーにはほとんどデータがないというロングテール現象にも対処する必要があります。組織や競争の境界を越えてデータを共有するという問題を克服する必要があります。

最も重要なのは、II システムは、人々を互いに、そして価値のある商品に結びつける統計および計算インフラストラクチャの領域に、インセンティブや価格設定などの経済的アイデアを組み込む必要があるということです。このような II システムは、単にサービスを提供するだけでなく、製造市場として捉えられる可能性があります。音楽、文学、ジャーナリズムなどの業界では、データ分析によって生産者と消費者を結びつける市場の出現が緊急に必要とされています。これらすべては、文化的、倫理的、法的規範の新たな枠組みの中で達成されなければなりません。

もちろん、人間を模倣する AI という古典的な問題は依然として非常に興味深いものです。しかし、現在では、データ収集、ディープラーニング インフラストラクチャの実装、そして、進化論的説明の概念がほとんどないまま、曖昧に定義された人間のスキルを模倣するシステムの実証を通じて AI 研究を行うことに過度に重点が置かれており、古典的な AI における主要な未解決の問題から注意が逸れがちです。

これらの問題には、自然言語を処理するシステムに意味と推論を組み込むこと、因果関係を推論、反映、説明すること、不確実性の計算的に扱いやすい表現を構築すること、長期目標設定のフレームワークを確立することなどが含まれます。これらは人間のような AI の典型的な目標ですが、忘れられやすく、最近の「AI 革命」に関する議論では取り上げられていません。

人工知能は今後も重要な地位を維持するでしょう。近い将来、現実世界の環境で抽象的に考える能力において、機械は人間に匹敵することはできないでしょう。最も差し迫った問題を解決するには、人間とコンピュータの相互作用に特別な注意を払う必要があります。私たちは、コンピューターが人間の創造性を置き換えるのではなく、活性化してくれることを願っています。

「人工知能」という用語は、ジョン・マッカーシー（当時はダートマス大学の教授で、MITに入学する予定だった）によって造られたもので、どうやら新しい研究の方向性をノーバート・ウィーナー（MITの年長の教授）の方向性と区別するために作られたものと思われる。

ウィーナーは、オペレーションズ・リサーチ、統計、パターン認識、知識理論、制御理論に密接に関連するインテリジェント・システムの概念を指すために「サイバネティクス」という用語を作り出した。一方、マッカーシーはサイバネティクスと合理性の関係を強調した。興味深いことに、ウィーナーの諜報体系は現代においてマッカーシーの用語で支配的になっている。もちろんこれは一時的なもので、AI業界の変化は一般産業よりもはるかに劇的です。

しかし、マッカーシーとワイナーの歴史的視点をさらに発展させる必要がある。注目すべきは、既存の AI に関する公的な対話は産業界と学界のごく一部にのみ焦点を当てており、AI、IA、II を包括的にカバーすることでもたらされる脅威と機会を一般の人々が見逃してしまう可能性があることです。

この焦点は、SFや超人的な機械の空想を実現することではなく、人々の日常生活の中でより一般的かつ強力になるテクノロジーを検討し、開発することにあります。さらに、テクノロジーを理解し形づくるには、テクノロジーコーディネーター間の会話だけでなく、あらゆる分野からのさまざまな声が必要です。人間を模倣する人工知能だけに焦点を当てると、私たちは一つのことに盲目になります。

AI はあらゆる面で進歩を推進し続けますが、学界は引き続き重要な役割を果たします。最も革新的な技術的アイデアを提供するだけでなく、コンピューティングや統計、その他の分野、特に社会科学、人文科学、認知科学の研究者の研究成果や視点を取り入れることも重要です。

一方、人文科学や科学は歴史的進歩の過程において重要であるが、これは非常に大きな規模と範囲を持つ工学プロジェクトであり、社会が新しい種類の物体を創造しようとしていることも認識されなければならない。これらの成果物は規定された方法で設計する必要があります。

私たちは、医療、交通手段、ビジネスチャンスを提供するための無駄なプログラムを作りたくありません。この点では、上で強調したように、データと学習を中心とした分野はまだエンジニアリングの分野になっていません。これらの分野は非常に魅力的ですが、まだ工学の一分野とはみなされません。

さらに、嬉しいことに、私たちは新たな工学分野の出現を目撃しています。一般的に、テクノロジーという言葉は学界でも学界外でも狭い意味で使われており、冷たい機械という印象や、人間が力を失うという否定的な意味合いを人々に与えています。そこで私たちは新しい工学分野を構築したいと考えています。そして今、従来の分野とは異なる新しい分野、つまり人間中心の工学分野を構想する絶好の機会を得ています。

AIという頭字語が将来も使用され続けるなら、人々はその本当の限界を認識する必要があります。