人工知能の終焉は人工性か？

先月外出した時、交差点の交通警察や補助警察の数が大幅に増えていることに気づきました。疑問に思わずにはいられません。過去 10 年間で、人工知能が最も成功し、効果的に応用されたのは、セキュリティと交通関連のアプリケーションではないでしょうか。また、交差点は最も監視が集中する場所であることが多いのではないでしょうか。もしそうなら、なぜこれほど多くの警察官が必要なのでしょうか。

[[340069]]

定期的に街を巡回する必要があることに加え、より深い理由は、人工知能がすべてを 100% 処理することはできないということだ。もっと極端な場合、人工知能の終焉は人工性になるかもしれない。

なぜそう言うのか? 理由の 1 つは、人工知能アルゴリズムの評価基準です。ここで説明する指標は、見逃し検出率と誤報率の 2 つです。最初の指標である検出漏れ率は、検出されるはずであったがアルゴリズムによって検出されなかった問題、一般に偽陰性と呼ばれる問題を指します。

交通違反を例にとると、誤検出率または見逃し率は、すべての違反を効果的に検出できるわけではないことを意味します。監視カメラの普及に伴い、ほとんどの違反行為はすでに人工知能アルゴリズムによって検出可能になっています。例えば、信号無視、高速道路でのスピード違反、高速道路の緊急車線占拠などの早期の展開、パンチルト監視カメラによる路側帯での3分間違法駐車やナンバープレート妨害の中期的展開、近年では市内の実線での車線変更やクラクション禁止区域でのクラクションなどである。しかし、ドライバーの交通安全意識が高まるにつれて、簡単に監視できるこれらの違反はますます少なくなっています。将来的には、このような違反の監視を開始することが困難になるか、あるいは効果がなくなる可能性もあると推測されます。そのため、交通管理部門や関連する研究開発企業は、監視システムの研究を深め、より複雑な交通違反の特定に重点を置く必要があります。たとえば、悪天候や暗い場所での低解像度のナンバープレート認識や、非モーター車両の違反などです。しかし、これらの複雑な交通違反は、人工知能アルゴリズムによって必ずしも非常に低い検出率を達成できるとは限らず、実際のアプリケーションレベルの監視システムを形成できない可能性もあります。非モーター車両が赤信号を無視したり、禁止区域を走行したりすることなど。この分野でのスマートモニタリングはすでに試験的に開始されているが、車両にナンバープレートがなく、運転手がマスクを着用している場合、アルゴリズムが自動的に明確な結論を導き出すことは難しい。現時点では、現場での手動による阻止と処罰に頼るしかありません。

2 番目の指標である誤報率は、検出されるべきではないが誤って真実であると識別される「誤った問題」、一般に誤検知と呼ばれます。

交通違反を例にとると、誤検出率が高いということは、誤った違反が多数報告されることを意味します。たとえば、高速道路で車がスピード違反をしていることが検知されたが、実際にはその車は道路区間に現れておらず、その結果、車の所有者は自分に属さない違反切符を受け取ったというケースです。もうひとつの例としては、バスの広告に出てくる人物が、交通ルールに違反している歩行者と誤って認識されることがあります。これらはすべて誤検知です。誤報率や偽陽性率が高いと、後段での手動介入の作業負荷が増加することがよくあります。

交通違反以外にも、見逃し率や誤報率による問題は多くの分野での応用で見られます。例えば、医療分野では、COVID-19患者の検出漏れがウイルスの不必要な拡散につながる可能性がある一方、がんを患っている健康な人の誤検出が精神的苦痛を引き起こす可能性があります。例えば、ショート動画の検査では、見逃された違法の疑いのあるショート動画を手動で確認し、その拡散による被害を防ぐ必要があります。誤報の場合も、それを解除するかどうかを手動で決定する必要があります。

近年、多数の人工知能技術の実装により、関連アプリケーションの誤報率と検出見逃し率の問題が大幅に改善されたことが示されています。ただし、実装しやすいアプリケーションが実装または製品化されると、残りのアプリケーションは解決が困難になる可能性があることを指摘しておく必要があります。これらの解決が難しい潜在的なアプリケーションの中で、既存の人工知能技術に頼っていては、2つの指標を大幅に改善することは難しいかもしれません。つまり、これらのアプリケーションが依存する必要がある主な手段は依然として手動処理になります。

実際、見逃し率と誤報率という 2 つの単純な指標は、人工知能が手作業を完全に置き換えることができるかどうか、そして人工知能が最終的に手作業に頼る必要があるか、あるいは手作業に取って代わられるかどうかに影響を与える小さな要因にすぎません。

その理由は、これら 2 つのメトリックは主に予測タスクのパフォーマンスに関連しているからです。人間の知能には、予測に加えて、説明可能性や、予測とはあまり関係のないその他の知的な活動も含まれます。たとえば、生徒が新しい質問を練習した後にその質問について素早く判断を下すことは、従来の問題解決の考え方を経ることなく、直接答えを見つける素早い方法です。ある意味、これは元の学習モデルから脱却した後に形成された「ジャンプ」接続または直感です。この直感は現時点では数学的モデリングでは表現できず、自分自身での継続的な学習を通じて獲得する必要があります。感情についても同じことが言えます。人工知能アルゴリズムを構築する際には感情を機械的に分類し予測することができますが、このようにして得られた感情はロボットをより機械化することしかできず、共感に向けて質的な一歩を踏み出すことはできません。

予測を行う場合であっても、自然に対する理解には限界があり、人工知能技術に対して過大な期待を抱くことはできません。例えば、大規模な台風に関するデータ収集が不完全なため、天気予報における地域ごとの降雨量予測が不正確になる可能性があります。空間スケールだけでなく、時間スケールにも制限があります。気候変動が数十年の周期を持つ可能性がある場合、わずか 10 年間のデータに基づいて気候分析を行うのは明らかに不正確です。実際、一部のアプリケーションでは依然としてデータ不足の問題に直面しています。たとえば、データが極めて少なく、レーダーエコーで激しい雨雲と区別できないために、局地的な雹の予測が失敗する可能性があります。

また、機械の予測能力を過度に信頼することもできません。例えば、自動制御においては、機械の判断に過度に依存すると、極めて危険な結果を招く可能性があります。例えば、2019年3月に発生したエチオピア航空737 MAX8の墜落事故は、機械の自動運転に過度に依存したためにパイロットが操縦を引き継ぐことができなかったために起きた悲劇でした。

人工知能の欠点は他にもたくさん挙げられるので、一つ一つ列挙することはしません。ここで私が言いたいのは、現在の人工知能技術の実装は、予測能力がアプリケーションレベルに到達できるアプリケーションが中心であり、これらのアプリケーションがもたらす利益を享受していると言えるということです。アプリケーション層での人工知能のメリットがなくなると、残りは人力に頼らざるを得なくなるかもしれません。当然の疑問は、AI のメリットがさまざまな関連アプリケーションでどれくらい持続するのかということです。AI の終焉は人工知能になるのでしょうか。それとも、必然的に人間と機械のハイブリッドへと向かうのでしょうか。