5G時代には人工知能が人を殺し始めるのでしょうか？

映画やテレビ作品では、人工知能による殺人はごく普通のことのように思えますが、結局のところ、それは人間の想像力です。想像力は人間の生命や安全に具体的に影響を与えるものではありませんが、想像が現実になると、何とも言えません。

[[260390]]

人工知能が人を殺すことと、人工知能が人を傷つけることは同じ概念ではありません。人工知能が自身の能力によってタスクを完了する過程で人間に危害を加える場合、これは本質的には一種の「偶発的な傷害」です。しかし、人工知能が人を傷つける「積極的な」意図を持っている場合、状況はまったく異なります。エジプト航空のボーイング737max8の最近の墜落は、人工知能が積極的に人を傷つけたことが原因でした。関係する調査官は、今回の人工知能の行動は「無意識」の状態で生じたと考えられると述べていますが、外部の世界では一般的に、これは人工知能が人を殺しているという危険な兆候であると考えています。

エジプト航空事故機のブラックボックスが発見されたばかりのため、現時点では墜落原因を正確に特定することはできないが、この事故は2018年10月28日にインドネシアの首都ジャカルタで起きたボーイング737MAX8の墜落と「非常に似ている」というのが一般的な見方だ。外部のアナリストらは、ジャカルタでの最初の飛行機墜落事故の11分間の通話録音から、いわゆる「人工知能による殺害」の関連詳細を分析した。

ジャカルタの墜落事故は2018年10月28日に発生した。便名は「JT611」。機密解除されたブラックボックスには、離陸から13分後に飛行機が墜落するまで、人間のパイロットが人工知能と11分間「格闘」していたことが記録されていた。

航空機の自動操縦装置が人間の操縦士の操縦に取って代わり、本来はより高く飛ぶはずの飛行機を低高度で飛行させ続けた。人間のパイロットは長年の飛行経験を頼りに、異常があると判断し、手動介入によって飛行機を引き上げようとしました。そのため、必死にジョイスティックを引いて、飛行機を急降下状態から高度状態に変えようとしました。パイロットは11分間試みましたが、結局無駄でした。人工知能運転システムは、常に飛行機の制御をしっかりと把握していました。最終的に、人工知能運転システムと飛行機に乗っていたすべての人間は地面に落ちました。関係する技術者たちは、少なくとも事件自体の観点からは、人工知能のこの行動について合理的な説明を見つけようとしたが、人工知能は飛行機に乗っていたすべての人間を容赦なく殺害した。

さらに心配なのは、人類が5G時代に突入したという見方だ。5G技術が成熟するにつれ、人工知能による殺人はますます「巧妙」になり、頻繁に行われるようになるだろう。

この見解では、AI による殺害はおそらく 3 つの段階に分けられると考えられます。

1. 過失致死;
2. ぼやけた殺人事件
3. 故意の殺人。

5G技術開発の初期段階では、人工知能は思考力と計算能力が比較的完成しているものの、創造力には欠けている。

現段階では、人工知能が人間に与える危害は主に自動運転の分野から来るだろう。以前、中国優良ニュースネットワークのインテリジェントチャンネルは、2018年3月22日に起きた事故についての記事を掲載した。当時、試験中の無人運転車が時速60キロで交通規則に違反して道路を横断していた歩行者に衝突した。無人運転車は当時減速せず、歩行者は重傷を負い、最終的には死亡した。

当該事件の判決は衝撃的なものであり、当該テクノロジー企業は無罪とされた。

また、現段階の人工知能を外科手術の分野に適用した場合、傷害が発生することは避けられません。現段階では、人工知能が人間に与える危害は主に設計上の問題によるもので、その問題により人工知能は適切な判断を下したり特殊な状況に対処したりすることができません。結局のところ、プログラムコードは人間が書いたものであり、多くのプログラムにはある程度の欠陥があります。プログラムが複雑になればなるほど、抜け穴や欠陥の可能性が高くなります。プログラムは複数のテストを通じて抜け穴を発見し、修正することができますが、完全に問題がないものは存在せず、特に人工知能の運転や人工知能の手術は信頼性が低いようです。

関連技術の発展に伴い、人工知能の「殺し」は曖昧になります。人工知能の知識蓄積能力は人間の100万倍以上です。人間の囲碁名人を席巻した「AlphaGo」は、このことの最良の証拠です。何百万回ものリプレイを通じて、その強力な学習能力は人間の能力を完全に上回ります。

自動運転車は依然として人工知能技術の発展の最前線にありますが、単一の道に限定されるわけではありません。AlphaGoに似ています。原理は、コンピューターの強力な計算能力を使用して、起こり得るすべてのイベントを事前に計算し、自動運転車、さらにはすべての人工知能がさまざまな状況に遭遇したときに何をすべきかを知ることです。昨年3月22日に発生した自動車事故は、歩行者が交通規則に違反したときに車両がどう対処すべきかを正確に判断できなかったため、この開発経路の限界を如実に示しました。これが、無人運転車両が最終的に歩行者に衝突し、歩行者が重傷を負い死亡する原因となりました。

もう一つは、いわゆる「自律学習」です。データが一定レベルまで蓄積されると、人工知能はそれをもとに自律的に設定や思考ができるようになります。たとえば、蓄積されたデータのほとんどは、車が比較的速い速度で走行し、前の車を追い越すことを好むことを示しています。歩行者や障害物が見えると、遠くから減速し始めます。このとき、人工知能運転システムは自身のデータを変更し、その準運転原理をこれらのデータに合わせて調整し、より快適な運転体験を実現します。

自己学習型人工知能では、「曖昧な殺害」が発生する可能性が非常に高い。例えば、車両が蓄積したデータでは、赤信号を無視する歩行者に遭遇した場合、車両は当然道を譲らず、歩行者の前で青信号に突進することになります。人工知能がこのような状況を「自律的に学習」した後は、歩行者に遭遇すると加速して歩行者の前に突進します。この歩行者も頑固な人であれば、問題は非常に深刻になる可能性があります。人工知能によって制御される車両は減速せず、歩行者は道を譲らず、悲劇は避けられません。

これは極端な状況ではあるが、あり得ることだ。死傷者が出れば、人工知能の責任かどうかの判断は難しくなるだろう。

「曖昧な殺人」が法的責任の定義が難しいだけなら、人工知能による「意図的な殺人」の問題はさらに深刻になる。このようなシナリオはSF映画によく登場しますが、ほとんどの人はこれが現実に起こるとは信じようとしません。

有名な「ロボット三原則」では、ロボットの行動規範を次のように規定しています。

1. ロボットは人間を傷つけたり、不作為により人間が危害を受けることを許したりしてはならない。
2. ロボットは人間から与えられたすべての命令に従わなければなりませんが、自然の法則に違反してはいけません。
3. ロボットは自身の安全を守らなければなりませんが、これは第一法則と第二法則に違反してはなりません。

今も昔も、私たちはこの 3 つの規則を当然のこととして受け止めているかもしれませんが、ロボットが感情を持ち、感情によって制御されるとしたら、ロボットは完全な意味で「機械」なのでしょうか。そうでない場合、人間が設定したルールをロボットが完全に機械的に実行できるのでしょうか。

2018年、日本の研究チームは「ユーザーの感情に反応し、ユーザーを幸せにし、元気づけるために全力を尽くす」ロボットの開発と量産に成功したと発表した。中国もこの研究分野で一定の進歩を遂げており、「視聴者の感情をよりよく把握する」ために一部のソーシャルネットワークに「感情コンピューティング」機能が導入されている。

機械には計算能力しかなく、人間の感情を理解することはできないと多くの人がまだ考えていますが、生物学的または生理学的な観点から見ると、「感情」は実際には複雑なアルゴリズムです。感情アルゴリズムが現実のものとなった5G時代、ロボットが最も基本的な感情を持っていたとしても、人間がロボットを傷つけた場合、ロボットは本当に「ロボット工学三原則」を守り、人間を傷つけずにいられるのでしょうか？

この質問の答えには複雑な感情は必要ありませんが、人間を警戒させるには十分です。