AI はあなたの仕事を奪うだけでなく、もっと恐ろしい脅威をもたらす可能性があります...

AI はあなたの仕事を奪うだけでなく、もっと恐ろしい脅威をもたらす可能性があります...

ビッグデータ時代の到来は、ビッグデータの波だけでなく、人工知能の台頭ももたらします。グーグルの人工知能プログラム「アルファ碁」が中国と韓国のトップチェスプレイヤーを破った後、世界で初めて「市民権」を与えられたロボット「ソフィア」が「人類を滅ぼす」と脅した。その後、バク転ができるロボット「アトラス」や、「首切り」ミッションを実行できる超小型ドローンが登場した。

[[240106]]

ビッグデータと人工知能が急速に発展している今日の時代、人々が言うように、データ時代の人々は常に「裸で走っている」、そして誰もが本に記録されていますが、これはほんの始まりに過ぎません。ビッグデータはデータの収集と分析のみを担当し、実際の武器は人工知能です。

多くの専門家が予測しているように、戦争ロボットは核兵器に続いて人類の頭上にぶら下がるもう一つの「ダモクレスの剣」となるかもしれない。このことは人々に深く考えさせました。人工知能は「飼いならされて」人類の友となるのでしょうか?それとも「反逆」して人類に終わりのない災害をもたらすのでしょうか?

人工知能は、モノのインターネット、ビッグデータ、高度なアルゴリズム、強力なコンピューティングパワーに支えられた「グループテクノロジー」として、「モノ」に人間の知能を与え、人間の知恵をシミュレートして拡張し、さまざまな機能を実現し、認知、分析、意思決定、行動などの活動を実行する際に人間を支援し、場合によっては人間に取って代わります。その主な利点は高度な自律性であり、これにより、人間の介入をほとんどまたはまったく必要とせずに、複雑で困難かつ非常に正確なタスクを完了できます。

人工知能は人類に大きな脅威をもたらす

[[240107]]

高度な自律性を獲得し、「制御を失う」可能性があります。将来、超人工知能は自律的に考える意識を持ち始め、人間のように独立して考え、どのように行動するかを自分で決めることができるようになります。

この高度にインテリジェントなシステムは、学習を通じて機械を再設計することも可能であり、他の新しい人工知能エンティティを迅速に複製または再生成できます。専門家の計算によると、制御を失った自己複製ナノロボットは、わずか3時間半で130回の複製サイクルを完了することができます。ナノロボットの外向きの移動や拡張などの要素を考慮すると、地球上のすべての生物を「破壊」するには、最大で数週間しかかかりません。

不法侵入に遭遇した場合、「ブラック化」される可能性があります。新興技術分野である人工知能がセキュリティ上の脆弱性から完全に解放されることは、一般的には不可能です。誰かがこの脆弱性を悪用してインテリジェント システムやロボットを制御し、破壊的な活動を実行した場合、その結果は極めて恐ろしいものとなるでしょう。

機械戦争の勃発は武力の「乱用」につながる。将来、戦場では大量のインテリジェント無人システムが使用され、「犠牲者」は主に生命を持たず大量複製可能な「インテリジェントマシン」となり、戦争のコストを大幅に削減し、戦闘員の「死傷者ゼロ」を達成することになるだろう。

事前に予防策を講じ、人工知能を「しっかりと監視」するにはどうすればいいのでしょうか?

[[240108]]

技術セキュリティの観点から共通に遵守される開発ガイドラインを確立する

人工知能の予測可能なリスクに基づいて、人工知能の安全で制御可能な開発を確保するために、研究の範囲、内容、目的、使用など、すべての側面を規制するグローバルな人工知能開発ガイドラインが確立されます。

道徳的・倫理的観点から科学的かつ厳密な評価メカニズムを確立する。

人工知能は主にアルゴリズムに基づいていますが、アルゴリズムは本質的に「数学的またはコンピューターコードで表現された意見」です。これらは設計者と開発者の主観的な創造物です。アルゴリズムシステムに独自の偏見や価値観を埋め込み、社会倫理規範に適合しないインテリジェントマシンを作成する可能性があります。これには、安全性を確保するための厳格な評価が必要です。

規範的適用の観点から法的拘束力を持つ普遍的な制度的条約を確立する。

高度なテクノロジーが脅威となるかどうかは、主にその目的とユーザーの使用方法によって決まります。

<<:  人工知能技術がホームセキュリティ市場の急速な発展を促進

>>:  AIは万能か? AI がまだ直面している課題は何ですか?

ブログ    
ブログ    
ブログ    

推薦する

...

ソートアルゴリズムを簡単に学ぶ: よく使われるソートアルゴリズムを視覚的に体験

1. クイックソート導入:クイックソートは、Tony Hall によって開発されたソートアルゴリズム...

組織のサイバーセキュリティ向上における人工知能の役割

サイバーセキュリティは重要な戦略的必須事項となっており、今日の企業は進化し続けるサイバー脅威から I...

...

2022年ワールドカップ、審判の補助に人工知能を導入

2022年FIFAワールドカップは、今年11月21日から2022年12月18日までカタールで開催され...

AIに取り組んでいる学部生がオンラインでクラッシュ:GitHubモデルの実行に3か月かかり、難しすぎる

この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...

日本の量子コンピューティング戦略:2030年までに量子技術ユーザー1000万人を目指す

量子時代が到来し、世界は安全・安心な暮らしとより良い社会の実現への期待が高まっています。 最近、日本...

Versius手術ロボットが英国泌尿器科手術に登場

この記事はLeiphone.comから転載したものです。転載する場合は、Leiphone.com公式...

国境を越えた大企業よ、安易に「自社開発チップ」を主張しないでほしい

この記事はLeiphone.comから転載したものです。転載する場合は、Leiphone.com公式...

MITが組み立てロボットを開発:将来的には宇宙コロニーを建設できる

2 台のプロトタイプ組み立てロボットが稼働しており、ボクセルと呼ばれる一連の小さなユニットを組み立...

人工知能が人事を変える7つの方法

[[357616]] International Journal of Engineering an...

清華大学の孫茂松教授は、新しい微調整フレームワークCPTを提案し、精度を17.3%向上させた。

[[428133]]事前トレーニング済みモデルは、コンピューター ビジョンと言語の両方で顕著な結果...

...

2021年に注目すべき5つのRPAトレンド

RPA ツールの使用はここ数年で急増しています。今年のパンデミックにより、組織は、特に RPA が最...

テストへの道はどこにあるのでしょうか? YOLOv8 の究極ガイド

この記事は、Heart of Autonomous Driving の公開アカウントから許可を得て転...