AIとMLに対する5つの潜在的な致命的な脅威とその解決方法

[[267669]]

[51CTO.com 速訳] 人工知能（AI）と機械学習（ML）は、この時代の最もホットな話題であり、科学者の間でも大きな論争があります。それらがもたらすメリットはいくら強調してもし過ぎることはないかもしれませんが、AIとMLの潜在的な致命的な脅威にも注意を払い、理解する必要があります。

いつか機械が人間よりも賢くなると想像できる人がいるでしょうか? - 未来学者はこれをシンギュラリティと呼んでいます。有名な科学者であり人工知能の先駆者であるアラン・チューリングは、1950 年に機械は子供のように訓練できると提唱しました。

チューリングは「機械は考えることができるか？」と問いました。彼はこの疑問と関連する疑問に対する答えを、有名な論文「計算機械と知能」の中で探求しました。

1955 年、ジョン・マッカーシーは「人工知能」のための LISP と呼ばれるプログラミング言語を発明しました。数年後、研究者や科学者はコンピューターを使ってコーディング、画像の認識、言語の翻訳などを行うようになりました。 1955 年の初めから、人々はコンピューターが話したり考えたりできるようになる日が来ることを期待していました。

ロボット工学者のハンス・モラベックやSF作家のヴァーナー・ヴィンジ、レイ・カーツワイルなどの偉大な研究者は、より広い意味でこの問いについて考えています。機械が目標を達成するための手段を自ら考案できるようになるのはいつでしょうか？

スティーブン・ホーキングのような偉大な思想家は、人間が高度な人工知能に対抗できなくなったら、それは人類の終焉を意味するかもしれないと警告している。 「潜在的なリスクを考えずに超知能の構築に全力を注ぐのはやるべきではない」とカリフォルニア大学バークレー校のコンピューターサイエンス教授、スチュアート・J・ラッセル氏は言う。

ここでは、ML と AI の 5 つの潜在的な危険性とその対処方法を示します。

1. 機械学習 (ML) モデルは偏りが生じる可能性があり、本質的に人間の影響を受けます。

機械学習と人工知能には大きな期待が寄せられているものの、そのモデルは意図しない偏りの影響を受けやすいという問題もあります。 ML モデルの決定は公平であると信じている人もいますが、これらのマシンをトレーニングするのは人間であり、本来、人間はそうではないことを忘れています。

さらに、ML モデルは意思決定中にデータを処理する方法に偏りが生じる可能性もあります。不完全なデータ（片側データ）を提供した場合でも、機械は正しい結果を返しますか?

たとえば、卸売店を経営していて、顧客を理解するためのモデルを構築したいとします。そこで、モデルを構築し、商品に対する顧客の購買力を評価したいと考えています。また、モデルの結果を使用して、年末に顧客に報酬を与えたいと考えています。

そこで、長期にわたる良好な信用履歴を持つ顧客の購入記録を収集します。

最も信頼している購入者グループが銀行に借金を抱えており、時間内に立ち直ることができない場合、彼らの購買力は大幅に低下します。しかし、このモデルでは顧客の予測不可能性の程度を予測することはできません。技術的には、年末に結果を出力すると、偏ったデータが得られます。

注: 機械学習に関しては、データは影響を受けやすい要素です。データの偏りを克服するには、データを処理する専門家を雇ってください。

また、顧客に関するこのデータはあなた以外には誰も記録していないことにも注意してください。つまり、あなたには発言権があるのです。

データ サイエンティストは、データ蓄積プロセスに関するあらゆる問題を疑問視する必要があり、また、これらのバイアスがデータに現れる可能性のある方法を積極的に探す必要があります。これは、作成するデータやレコードの種類にも関係します。

2.固定モード。

認知技術において、これはモデルを開発する際に無視できないリスクの 1 つです。残念ながら、開発されたモデルのほとんど、特に投資戦略用に設計されたモデルは、このリスクにさらされています。

投資モデルの開発に何ヶ月も費やしていると想像してください。何度も試行した後も、「正確な出力」が得られました。しかし、「現実世界の入力」でモデルを試すと、おそらく価値のない結果が得られるでしょう。

なぜこのようなことが起こるのでしょうか? それは、モデルに変動性が欠けているからです。このモデルは特定のデータセットを使用して構築されます。これは設計時に使用されるデータに対してのみ有効です。

したがって、セキュリティを重視する AI および ML 開発者は、将来アルゴリズム モデルを開発する際に、このリスクを管理する方法を学ぶ必要があります。あらゆる形式のデータ変動を入力することで、たとえばデモ データセット (もちろんすべてのデータではありません) を見つけることができます。

3. 出力エラーデータの解釈が困難な場合があります。

誤ったデータ出力の解釈は、機械学習が将来直面する可能性があるもう 1 つのリスクです。良いデータを得るために一生懸命努力した後、その結果を他の人、おそらく上司と共有することにしたと想像してください。

同じデータ結果であっても、上司の解釈があなた自身の視点と一致しない場合があります。結局のところ、彼の思考プロセスはあなたのものとは異なり、したがって彼の洞察力もあなたのものとは異なります。

これはよく起こります。そのため、データ サイエンティストはモデルの構築だけでなく、設計されたモデルから得られる出力結果の「あらゆる部分」を理解し、適切に解釈することにも注意を払う必要があります。

機械学習では、間違いや仮定が入る余地はなく、可能な限り正確でなければなりません。あらゆる角度と可能性を考慮しなければ、このテクノロジーが人類に危害を加える危険性があります。

注意: 機械によって公開された情報を誤って解釈すると、会社に破滅をもたらす可能性があります。したがって、データ サイエンティスト、研究者、および関係者は、この側面を無視してはなりません。機械学習モデルを開発する際の意図は、肯定的なものであり、その逆であってはなりません。

4. AI と ML はまだ科学的に説明されていません。

実際のところ、多くの科学者は、AI と ML が何であるかを完全に理解するのにまだ苦労しています。新興市場ではまだ足場を築いていないものの、多くの研究者やデータ サイエンティストがさらに学ぶために取り組んでいます。

多くの人々は、まだ理解されていない未知のリスクが存在すると信じているため、依然として恐怖を感じています。

GoogleやMicrosoftのような大手テクノロジー企業でさえ、まだ安全ではありません。

人工知能チャットボットTay Aiは、2016年3月23日にマイクロソフトによってリリースされました。これはTwitterユーザーと交流する目的でTwitterに投稿されたものだが、残念ながら人種差別的とみなされてしまった。 24時間以内に閉鎖されました。

Facebook はまた、チャットボットが元のスクリプトから逸脱し、独自に作成した新しい言語でコミュニケーションを開始したことも発見しました。興味深いことに、人間はこの新しく作られた言語を理解することができませんでした。変ですよね？

注: 「存在の脅威」に対処するには、科学者や研究者が AI と ML が何であるかを理解する必要があります。さらに、マシンを正式に一般にリリースする前に、マシンの動作モードの有効性を何度もテストする必要があります。

5. 強い支配欲を持つ不滅の独裁者のようなものです。

機械は常に稼働しており、これも無視できない潜在的な危険です。 AI ロボットや ML ロボットは人間のように死ぬことはなく、不滅です。一度何らかの作業を行うよう訓練されると、彼らは昼夜を問わず、多くの場合監督なしで作業を行います。

AI と機械学習の機能が適切に管理または監視されない場合、それらはスタンドアロンのキラーマシンに発展する可能性があります。確かに、この技術は軍隊にとって有益かもしれないが、ロボットが敵と無実の市民を区別できなければ、無実の市民はどうなるのだろうか？

この機械モデルは操作が非常に簡単です。彼らは私たちの恐れ、嫌いなもの、好きなものを知っており、そのデータを私たちに不利に利用することができます。注意: AI 作成者は、アルゴリズム モデルを設計する際にこのリスクが考慮されるように全責任を負う覚悟が必要です。

結論は

機械学習は、特にビッグデータ技術と組み合わせると、現実世界のビジネス価値を持つ、間違いなく世界で最も価値のある技術力の 1 つです。

このため、データの偏り、固定モデル、誤った出力の解釈、不確実性、制御に対する強い欲求など、上記で述べた潜在的な脅威を適切に回避するには、慎重な計画が必要であるという事実を無視してはなりません。

原題: AI と ML を取り巻く潜在的な「とんでもない」脅威、著者: エジョフォー・フランシス

[51CTOによる翻訳。パートナーサイトに転載する場合は、元の翻訳者と出典を51CTO.comとして明記してください]