人工知能について知っておくべき12の秘密

人類は、自分たちの仕事を担ってくれる全知全能のエルフを持つことを常に夢見てきました。現在、研究室のコンピューター科学者たちの懸命な努力のおかげで、私たちは人工知能という答えを手に入れました。そして、それを信じるなら、あなたの会社は、必要なことのほぼすべて、少なくとも一部を、時々は実行できるようになります。

[[378947]]

はい、AIの革新は素晴らしいです。 Siri、Alexa、Google Assistant などの仮想アシスタントは、10 ～ 15 年前のタイムトラベラーにとっては魔法のように思えたでしょう。あなたの言葉が彼らの命令となり、1990 年代の音声認識ツールとは異なり、ピンの先で何人の天使が踊れるかといった予想外の質問を避ければ、彼らは通常正しい答えを返す。

AI は素晴らしいものですが、依然としてコンピューター プログラミングに依存しているため、スプレッドシートやワード プロセッサなどのより日常的なコードを妨げるのと同じ制限を受けます。これらは、世界の統計的な変動に対処するのに優れていますが、結局のところ、関数を計算し、数値がしきい値を超えているか下回っているかを判断することで決定を下す単なるコンピューターです。すべての巧妙な謎と複雑なアルゴリズムの下には、if-then の決定を行うトランジスタの集合があります。

私たちはこれを受け入れることができるでしょうか? 他に選択肢はあるのでしょうか? あらゆる業界で人工知能を求める声が高まっている中、私たちは人工知能の現実の一部を受け入れることを学び始めなければなりません。

AIで発見されるものの多くは明白だ

AI 科学者にとって最も難しい仕事は、誰もがすでに知っていたことを AI が発見したことを上司に伝えることです。おそらく100億枚の写真を調べて、空が青いことを発見したのでしょう。しかし、トレーニング セットに夜間の写真を含めることを忘れると、夜になると暗くなることを認識できなくなります。

しかし、AI はどのようにしてこうした明白な結論を回避できるのでしょうか? データ内の最も強いシグナルは、最前線で働く人にとっても、またデータをマイニングするコンピューター アルゴリズムにとっても明白です。これらは、猟犬が持ち帰ってあなたの足元に着地できる最初の答えとなるでしょう。ただ、アルゴリズムはあなたから何かの見返りを期待していないだけです。

微妙なAIの洞察を活用する価値はないかもしれない

もちろん、データが正確であれば、優れた AI は小さな違いも検出します。しかし、これらの小さな洞察を活用するには、会社のワークフローに大幅な戦略的転換が必要になる可能性があります。いくつかのニュアンスは非常に微妙なので、追求する価値はありません。しかし、コンピューターは依然としてこれに苦労しています。問題は、大きな信号は目立つことが多いのに対し、小さな信号ではわずかな利益しか得られない可能性があることです。

謎のコンピューターはより脅威的

初期の研究者たちは、コンピュータ アルゴリズムの数学的手法によって最終決定に信頼性がもたらされることを期待していましたが、世の中には論理の神に屈服する気のない人が多くいました。むしろ、AI の複雑さと謎により、答えに満足しない人がプロセスを攻撃しやすくなります。アルゴリズムは偏っているのか？ 裏側に謎や複雑さが多ければ多いほど、世界が疑念や怒りを抱く理由も増える。

人工知能は主に曲線フィッティングに関するものである

何百年もの間、科学者たちはノイズの多いデータを集め、点を結ぶ線を引いてきました。機械学習アルゴリズムの中核にある多くの AI アルゴリズムはまさにこれを行います。彼らはいくつかのデータを集め、それらに線を引きました。進歩のほとんどは、問題を何千、何百万、あるいは何十億もの小さな問題に分割し、それらすべてに線を引く方法を見つけることから生まれました。それは魔法ではありません。何世紀にもわたって私たちが科学をどのように行ってきたかを示す単なる組立ラインです。 AI を嫌い、その決定に穴をあけることが容易だと考える人々は、答えに信憑性を与える深い理論的または哲学的基盤が存在しないことが多いという事実に注目しています。これは線の傾きについての単なる推測です。

データ収集こそが本当の仕事

データ サイエンスを始める人は皆、データを見つけることが本当の仕事であるため、サイエンスを行うために残された時間があまりないことに気づき始めます。人工知能はデータサイエンスと密接な関係があり、同じ課題に直面しています。 0.01% のインスピレーションはファイル形式から、99.99% のインスピレーションは欠落しているデータ フィールドと文字コードから得られます。

より深い結論を導き出すには大量のデータが必要です

いくつかの答えは簡単に見つかりますが、より深く複雑な答えを得るには、より多くのデータが必要になることがよくあります。場合によっては、データの量が指数関数的に増加することがあります。人工知能により、あなたはより多くの情報を求めるようになります。

データの偏りに囚われている

プラトンの洞窟の住人のように、私たちは皆、見たり知覚したりできるものに制限されています。人工知能も同じです。彼らは明らかにトレーニング環境によって制限されていました。データに偏りがある場合、AI はその偏りを継承します。データに穴があれば、AI の世界理解にも穴ができます。

人工知能は電気のブラックホールである

優れたゲームのほとんどには、最終レベルまたは究極の目標があります。しかし、AIは今後ますます高度化していくでしょう。電気代を払う意思がある限り、より多くのノード、より多くのレベル、より多くの内部状態を持つ、より複雑なモデルが開発され続けるでしょう。おそらく、この追加の複雑さは、モデルを本当に有用なものにするのに十分でしょう。次回の実行時に、何らかの新たな知覚行動が現れるかもしれません。しかし、これらの効果を真に捉えるには、おそらく、夜間に稼働する GPU の大規模なコレクションが必要になるでしょう。

説明可能なAIは単なるカメ

AI 研究者は最近、AI が実際に何をしているのかを説明することに多くの時間を費やしています。データを詳しく調べると、トレーニングされたモデルがデータセットの特定の部分からのこれらのパラメータに大きく依存していることがわかります。しかし、多くの場合、その説明は、マジシャンが 1 つのトリックを演じながら別のトリックを説明するようなものです。 「なぜ」という質問に答えるのは意外と難しいです。最も単純な線形モデルを見て、パラメータをじっくりと見ることもできますが、通常は白紙の状態になります。モデルが年間走行距離に 0.043255 を掛けると言っている場合、なぜ 0.043256 や 0.7 ではないのか、あるいは 4110 億や 100 億のような驚くほど異なる値ではないのかと疑問に思うかもしれません。連続体を使用すると、軸に沿ったすべての数値がおそらく正確になります。

それは、地球が巨大な亀の上に座っているという古いモデルのようなものです。しかし、このカメはどこに立っているのでしょうか? 別のカメの背中に立っています。では、次のはどこでしょうか? どこまでもカメだらけです。

公平であろうとするのは難しい

トレーニング セットから身長を除外することもできますが、AI プログラムが他のエージェントを見つけて背の高い人にラベルを付け、バスケットボール チームに選択する可能性は十分にあります。たぶんそれは靴のサイズでしょう。あるいは腕が長いのかもしれません。人々は、中立的な AI が偏見のない決定を下し、世界をより公平な場所にすることを夢見ていますが、問題が現実に深く根ざしているため、アルゴリズムではそれ以上の改善ができないこともあります。

修理がさらに悪くなることもある

AI に公平性を強制する現実的な解決策はあるのでしょうか? AI によって生成される結果には、事前に決められた一定のパーセンテージがあるべきだと主張しようとする人もいます。彼らはスケールに親指を置き、アルゴリズムを書き直して出力を変更します。しかし、すでにどのような答えが欲しいかを決めているのなら、なぜトレーニングやデータ分析にこだわるのか疑問に思う人もいるでしょう。

人間こそが本当の問題だ

リスクが低い場合、私たちは一般的に AI に安心感を覚えます。 1,000 万枚の画像を分類する必要がある場合、ほとんどの場合、何らかの AI が適度に正確な結果を生成できれば満足するでしょう。もちろん、問題やエラーが発生する可能性もあります。いくつかの不具合は、AI の偏りに関するより深刻な問題を反映している可能性があり、200 ページに及ぶ恐ろしい論文になる可能性もあります。

しかし、AIが問題なわけではないかもしれない。彼らは頼まれたことを実行するでしょう。ユーザーがうるさくなってエラー メッセージを生成し始めた場合は、それらのメッセージを非表示にすることができます。トレーニング セットで完璧な結果が得られない場合は、問題のある結果をそのままにして、さらにデータを要求することができます。精度が高くない場合は、結果をアーカイブすることができます。 AIは仕事に戻り、最善を尽くします。

しかし、人間は全く異なる動物です。 AIは彼らのツールであり、人間はそれを活用して優位性を見つけ、利益を得たいと考えているのです。これらの計画の中には比較的無害なものもあるが、秘密裏に計画された悪意によって推進されるものもある。多くの場合、私たちが悪い AI に遭遇するのは、単にその AI が、悪い行動から利益を得ている一部の人々の操り人形だからである可能性があります。