AIには意識があるのでしょうか？意識の定義から始めましょう

この記事はLeiphone.comから転載したものです。転載する場合は、Leiphone.com公式サイトにアクセスして許可を申請してください。

人間が独自の意識を持っていることに疑いの余地はありません。ある意味では、この「意識」は人間の知性が持つ意味合いの一つとさえ言えるでしょう。

「人工知能」の発展に伴い、「AIは意識を持つことができるか？」という疑問が徐々に科学者の間で浮上し、「意識」はAIが知的かどうかを測る基準の一つともみなされるようになりました。

たとえば、2月中旬、OpenAIの主任科学者であるIIya Sutskever氏がTwitterでAIの意識に関する議論を開始しました。当時、彼はこう語った。

今日の大規模なニューラル ネットワークは、すでに意識のようなものを持っている可能性があります。

彼の意見はすぐにAI専門家のグループの間で議論を巻き起こした。イイヤ・スツケヴァー氏の見解に対して、チューリング賞受賞者でMeta AIの主任科学者であるヤン・ルカン氏が真っ先に異論を唱え、「違う」と率直な見解を示した。ジュディア・パール氏もルカン氏を支持し、既存のディープニューラルネットワークでは特定の分野を「深く理解」することがまだできないと述べた。

数回の口論の末、ジューディア・パールはこう言った。

...実際のところ、私たちは「意識」の正式な定義すら持っていません。おそらく私たちにできる唯一のことは、時代を超えて意識を研究してきた哲学者に尋ねることだけでしょう...

これはソースに関する質問です。 「AI 意識」について議論する必要がある場合、「意識」とは何でしょうか?意識を持つとはどういう意味でしょうか?これらの質問に答えるには、コンピューターの知識だけでは十分ではありません。

実際、「意識」についての議論は、古代ギリシャの「枢軸時代」にまで遡ることができます。それ以来、人間の認識論的本質としての「意識」は、その後の哲学者にとって避けて通れないテーマとなった。 AIの意識についての議論が高まる中、かつてOpenAIの研究科学者だった学者のアマンダ・アスケル氏も、このテーマに関して興味深い洞察を披露した。

キャプション：アマンダ・アスケル、彼女の研究分野はAIと哲学の交差点です

アスケル氏は最新のブログ記事「AI 意識についての私のほとんど退屈な見解」で、「アクセス意識」ではなく現象学的な意味での「現象的意識」について探求している。

現象的意識は、主体の経験プロセスを重視し、感情、経験、受動的な注意に焦点を当てます。一方、意識的意識は、主体の主観的な主導性を重視し、主体の主観的な能動的な注意を重視します。たとえば、リラックスできる音楽を聴きながら宿題をしているとき、バックグラウンドで音楽を感じることはできますが（現象的意識）、その具体的な内容には注意を払うことはありません。宿題はあなたにとって主観的なものであり（意識的認識）、あなたは自分が何をしているのかを本当に知っています。

これは、コンピューター ビジョンと認知科学で一般的に使用される 2 つの異なる注意メカニズムに少し似ています。現象的意識は「ボトムアップ」に対応し、意識的意識は「トップダウン」に対応します。

キャプション: 一見すると、本の中の大きな文字が「現象的意識」であることに気づくでしょう。

細部に気づくことは「意識的な認識」とみなされます。アスケルは、より高度な知能は意識的な認識とより関連があり、それによって人間と他の動物を効果的に区別することもできるという点には同意するが、彼女は「人間とトラの違いよりも、トラと岩の違いに興味がある」し、現象的意識はそのような区別をするのに十分である。

彼女はまた、「現象的意識」が現れれば、何らかの道徳的、倫理的問題も生じることになるだろうと考えている。だからこそ彼女は意識を研究することが大切だと信じています。

1. 現在の AI システムは意識を持っているか?

アスケルは興味深い観察をしている。

今日の AI システムは、椅子よりも驚くほど意識的である可能性が高いですが、マウスほど意識的ではなく、昆虫、魚、二枚貝ほど意識的ではありません。

彼女は AI システムを大まかに植物の領域に例えています。植物は計画を必要とするような行動をし、内部および外部のコミュニケーションを必要とするような行動をとることができるからです。 AI システムも同様に動作するようです。

しかし彼女はまた、AI システム全体が将来的には植物や二枚貝よりも意識を持つ可能性が高くなると確信している。特に、より生物学に着想を得たニューラル ネットワークに関する将来の AI 研究では、意識に関連したアーキテクチャ、動作、認知システムがさらに生み出される可能性があります。

図のキャプション: 研究により、植物にも意識と知性があることがわかっています。植物は痛みを感じ、コミュニケーションをとり、環境とうまくやりとりすることもできます。

では、AI に意識があるかどうかを検討する場合、どのような側面の証拠を考慮すべきでしょうか?アスケルは、建築的、行動的、機能的、理論的な 4 種類の証拠を挙げています。

• アーキテクチャ上の証拠とは、システムの物理的構造が人間のそれにどの程度似ているかを指します。たとえば、脳の構造は指の構造よりもはるかに意識的です。
• 行動証拠とは、周囲の環境を認識したり、外部刺激に反応したり、発話や推論などのより複雑な行動など、意識や認知などに関連する行動を主体が実行する場合を指します。
• 機能的証拠では、その目標と、その目標が環境とどのように関連しているかを考慮します。たとえば、テーブルや椅子は実際には環境からの進化圧力を受けていないため、ネズミが持つのと同じ種類の環境認識を発達させる理由はありません。
• 理論的証拠には、理論自体の一貫性と説得力が含まれます。

今日、心を研究する哲学者には、一般的に 2 つの理論的傾向があります。1 つは、原子でさえ意識を持つことができると信じる汎心論者などの包括的学派であり、もう 1 つは、人間以外の存在が意識を持つことを否定する機械論派です。しかし、どのような傾向を持っていても、AI の意識の問題は、上記 4 つの異なる種類の証拠から議論することができます。

2 AI に意識があるかどうかは重要ですか?

AI実践者の大多数は意識を考慮に入れておらず、AIと意識は一部のSF映画における未来の想像の中にのみ存在するようです。しかし、安全性、倫理性、偏見、公平性の観点から、意識と AI の組み合わせは学界や産業界でますます注目を集めています。

アスケル氏は、AI には驚異的な意識があり、それは AI が倫理的価値観を発達させる可能性が高いことを意味し、それは AI の作成者と大きく関係していると考えています。特に AI が間違いを犯したり「悪用」されたりした場合は、その作成者が何らかの責任を負うべきです。

アスケルは、道徳倫理における 2 つの重要な概念、すなわち道徳的行為者と道徳的患者について論じています。このうち、「道徳的行為者」とは、大人のように善悪を区別する能力を持ち、その結果に耐えられる行為者であり、「道徳的関心の対象」とは、動物や幼児のように善悪を区別できない、つまり道徳的に抑制できず、一般的には結果に耐えられない存在である。

道徳的懸念の対象

アスケルは、ある存在が快楽や苦痛などの感覚を持つようになると、道徳的な懸念の対象になる可能性が高いと考えています。普通の人が、道徳的に懸念される対象（猫など）が苦しんでいるのを知りながら、その苦しみを和らげる道徳的義務を果たそうとしないのは不合理です。彼女はまた、現象意識は知覚の必要条件であり、したがってさらに、現象意識は道徳的関心の対象であるための前提条件であると主張しています。

議論の対象となるのは、特定の集団が道徳的地位を持っているのか、あるいはより高い道徳的地位を持っているのか、という点です。道徳的地位は倫理から生まれ、グループが道徳的な意味で自分たちの過ちについて議論できるかどうかを指します。たとえば、ほとんどの生物は道徳的地位を持っていますが、無生物には道徳的地位がありません。あるグループがこの地位にあることを過度に強調すると、そのグループがより重要であり、他のグループはそれほど重要ではないということを暗示しているように思われます。これは、動物、昆虫、胎児、環境などにさらなる道徳的地位を与えるべきだという議論と同じくらい憂慮すべきことだ。

アスケル氏は、あるグループを助けるために他のグループを犠牲にする必要はないと指摘する。たとえば、菜食主義の食事は動物と人間の両方の健康にメリットをもたらします。 「チームは通常、同じリソースをめぐって競争することはなく、チーム間でトレードオフを強いるのではなく、異なるリソースを使って両チームを支援することができます。世界の貧困緩和に利用できるリソースを増やしたい場合、慈善事業から既存の寄付金を奪うことだけが選択肢ではありません。より多くの人が寄付や支援をするよう促すこともできます。」

したがって、将来の知覚力のある AI システムが道徳的に配慮する存在になったとしても、それは私たちが他の人間の幸福を気にしなくなることを意味するものではなく、また、彼らを助けるために既存のリソースを転用する必要があることを意味するものでもありません。

道徳的行為者

道徳的な行為者は何が善で何が悪であるかを理解しているので、善い行動をとり、悪い行動を避ける傾向があります。道徳的または法的に受け入れられないことをした場合、それに応じて罰せられます。

道徳的主体の最も弱い部分は、単に肯定的および否定的なインセンティブに反応することだけを要求されます。つまり、別のエンティティは、行為者の悪い行動に対して罰を与えたり、良い行動に対して報酬を与えたりすることができます。これは、行為者の将来の行動を改善することになるからです。

重要なことに、アスケルは次のように指摘しています。刺激を受けてフィードバックを得るには、現象的意識は必要ないようである。現在の ML システムは、損失関数を削減するモデルの必要性や、強化学習におけるより明白な「報酬」と「罰」など、ある意味ですでにこのルールに準拠しています。

図1: 強化学習の報酬フィードバックメカニズム

より強い道徳心を持つ行為者についてはどうでしょうか?私たちは一般的に、行為者が善悪を理解する能力を持ち、騙されて他の行動を取らない場合にのみ、行為者が自分の行動に対して道徳的責任を負うことができると信じています。例えば、ある人が友人を説得して山火事を起こした場合、その友人が捕まったとき、他人に唆されたと言ってどんなに弁明しても、道義的責任を負うのは、友人を説得した人ではなく、火事を起こした人（友人自身）です。しかし、もし人が自分の犬に火をつけるよう訓練するのであれば、この場合、道徳的責任の大部分はペットではなく訓練者に帰せられるでしょう。

なぜ人間の放火犯は道徳的に責任を問われるのに、訓練された犬は問われないのでしょうか?まず、人間の放火犯は選択肢を検討し、友人のアドバイスに従わないことを選択する能力がありますが、犬には選択について推論する能力がありません。第二に、犬は自分の行動が間違っていることを理解せず、何か悪いことをしようという意図（性質）を決して示さず、ただ訓練されたことだけをやるのです。

高度な機械学習システムが、より強い意味で道徳的主体になると仮定すると、つまり、善悪を完全に理解し、実行可能な選択肢を十分に検討し、自らの意志で行動する能力を持つと仮定すると、機械学習システムが何か間違ったことをした場合、そのシステムを作成した人々は道徳的責任を免除されることになるのでしょうか。

アスケル氏は反対する。これをもっと注意深く考えるために、彼女はクリエイターに次のような質問をすることを提案しています。

• 特定のエンティティ (AI など) を作成することによって予想される影響は何ですか?
• クリエイターは、自分たちの影響力の証拠を得るためにどれだけの努力を払ったのでしょうか?
• 彼らは、自分たちが作成したエンティティの行動をどの程度まで制御できるでしょうか (直接的に行動に影響を与えるか、間接的に意図に影響を与えるか)?
• 彼らは、可能な限り、エンティティの行動を改善するためにどれだけの努力を払っているでしょうか?

作成者が ML システムが適切に動作するようにあらゆる努力を払ったとしても、失敗する可能性があります。場合によっては、こうした失敗は作成者のミスや見落としが原因であることもあります。アスケル氏は、道徳的行為者を創造することは、確かに事態を複雑にするだろうと考えている。なぜなら、道徳的行為者は、自律走行車が道路状況をどのように判断するかといったオートマトンよりも予測が難しいからだ。しかし、これは作成者が自らが作成した AI システムの安全性について責任を負う義務から免除されるものではありません。

3 AIの意識を研究する作業はどれほど重要ですか?

現在、AI の分野では意識 (または他の哲学的思考) に特に焦点を当てた研究はほとんどありませんが、一部の学者はすでにこのテーマに関して学際的な共同研究を行っています。例えば、GPT-3の登場後、哲学的な問題に焦点を当てたブログであるDaily Nousは、   AIにおける言語哲学の応用について議論するための特別セクションが設けられました。

しかし同時に、アスケル氏は、AIの意識に関する議論は哲学的な抽象的思索のレベルにとどまるだけでなく、機械の意識や知覚に対する一連の効率的な評価を確立するなど、関連する実用的な枠組みの開発にも取り組むべきだと強調した。動物の痛みを検知する方法はすでにいくつか存在しており、そこから何らかのインスピレーションを得ることも可能であると思われます。

逆に言えば、AI の意識について理解が深まるほど、人間そのものについての理解も深まります。したがって、AIの意識に関する議論については統一されたコンセンサスはないものの、議論自体はすでに進歩していると言えます。さらなる AI 意識研究の進展を期待しています。