囲碁AIの不正行為の最初の事例はすでに発生しています。他の事例は後れを取っているのでしょうか？

[[227817]]
画像出典: Visual China

カンニングは間違いなく長い歴史を持つ「科学」です。おそらく試験が導入された日から、さまざまなカンニングの方法が生まれてきました。何千年もの間、カンニングと反カンニングの戦いは止まったことがないと言えます。

我が国の古代科挙以来、先祖の「豆本」は驚くべきものでした。現代では、人々はますます多くの方法を考案してきました。映画「バッド・ジーニアス」では、さまざまなカンニングの方法が紹介され、最後には鉛筆のバーコードを使ってカンニングするという究極のトリックまで使われました。

ペンだけでなく、消しゴムも不正行為者の「改造」から逃れられません。普通の消しゴムと見た目は変わらないものの、殻を外すと内部にディスプレイ画面があり、中国語、英語、数字などでテストの回答情報を受け取ることができる消しゴムがあります。

このような不正ツールは無数にあり、Google Glass や Apple Watch が正式リリースされて以来、スマートハードウェアでの不正行為に注目する人もいます。

ほんの数日前、囲碁AIによる不正行為が初めて発覚し、業界で大きな騒動を引き起こした。一時期、ネットユーザーは技術の専門家や「シャーロック・ホームズ」に変身し、「AI不正スキャンダル」の信憑性を絶えず分析し、不正行為者を非難する人もいれば、擁護する人もいた。会場の外にいた一団の見物人は驚き、「ひどい。不正行為がここまで進んだのか」と言った。

昨今、テクノロジーは日々進化し、人々の生活はますます便利になっています。しかし、不正行為も「時代の流れに遅れを取らない」必要がありますか？

AIは目に見えない形で不正行為をする

試験での不正行為は道徳的な問題であると同時に、重大な原則上の問題でもあります。インテリジェント・レラティブ・セオリーの業界アナリスト、ヤン・シュアン氏は、試験や競技会におけるAIによる不正行為で最も恐ろしいのは、不正行為機能がより強力になったことではなく、ハイテク手段によって不正行為がより見えにくくなったことだと考えている。

こうした手がかりは、最近の囲碁AIの不正行為事件ですでに明らかになっている。写真では、プレイヤーはカメラを外側に向けて携帯電話を胸ポケットに入れているだけだが、プレイヤーがAIから技術的な指導を受けた痕跡を見つけるのは難しい。動きとAIの重なり具合だけで不正行為を判断するのは偏りがあるだろう。

試験やゲーム競技に加え、いくつかの分野での AI による不正行為は、私たちが想像するよりもはるかに強力です。

1つ目はゲーム業界です。一般的に言えば、ギャンブルにおける不正行為者は参加している顧客ではなく、カジノです。 AIの「優れたスキル」のおかげで、多くのギャンブラーはカジノがゲーム中に不正行為をしているとさえ感じない。

「What Stays in Vegas?」という本があり、AIがカジノに「トリック」を仕掛ける状況を説明しています。AIは顔認識+ビッグデータ抽出を通じて個人モデルを構築します。また、AIはギャンブラーの微妙な表情に基づいて、ギャンブラーの状態の重要なポイントを監視します。カジノは、この情報に基づいてシステムの勝率を自由に操作でき、ギャンブラーが怒って去ってしまうような全体的な勝率の低下を心配する必要はありません。ギャンブルの全過程を通じて、カジノは確かに多額の金を稼いだ。

注目すべきは、カジノ AI が保有するビッグデータの一部は公開データベースとソーシャル ネットワーク データベースで構成されており、他の部分はグレー トランザクションに関連する大量の秘密データであるということです。

そのため、カジノは、多くの人のプライバシーも含まれるこの種のグレーデータに対する強い需要を持っています。このようなデータが市場に流入することの害は明らかです。

2つ目は科学的研究です。 2015年5月、百度はImageNetテストにおいて画像認識エラー率がわずか4.58%という世界最高の結果を達成したと主張した。このテストでは、Microsoft のスコアは 4.94%、Google は 4.8% で、ImageNet 写真の識別における人為的エラー率は約 5% です。

しかし、その後まもなく、ImageNetのコンピューター科学者は声明を発表し、Baiduがテストで規則に違反し、結果を改善するために徹底的なテスト方法を使用したことを指摘した。

AI科学研究においてAIを使って不正行為をすることは、一般の人々にとっては大したことではないように思えるかもしれないが、国や企業の国際的なイメージにとっては間違いなく大きな打撃となる。さまざまなAIテストは、本質的には科学技術レベルの向上とテクノロジー大手間の交流促進を目的としています。科学研究​​成果のテストにおいて、人々は誰が優れているか劣っているかではなく、この科学研究技術の実際の進歩に関心を持っています。

最も厳密な科学でさえ不正行為の影に覆われているのなら、学術的誠実さについてどこで語ることができるだろうか？

AI 不正行為がどの業界に適用されるかに関係なく、不正行為の方法がますます洗練されても、機会主義的な行動は依然としてすべての人から隠すことはできず、最も隠すことができないのは私たち自身であるということを明確にする必要があります。将来どれだけのテストがあるかは誰にもわかりませんし、カンニングをしても人生のテストに勝つことはできません。諺にあるように、賢者は実用的であり、愚者は理想主義的である。

AIの不正行為：教育AIが領域を再定義する

人工知能に関する法律を制定することは複雑な問題です。たとえば、ロボットの知的財産権は誰が所有するのか？Google ロボットが描いた絵画には著作権があるか？自動運転車が人をはねた場合、誰が責任を負うのか？アルゴリズムを開発したプログラマーなのか、機械メーカーなのか、それとも政府なのか？

証拠収集の障壁も高まっています。AI による不正行為が発覚した場合、コンピューター サイエンスの学部レベルの知識がなければ、これらのテクノロジーを理解するのは困難です。では、ユーザーはどのように証拠を提供できるのでしょうか。

AI は不正行為が非常に得意なので、試験制度に影響を及ぼすでしょうか? 将来、試験は完全になくなるのでしょうか? その可能性は非常に高いです。

しかし、これは AI が不正行為をしすぎているからではありません。むしろ、教育分野におけるAI技術と試験における不正行為および不正行為防止のためのAI技術との衝突が、新たな「領域」を形成する可能性が高い。この領域は、個々の技術の総和ではなく、一貫した全体であり、試験および教育プロセスにおける機器、方法、実践の集合体である。

たとえば、生物学では、組み換え DNA 技術は最初に登場したときは非常に粗雑で、不自然に生命を創造する可能性があるとして批判されましたが、生物から抽出した遺伝子と人工的に生成されたタンパク質を追加することで、新しい効果を生み出す新しい「ドメイン」が形成されました。ジェネンテックは、この「ドメイン」を活用した最初の遺伝子技術企業です。

興味深いのは、この単一のテクノロジーが登場すると、既存の状況が覆されることに人々が気づかないことが多いことです。

同様に、不正行為をする AI が現れると、私たちはそれを憎み、軽蔑します。

しかし、教育の分野では必ず存在する。囲碁でAIが不正行為を行った最初の事例はすでに現れている。他の事例ははるかに遅れているのだろうか？

新しい「ドメイン」が出現しても、世界に明らかな変化をもたらさない可能性があります。たとえば、ラジオが発明された当時は、その用途は電信通信に限られていました。今日では、ラジオはレーダーや電力伝送などの技術進歩の主な原動力となっています。

不正行為をする AI には、確かにその可能性があります。例えば、ギャンブル業界で成熟した AI システムは、公共の場でのセキュリティ監視に活用でき、高感度な認識機能により事故を未然に防ぐことができます。企業が従業員の勤務状況などを監視するためにも活用できます。

さらに重要なことは、経済が新たな「領域」にさらなる機会を生み出すことです。たとえば、電車が初めて登場したとき、新しいシステムは作られず、経済に大きな影響を与えませんでした。しかし、鉄道＋電車という「領域」が誕生すると、経済は大きく反応し、交通部門は大きな変化を遂げ始めました。

昨今の試験は最大限の公平性を実現するよう設計されていますが、点数で人を判断することで、「点数は高いが実力は低い」という現象も生じています。教育という新しい「領域」に遭遇した後、経済もまたその活動様式、産業構造、制度的取り決めを変えるかもしれない。変化の結果が十分に理想的であれば、その時までに試験による人材選抜の方法は時代遅れになっているかもしれない。

ゲームのための道を残してください

試験は制度なので改革できる。しかしギャンブルはゲームです。ゲーム内でAIが不正行為に利用されれば、テクノロジー本来の意味は失われてしまうでしょう。

ギャンブルゲームをプレイする目的は何ですか?

ゲームの過程で、他の人と競争する楽しみは、単に一人の人の計算能力を比較するだけではありません。 AI はゲーム内の「天才シューター」となり、一部のゲームチートに物質的な利益をもたらす可能性がありますが、これは長期的な解決策にはなりません。たとえ AI によって私たちが無敵になったとしても、何の意味があるのでしょうか?

ジャック・マー氏はかつてこう語った。「ITリーダーシップサミットでは、誰もがAlphaGoを大いに賞賛した。個人的には、それはTMらしいことだと思っている。囲碁の楽しさは、相手が悪い手を打って、それをいじることだ。しかし、今では悪い手さえ打たれない。囲碁の楽しさはどこにあるのだろうか？」

ある哲学者はかつて、人々の行動は幸福を最大化するという原則によって支配されていると言いました。技術的な発明は、チャットボットの仲間や、ロボットが労働集約的な仕事を置き換え、人々の手を解放してイノベーションや人生の意味の追求にもっと集中できるようにするなど、人々にさらなる利便性と幸福をもたらすはずです。

20 世紀の数学の巨匠ヒーバートはこう言いました。「真の数学の巨匠とは、田舎道で偶然出会った農夫に微分幾何学とは何かを説明できる人だ。」真実が深遠であればあるほど、その表現は単純になります。

技術が高度であればあるほど、その発明の本来の意図は単純なものであるべきです。ビッグデータや画像認識などの技術を不正に利用することは、AIにとっては回り道に過ぎません。しかし、時代の波に押され、いずれは正しい軌道に戻るでしょう。