人工知能は「人工知能」にどれだけ「知性」を押し付けているのか

真に AI を活用したサービスを構築するのは簡単ではありません。そこで、一部のスタートアップ企業は、機械に人間から学習させるのではなく、人間に機械を模倣させるという歪んだアイデアを思いつきました。その方がはるかに安価で簡単だからです。

「AIの代わりに人間の労働力を使うことで、多くの技術的およびビジネス開発上の課題を回避できる。コンピューターほど拡張性はないが、初期の困難な部分を回避して、望む結果を得ることができる」と、数え切れないほどの「偽AI」に遭遇したというReadMeのCEO、グレゴリー・コバーガー氏は述べた。

「これは実際に、AIがどのようなものであるべきかを示すために、実際の人材を活用している」と彼は語った。

この慣行は今週ウォール・ストリート・ジャーナルの記事で暴露され、グーグルが何百ものサードパーティのアプリ開発者にユーザーの受信トレイへのアクセスを許可していたことが明らかになった。サンノゼに拠点を置くエジソン・ソフトウェアのAIエンジニアは、身元を偽装し、数百人のユーザーの個人メールをスキャンして「スマート返信」機能を改善した。問題は、同社のプライバシーポリシーに、誰かがユーザーの電子メールを読むということが明記されていないことだ。

人工知能の利用が話題になったのは今回が初めてではない。 2008年、ボイスメールをテキストメッセージに変換する会社であるスピンボックスは、海外のコールセンターで、人々が信じていた機械ではなく人間を使っていたとして非難された。

2016年、ブルームバーグは、一部の企業が人間を1日12時間働かせてプログラムのふりをさせ、チャットボット（X.aiやClaraなど）で自動カレンダー設定サービスを提供していることを暴露した。この非常に反復的な仕事がいかに退屈で疲れるものか考えてみてください。これらの従業員は AI によって解放されることを非常に切望しています。

2017年、領収書の処理に「インテリジェントスキャン技術」を使用していると主張していたビジネス経費管理アプリのExpensifyは、その作業を人間に依頼していたことを認めた。領収書のスキャン画像はアマゾンのクラウドソーシング労働プラットフォーム「メカニカルターク」に投稿され、低賃金労働者によって読み取られ、書き起こされた。

「Expensify Smart Scannerアプリのユーザーは、MTurkのスタッフが領収書を見ることができることを知っているのだろうか」とMTurkの従業員、ロシェル・ラプランテ氏は言う。「Uberの領収書の氏名、乗車場所、降車場所はすべて見ることができる」

AIに多額の投資をしているFacebookでさえ、Messengerの仮想アシスタントを動かすのに人間を活用している。

場合によっては、人間の関与によって AI をトレーニングし、その精度を向上させることができます。 Scale という会社は、自動運転車やその他の人工知能システム用の「トレーニング」データを提供するために、多くの人的労働力を提供しています。たとえば、人間はカメラやセンサーからのフィードバックを継続的に監視し、視界内の車、歩行者、自転車にマークを付けます。人間による十分な調整があれば、AI はこれらのオブジェクトを認識することを学習できます。

もうひとつの状況は、AIプロジェクトが完了する前に、一部の企業が投資家やユーザーに対してスケーラブルなAI技術を開発したと伝えているものの、研究開発が成功するまで密かに手作業に頼っているというものです。

アリソン・ダーシーは心理学者で、Woebot と呼ばれる心理サポート チャットボットを開発した人物です。彼女はこれを「オズの魔法使いのデザイン手法」と呼んでいます。

「私たちは、できる限り現実に近いシミュレーションを心がけています。通常、AI の一部は、舞台裏でアルゴリズムではなく、実際には人間です」と彼女は付け加えた。「完璧な AI システムを構築するには膨大な量のデータが必要であり、設計者は投資する前にサービスに対する十分な需要があるかどうかも知りたいのです。」

彼女は、肉体労働はWoebotのような心理的サポートサービスには適していないと述べた。 「心理学者として、私たちは倫理規定を遵守しています。人を騙さないことは当然、従うべき倫理原則の一つです」と彼女は語った。

研究によれば、メンタルヘルスのサポートを求めることには往々にして偏見が伴うため、人は人間ではなく機械と話していると感じると、より多くのことを打ち明ける傾向があることが分かっています。

USC のチームは、Ellie という仮想セラピストを使ってこれをテストしました。その結果、PTSDを患う退役軍人は、エリーさんがAIであることを知ったときの方が、人間が機械を操作していると知っているときよりも、症状を訴える傾向が強かったことがわかった。

一方、企業は自社のサービスがどのように運営されているかについて常に透明性を保つべきだと考える人もいます。

「AIサービスを提供するふりをしながら、実際には人間を雇用している企業は大嫌いだ」とラプランテ氏は言う。「不誠実で欺瞞的であり、企業を利用するときに私が望むのはそういうことではない。労働者として、私たちは舞台裏で追い詰められているように感じる。顧客に嘘をつく企業に利用されるのは嫌だ」

こうした倫理的な考慮により、人間を装った本物の AI がより望ましいものになります。最近の例としては、旅行の予約を代行するロボットアシスタント「Google Duplex」がある。電話をかける際、人間のような「えー」や「あのー」といった間投詞を非常にリアルに発するので、恐ろしいほどだ。

強い反対にもかかわらず、Google は人間と会話する際に AI が自己識別できるようにすることを決定しました。

「通常の会話のデモ版では、人々はごく小さなごまかしには非常に寛容でした」とダーシー氏は言う。「レストランの予約に AI を使うことに問題はないかもしれませんが、だからといってこの技術が無害だというわけではありません。」

たとえば、AI が有名人や政治家の声をシミュレートし、非常にリアルな電話をかけられるようになると、状況は変わります。

ダーシー氏は、人々はすでに AI に対して大きな疑念や恐怖心を抱いていると考えています。相手が人間なのか機械なのかがわからなければ、AI は会話をうまく進めることができなくなります。