疫病流行中の人間の行動にAIが混乱！データ変更による作業の「異常」は手動での制御が必要

[[327938]]

ビッグデータダイジェスト制作

著者: 劉俊環

半年前に Taobao をオープンしたとき、洋服を探していたのを覚えていますか? 化粧品を探していたのですか? それとも、携帯電話のケースを変えるつもりだったのですか?

疫病は人々の生活計画を混乱させた。年初から疫病が徐々に深刻化するにつれ、大手電子商取引プラットフォームのマスクは店頭に並ぶと数秒で売り切れることが多くなり、買いだめする習慣が生まれた人もいた。

海外でも流行が広がるにつれ、欧米諸国でもこの変化が現れ始めました。アマゾンの出品者向けアルゴリズム広告を専門とするロンドンのコンサルティング会社Nozzleは、この変化を鋭く捉えている。パンデミック以前は、携帯電話ケース、充電器、レゴがアマゾンの売上リストのトップ10から外れるということはなかったが、今ではこれらはわずか数日でリストから消え、マスクや消毒剤などに取って代わられている。

彼らはまた、疫病関連製品の変化の曲線グラフも描きました。

4月12日から18日までのAmazonでの検索上位10語は、トイレットペーパー、フェイスマスク、フェイスマスク、ハンドサニタイザー、ペーパータオル、リゾールスプレー、コルクスワイプ、フェイスマスク、リゾール、抗菌マスク、N95マスクでした。

新型コロナウイルスの感染拡大は、これらの商品の内容からも追跡できる。関連商品の売り上げは、まずイタリアでピークを迎え、続いてスペイン、フランス、カナダ、アメリカ、そしてイギリス、ドイツと続いた。

「わずか数日間で信じられないほどの変化がありました」とNozzleのCEO、ラエル・クライン氏は語った。この波及効果は小売サプライチェーン全体にも現れており、AIも影響を受け、在庫管理、不正検出、マーケティングなどのアルゴリズムに「問題」が生じています。つまり、通常の人間の行動に基づいた機械学習モデルは、もはや社会の変化に適応できなくなっているのです。

世界的なAIコンサルタント会社Pactera Edgeによると、「自動化は衰退している」とのことで、必要に応じて人間が介入して修正できるよう、自動化システムが強化されていることを注意深く監視している労働者もいるという。

この流行は、私たちの生活が AI といかに密接に絡み合っているかを示しているが、同時に微妙な依存関係も明らかにしている。つまり、私たちの行動が変われば AI の働き方も変わり、AI の働き方が変わると再び私たちの行動に影響を及ぼすのだ。

「通常とは異なるこのような環境にいるときは、決して座って忘れることはできない」とクライン氏は語った。

世界は変化し、データも変化する

機械モデルはもともと変化に対応するように設計されていますが、現在でもほとんどのモデルは依然として非常に脆弱であり、特に入力データがトレーニング データと大きく異なる場合はパフォーマンスが低下します。 Pactera Edgeの副社長、ラジーブ・シャルマ氏は、「AIシステムを構築して、それで終わりにできると思いますか？これは間違ったアプローチです。AIは生き、呼吸するシステムです」と語った。

シャルマ氏が複数の企業と話し合った結果、多くの企業がAIをタイムリーに修正できないために苦戦していることが判明した。

インドの小売業者にソースや調味料を供給しているある企業は、これまで在庫の準備や発注にAI予測を頼っていたが、現在の売上予測は実際の売上と大きく異なっていると述べた。そうなると、自動在庫管理システムを修正する必要があるが、「AI がこれほど極端に訓練されたことはかつてなかった」という。

ジャーナリズムの分野でも関連する問題が発生しています。あるニュースサイトでは、AIを使って記事の感情を評価し、その結果に基づいて日々の投資アドバイスを提供しています。しかし、現在ニュースはいつもより暗い内容になっており、AIによるアドバイスもかなり偏っています。

マシン モデルの問題が発生する大きな原因は、関連システムを購入したにもかかわらず、システムを維持するための社内知識が不足している企業が増えていることです。モデルを再トレーニングする場合、モデルを再構築するための専門の人員が必要になる場合があります。

現在の危機では、現実は常に、トレーニング セット内の最悪のシナリオよりも悪くなる可能性があります。

シャルマ氏の考えでは、より多くの AI を訓練することに加えて、訓練内容には、1930 年代の大恐慌、1987 年のブラック マンデーの株式市場暴落、2008 年の金融危機など、過去の「異常な出来事」も含める必要がある。「これらの大惨事は、より優れた機械学習モデルを構築するための基礎となるのです。」

[[327939]]

しかし、それでも万全の準備を整えるのは難しい。一般的に言えば、機械学習システムが期待するものを認識できない場合、何か問題が発生します。

AIを使ってクレジットカード詐欺を検出する行動分析会社Featurespaceの創業者、デイビッド・エクセル氏は、驚いたことに、同社のAIシステムに大きな影響はなかったと語った。同社の見解では、人々は依然としてAmazonで買い物をし、Netflixに加入している。しかし、大きな商品を買ったり、新しい場所でお金を使ったりすることはなくなり、これは疑惑を抱かせるのに十分だ。

エクセルは、同社のエンジニアが介入しなければならなかったのは、園芸用品や電動工具を購入する人の急増、つまり詐欺検出アルゴリズムが検出できるような中価格帯の異常に対応するためだけだったと述べた。

「世界は変わり、データも変わった」とエクセル氏は語った。

AIには修正が必要であり、Amazonもこの運命から逃れられない

ロンドンに拠点を置く Phrasee は、自然言語処理と機械学習を使用して顧客に代わって電子メールのマーケティング コピーや Facebook 広告を生成する AI システムを開発しており、適切なトーンを作成することが仕事の大きな部分を占めています。作業中、AI は大量のフレーズを生成し、ニューラル ネットワークに通して、最適な結果を選択します。

しかし、生成された言語が間違っている可能性もあるため、Phrasee では、入力と出力を人間が定期的にチェックする習慣も維持しています。感染拡大後、フレーズーは、言葉遣いが通常よりも繊細かつ正確である必要があることに気づき、追加の言葉をフィルタリングし始め、「バイラルになる」などの特定のフレーズを禁止し、「パーティーウェア」などの中止された活動を許可せず、さらには幸せや興奮と解釈される可能性のある絵文字や、「OMG」「備えよ」「買いだめ」「覚悟を」など不安を引き起こす可能性のある言葉を削除しました。

しかし、小売業界全体の中では小さな部門であるため、多くの企業が Amazon と競争することはできませんが、これは最も微妙な点でもあります。アマゾンとその250万のサードパーティ販売業者が需要に応えようと努力する中、アマゾンは負担を分担するためにアルゴリズムに微妙な調整を加えている。

結局のところ、Amazon のサードパーティ販売者のほとんどは、収益を上げるために Amazon のアルゴリズムに依存しています。販売者は商品を Amazon の倉庫に保管し、宅配や返品処理など、すべての物流は Amazon が担当します。取引が完了すると、Amazon は注文を完了した販売者を宣伝します。

たとえば、Amazon で Switch を検索すると、上部の目立つ「カートに追加」ボタンの横に表示される結果は、Amazon Logistics を使用するサプライヤーである可能性が高くなります。そうでない場合は、ランクが低くなります。

[[327940]]

しかし、ここ数週間でアマゾンの状況は180度変わった。在庫圧力を緩和するために、アマゾンのアルゴリズムは今では、自社で商品を発送できる販売者を優遇する傾向が強まっているようだ。

市場の混乱には人間の介入が必要

人間の介入がなければ、このような調整を行うのは難しいだろう。「状況はあまりにも不安定です。先週はアルゴリズムエンジニアがトイレットペーパーの最適化に懸命に取り組んでいたのに、今週は突然、誰もがパズルやフィットネス器具を買いたがっています。」

アマゾンがアルゴリズムに行う調整は、オンライン広告に費やす金額に影響する。アルゴリズムは無数の変数に基づいて広告に費やす金額を決定するが、最終的な決定は、ユーザーが自分にどれだけの価値があると見積もったかに基づいている。顧客の行動を予測する方法は数多くあり、過去の購入に関するデータや、さまざまな人々のオンライン活動に基づいて広告会社が作成した推奨などがある。

しかし現在、広告をクリックした人が商品を購入するかどうかを予測する最良の方法の一つは配送時間であり、これはノズル社が顧客とのアルゴリズムの調整に関する話し合いで取り上げてきたことだとクライン氏は語った。たとえば、競合他社よりも早く製品を提供できるとは思わない場合は、広告オークションで競合他社を出し抜こうとして費用をかけるのは効果がないかもしれません。

これらすべてを実行できるのはプロのチームだけです。クライン氏は、現在の状況が多くの人の目を開かせたと考えている。多くの人は、自動化されたシステムは単独で実行できると考えている。「しかし実際には、社会的な出来事とアルゴリズムの出来事を結び付けるには、データ サイエンス チームが必要です。アルゴリズムがこれらのことを積極的に選択することは決してありません。」

あらゆるものがつながっている時代に入りました。このことは、今回の流行からも広く感じられますが、これにより、通常の時代には隠れていたメカニズムも活性化しました。良い面があるとすれば、今こそ、新たに危険にさらされたシステムを評価し、それらをより良く設計して、より回復力のあるものにする方法を考え出すときです。

機械を信頼するなら、それを監視する必要があります。

[この記事は51CTOコラムBig Data Digest、WeChatパブリックアカウント「Big Data Digest（id: BigDataDigest）」のオリジナル翻訳です]

この著者の他の記事を読むにはここをクリックしてください