人工知能を使って人間の労働を監督すると、技術的でない困難に直面する

リモートワークの標準化により、クラウド監視ソフトウェア市場が生まれました。最近、Enaible という AI モニタリング ソフトウェアが飛ぶように売れています。この AI ソフトウェアは、従業員の勤務中のモニタリングだけでなく、仕事の効率を評価することもできます...

[[334831]]

新型コロナウイルス感染症のパンデミックにより、リモートワークが徐々に当たり前になってきました。 DingTalk、Feishu、Enterprise WeChat、Zoom などのビデオ会議ソフトウェアは、リモート コミュニケーションの問題を効果的に解決しました。ビデオ会議ソフトウェアに加えて、別のタイプのクラウド監視ソフトウェアも人気が出ています。この AI ソフトウェアは、ユーザーの作業を監視し、「怠けている」かどうかを確認し、スコアを付けることができます。このAI監視ソフトはEnaibleと呼ばれています。全社員が在宅勤務をしていた期間は、Enaibleの売れ行きが特に好調で、相談に来る企業数が以前の4倍になったそうです。しかし、批評家の中には、このソフトウェアによって従業員の創造性と会社への忠誠心が失われると主張する人もいる。

操作トレースを収集することで作業効率をスコア化できる

従業員の仕事を監視し、スコアを付与できるAI監督者は、どのような魔法の力を持っているのでしょうか。Enaibleソフトウェアは従業員のコンピューターにインストールされ、バックグラウンドで常時実行され、従業員の仕事に関する詳細なデータを収集して会社に提供できると報告されています。このソフトウェアは、トリガー・タスク・タイムと呼ばれるアルゴリズムを使用しており、電子メールや電話に基づいて、従業員が完了する必要のあるタスクと完了にかかる時間を決定します。次に、アルゴリズムはこのデータに基づいて従業員の作業効率を評価します。

「私たちが使っているOSは、アプリケーションソフトの操作手順をログの形で記録します。どの文書を開いたか、その内容は何か、どのウェブページを閲覧したかなど、使用の痕跡が残ります。コンピューターに監視ソフトをインストールし、OSで多くの権限を付与します。AIスーパーバイザーは、オフィスでコンピューターを操作することで残されるさまざまなデータを収集し、統合して、コンピューターが理解できる表現を形成できます。」天津大学知能コンピューティング学部のハン・ヤホン教授は、AIスーパーバイザーが記録するデータには、画像、テキスト、ビデオ、オーディオ、さまざまな記号データが含まれるため、パターン認識、自然言語処理、音声認識、データマイニング、マルチモーダルデータフュージョンなど、AI分野の最新技術が使用されると説明した。

「AI監視の核心部分は、単にデータを収集することではありません。最大の難しさは、アルゴリズムモデルを通じてこのデータを分析し、正しい決定を下すこと、つまり従業員の作業効率などをスコアリングすることです。」ハン・ヤホン氏は、このアルゴリズムモデルの形成には機械学習、特に教師あり学習が必要であると説明した。教師あり学習では、大量のデータがあるだけでは十分ではありません。データ自体と最終的な正しい決定とのつながりを確立し、教師あり情報、つまり効果的なトレーニングデータを形成するには、多くの専門知識を蓄積する必要があります。

「効果的なトレーニングデータとは何でしょうか？例えば、動物を認識するように機械をトレーニングするには、さまざまな品種や形の猫や犬の写真をたくさん見つけますが、これらの写真に猫や犬の名前のラベルを付ける必要があります。このラベル付けは正しい決定です。写真とそれに対応するラベルが一緒になって有効なトレーニングデータを形成します。大量の有効なデータから学習することで、機械は写真を認識するアルゴリズムモデルを構築できます。」とハン・ヤホン氏は例を挙げた。

「トリガー・タスク・タイムアルゴリズムモデルを生成するには、その分野の専門知識とデータの両方が不可欠です。このようなモデルをトレーニングするには、その分野の関連知識を大量に蓄積・蓄え、知識を統合する効果的な方法を見つける必要があります。」ハン・ヤホン氏は、これがAI監視を実現するための核心的な鍵であると分析した。

Enaibleの公式ウェブサイトによると、同社の創設者は「CEOコーチ」として20年の経験を持つ。このような専門的な背景があるからこそ、AI監視ソフトウェアは、従業員を判断するだけでなく、上司にアドバイスを提供したり、従業員の業務上の問題を自動的に特定して効率を向上したりできるリーダーシップ推奨アルゴリズムも備えています。

プライバシーが暴露され、AIは非人道的だと批判される

AI 監督者は登場以来、論争を巻き起こしてきました。多くの従業員の目には、AI 監督ソフトウェアは「仕事の殺し屋」の役割を果たしており、非人道的であるように映っています。

従業員からの苦情で最も多かったのは「信頼されていない」「毎分毎秒監視されていて恐ろしい」というものだった。アマゾンは2019年4月末、出荷倉庫のピッキング作業員の作業速度をデジタルモニターで追跡し、従業員の持ち場を離れる時間を管理・制限した上で、自動的に解雇指示を出した。従業員は、この「目に見えないが、どこにでも存在する」「電子鞭」によって走り回らざるを得なくなり、プライバシーが露出していることは言うまでもなく、水を飲むためにトイレに行くことさえ怖くなる。

「AIスーパーバイザーの存在は、人工知能の発展に常に伴ってきた重要な問題、つまり人工知能の倫理を提起しています。倫理には限界があり、一定の限界を超えると法的問題に巻き込まれる可能性があります。」ハン・ヤホン氏は例を挙げて、例えば無人車が道路上で人をはねて殺した場合、誰が法的責任を負うべきでしょうか？これが人工知能の倫理的問題です。コンピュータにインストールされた AI 監視者の場合、従業員は仕事をしているとはいえ、コンピュータはあくまでもプライベートなものであり、従業員を監視することで個人のプライバシー データに関わる可能性があります。したがって、AI 監督者の存在は、まず人工知能倫理の問題を解決する必要があります。

また、多くの従業員は「AI監督者の決定は従業員の生産性を測定できるのか」や「判断結果は正確か」という疑問を抱いていた。韓亜宏氏は、この種のソフトウェアはほとんどのオフィス業務の状況を間違いなく考慮するため、判断結果はほぼ正確であると述べた。しかし、特別なケースは確かに存在します。機械がこれまでに遭遇したことのない特別な状況に遭遇すると、アルゴリズムが不正確な判断を下す可能性もあります。なぜなら、従業員の作業効率を監視するこのような作業は、たとえ人間が行ったとしても、不正確になることがあるからです。

倫理的問題の解決はAI監督者の長期的な発展につながる可能性がある

さまざまな苦情に直面して、Enaible も非常に憤慨しています。同社の統計によると、8 時間労働システムでは、実際に生産的になれるのは 3 時間だけです。米国は従業員の効率の低さにより、毎年 4,000 億ドルの損失を被っています。管理者は従業員の業務を監視し、業務上の問題点を特定することが求められます。AI を使用する場合も、同じプロセスが適用されます。企業はいずれ従業員を解雇することになるので、最も効率の悪い人を正確に特定したほうがよいでしょう。

「エネイブルの言うことはある程度は理にかなっているが、将来AI監督者を本格的に活用したいのであれば、まずAI倫理とAI応用の関係を明確にする必要がある」とハン・ヤホン氏は述べ、AI倫理の問題を整理することによってのみ、AI監督者を今後も活用できるかどうかを決めることができると独自の見解を示した。 AIスーパーバイザーは、従業員と上司の両方から認められて初めて成長することができます。

「技術的なレベルでは、インタラクティブ機能の追加は、機械アルゴリズムモデルの改善に大いに役立つだろう」とハン・ヤホン氏は説明し、AIスーパーバイザーを企業に導入した場合、当初はパフォーマンスがそれほど良くない可能性があると述べた。 AI スーパーバイザーのモデルがインタラクティブになるように設計され、インタラクションを通じて進化できれば、その機能は学習を通じてさらに強化されます。前述したように、モデル アルゴリズムがこれまでに遭遇したことのないデータに遭遇すると、決定エラーが発生する可能性があります。このとき、対話を通じて正しい決定が機械に伝えられると、次回同じ問題に遭遇したときに、機械のアルゴリズム モデルが推論を行って正しい決定を下すことになります。

「さらに、現実世界では、従業員の勤務状況は社会、家族、生活環境によって必然的に影響を受けるため、冷めた勤務関連データだけで従業員を監督・管理することは不可能です」とハン・ヤホン氏は述べ、AI監督者がより人間的になれば、つまりアルゴリズムモデルをよりパーソナライズするように設計すれば、例えば従業員の表情や動作の変化を捉えたり、ビッグデータからの手がかりを使って従業員の状況、感情、身体の健康などの異常や変化を発見したり、これらのデータをモデルアルゴリズムの意思決定に取り入れたりすることで、AI監督者の最終決定は人々にもっと人間らしさを感じさせるものになるかもしれないと語った。

MIT Technology Review がイギリスの弁護士 Corey 氏の言葉を引用しているように、良好な職場環境とは従業員が自分の仕事が信頼されていると感じられる環境であるべきであり、単純な監視ではこれは達成できない。