中国の科学者によるこの命を救うAIは海外のホットリストに載った

この記事はAI新メディアQuantum Bit（公開アカウントID：QbitAI）より許可を得て転載しています。転載の際は出典元にご連絡ください。

いつも他人をホット検索リストに送り込むWeiboが、今日はそれ自体がホット検索トピックとなった。

自殺しようとしている人を救うためにWeiboを利用するグループが、アメリカのテクノロジー人気検索リストであるTechmemeにランクインした。このボランティアチーム「Tree Hole Rescue Team」は、AI技術を使ってWeiboのコメントを分析し、自殺しようとしている可能性のある人を自動で検知し、さまざまな方法で命を救っている。

多くの海外ネットユーザーがこの積極的な行動を賞賛した。 AI技術を議論するさまざまな声の中で、この中国のアプリケーションは大きな用途を見つけたと賞賛する人もいた。

これは AI が社会に貢献できる方法の 1 つでもあり、うつ病の人々を助けます。

ツリーホール救助隊

微博という巨大なプラットフォームには、人知れず隅っこに公開され、告白の穴となる秘密の文章が常に存在します。

なかでも、亡くなった人たちのWeibo投稿は、誰も注目しないメッセージなので、コメント欄が彼らの苦しみを吐き出す場となっている。

例えば、「走饭」という名前のこのWeiboアカウントの最後の投稿は、所有者の最後の言葉でした。

この状況は悲しいので、死にそうな気分になっているネットユーザーの中には、このWeiboの投稿の下にメッセージを残すことを選択する人もいるだろう。彼らの中には自殺傾向を示す人もいるかもしれないが、注目されることはないだろう。

オランダのアムステルダム自由大学コンピューターサイエンス学部の研究者である黄智勝教授は、偶然にWeiboのツリーホールに関する報告を目にし、これらのWeiboのツリーホールのために「ツリーホール救助チーム」を組織しました。AI技術を使用してメッセージの内容を分析し、心理学の資格を持つ数百人のプロの救助隊員を集め、誰かが自殺しようとしているときに連絡して介入し、家族や友人に連絡し、心理カウンセリングを提供し、命を救うのを手伝っています。

最初の救助は昨年の4月だった。

当時、ツリーホール救助隊は、微博で「男の子たちはただ楽しむために私と一緒にいるだけ…私はこの世に生きる資格がない」と発言している女子大生を発見した。少女は人間関係に問題を抱えていたようで、警察はすぐに少女の元彼氏の連絡先を調べ、彼を通じて少女の携帯電話番号を突き止め、少女が通っていた学校に通報した。

救助隊は少女と連絡を取った後、彼女をWeChatに追加した。救助隊員たちの心配と配慮により、少女は落ち着きを取り戻し、この世を去ることを選ばなかった。

その後も、ツリーホール救助隊は病気や経済問題、精神的問題などで自殺を図ろうとする多くの人々を救助した。昨年から今年にかけての1年以上にわたり、ツリーホール救助隊は1000人近くの自殺者の救助活動を組織し、何度も自殺を図った人々を除いて、合計700人以上の命を救った。

黄智勝の技術探究

Weibo Tree Holes に大量のメッセージが存在するため、効果的に監視するのは困難です。たとえば、メッセージを 3,000 件に制限するという Weibo のクローラー対策ポリシーは、難しいハードルです。

当初、黄智勝教授は大規模なWeChatグループでAI技術チャレンジを立ち上げました。彼らはまず、機械学習モデルのトレーニング用データセットとして、Weiboから何百万ものデータをクロールしました。ここで彼らはWeiboのアンチクローラーメカニズムを突破する必要がありました。500人のうち、わずか4チームだけがタスクを完了しました。

その後、クロールされたデータを半構造化データに処理し、ナレッジ グラフを構築する必要がありますが、この時点で、チャレンジに参加しているチームはすでにこのタスクに対応できていません。

その後、黄智勝氏も自らイベントに参加し、昨年7月に樹穴ロボット001号を正式に発表した。その後、昨年末に自殺傾向のある人を検知すると自動的に通報できる004号にアップグレードされた。

黄智勝の判定システムでは、自殺リスクは0から10のレベルに分けられており、9または10に達すると、ツリーホール救助チームのボランティアが直接警察に連絡するか、自殺傾向のある人の親戚や友人に連絡します。スコアが6未満の場合は、通常、介入は行われません。

海外のソーシャルメディアの取り組み

実際、多くのソーシャルメディアプラットフォームには自殺傾向に対する介入策がある。例えば、知乎で「自殺」を検索すると、ヘルプホットラインがポップアップ表示される。

海外では、Facebook は自殺関連コンテンツを監視する機能も備えており、AI 技術を使用して自殺の可能性のあるユーザーをマークし、必要に応じて自殺傾向のあるユーザーの友人に通知したり、地元の救助機関に連絡したりしています。

もう一つの大手ソーシャルメディアプラットフォームであるツイッターも、慈善団体と協力してユーザーの状態を監視し、自殺傾向が検出された場合に警告を発している。