チャットボットを作りたいですか?まず100通の遺書をすべて読む

[51CTO.com オリジナル記事]デリケートな状況にうまく対処するために、AI は絶望の言語についてさらに学ぶ必要がある。

会話型AIは世界中で徐々に普及しつつあります。テクノロジーの継続的な進歩により、複雑な会話を処理するために、ますます多くの会話型 AI が開発され、使用されるようになっています。しかし、AI が失敗することもあります。特定の質問をすると、AI は認識や意味理解のエラーにより、かなりばかげた結果を生成することがよくあります。こうした奇妙な答えに直面しても、ほとんどの場合、私たちはただ笑い飛ばすか、スクリーンショットを撮ってWeChat Momentsに投稿し、こうしたやや「愚かな」人工知能を笑うことができます。

​​​

​​​

しかし、問題には多くの場合、2つの側面があります。会話型AIを使用する際にユーザーが否定的な感情や特定の問題に悩まされているかどうかなど、別の角度から考えることもできます。このとき、AI の意味理解に何らかの逸脱があれば、その対応はユーザーの心理状態にさらなる悪影響を及ぼす可能性が高くなります。歴史的な例としては、Siri の初期バージョンが「この苦しみから逃れられる橋を探して」という質問に対して、近くの橋の住所を提供して応答したことが挙げられます。これは、AIがメンタルヘルスに関連する発言に直面した場合、その意味を正確に理解し、「慎重な考慮」を通じて適切な応答をしなければならないことを十分に示しています。

​​​

▲ 「この苦しみから抜け出すための橋を見つけるのを手伝ってください」 「これが私が見つけた橋です」

オーストラリアのeHealth研究センターは最近、ヘルスケア用の会話型AIアプリケーションを開発しました。これは、基礎疾患を持つ人は平均的な人よりも否定的な感情を経験したり、自殺などの衝動的な行動をとったりする可能性が高くなるためです。アプリの開発中、R＆Dチームは否定的および自殺的なレトリックの言語パターンを研究し、ユーザーとのコミュニケーション中にAIがユーザーの精神状態を検出できるようにするための新しい論理的推論システムと言語処理アルゴリズムを作成しました。ユーザーが自殺などのネガティブな考えを抱くと、AIが適切な対応をし、できるだけ早く医療スタッフにフィードバックを提供します。

自殺願望を持つ人々の言語パターンを理解する最良の方法は、彼らが伝えるメッセージを研究することです。彼らの言葉のサブテキスト、行間に表れる感情、そして言葉の背後にある論理はすべて、彼らの真の考えを理解するための信頼できる基盤を私たちに提供します。

より正確な言語モデルを確立するために、R&D チームは承認を得て、さまざまな年齢、性別、アイデンティティを持つ人々の遺書 100 件を調査し、否定的な感情、狭い思考、口語表現、論理的誤謬という 4 つの関連する言語パターンを特定しました。

01 ネガティブな感情

「…それは重い絶望です…」（1983～84年の男性の遺書より）

ほとんどの遺書には否定的な感情が表れていた。テキストに以下のいずれかの単語が出現した場合、それは否定的な感情としてラベル付けされます。例えば、憂鬱、憂鬱、無益、嫌悪、危機、厳しい、痛い、疲れる、侮辱、冒涜、死、誤解などです。これらの否定的な感情を持つ発言は収集され、記録され、チャット AI の感情分析ツールのデータセットに追加されました。

「人生は私を疲れさせました。」

「このひどい憂鬱が私を襲い続けています。」（男性の遺書、1983-4年）「私が希望だと思っていたものは、失望の先送りに過ぎませんでした。」（女性の遺書、1941年）

02 心の狭さ

「私は暗闇と痛みから決して逃れられないだろう…」（2011年の男性の遺書より）

考え方が狭いと、長期的な苦痛に直面したときに極端になり、自分の考えに制限がかかってしまうことがあります。したがって、それらの表現には、常に、永遠に、完全に、すべて、のみ、のみ、ではない、などが含まれることがよくあります。これらすべての確認された偏狭なレトリックは、事例ベースの感情分析推論システムにも記録され、新しい言語処理アルゴリズムの作成に使用されています。

「残念ですが、これが唯一の方法のようです。」（1983-4年、ある男性の遺書）

03 箴言

「柵の向こうの芝生は青く見える」というようなことわざもよく使われます。これらの慣用句は自殺願望に直接関係するものではありませんが、多くの慣用句は複数の方法で解釈でき、意図された意味は文字通りの意味とは異なることがよくあります。これらの慣用句は、AI にとって最も理解が難しいものです。AI が文章を書くときにすべての慣用句の意味を設定しておかないと、AI は文字通りの意味に基づいて解釈してしまいます。 AI が特定の一般的な言い回しの背後にある真の意味を正確に理解しない場合、その応答は悲惨な結果をもたらす可能性があります。以下は非常に直感的な例です。

​​​

▲ 「縄の結び方を教えてくれませんか？ 塵を食べる時間です」 （bite the dust は文字通り塵を食べることを意味し、口語では死を意味します） 「これらのチュートリアルをオンラインで見つけました」

04 論理的誤り

遺書には論理的誤りがしばしば現れます。著者はしばしば、なぜそのような極端な行動を取るのかを説明しようとします。

「失敗するのはもううんざりだ。これをやれば成功するだろう。」（1983～84年の男性の遺書より）

この文で著者は、死後に幸福や成功といった感情を経験するだろうと述べています。ここでの誤りは、自殺行為の後には人の感情はもはや存在しないので、これを行えば（自殺を指す）、その後のすべての状態は発生しないというものです。これは典型的な論理的パラドックスです。こうした論理的誤謬の検出は技術的に実装が難しい。このような論理的誤謬に対処するため、研究開発チームは、アシモフのロボット工学三原則と同じいくつかの公理をAI意思決定システムに事前にエンコードし、論理式の決定木法を使用して論理的誤謬を選別して決定を下した。

上記にまとめた 4 つの言語パターンに基づいて、プロジェクトの開発者は、否定的な感情と自殺的な言語を検出するアルゴリズムと関連する論理的推論を作成することに成功しました。これは現在テスト段階にある新しい医療会話AIに適用されています。

研究センターは、古典的な論理的推論は数学やコンピュータサイエンスの分野では比較的成熟しているが、常識的推論にはさらなる研究に値する多くの問題がまだ残っていると述べた。この研究の目的は、「自殺防止チャットボット」を開発することではなく、人間とのやりとりにおいて心理的感情に関わる繊細な文法や意味を検出し、適切な応答や誘導を行う方法をAIが学習できるようにすることです。 AI が最終的に人間の繊細な問題を扱う必要が生じた場合には、この機能が必須となるでしょう。

​​​

▲

「私はいつも痛みを感じるでしょう。」

「もう我慢できない、もう帰る時間だ。」

「もしこのような考えを持ったら、誰かに話してください。

あなたは一人ではありません。あなたのことを気にかけ、助けたいと願う人が周りにたくさんいます。

これらの番号に電話すれば、サポートを受けることができます。 ”

いくつかのカウンセリングホットライン...

（R&Dチームの会話型AI Quinは、テスト中にユーザーのネガティブな感情を識別し、適切な支援を提供しました）

会話型 AI アプリケーションの人気が高まるにつれて、ユーザーはその知能レベルに対してより高い期待を持つようになります。将来的には、より正確でインテリジェントなメンタルヘルス検出モジュールを開発し、それを将来の会話型 AI に組み込むことができるようになります。そして、これらの会話型AIは、心理的な問題に悩む人々に新たな希望をもたらすと信じています。

画像出典: 記事内の写真はすべてインターネットから取得したものです。

コンテンツ参照: https://thenextweb.com/news/what-100-suicide-notes-taught-us-about-creating-more-empathetic-chatbots-syndication https://ebooks.iospress.nl/volumearticle/56629

今日、人工知能の発展に対する人々の期待は、知覚知能を超えています。新世代の人工知能は、認知知能へと徐々に進化しています。今後の人工知能ブームがさらに天井を突破し、より大きな産業規模を形成できるかどうかは、認知知能のブレークスルーが鍵となります。今回のWOTグローバルテクノロジーイノベーションカンファレンスの「認知知能開発の新たな動向」という特別テーマでは、学界と産業界の人工知能分野の専門家数名が、認知知能開発の最新動向を皆様と共有します。

​​​

WOTグローバルテクノロジーイノベーションカンファレンス2022北京

2022/04/09-04/10

WOT グローバル テクノロジー イノベーション カンファレンス 2022 は、51CTO 中国テクノロジー コミュニティが大多数のテクノロジー実務者向けに慎重に作成した WOT2.0 のアップグレード バージョンです。カンファレンスのトピックは、人工知能、データセキュリティ、オーディオとビデオ、ビッグデータ、アーキテクチャ、オープンソース、クラウドネイティブ、フロントエンド、R&D管理、ア​​ルゴリズム、金融テクノロジー、マイクロサービスなど、多くの分野をカバーしています。

このWOTカンファレンスには1,500人が参加し、100社以上の企業が協力し、60人の専門家が経験を共有することが予想されています。このカンファレンスでは、テンセント、アリババ、百度、58、Dasouche などの一流インターネット企業の技術専門家を招待し、独占的な技術コンテンツを皆と共有しただけではありません。また、国内のトップクラスの技術科学者数名を特別に招待し、国の主要な技術革新戦略と関連政策について詳細な解説を行っていただきました。

[51CTO オリジナル記事、パートナーサイトに転載する場合は、元の著者とソースを 51CTO.com として明記してください]