これらの5種類の情報はAIチャットボットに決して開示されるべきではない

翻訳者 | ブガッティ

レビュー | Chonglou

AIチャットボットの人気が急上昇しています。チャットボットの機能は素晴らしいですが、完璧ではないことを認識することが重要です。 AI チャットボットの使用には、プライバシーの問題や潜在的なサイバー攻撃など、いくつかの固有のリスクが伴います。チャットボットとやりとりするときは注意が必要です。

AI チャットボットと情報を共有することの潜在的な危険性を探り、どのような種類の情報を AI チャットボットに開示すべきではないかを見てみましょう。

AIチャットボットの使用に伴うリスク

AI チャットボットに関連するプライバシーのリスクと脆弱性は、ユーザーにとって重大なセキュリティ上の懸念を引き起こします。チャットパートナー（ChatGPT、Bard、Bing AI、その他のチャットボットなど）があなたの個人情報を不注意でオンラインで公開している可能性があることに驚くかもしれません。これらのチャットボットは AI 言語モデルに依存しており、データから洞察を得ます。

たとえば、Google のチャットボット「Bard」の現在のバージョンでは、会話データを収集してモデルをトレーニングする目的で使用していることが FAQ ページに明記されています。同様に、ChatGPT はモデルを改善するためにチャット ログを保持するため、プライバシーに関する懸念があります。しかし、ユーザーにはオプトアウトするオプションが提供されています。

AI チャットボットはデータをサーバー上に保存するため、ハッカーの攻撃に対して脆弱です。これらのサーバーには、サイバー犯罪者がさまざまな方法で悪用できる膨大な量の情報が保存されています。サーバーに侵入してデータを盗み、それをダークウェブのマーケットで売ることもできます。さらに、ハッカーはこのデータを使用してパスワードを解読し、デバイスに不正にアクセスする可能性があります。

さらに、AI チャットボットとのやり取りによって生成されるデータは、それぞれの企業に限定されません。同社は、データは広告やマーケティングの目的で販売されることはないと主張しているが、システムメンテナンスの目的で特定の第三者と共有されている。

ChatGPTの背後にある組織であるOpenAIは、データを「信頼できるサービスプロバイダーの小グループ」と共有しており、「許可されたOpenAIの担当者」の一部がデータにアクセスできる可能性があることを認めた。こうした慣行により、AI チャットボットのやり取りの安全性に関する懸念がさらに高まり、批評家は生成 AI の安全性の問題が悪化する可能性があると考えています。

したがって、個人情報が AI チャットボットに開示されないように保護することは、プライバシーを保護するために非常に重要です。

AI チャットボットと共有してはいけないものは何でしょうか?

プライバシーとセキュリティを確保するには、AI チャットボットとやり取りする際に次の 5 つのベスト プラクティスに従うことが非常に重要です。

1. 財務情報

サイバー犯罪者は ChatGPT のような AI チャットボットを使用して銀行口座に侵入する可能性がありますか? AI チャットボットが広く使用されるようになるにつれて、多くのユーザーがこれらの言語モデルを利用して財務アドバイスを求めたり、個人の財務を管理したりしています。金融リテラシーを向上させることはできますが、AI チャットボットと金融情報を共有することの潜在的な危険性を理解することが重要です。

チャットボットをファイナンシャルアドバイザーとして使用すると、あなたの財務情報がサイバー犯罪者に公開され、その情報を利用してあなたの口座から金銭が盗まれる可能性があります。多くの企業がセッション データを匿名化すると主張していますが、第三者や一部の従業員がアクセスできる可能性があります。これにより、情報プロファイリングに関する懸念が生じます。財務情報が、ランサムウェア攻撃などの悪意のある目的に使用されたり、マーケティング会社に販売されたりする可能性があるからです。

AI チャットボットによる財務情報の収集から保護するには、これらの生成 AI モデルに開示する内容に注意する必要があります。一般的な情報の取得と幅広い質問に限ってやり取りを行うのが賢明です。パーソナライズされた財務アドバイスが必要な場合は、AI チャットボットに完全に依存するのではなく、より良い選択肢があるかもしれません。 AI チャットボットは不正確な情報や誤解を招く情報を提供する可能性があり、苦労して稼いだお金を失う可能性があります。代わりに、信頼できるカスタマイズされたガイダンスを提供できる、資格を持ったファイナンシャルアドバイザーにアドバイスを求めることを検討してください。

2. 個人的な考え

多くのユーザーは、AI チャットボットをセラピーに頼っていますが、これが自分の精神的健康にどのような影響を与えるかは認識していません。こうしたチャットボットに自分の心の内を明かすことの危険性を理解することが重要です。

まず、チャットボットには現実世界の知識が欠けており、メンタルヘルスに関する質問に対して大まかな回答しか提供できません。つまり、医師が推奨する薬や治療法は、あなたの特定のニーズに適しておらず、健康を害する可能性があるということです。

さらに、AI チャットボットに個人的な考えを明らかにすることは、深刻なプライバシーの懸念を引き起こします。あなたのプライバシーが侵害され、最も個人的な考えがオンラインで漏洩される可能性があります。悪意のある人物がこの情報を利用してあなたをスパイしたり、ダークウェブであなたのデータを販売したりする可能性があります。したがって、AI チャットボットと対話するときは、個人的な考えのプライバシーを保護するように注意してください。

AI チャットボットは、専門的な治療の代わりとしてではなく、一般的な情報とサポートを提供するツールとして考えてください。メンタルヘルスに関するアドバイスや治療が必要な場合は、必ず資格のあるメンタルヘルス専門家に相談することをお勧めします。あなたのプライバシーと健康に配慮しながら、パーソナライズされた信頼できるガイダンスを提供することができます。

3. 職場における機密情報

AI チャットボットとやり取りする際にユーザーが避けなければならないもう 1 つの間違いは、機密性の高い仕事情報を共有することです。 Apple、Samsung、JPモルガン・チェース、Bard、Googleなどの有名なテクノロジー大手でさえ、従業員が職場でAIチャットボットを使用することを制限しています。

ブルームバーグの報道によると、サムスンの従業員がプログラミング目的でChatGPTを使用し、誤って機密コードを生成AIプラットフォームにアップロードした事例が取り上げられた。この事件によりサムスンの機密情報が不正に漏洩し、同社はAIチャットボットの使用を禁止するに至った。プログラミングの問題を解決するために AI の助けを求めている開発者として、ChatGPT のような人工知能チャットボットに機密情報を渡してはいけない理由を説明します。機密コードや仕事関連の詳細を共有するときは注意が必要です。

同様に、多くの従業員は、会議の議事録を要約したり、反復的なタスクを自動化したりするために AI チャットボットに依存していますが、これにより機密データが誤って公開される可能性があります。したがって、機密性の高い仕事情報を非公開に保ち、AI チャットボットと共有しないようにすることが重要です。

ユーザーは、仕事関連のデータの共有に伴うリスクを認識することで、機密情報を保護し、不注意による漏洩やデータ侵害から組織を守ることができます。

4. パスワード

パスワードをオンラインで共有することは、言語モデルに対してであっても、固く禁じられていることを強調することが重要です。これらのモデルはデータを公開サーバー上に保存するため、パスワードを公開するとプライバシーが侵害される可能性があります。サーバーが侵害されると、ハッカーがパスワードにアクセスして悪用し、金銭的な損失を引き起こす可能性があります。

2022年5月にChatGPTに関連する大規模なデータ侵害が発生し、チャットボットプラットフォームのセキュリティに関する深刻な懸念が生じました。さらに、ChatGPT は、欧州連合の一般データ保護規則 (GDPR) によりイタリアでは禁止されています。イタリアの規制当局は、AIチャットボットがプライバシー法に準拠していないと判断し、プラットフォーム上でデータ漏洩のリスクがあることを強調した。したがって、ログイン資格情報が AI チャットボットに漏洩しないように保護することが重要になります。

これらのチャットボット モデルとパスワードを共有しないようにすることで、個人情報を積極的に保護し、サイバー脅威の被害者になる可能性を減らすことができます。ログイン資格情報を保護することは、オンラインのプライバシーとセキュリティを確保するための重要なステップであることを忘れないでください。

5. 居住情報およびその他の個人情報

個人を特定できる情報 (PII) を AI チャットボットと共有しないようにすることが非常に重要です。 PII には、位置情報、社会保障番号、生年月日、健康情報など、ユーザーを特定したり、位置を特定したりするために使用できる機密データが含まれます。 AI チャットボットとやり取りする際には、個人データと住宅データのプライバシーを確​​保することが最優先事項となります。

AI チャットボットとやり取りする際に個人データのプライバシーを保護するために、従う価値のある重要なプラクティスをいくつか紹介します。

• チャットボットのプライバシー ポリシーをよく理解して、関連するリスクを理解してください。
• 誤って身元や個人情報を明かしてしまうような質問は避けてください。
• 注意して、医療情報を AI ロボットと共有しないようにしてください。
• SnapChat などのソーシャル プラットフォームで AI チャットボットを使用する場合は、データの潜在的な脆弱性に注意する必要があります。

AIチャットボットと情報を共有しすぎないようにする

要約すると、AI チャットボット技術は大きな進歩を遂げていますが、同時に深刻なプライバシーリスクももたらしています。 AI チャットボットとやり取りするときは、共有する情報を制御して自分のデータを保護することが重要です。潜在的なリスクを軽減し、プライバシーを確​​保するために、常に注意し、ベストプラクティスに従ってください。

原題: AI チャットボットと共有してはいけない 5 つのこと、著者: WASAY ALI