非人道的だ！人工知能はソーシャルエンジニアリングの天敵である

人工知能 (AI) はまだ初期段階ですが、AI は急速に企業が自らを守るための重要な手段になりつつあります。高度なアルゴリズムを活用することで、組織はインシデント対応を改善し、潜在的な脅威を監視し、脅威のシグナルを特定できます。しかし、AI の重要な利点が見落とされてきました。それは、AI は人間のアナリストが簡単に見落としてしまう脆弱性を見つけることができるということです。

[[311663]]

多くの企業や組織は、サイバー防御における AI の最も重要な応用である、一般に「非人間性」として知られる共感の欠如をまだ活用していません。

信頼を獲得する

ソーシャル エンジニアリングは、電話や電子メールの技術に熟練した人物によって開始および実行され、高度なハッキング スキルは必要ありません。その代わりに、ハッカーは、カスタマー サービス担当者や、2 要素認証に紐付けられた電話番号や、利益の出るゲーム アカウントのパスワードなど、必要な情報を持っている他の誰かを狙っています。 FBIのインターネット犯罪苦情センターは、人気のソーシャルエンジニアリング手法であるビジネスメール詐欺（BEC）が、2018年だけで12億ドル以上の損失を引き起こしたと主張している。

銀行やその他の高価値組織が主な標的となる可能性はありますが、このような攻撃から逃れられる組織は存在しません。ある女性は、ハッカーが携帯電話会社に新しいSIMカードを強制的に有効化させ、そのSIMカードを使ってさまざまな金融口座の2要素認証の認証情報を盗んだことで、3万ドル相当の暗号通貨を失った。別の事件では、ハッカーが上級社員になりすまし、財務部門に多額の資金移動をさせるよう説得したため、Ubiquiti Networks は 3,910 万ドルの損失を被った。

報奨金プログラムのような無害なものでも、悪意のあるハッカーの興味を引く可能性があります。企業は現在、従業員をトレーニングし、従業員が常に従うべき一連の手順を設定することでこの問題に対処しています。

残念ながら、ネットワーク セキュリティ チェーンの最も弱いリンクはファイアウォールではなく、多くの場合、ユーザー自身です。相手を喜ばせたいと考えているカスタマーサービス業の方。彼らは台本に従わないことが多く、巧妙な手口を持つ詐欺師の影響を受けやすいのです。ハッカーがすべきことは、ホテルのポイントカードを紛失したと主張し、新しいカードを自宅に送ってもらうよう依頼し、どの住所が記録されているかを尋ねることだけです。そうすれば、ヘルプデスクのスタッフが助けてくれるかもしれません。そのため、見知らぬ人が特定の顧客の個人情報にアクセスできるようになります。

アクセスを遮断

もしカスタマーサービススタッフがそれ以前に人工知能、特に会話型 AI に出会っていたら、結果はまったく違ったものになっていたかもしれません。世界最大級のゲーム会社の一つが、このアプローチを初めて体験し、会話型 AI をフロントエンドのチャットエージェントとして使用することを決定しました。数多くの成功したビデオゲームのリリースで知られる同社は、顧客の単純なゲームの問題に対処するために Amelia を導入しました。同社は、Amelia によって顧客が問題解決を待つ時間を短縮できると考え、実際に Amelia は同社にとってこの目標を達成しました。しかし、しばらく働いているうちに、アメリアさんは、発信者が正しい識別情報なしでアカウントへのアクセスを要求することもあり、それがフィッシング詐欺だと検知されることにも気づきました。ゲーム世界には現実の金融機能が組み込まれており、金融口座情報も連携されているため、リスクはかなり高くなります。人間のカスタマー サービス担当者は、簡単に騙されてアカウント認証情報を渡してしまう可能性があります。しかし、アメリアは感傷的な話には決して心を動かされませんでした。

アメリアは意思決定を行う際に会社の方針に厳密に従い、ソーシャル エンジニアリングの手法に騙されることはありません。彼女は、スクリプトに従い、危険な行為に直面したときに新しい認証方法を導入することで、あなたが本人であることを証明したいだけなのです。

最初の展開は、少なくとも部分的には成功でした。アメリアは人間の従業員よりも顧客からの苦情を解決するのに時間がかからず、偽アカウントの使用も減りましたが、顧客満足度は低下しました。消費者が、アカウント情報の盗難を防止できる AI を好まない理由は何でしょうか?

通常のチャットとエスカレーションされたチャットの両方で、アメリアと顧客の間の会話の記録を注意深く確認すると、その理由が明らかになります。アメリアは規則を厳守し、ハッカーに誘導されなかったので、ハッカーは故意に悪いレビューを付け、ゲーム会社のサービスセンターは彼女に良いレビューを付けました。

リアルタイムこそが王様

顧客サービスの分野以外でも、会話型 AI は脅威評価者に競争上の優位性を与えることができます。高度な会話型 AI は、定期的にオフラインでデータをスキャンしたり脅威を監視したりするのではなく、データと動作をリアルタイムで分析し、対話のコンテキストをキャプチャします。ユーザーが残高を知りたい場合、高度な会話型 AI は、ユーザーが提供する情報に基づいてユーザーの ID を確認した後、正しい意味を捉えます。データはバックエンドでオンラインで処理されるため、フロントエンドの会話型 AI は、人々に実際の 1 対 1 のコミュニケーションの自然な感覚を与えることができます。

会話をリアルタイムで評価し、あらゆる脅威評価の言い回しを処理する AI の能力は、非常に強力なツールです。疑わしい顧客の行動が通常から大きく逸脱してリスクをもたらす場合、会話型 AI はこれを識別し、適切な措置を講じることができます。これらのアクションは、追加の認証手順を追加するのと同じくらい簡単な場合があります。

AI がなければ、これは会話が終わってから不正の兆候がないか確認された後にのみ実行される可能性があります。その時には、悪意のあるハッカーがすでに資金を持ち逃げしている可能性があります。しかし、実際の人間ではなく AI が会話を行っている場合、AI は起こっていることすべてを観察し、すべての単語を分析し、脅威、リスク、安全性に関する決定をリアルタイムで行うことができます。

先導する

ソーシャル エンジニアリングは、ブルート フォース アルゴリズムに基づくソフトウェア攻撃と同じくらい、ハッカー攻撃の原因となっています。ホテル、ゲーム出版社、その他の場所を攻撃する場合でも、ハッカーは常にターゲットのネットワークにアクセスできる情報を探しています。しかし、目的を達成するために高度に洗練された攻撃を実行する必要はありません。必要なのは、説得力のあるストーリーと少しの忍耐力、そして例外を認めてくれるカスタマー サービス エージェントだけです。

会話型 AI がフロントエンド チャットを主導できるようにすることで、企業はソーシャル エンジニアリングによって引き起こされる潜在的な損害を軽減できます。この作業は、顧客への影響をできるだけ少なくして実行できますし、そうすべきです。実際、顧客は会話の相手が誰であるかを考える必要すらありません。ユーザーは単にクエリを入力し、必要なものを取得して、先に進む必要があります。結局のところ、このような便利さこそが私たちが思い描く未来ではないでしょうか?