すべての IT リーダーが議論すべき 6 つの難しい AI に関する議論

AIほど多くの議論や論争を巻き起こした技術はほとんどなく、労働者、著名な経営者、世界の指導者たちは、この技術に対する賞賛と懸念の間で揺れ動いている。

確かに、CIO は議会で証言を求められることはありませんが、役員室や役員会議室で、ビジネス リーダーがテクノロジー部門の責任者にさまざまな難しい質問をし、CIO が答えることが期待されるため、厳しく尋問されます。そのため、準備しておく必要があります。

「CIO はこうした話し合いの中心にいます」と、ロサンゼルスに拠点を置く IT コンサルティング会社 AVOA の CIO 戦略アドバイザー、ティム・クロフォード氏は語ります。「CIO はすべてを知っている必要はありませんが、会社全体を見る立場にある者として、CIO は洞察力を発揮し、他の役員がすべてをまとめるのを支援できる必要があります。」

ITリーダーらは、AI導入のコストからAIが人類に実存的脅威をもたらすかどうかまであらゆることを議論しており、懸念する人もいると述べている。彼らは後者の質問に答えることはできませんが、前者の質問やその他同様のトピックについて会話をリードしなければなりません。

ここでは、チーム、事業部門のリーダー、他の役員、取締役会と行うべき AI に関する中心的な会話について説明します。

1. AI が本当に必要なビジネスケースはどれですか?

ChatGPTは2022年後半の発売後、人々がこの新技術を試したいと大騒ぎし、大きな騒ぎを引き起こした。この発表により、AI は脚光を浴び、多くの企業の議題のトップに躍り出ることになった。プロフェッショナルサービス企業EYが発表した2023年10月のCEO展望レポートによると、CEOの99%がGenAIへの投資を計画していることがわかりました。

しかし、これらの CEO は適切なものに投資しているのでしょうか? これは多くの CIO が問うている質問です。AI ソリューションが必要なときはいつでも、ビジネス ニーズとビジネス価値を提示するのは CIO であると報告する人もいます。

アラスカ州の CIO であるビル・スミス氏は、従業員が AI ソリューションの必要性を宣言したが、その理由を尋ねられたとき、その従業員は単に「私たちには AI が必要なだけです」と答えたという状況に遭遇しました。

私たちは皆、AI について語り、AI をめぐる期待と誇大宣伝が盛んですが、同時に、こうした誇大宣伝サイクルで生まれる可能性のあるユースケースについては厳密さが欠けており、その結果、人々は解決すべき問題よりもソリューションを念頭に置く傾向があります。そこで私は、「どのような問題を解決しようとしているのですか?」と尋ねています。おそらく、彼らが必要としているのは AI ではないからです。スミス氏は語った。

スミス氏は、最近は人々がAIについて話すとき、まず解決すべき問題やつかむべき機会に焦点を当てるのではなく、AIについて話す傾向があると述べた。これはGenAIの誇大宣伝を考えると驚くことではないが、彼の目標は、AIについて他の人に教育することで会話をより生産的なものにすることである。彼と彼のチームは、さまざまな種類の AI とその使用方法を説明する情報デッキ、ドキュメント、プレゼンテーションを作成し、AI と機械学習がどのように、どこで役立つのか、そしてそれがすべての問題の解決策ではない理由を説明しています。

2. どのアイデアが本当にビジネス価値をもたらすでしょうか?

企業の AI への投資は大きな成果を上げています。

最近、マイクロソフトは IDC に委託して「AI のビジネス チャンス」と題するレポートを作成しました。このレポートでは、世界中のビジネス リーダー 2,100 名を対象に調査が行われ、AI への投資 1 ドルにつき 3.5 ドルの利益、つまり 350% の利益が見込まれていることがわかりました。さらに、企業が AI 投資の利益を得るまでの平均期間は、導入から 14 か月以内です。

こうした調査結果にもかかわらず、CIO は、すべての AI プロジェクトが追求する価値があるわけではなく、また、すぐに追求すべきでもないということを同僚やチームに思い出させていると述べています。

「AIのような技術に興奮し、100種類のパイロットやテストをやりたくなるのは簡単だが、企業に価値を提供するという考えに集中し続けなければならない」とソフトウェアメーカーのセールスフォースのCIO、フアン・ペレス氏は語った。

「これは CIO にとって興味深いジレンマです。私たちは自社のビジネスが新しいテクノロジーを活用できるようにしたいのです。それが私の個人的な目標ですが、自分のやっていることがビジネスとその目標と一致していて、ビジネスが成功するようにしたいとも思っています。」

そのため、ペレス氏は、他のあまり注目されていないテクノロジーで構築された他のプロジェクトと同様に AI プロジェクトを評価し、チームと協力してユースケース、ガバナンスのニーズ、予想されるビジネス上のメリット、予想される収益を評価します。

「付加価値のないプロジェクトに力を注ぐことはできません」とペレス氏は付け加えた。「ですから、AI が会社にもたらす価値と目的がわかるいくつかの主要分野を選び、そこに賭け、そこに集中し、そこから学び、学んだことを他の分野に広げていくのです。」

3. 限られたリソースで、どのような目標を合理的に達成できるでしょうか?

GenAI が突如登場して以来、多国籍メーカー Avery Dennison の上級副社長兼 CIO である Nicholas Colisto 氏は、自社で GenAI の可能性を受け入れてもらうために奮闘してきました。

「AIは昔から存在していました」と彼は言う。「しかし、2023年初頭にGenAIが登場し爆発的に普及したとき、当社を含む多くの企業がAIにノーと言い切りました。[当社のリーダーたちは]会社、データ、従業員を保護するためのガイドラインを確実に整備したいと考えていました。」

これらの問題を克服するために、コリストはリーダーたちに AI の機能とリスクについて教育し、企業を「知らない」から「知らない」へと変えようと努めています。彼の努力は報われ、それ以来 Avery Dennison は GenAI の構想、試験運用、運営に携わっています。

それでも、資源に関する現実を直視し、前進の勢いをいくらか抑える必要があると認めた。

「AIは新たな資金をもたらしていないことを人々に思い出させる必要がある」とコリスト氏は述べ、同社の長年の資金調達慣行がAI関連の取り組みには当てはまらないと誤解している人もいると付け加えた。 「企業投資の観点から見ると、AIに対する考え方は人それぞれで、企業はAIに投資できる資金をすべて持っていると考える人もいます。しかし、投資サイクルを無視してAIにすべてを投入すると言う企業は多くありません。」

他の CIO も、資金、人材、時間の制約について話し合っていると述べています。

「人材が今問題となっている」と、ビジネス変革サービス企業ジェンパクトの副社長兼AI/MLサービス担当グローバルヘッド、スリーカント・メノン氏は語る。「企業はAIを扱うために異なるタイプの人材を必要としている。彼らには多くのスキルアップが必要であり、あるいは新しい人材を獲得する必要がある。誰もがパートナーと協力して（AI人材の）エコシステムを構築しようとしているが、これには時間がかかる。」

多くの企業が人材不足の影響を受けています。 Microsoft/IDC の調査によると、回答者の 52% が、AI の実装と拡張における最大の障壁として熟練労働者の不足を挙げています。

CIO は、IT チームには他にもやるべき仕事があることを同僚に思い出させます。 「当社には通常通りのプロジェクトサイクルがあり、いくつかの定期的なプロジェクトが進行中です。AIのためにすべてを放棄するつもりはありません」とコリスト氏は語った。

CIO たちは、問題について議論するのではなく、会話をビジネスの優先事項に戻していると述べています。

「私たちは、事業部門に戦略目標に合致するアイデアを特定するよう依頼し、そのアイデアのコスト、そのアイデアの費用対効果や収益創出への影響、そしてそのメリットの実現可能性について話し合います」とコリスト氏は言う。「AI に関しては、事業部門が最も価値の高いプロジェクトを特定する必要があり、すべての主要機能にわたって何百ものユースケースがあり、優先度の高いものに資金を提供しています。」

4. 現在のデータ操作の状態では、求めている結果が得られますか?

CIO が同僚と話し合わなければならないもう 1 つの厄介な話題は、企業のデータ品質の問題が AI への取り組みを妨げているかどうかです。

S&P Global Market IntelligenceがデータプラットフォームメーカーWEKAのために2023年に1,500人以上のAI実践者と意思決定者を対象に実施したアンケートでは、データ管理がAIと機械学習の導入を阻害する最も一般的な技術であることが判明しました。同様に、プロフェッショナルサービス会社KPMGが発表した2023年米国AIリスク調査レポートでは、データの完全性がトップ3のリスクであり、統計的妥当性、モデル精度がそれに続くことが判明しました。

「データに関する会話は非常に現実的であり、多くの場合、CIO は『これを解決しなければ、望む結果は得られない』と言っています」と、デジタル トランスフォーメーション ソリューション企業 UST の最高戦略責任者兼 CIO であるクリシュナ プラサド氏は述べています。

プラサド氏は、自分の会社でも、会社の顧客でも、このような会話を耳にすると語った。

CIO によると、これは特に難しい議論だといいます。なぜなら、通常、CIO はビジネス データの状態について責任を負っておらず、観察結果を共有して修復措置の開発に協力することしかできないからです。

一方、CIO は、AI のおかげで、データ品質に関するさらなる対策を求める声が高まっていると述べています。 「データはこれまで以上に企業にとって重要になっており、AI によってデータに関する会話が活発化しています」とセールスフォースのペレス氏は語った。

5. 当社のリスク許容度はどの程度ですか? どのように対応しますか?

AI イニシアチブを取り巻くリスクと安全性に関する懸念も、CIO が経営幹部の同僚やチームと交わす会話の多くで取り上げられています。

それには何の理由もありません。企業は、自社の独自データや規制で保護されたデータが ChatGPT のようなオープン AI ツールに取り込まれ、AI が偏った回答や完全に捏造された結果 (AI 幻覚と呼ばれる) を出すのを目にしてきたからです。説明可能性が欠如しているため、認証または検証できない AI 出力が得られます。

「この技術を、自分自身や会社を危険にさらすような方法で使用しているにもかかわらず、それに気づかない人々の例はたくさんある」とクロフォード氏は言う。

CIO は、AI の使用を阻止することが解決策ではないと強調しました。使用を禁止しても、一部の従業員が実験を続ける可能性があるため、使用を止めることはできません。さらに、エンタープライズ ソフトウェア メーカーは、販売する製品やサービスに AI を組み込んでおり、いずれにせよ AI はエンタープライズに導入されることになります。さらに、リスクへの懸念からその使用が禁止または制限されると、AIの取り組みを進めている競合他社と比較して、同社は不利な立場に置かれることになります。

クロフォード氏らは、CIO はこうした視点を議論の場に持ち込む必要があると述べている。 CIO は今後、起こりうる規制に関する立法上の議論を監視し、規制が自社の AI アジェンダにどのような影響を与えるかを把握する必要もあります。

クロフォード氏はさらに次のように付け加えた。「CIO にとってこれは難しい会話です。なぜなら、彼らはイノベーションを奨励する一方で、顧客データと知的財産を保護しようとしているからです。注意深く話さないと、この新しいテクノロジーに否定的または非支持的であるという印象を与え、人々はあなたを避けて働くことになるからです。」

6. 当社の AI 戦略は倫理的問題にどのように対処していますか?

テキサス州の情報資源担当エグゼクティブディレクター兼最高情報責任者のアマンダ・クロフォード氏は、州政府内での AI 技術の利用に関する話し合いの一環として、AI の利用に関する倫理と許容可能なパラメータについて話していると述べました。

「我々は先頭に立ちたいとは思っていませんし、それは我々が目指すものでもないのです。なぜなら、他の新興技術には政府としての義務と責任が伴うからです。そしてそれは、AIのように非常に破壊的な何かの場合に間違いなく当てはまります。ですから、我々の政府のペースは少し遅くなり、少し思慮深く、少し目的意識を持ち、少し計画的になるでしょう。なぜなら、我々の活動の性質上、信頼を維持しなければならないからです。」

テキサス州がAIを使用していないと言っているわけではない、とクロフォード氏は言う。実際、多くの民間団体と同様に、テキサス州政府はすでに業務全体にわたってチャットボット、スマートオートメーション、インテリジェントシステムを導入しており、GenAIやその他の新しいAIテクノロジーをどこで活用できるかを調査しています。

「しかし、我々が行っている話し合いは、倫理とプライバシーの問題、そして憲法上の権利と有権者のプライバシー権に対する政府の義務に関するものであり、我々の決定はこれらを考慮に入れなければならない」とクロフォード氏は説明した。

例えば、こうした会話は、法律、公共政策、ベストプラクティス、あるいは国民の期待により、一部のタスクはインテリジェントシステムではなく人間によって実行されなければならないかどうかに焦点が当てられる可能性があると彼女は述べた。

「私はいつもそれを目にしており、CIO としてこうした質問をするのが私の仕事です」とクロフォード氏は述べ、彼女とテキサスの他の多くの IT リーダーは「これを展開するにあたって、行政レベルと立法レベルのリーダーシップが戻ってきて、物事を理解するのを手伝ってくれること」を望んでいると付け加えた。

AIの倫理的パラメータについて疑問を抱いているのはクロフォード氏と政府機関だけではない。

USTのプラサド氏は、CIOは、AIシステムが偏った結果や幻覚を生み出した場合の責任について幹部の同僚と話し合っており、AIの出力を追跡して説明できるようにする方法と、それができない場合の対処法について話し合っていると述べた。

「AI によってさまざまなことが可能になりますが、本当にそれをやりたいのかが問題です。これは経営陣、さらには取締役会と話し合う必要があるトピックです。」