規制がなければ、AIは金融危機を引き起こす可能性がある

人工知能の影響はビジネス界のほぼすべての側面に広がっており、金融業界も例外ではありません。金融業界の組織は、AI の変革力によって劇的な変化を経験すると予想されています。世界的な金融・経済の中心地とみなされているウォール街は、長い間伝統的なテクノロジーに依存してきましたが、現在では AI テクノロジー、特に生成 AI (GenAI) に強い関心を寄せています。

ウォール街は AI の研究、開発、特許に数十億ドルを投資していますが、十分な安全策を講じずに進歩している可能性があります。米国の消費者監視機関による最近の調査によると、ウォール街の人工知能は複雑なアルゴリズム、透明性の欠如、偏見や虚偽の情報につながり、次の金融危機を引き起こす可能性があるという。

消費者監視団体の調査には、米国特許商標庁（USPTO）からのA​​I関連の特許出願の分析も含まれていた。ウォール街の銀行は、さまざまな用途の特許や商標を申請しています。ゴールドマン・サックス、JPモルガン・チェース、モルガン・スタンレーは、証券や投資を分析し、株価やポートフォリオを予測するためにAIに注目しています。

ウォール街のほぼすべての銀行が、顧客や従業員に財務アドバイスを提供するために、ChatGPT の独自バージョンを開発しています。これは憂慮すべき事態です。なぜなら、「AI幻覚」のリスクはGenAIの使用に対する最大の脅威の1つであり、偏った、あるいは誤解を招くような出力につながる可能性があり、金融​​セクターにとって悲惨な結果をもたらす可能性があるからです。

「適切な規制がなければ、次の金融危機は人工知能によって引き起こされる可能性がある」とコンシューマー・ウォッチドッグの技術擁護者ジャスティン・クロツコ氏は言う。「少数の有力銀行が偏ったアルゴリズムに頼っているため、不動産市場や株式市場で不況が引き起こされる可能性がある」

消費者監視団体によると、人工知能を利用することで、投資家が数十億ドルのジャンク債でギャンブルをすることができる複雑な新しい金融デリバティブ商品を生み出すことができる可能性がある。これは、2008 年の金融危機と同じくらい深刻な経済崩壊につながる可能性があります。

「こうした企業が自動化を導入し、より大きな市場で導入し始めれば、何らかの体系的なリスクが生まれるだろう」と、南カリフォルニア大学で人工知能を研究する金融学教授ジェラルド・ホーバーグ氏はコンシューマー・ウォッチドッグに語った。

消費者監視団体は報告書の中で、州政府と連邦政府による規制強化を求め、体系的なリスクと「集団行動」（「集団行動」とは、投資家が他の投資家の行動に追随し、模倣する傾向がある体系的な偏向を指す）を防ぐため、より高度な監視と定期的な監査を推奨した。

報告書ではまた、AI投資システムを人間の投資アドバイザーと同じ基準で運用することを推奨し、AI投資アルゴリズムのブラックボックスデータの外部レビューを義務付けている。

消費者監視団体の報告書は、カリフォルニア州がこの問題に対処するための取り組みを強調している。カリフォルニア州プライバシー保護局（CPPA）の規則草案では、AI自動化技術を使用して金融上の決定が行われることを拒否する権利が人々に与えられることになる。カリフォルニア州政府が制定した規則は、AI におけるリスクと偏見に対する保護を提供し、他の州が従うべきモデルを提供します。

2020年以降、米国特許商標庁ではAI関連の特許出願が急増しており、8万件を超える出願が提出されている。興味深いことに、AI 特許出願の 90% 以上はわずか 5 つの投資銀行によって提出されており、これらの銀行は AI 投資取引の半分と研究論文の 3 分の 2 以上を管理しています。規制当局が行動を起こさなければ、ウォール街の大手銀行が偏った、あるいは信頼できない AI モデルの使用を決定したときに、世界経済が次の金融危機に見舞われる可能性がある。