米上院司法委員会公聴会：AIは制御が難しく、悪意のある者が生物兵器の開発に利用する可能性がある

海外メディアTechCrunchによると、7月26日、米上院司法委員会は昨日、人工知能に関する公聴会を開催した。会議中、複数のAI業界従事者は、急速に発展するAIを人間が適切に制御することはできないため、今後数年間でAIが深刻な危害をもたらす可能性があると警告した。悪意のある分子が監視を迂回するAIツールを使用して生物兵器を作成する可能性がある。

公聴会を主宰した上院司法委員会小委員会の委員長リチャード・ブルーメンソール氏は、人類は当時としては驚くべき新技術を発明する能力があることを証明したと述べた。彼はAIを米国の第2次「マンハッタン計画」やNASAの第2次「有人月面着陸計画」に例えたが、聴衆の中の業界代表者たちはAIについてより多くの懸念を表明した。

米国のAIスタートアップ企業アンスロピックのダリオ・アモデイCEOは公聴会で、最先端のAI技術がわずか2年で危険なウイルスやその他の生物兵器の作成に利用される可能性があることを懸念していると述べた。同社はこれまでグーグルから3億ドル（ITホームノート：約21億4700万人民元）の投資を受けており、グーグルのデータセンターを利用して「より信頼性の高い」AIモデルを訓練してきた。

モントリオール大学のAI教授で「現代AI科学の父」と呼ばれるヨシュア・ベンジオ氏は、GPT-4などのモデルが達成した大きな飛躍に衝撃を受けたと語り、各国が積極的に協力してAIの発展を管理し、原子力技術の規制ルールに似たシステムを確立すべきだと考えている。

カリフォルニア大学バークレー校のコンピュータサイエンス教授、スチュアート・ラッセル氏は、現在のAIの仕組みは「不可知性」に満ちていると考えている。他の強力で制御可能な技術と比較すると、AIには現在「スーパー管理ツール」が欠けているため、人々はAIの実際の意図や起こり得るすべての行動を知ることができない。

報道によると、過去半年間で、業界ではハリウッド大作映画における「スーパーAI」の登場時期を当初の数十年から「わずか数年後」に前倒ししており、「スーパーAI」を巡って起こり得るさまざまな問題も浮上し、社会に幅広い懸念を引き起こしている。