人工知能は人類に潜在的に壊滅的なリスクをもたらす

11月1日、米国、英国、中国を含む28か国がブレッチリーで開催された第1回世界人工知能（AI）セキュリティサミットでブレッチリー宣言に署名した。これは急速に台頭する技術である人工知能に関する世界初の国際声明であり、新興の人工知能（AI）ツールに関連するリスク、特にこの技術のサイバーセキュリティを管理することを目的としている。 「ブレッチリー宣言」によれば、参加国は、人工知能が日常生活の多くの分野で活用されていることに同意した。人工知能は人類に巨大な世界的機会をもたらす一方で、サイバーセキュリティやバイオテクノロジーなどの重要な分野に重大なリスクももたらしている。

「AIモデルの最も重要な能力は、意図的か否かにかかわらず、深刻な、あるいは壊滅的な損害を引き起こす可能性があることだ」と宣言には記されている。「AIの変化のペースが急速かつ不確実であること、そしてこの技術への投資が加速している状況を考えると、これらの潜在的なリスクをより深く理解し、それに対処する行動をとることが特に急務であると考えている」

新華社によると、中国科学技術部の呉昭輝副部長は代表団を率いてサミットに出席し、人工知能の安全保障などの問題についての議論に参加し、中国の「世界人工知能ガバナンスイニシアチブ」を積極的に推進し、関係国と二国間協議を行う予定である。このイニシアチブは、AI開発、セキュリティ、ガバナンスの3つの側面から中国のAIガバナンス計画を体系的に説明しています。中国は、人工知能のガバナンスは全人類の運命に関わり、世界各国が直面する共通の課題であると指摘した。人工知能の開発においては、人間本位のアプローチと善のための知性を積極的に提唱し、技術リスク管理を強化し、相互尊重、平等、相互利益に基づいて各方面が協力し共に統治することを奨励し、人工知能のグローバルガバナンスにおける発展途上国の代表性と発言力を高め、知性の格差とガバナンス能力のギャップを継続的に埋める必要があります。中国は、各方面と協力してAIの安全ガバナンスに関する意思疎通と交流を強化し、全員が参加する国際メカニズムと幅広い合意に基づくガバナンス枠組みの形成を促進するために積極的に知恵を出し合い、地球規模の発展イニシアチブ、地球規模の安全保障イニシアチブ、地球規模の文明イニシアチブを真剣に実行し、AI技術を推進して人類にさらに利益をもたらし、人類の運命を共有するコミュニティを共同で構築していきたいと考えています。

海外メディアの報道によると、「AIセキュリティとAIイノベーションは矛盾するものではない」とダークトレースのCEO、ポピー・グスタフソン氏は説明した。 「これらは密接に関係しています。これらの刺激的な新技術を構築する過程で、私たちは社会に大きな利益をもたらすことができます。そして、AIをより安全にすればするほど、これらの機会をより早く実現することができます。」

同様に、バグクラウドの創設者兼最高技術責任者であるケイシー・エリス氏は、今回の合意は世界のリーダーたちが安全なAIの開発に積極的に取り組んでいることを示していると述べた。

「AIの安全性に関するブレッチリー宣言は、この変革的技術の安全で責任ある開発を確実にするための重要な一歩です」とエリスは述べた。「サイバーセキュリティとプライバシー保護の問題を強調することで、この宣言は署名国の間で責任あるAIイノベーションのための強固な基盤を提供するという世界的な取り組みを示しています。」 ”