人工知能の開発においてセキュリティは無視できない

世界的な科学技術革命と産業変革の新たな局面が本格化している。人工知能は、新たな科学技術革命と産業変革を牽引する中核的な原動力の一つとして、近年、金融、電子商取引、医療などの分野で広く活用されている。

[[359052]]

人工知能産業は活況を呈している一方で、隠れた懸念も抱えています。世界中で人工知能の大規模な構築と応用が加速する中、人工知能のインフラストラクチャ、設計、研究開発、統合アプリケーションが直面するセキュリティリスクがますます顕著になっています。中国情報通信研究院、RealAI、百度、テンセントなどの組織が共同で作成した「人工知能セキュリティフレームワーク（2020）」によると、ディープフェイク技術のオープンソースコードやAPPアプリケーションの増加に伴い、犯罪者がディープフェイク技術を利用して個人の肖像権、名誉権、プライバシー権を侵害する偽の動画を作成することが一般的になっていることが示されています。 2019年12月現在、インターネット上で流通しているディープフェイク動画のうち、偽のポルノコンテンツが96%を占めています。

そしてこれは氷山の一角に過ぎません。指紋や顔認証によって残される生体情報、自動運転によって残される個人の居場所記録、携帯電話アプリによって保存される個人のプライバシーデータ、病院に保存される診断や治療の記録...人工知能は人々の仕事や生活の多くの場面に遭遇しています。さまざまなユーザーの行動が記録され、データとして保存されます。その結果、データ漏洩、データ偽造、アルゴリズムのボトルネック、プライバシーのセキュリティ、倫理的なジレンマなどの問題が徐々に表面化しています。関連報道によると、今年7月、犯罪者は電子商取引プラットフォームで顔情報を販売し、1枚50セントの低価格でパッケージにして販売した後、盗んだ顔情報を虚偽登録や通信ネットワーク詐欺などの違法行為に使用した。

恥ずかしいことに、「人工知能セキュリティフレームワーク（2020）」によると、現段階では人工知能企業は主に技術研究開発と製品運用に重点を置いており、人工知能セキュリティへの投資は比較的少なく、基盤が弱いことがわかります。現在、人工知能セキュリティ技術のほとんどは学術研究や小規模な実験段階にあり、さまざまな人工知能アプリケーションに適した成熟したセキュリティ製品およびサービスシステムはまだ形成されていません。

人工知能産業の健全かつ秩序ある発展にとって、セキュリティは重要な保証であり、状況の必要性であり、一部の技術の実装に不可欠な前提条件です。安全性を考慮せずに人工知能について語ることは、根も水源もない木のようなものです。実践によっても、現在の人工知能セキュリティの需要と企業のセキュリティ投資の不足、人工知能セキュリティ製品とサービスの不足との間の矛盾が、人工知能産業の長期的な発展を制限するボトルネックになっていることが証明されています。

発展の困難と時代のチャンスが重なり合う重要な時期に、業界は生産、学術、研究の各部門が協力し、より安全で信頼性と信頼性の高い人工知能技術を継続的に改善・アップグレードし、人工知能の安全柵を強化し、人々が安心してこの技術の恩恵を享受できるようにすることを期待しています。