人工知能は緊急に「倫理的転換」を必要としている

現在の人工知能の発展は、主にディープラーニングに代表される機械学習技術の恩恵を受けています。ディープラーニングにより、コンピューターは大量のデータから自律的に学習し、進化し、人間よりも効率的、正確、かつ安価に予測や意思決定を行うことができます。このため、人工知能は新たな汎用技術として、経済社会に変革をもたらす影響力を持つと考えられており、各国において国家戦略や科学技術主権のレベルにまで高められ、ますます激化する世界的な科学技術競争の新たな焦点となっている。

アプリケーションレベルでは、人工知能はあらゆる分野に浸透しています。アルゴリズムは、スパムをフィルタリングしたり、好みそうな曲を勧めたり、さまざまな言語を翻訳したり、車を運転したりするのに役立ちます。新型コロナウイルス肺炎の流行が始まって以来、人工知能は医療診断や新薬の研究開発の支援に活用され始めている。無人物流配送や自動運転車などの新しいモデルが非接触型サービスの発展に貢献している。つまり、人工知能は大きな可能性を秘めており、経済成長をもたらし社会福祉を向上させるだけでなく、持続可能な開発を促進する善の力となる可能性があります。

しかし同時に、人工知能とその応用による悪影響や倫理的問題がますます顕著になってきており、人々はテクノロジーとその産業化を超えた倫理的観点にもっと注意を払うよう求められています。例えば、人工知能モデルのトレーニングとその応用は、大量のデータのサポートから切り離すことはできず、ユーザーデータの違法または過剰な収集と使用につながる可能性があり、人工知能とデータプライバシー保護の間の緊張を深めています。また、いくつかのシナリオでの顔認識技術の応用は、この技術が個人のプライバシーを侵害することをめぐって国内外で論争を巻き起こしています。人工知能技術は、サイバー犯罪に関与したり、偽ニュースを作成して拡散したり、視覚や聴覚を妨害するのに十分な偽の画像を合成したりするなど、犯罪者によって悪用される可能性もあります。

[[379524]]

上海市静安区にある世北ハイテク企業のAI体験館。新華社通信

アルゴリズムによる差別が広がり続ける中、人工知能の意思決定への参加における公平性の問題も大きな注目を集めている。研究により、市販の顔認識システムの多くは人種、性別、その他の偏見を持っていることが判明している。このような技術が自動運転車に使用された場合、黒人やその他の肌の色が濃い人が自動運転車に衝突される可能性が高くなる可能性がある。採用、広告、信用、保険、医療、教育、司法裁判、刑事判決、公共サービスなど、多くの分野における人工知能の応用にも、公平性の論争が伴います。さらに、人工知能の知的財産保護の問題も浮上しています。現在、人工知能は詩、小説、写真、ビデオなどを独自に作成できます。知的財産制度は、人工知能の創作物の保護にできるだけ早く対応する必要があります。自動運転車やAI医療製品などの人工知能アプリケーションでは、事故が発生した場合、誰が責任を負わされるのかという難しい問題もあります。最後に、人工知能の応用により、一部の手作業や反復的な労働が置き換えられ、労働者の雇用に一定の影響がもたらされる可能性があります。

2020年は人工知能規制元年と考えられており、米国と欧州がたどる規制の道筋は大きく異なります。 EUの「人工知能白書」で提案された「厳格な規制」モデルは、事前規制を重視し、技術開発と応用に厳しい条件を設定することを検討している。一方、米国の「人工知能応用規制ガイドライン」で提案された「軽い規制」モデルは、標準やガイドラインなどの柔軟な手段を重視し、人工知能応用のための安全地帯や「規制サンドボックス」の設置を検討している。ますます熾烈になる世界的な技術競争と、デジタル経済が国家の中核的競争力となっていることを背景に、我が国の科学技術産業の実際の発展を考慮すると、我が国は、機動的な監督、倫理的なガバナンス、技術的なガバナンスなど、さまざまな手段に頼って、人工知能の積極的な応用と良好な発展を共同で確保し、人工知能のガバナンスを革新する必要があります。

まず第一に、監督は AI アプリケーションを分類および格付けし、問題やリスクの予防を重視するだけでなく、俊敏性と適応性も必要です。人工知能技術の核心的な特徴は、その急速な発展と反復である。強制的な法律の制定は、必然的に技術の発展のペースに追いつけない。そのため、ほとんどの外国では、ガイドラインや倫理的枠組みを発行するなどの「ソフトロー」を採用している。また、自動運転車やスマート医療などの人工知能アプリケーションの開発と実装は、依然として多くの規制や政策上の障壁に直面しており、阻害要因となる法律や規制の改正を検討するとともに、「デジタルサンドボックス」「セーフハーバー」「パイロットプログラム」を通じてテストと応用を促進する必要がある。

第二に、倫理的なガバナンスを採用し、倫理的な原則を倫理的な実践に変換します。現在、国内外の多くのテクノロジー企業が人工知能倫理原則を発行しており、倫理審査委員会や倫理埋め込みなどの手段を通じて倫理原則を実施しています。業界におけるこうした倫理的ガバナンス対策は国内外で大きなコンセンサスを得ており、AI技術の発展により適応しやすくなっています。

繰り返しになりますが、人工知能の悪用を防ぐために技術的な手段を使用してください。たとえば、ディープシンセシスは、人工知能の応用として、映画やテレビ番組の制作、教育、医療、娯楽などの分野で大きなプラスの応用価値を持っていますが、犯罪者が詐欺行為を行うために虚偽の画像を作成して流布するために悪用される可能性もあります。これに対応して、業界ではディープシンセシスの悪用に対抗するために、コンテンツ識別および追跡可能性技術の開発と導入を積極的に進めています。人工知能アプリケーションの複雑さと反復速度が増す中、テクノロジーガバナンスはますます重要な役割を果たすようになります。