人工知能が広く利用され、アルゴリズムの公平性の重要性が強調されている

最近、大学入試の受験生が試験会場で小校舎を使って問題を検索する問題が大きな論争を引き起こし、大学入試の公平性が問われています。大学入試が公平であるかどうかは、受験生が高等教育への入学機会を平等に享受できるかどうかに影響するだけでなく、他の受験生の運命にも影響します。

大学入試の公平性も人々の注目の的となり、受験生や保護者の心の中では触れることのできない敏感で繊細な一線となっている。

公平性が崩れれば、深刻な社会的影響を及ぼしますが、人工知能についても同様です。 AI アルゴリズムがさまざまな業界で広く応用され、人々の意思決定を支援する重要なツールとして、アルゴリズムの公平性の問題がますます注目を集めています。

最近、テンセントYoutuラボと厦門大学人工知能研究所は「2021年人工知能トップ10トレンド」レポートを発表し、アルゴリズムの公平性の研究がAIの普遍性と公平性に向けた応用を促進することを示しています。

[[405361]]

データの偏り、アルゴリズム自体の欠陥、さらには人間の偏りにより、既存の AI アルゴリズムには、特定のグループの人々に対して不公平な「差別的現象」が一般的に存在します。

人工知能の発展に伴い、特に大きな影響力を持つ分野において、人々の意思決定を支援する機械学習技術の潜在的な影響力はますます大きくなっています。

したがって、意思決定、特に影響の大きい意思決定を行う際には、機械学習システムが脆弱なグループにさらに悪影響を及ぼす可能性があるかどうかを考慮することが重要です。

過去数年間、業界では、より公平なデータセットの構築、アルゴリズムのトレーニングにおける公平性制約損失の導入、機械学習アルゴリズムの解釈可能性の向上など、いくつかのターゲットを絞ったソリューションを徐々に模索してきました。

しかし、公平で公正かつ倫理的な結果を確保するには、データ サイエンスからの課題だけでなく、最も公平なプログラムを構築する AI 学習プログラムを構築する側の大きな責任と強い信念も必要です。