ユーザーエクスペリエンスは過去のものになりました。AIは国民、さらには社会の視点から問題を考える必要があります。

今日、テクノロジーの巨人とその AI ベースのデジタル プラットフォームおよびソリューションは、世界の指導者、国民国家、多国籍企業、世界の株式市場、さらにはすべての個人の運命にまで影響を与える能力を十分に持っています。

[[380098]]

現在、主要なデジタル プラットフォームの構築者や、さまざまな AI システムの設計者や開発者は、依然として個人をユーザー、顧客、またはデータ ポイントとして見ていますが、市民としての個人の役割や権利を無視することがよくあります。

その結果、個々のユーザーや顧客は社会的文脈から完全に切り離され、悲惨な結果を招くことになります。これらの個人は、無意識のうちに偽情報の伝達者になる可能性があり、直接正しい情報を受け取っていないユーザーは、暴力的な反乱軍に勧誘される可能性があり、求職や保険契約の更新の際に、ユーザーは偏った AI システムによって不当に扱われる可能性があります。

市民体験デザインを推進する理由は何ですか?

AIソリューションの社会的影響がますます明らかになる今日、私たちは国民や社会の観点からAI技術の影響や設計・開発の原則を考慮する必要があります。

さまざまな現実世界の証拠を通じて、偏った AI システムが医療、科学研究、刑事司法、さらには金融サービスなど、さまざまな分野に深刻な影響を及ぼしていることがわかりました。さらに、データの権利と実践に関して前向きな進展も見られてきました。

しかし、GDPR やデータ ガバナンス計画の観点からのみハイテク企業を規制するだけでは明らかに不十分です。同様に、新しいアルゴリズムの監査方法も、AI の開発と実践に直接影響を与えるほど成熟していません。現在のAI倫理委員会には、AI開発の具体的な方向性を迅速かつ大規模に調整する能力すらありません。

市民中心の価値観と原則が AI ソリューションの設計と開発の指針となるようにすることでのみ、効果的かつ持続可能な方法で AI 分野に適切な影響を与えることが可能になります。

過去には、「市民体験」は純粋な公共サービスの領域に限定されていましたが、それ以上のものはほとんどありませんでした。今日、私たちには、あらゆる AI 設計者と開発者のための共通のツールボックスを構築する、より総合的で市民中心のアプローチが必要です。

具体的には、市民中心に考え、行動する AI 企業、データ サイエンティスト、デザイナーが必要です。また、製品の構想、設計、開発の中核に社会的認識を組み込むことができる市民体験の専門家も必要です。

AIのための市民体験設計の問題をどのように捉えるか

では、市民体験設計における持続可能な実践と、個人を真に市民として、そしてより広い社会構造の一部として扱う AI ソリューションのためのフレームワークをどのように作成できるでしょうか?

まず、市民体験のデザインには、社会科学、データサイエンス、デザイン思考を組み合わせた学際的な取り組みが必要です。市民エクスペリエンスの設計では、さまざまなデータの長所と短所を理解し、アプリケーションを評価し、さまざまなアルゴリズムの潜在的な影響を理解する必要性など、データ リテラシーとアルゴリズム リテラシーに対する要求も高くなります。この目標は、多分野にわたる学際的なアプローチを通じて達成されなければなりません。

第二に、市民体験デザインは、設計者や開発者が個人を市民ユーザーや市民消費者として考えるのに役立つはずです。市民体験デザインでは、開発者が個人を実際の個人として扱い、企業がより広い社会的文脈で製品の決定を評価できるようにするための特定のツールも提供する必要があります。これらのツールは、ユーザー エクスペリエンスと顧客エクスペリエンスのレベルで、より深いデータ サイエンスの設計と実用的な洞察を提供することも期待されています。

3 番目に、市民エクスペリエンス デザインは、ユースケースと目標設定、アプリケーション指標とユーザー インターフェイスの設計、データ パイプラインと AI テクノロジの選択、さらにはユーザー調査と分析を含む、製品の設計と開発のすべての要素をカバーする必要があります。

4 番目に、市民体験デザインの基本原則は、市民とともに開発されなければなりません。こうした共同で作成された実践により、新たな洞察が生まれ、国民が AI 革命の中心となる積極的な力となるでしょう。

市民体験デザインの基礎

すべてはここから始まります。AI 実践者はまず、個人を成熟した市民として認識し、それに応じて敬意と配慮を持って扱う必要があります。 AI ソリューションは、社会的文脈から切り離された孤立した製品やプラットフォームとして検討されるべきではありません。

反復に関するより具体的な提案をいくつか示します。

AI システムの設計と開発では、国民の権利の保護を重視する必要があります。アルゴリズムは責任を持って透明性のある方法で作成される必要があり、AI システムは国民の身元に基づいて差別したり、国民の免責や完全性を損なってはならない。

市民のデータを安全かつ責任を持って取り扱います。 AI システムは、不必要な方法で個人データを収集したり、明示的な同意なしに個人データを使用したりしてはなりません。同様に、国民は AI システムとやり取りしたり、AI システムの影響を受けたりする場合にも、明確に知らされなければなりません。 AI システムは、人間に変装したり、推奨システムで不健全な行動を誘発したりするなどして、国民を騙したり操作したりしてはなりません。

国民の視点から AI システムを検討する場合、データに対する個人のコントロールはデジタル製品の基本的な特性として考慮されなければなりません。国民のプライバシー権を最も重要な権利として設定することで、AI ベースの規制システムがこの情報を不必要に操作しないようにすることができます。

AI システムは、既存の法律やその他の公民権を侵害する行為を促進してはなりません。 AI システムは、既存の法律、公序良俗、善良な道徳を尊重する必要があります。つまり、AI の設計者、開発者、またはその AI ソリューションは、何が良いか悪いか、公平か、適切か、合法かなどについて独自に判断すべきではありません。

市民体験デザインでは、実践者がさまざまな分野の専門家と継続的に対話し、社会の文脈の中で積極的に解決策を検討する必要があります。 AI ソリューションは現在、人間社会とシームレスに統合される社会技術システムとして広く認識されているため、潜在的な問題や利益相反を可能な限り軽減するために、継続的に監視、評価、監査、反復する必要があります。

AI システムでは、人々が AI 技術の使用方法と効果について自主的に学習できるようにする必要があります。個人が成熟した市民として扱われる場合、彼らは自分が使用する AI ソリューションに対して責任を負います。これを実現するには、人々は優れたデータリテラシー、アルゴリズムリテラシー、デジタルメディアリテラシーなど、新たな公民スキルを身につける必要があります。これには、国民と AI 実践者の共同の努力が必要です。たとえば、国民は自分のデータフットプリントがアルゴリズムシステムにさらされているかどうかを簡単にアクセスできる方法で観察できる必要があります。

このような教育の透明性は、人々が AI システムとその作成者の動機や意図を理解するのに役立ち、国民と AI 開発者の間の信頼を構築するのに役立ちます。市民中心で社会意識の高い設計により、有害な情報の検出、軽減、さらには防止を容易にするなど、行動および安全メカニズムを強化しながら、市民に情報を提供することができます。

原則を確立する

理想的には、遡及的な評価やシステム コンテンツの反復ではなく、市民エクスペリエンス デザインを AI に組み込むことが、AI ソリューションの設計と開発を導く前提条件になるはずです。

全体像を見ると、市民エクスペリエンス デザインが AI イノベーションの新たな機会をもたらし、既存および将来のソリューションが市民としての個々のユーザーの役割を見失わないことを保証することが明らかです。

市民エクスペリエンス設計の構築と反復が中核原則になる必要があり、この長い道のりは今始まります。