テクノロジーの本質: コンピューターは私たちの社会をどのように形作るのでしょうか?

この記事は公開アカウント「Reading Core Technique」（ID: AI_Discovery）から転載したものです。

技術倫理は永遠のテーマです。私は、コンピューター科学者が倫理的な内容や価値観を機械学習アルゴリズムにどのようにエンコードするか、また機械学習の設計者が自分たちの設計が社会に与える影響をよりよく理解するにはどうすればよいかについてよく考えます。

[[327098]]

機械学習エンジニアがより公平で公正な意思決定システムを設計する場合、公平性の定義は何でしょうか。それを最適化するにはどのような評価基準を選択するでしょうか。別の基準や定義を選択すると、どのような社会的影響があるでしょうか。機械学習システムを設計する際には、価値のトレードオフや価値の衝突への対処方法など、アルゴリズムが組み込まれた社会的問題の潜在的な害を研究する必要があると考えています。

これはまさに、私が9か月前に中国国家自然科学基金（GRPF）に博士号を申請したときに提案した研究計画ですが、残念ながら私の申請は却下されました。

何が問題なのでしょうか? 学者たちの反応から判断すると、1 つを除いてすべて問題ありません。「これはコンピュータ サイエンス (CS) というよりは社会学的研究に近い」ということです。おそらく、CS よりも人類学の分野に応用する方が適切でしょう。これには別の問題が関係しています。社会科学とコンピュータ サイエンスの無関係性は、コンピュータ分野における画期的な歴史的遺産です。

その返事を何度も読み返して、私はその言葉の意味について考え始めました。いくつかの疑問が浮かびます。

• 社会科学とコンピュータサイエンスの関係は何ですか?
• コンピュータサイエンスは社会においてどのような役割を果たすべきでしょうか?
• 両者を別々に考え続けると、将来何が起こるでしょうか?

テクノロジーの本当の目的は何でしょうか? テクノロジーは私たちの生活の中でどのような役割を果たしているのでしょうか? コンピューター科学者は社会をどのように変え、形作っているのでしょうか? テクノロジーのベールを少しずつ取り除き、テクノロジーと社会の究極の謎を探ってみましょう。

1. 社会科学とコンピュータサイエンスの違い

テクノロジーは社会の隅々にまで浸透し、かつてないほど頻繁に利用されています。今日、社会はオンライン形式で運営されています。すべての通信はブロードバンド経由で行われます。グループは0と1でつながり、未来への道を築きます。

では、社会科学とコンピュータサイエンスの関係は何でしょうか?

「テクノロジーは人間の活動を助けるだけでなく、活動とその意味を再構築する重要な力でもある。」 - ラングドン・ウィナー

何百万年もの間、人類はテクノロジーを利用して食物連鎖の頂点に上り詰めてきました。テクノロジーは問題が発見されたときに生まれます。例えば、生命を維持するために食料が必要なとき、私たちは火を思い浮かべます。こうしたテクノロジーツールが社会にますます普及するにつれ、人々はそれを予期せぬ形で変革し、作り変えていくでしょう。

21 世紀はコンピューティング テクノロジーの時代です。問題を解決する新しい方法があります。インターネットにより、より多くの情報にアクセスでき、スマートフォンにより、より多くの旅行の機会が得られ、ソーシャル メディアにより、これまで不可能だった方法で世界とつながることができます。その結果、社会プロセスは永久に変化しました。

世界は今やコンピューティング技術によって一つにまとまっており、インターネット、スマートフォン、ソーシャル メディアはそのほんの一部に過ぎませんが、すでに人類の文化に革命をもたらしています。実際、ソーシャルメディアは人間社会学の科学的な分野であり、個人間の関係性もそのような社会に存在します。

この文脈では、コンピュータサイエンスと社会科学に何のつながりもないと言うのはナンセンスであり、両者が根本的につながっていない世界を想像することは困難です。私たちのニーズに応じて世界を変えるために、テクノロジーは絶えず生み出されています。機械学習や人工知能など、コンピュータサイエンスが主導的な役割を果たしており、それに伴う社会の変化は想像を超えるものとなるかもしれません。

2. コンピュータサイエンスは社会においてどのような役割を果たしていますか?

「社会技術システムの包括的な分析は、あらゆる側面から検討されなければならず、そうすることで、今日存在する問題を包括的に特定することができる。」 - 社会変革におけるコンピュータの役割

昨日の午後、私は卒業生に対して、社会問題への取り組みにおけるコンピュータ技術の役割について 75 分間の講義を行う予定でした。このクラスは主にコンピュータサイエンスの博士課程の学生で構成されており、トピックは人間中心の機械学習でした。

「社会変革におけるコンピュータの役割」という記事を読んだ後、私は彼らに、コンピュータ技術には社会問題を解決する責任があると思うかどうかを尋ねました。彼らの洞察と興味深い点:

クラスメートの一人は、テクノロジー自体が必ずしも社会に良い変化をもたらす必要はない、と述べました。変化をもたらすのは人間です。人々がテクノロジーを作りたいのであれば、それを作り続け、社会に利益をもたらす姿勢で作るべきです。別のクラスメートは、テクノロジーは社会問題を解決するために使われるべきかどうかを尋ねました。彼は、テクノロジーは差別や不平等などの社会問題が存在し続けることを許すべきではないと感じていましたが、テクノロジーがそのような潜在的な問題を解決する責任を負う必要もありません。

コンピュータ技術は社会問題を解決するために使用されるべきではなく、むしろ社会の一部であるべきだということに私たちは同意します。実際、コンピュータ サイエンスは問題の存在を許容するだけでなく、その問題を解決することも行います。

私たちは、コンピュータサイエンス、特に機械学習システムがどのように発展し、社会を変えていくのかについて議論しました。成功を評価するための指標を得るために、機械学習の設計上の決定が社会科学に基づいていることを示すモデルをデータを使用してトレーニングします。

冒頭の手紙に戻ると、返信を読むのに丸一日かかるわけではなかったため、私は新進気鋭のコンピュータサイエンスの専門家数名に相談し、彼らが社会科学とコンピュータサイエンスの関係をどのように理解しているかを尋ねました。彼らの回答は全員一致で、両者の間には根本的なつながりがあると全員が信じていました。

3. 社会科学とコンピュータ科学が依然として別々に扱われるとどうなるでしょうか?

ソフトウェア エンジニアリングの学士号を取得した後、私は「職業上の責任」と呼ばれるコンピュータ倫理のコースを受講する必要がありました。

このコースで、テクノロジーが社会にもたらす恩恵と害について初めて理解することができました。私の人生におけるテクノロジーの役割に対する認識が変わり、キャリアの軌道も変わりました。

この授業を受ける前は、倫理、公平、正義、不平等などの社会問題がコンピューターサイエンスと密接に関係しているとは考えてもいませんでした。私は多くの専門コースを受講しましたが、職業倫理については一言も聞いたことがありませんでした。私は境界がどこにあるのかを一切考えずに、アルゴリズムの設計に何百時間も費やしました。私のコンピュータサイエンスの授業では、社会科学は科目ではありませんでした。

ますますコンピューターによる決定によって形作られる世界に生きているにもかかわらず、私たちは長年、社会科学とコンピューター科学は別のものだと教えられてきました。

機械学習倫理学の博士課程を始めることを決めたとき、私は、この 2 つは非常に密接に関連しているため、どちらも学ばないことは非常に危険だと自分に言い聞かせました。

私が心配しているのは、この 2 つの分野が依然として互いに独立していると見なされる場合、「倫理」がテクノロジー システムで常に存在する問題となり、CS コースには「倫理/職業上の責任」コースが 1 つだけ、あるいはまったくコースがなくなり、テクノロジーはこれまでどおり社会に悪影響を及ぼし続けるだろうということです。

これが、コンピューター科学者が社会的に責任のある態度でコーディングを学ばなければならない理由です。申請が却下された経験から、コンピュータ サイエンスは人間の指導の熱意から切り離すべきではないし、切り離すこともできないということを、私はさらにはっきりと認識しました。私の仕事がいかに重要であるかを思い出させてくれたのは、私を認めなかった人たちでした。