クック：人工知能が本当に知的であるためには、人間の価値観を尊重しなければならない

[[247844]]

近年、FacebookやGoogleなどのインターネット大手は、ユーザーデータの不適切な使用やプライバシーやセキュリティの侵害などのスキャンダルにより、世論の嵐に巻き込まれてきました。 10月24日、アップルのクックCEOはブリュッセル（欧州連合本部）でプライバシーとデータセキュリティに関する演説を行った。同氏はEUのプライバシー保護政策への支持を表明するとともに、アップルはユーザーのプライバシーを尊重するという伝統を常に堅持すると強調した。

今年上半期を振り返ると、Facebookは何度もスキャンダルに巻き込まれてきた。 2月、ロシアによる米大統領選への干渉の疑いで起訴された捜査官らは、13人のロシア人がフェイスブック、ツイッター、インスタグラムを利用してヒラリー・クリントン氏の名誉を毀損する広告に資金を提供し、有権者の投票決定に影響を与えたとして選挙に干渉したと告発した。 3月、ニューヨーク・タイムズは、研究者らがブリッジ・アナリティクスを利用してフェイスブック利用者の個人情報を入手し、トランプ大統領と共和党が雇ったコンサルティング会社ケンブリッジ・アナリティカに販売したと報じた。

実際、2016年の選挙の時点ですでに、Facebook が偽情報を拡散し、政治的な餌を撒くために利用されていると非難する人もいました。ニューヨーカー誌の記事は、フェイスブックは2015年12月にはすでにこの問題に気付いていたが、沈黙を守り、メディアが暴露した後に初めて認めたと指摘した。

一連のスキャンダルによりフェイスブックの株価は急落し、時価総額は一時1000億ドル減少した。同時に、政府はこれらのインターネット大手に対する監督と処罰も強化している。

データのプライバシーを保護するため、欧州連合は今年5月25日に一般データ保護規則（GDPR）を正式に施行しました。 「史上最も厳しい」と称賛されているこのプライバシー保護法案は、違反者には少なくとも1000万ユーロ、もしくは前年度における企業の全世界売上高の2～4％のいずれか高い方の罰金を科すことを規定している。

クック氏はデータプライバシーに関する国際会議に出席するためヨーロッパに招待された。同氏は演説の中で、EUの新規制を高く評価し、ユーザーデータのプライバシーを保護するというAppleの決意を表明した。

以下はクック氏のスピーチからの抜粋です。

コペンハーゲンからチェンナイ、クパチーノに至るまで、世界中で新しいテクノロジーが人類の最大共通のプロジェクトにおける画期的な進歩を推進しています。病気の予防と闘いから、気候変動の影響の抑制、そしてすべての人が情報と経済的機会にアクセスできるようにするまで。

コペンハーゲンからチェンナイ、クパチーノに至るまで、世界中で新しいテクノロジーが人類最大の共通プロジェクトにおける画期的な進歩を推進しています。病気の予防と対策から、気候変動の影響の抑制、すべての人が情報と経済的機会にアクセスできるようにするまで。

同時に、私たちはテクノロジーが役に立つどころか、むしろ害を及ぼす可能性があることを痛感しています。私たちの生活を改善すると約束されたプラットフォームやアルゴリズムは、実際には人間の最悪の傾向を増幅させる可能性があります。悪意のある行為者や政府さえもが、ユーザーの信頼を利用して分裂を深め、暴力を煽り、何が真実で何が虚偽であるかという共通の認識を損なわせています。

同時に、私たちはテクノロジーが助けになるどころか、むしろ害を及ぼすこともあることを痛いほど見てきました。私たちの生活を向上させると約束するプラットフォームやアルゴリズムは、実際には人間の最悪の傾向を増幅させています。悪質な行為者や政府さえもが、ユーザーの信頼を悪用して分裂を深め、暴力を煽り、さらには真実と虚偽に関する私たちの合意を損なおうとしています。

この危機は現実だ。これは想像でも、誇張でも、「狂気」でもありません。テクノロジーの善の可能性を信じる私たちは、この瞬間から逃げてはいけません。今こそ、政府のリーダーとして、企業の意思決定者として、そして国民として、私たちはこれまで以上に自分自身に根本的な問いかけをしなければなりません。私たちはどのような世界に住みたいのか？

この危機は現実だ。それは想像されたものでも、誇張されたものでも、「狂気」でもありません。 「テクノロジーの善の可能性を信じる私たちは、この瞬間から後退するわけにはいきません。今こそ、政府のリーダー、企業の意思決定者、そして国民として、私たちは自分自身に根本的な問いかけをしなければなりません。私たちはどのような世界に住みたいのか？」

私が今日ここにいるのは、この疑問に答えるために皆さんとパートナーとして協力したいからです。Apple は、テクノロジーが社会にもたらす素晴らしい可能性に楽観的です。しかし、私たちはそれが自然に起こるわけではないことを知っています。私たちは日々、自分たちが作るデバイスに、私たち自身を形作る人間性を吹き込むよう努めています。以前も言ったように、「テクノロジーは偉大なことを成し遂げる能力を持っています。しかし、テクノロジーは偉大なことを成し遂げたいわけではありません。テクノロジーは何も望んでいません。その部分には私たち全員が関わっています。」

私が今日ここにいるのは、皆さんと一緒にこの質問に答えたいからです。 Apple では、テクノロジーの大きな可能性に楽観的です。しかし、私たちはこれが自然に起こるわけではないことを知っています。私たちは日々、自分たちが作るデバイスと私たちを構成する人間性を融合させるよう努めています。以前も言ったように、「テクノロジーは素晴らしいことを成し遂げることができますが、素晴らしいことを成し遂げたいわけではありません。テクノロジーは何も望んでいません。テクノロジーのその部分が私たち全員を支配してしまうのです。」

だからこそ、私たちの使命は非常に密接に一致していると信じています。ジョバンニはこう述べています。「私たちは、テクノロジーが人類に役立つように設計・開発されるように行動しなければなりません。その逆であってはなりません。私たち Apple は、プライバシーは基本的人権であると信じています。しかし、私たちと同じように物事を見ている人は皆ではないことも認識しています。ある意味では、利益をプライバシーよりも優先したいという願望は、新しいものではありません。

だからこそ、私たちの使命は非常に密接に一致していると思います。ジョバンニはこう言っています。「私たちは、テクノロジーが人類に役立つように設計、開発され、その逆にならないように行動しなければなりません。」私たち Apple は、プライバシーは基本的人権であると信じています。しかし、私たちと同じように物事を見ている人は皆ではないことも認識しています。ある意味、利益をプライバシーよりも優先したいという願望は新しいものではありません。

1890 年にはすでに、将来の最高裁判所判事ルイス・ブランダイスがハーバード・ロー・レビュー誌に論文を発表し、米国における「プライバシーの権利」を主張していました。彼は警告した。「噂話はもはや怠け者や悪意ある人々の資源ではなく、商売になっている」。今日、その商売はデータ産業複合体へと爆発的に成長した。私たち自身の情報は、日常的なものから非常に個人的なものまで、私たちに対する武器として利用されている。

1890年には、後に最高裁判所判事となるルイス・ブランダイスがハーバード・ロー・レビュー誌に、アメリカ人の「プライバシーの権利」を擁護する記事を執筆しました。 「ゴシップはもはや怠け者や悪人の資源ではなく、商売になっている」と彼は警告し、ゴシップ産業は急速にデータ産業複合体へと進化していると述べた。私たちの日常生活から私生活に至るまで、私たち自身の情報が軍事的効率で私たちに対する武器として利用されています。

毎日、私たちの好き嫌い、友人や家族、人間関係や会話、願いや恐れ、希望や夢に基づいて、何十億ドルものお金が手渡され、数え切れないほどの決断が下されます。これらのデータの断片は、それぞれそれ自体は無害ですが、慎重に集められ、合成され、取引され、販売されます。

毎日、私たちの好き嫌い、友人や家族、人間関係や会話、願望や恐れ、希望や夢に基づいて、何十億ドルものお金が取引され、数え切れないほどの決断が下されています。 ” それぞれ単独では無害に見えるこれらのデータの断片は、注意深く集められ、合成され、取引され、販売されます。

このプロセスを極端に進めると、永続的なデジタル プロファイルが作成され、企業はあなた自身よりもあなたのことをよく知ることができます。その後、あなたのプロフィールはアルゴリズムにかけられ、ますます過激なコンテンツが提供され、私たちの無害な好みが強固な信念に叩き込まれます。緑が好きな人は、オレンジが好きな人からの陰険な脅威についての記事をたくさん読んだり、ビデオをたくさん見たりするかもしれません。ニュースでは、ほぼ毎日、私たちはこうした狭まった世界観の有害な、さらには致命的な影響を目撃しています。

このプロセスを極端に進めると、永続的なデジタル プロファイルが作成され、企業はあなた自身よりもあなたのことをよく知ることができます。その後、あなたのプロフィールはアルゴリズムにかけられ、ますます過激なコンテンツが提供され、私たちの無害な好みが確固たる信念に変わります。緑が好きな人は、オレンジが好きな人の潜在的な脅威についての記事をたくさん読んだり、ビデオをたくさん見たりするかもしれません。私たちはほぼ毎日ニュースで、こうした狭い世界観がもたらす有害な、さらには致命的な影響を目撃しています。

結果を甘く見るべきではない。これは監視です。そして、こうした個人データの蓄積は、それを集める企業を豊かにするだけなのです。

結果を甘く見るべきではない。これは監視です。そして、保存された個人データは、それを収集した企業にのみ利益をもたらします。

これは私たちにとって非常に不快なこととなるはずです。それは私たちを不安にさせるはずです。そして、それは私たちの共同作業の重要性と、私たちの前に立ちはだかる課題を物語っています。

これは私たちを非常に不快で不安にさせます。これは、私たちの前にある課題と協力することの重要性を示しています。

幸いなことに、今年、皆さんは、優れた政策と政治的意志が一体となってすべての人の権利を守ることを世界に示しました。 GDPR の導入を成功に導く任務を負った欧州機関の変革的な取り組みを称賛すべきです。私たちは、ここヨーロッパだけでなく、世界中で踏み出された新たな一歩を祝福します。シンガポール、日本、ブラジル、ニュージーランド、その他多くの国では、規制当局が厳しい質問をし、効果的な改革を練っています。私の母国を含む世界の他の国々も、皆さんの先導に従うべき時が来ています。

幸いなことに、今年、あなた方（EU）は、優れた政策と政治的意志が結集してすべての人の権利を守ることができることを世界に示しました。 GDPR を成功裏に実施するために欧州機関が行った改革作業は称賛されるべきです。私たちは、ヨーロッパだけでなく世界中で踏み出された新たな一歩を祝福します。シンガポール、日本、ブラジル、ニュージーランド、その他多くの国では、規制当局が厳しい質問をし、効果的な改革を策定している。今こそ、私の国を含め、全世界があなたの導きに従うべき時です。

Apple は、米国の包括的な連邦プライバシー法を全面的に支持しています。そこでも、そしてどこでも、それは 4 つの基本的な権利に根ざしている必要があります。第 1 に、個人データを最小限に抑える権利です。企業は顧客データを匿名化すること、あるいはそもそも顧客データを収集しないことに取り組むべきです。第二に、知る権利。ユーザーは、どのようなデータが収集されるのか、またそのデータが何のために収集されるのかを常に把握しておく必要があります。これは、どのコレクションが正当で、どのコレクションがそうでないか、ユーザーが判断できるようにする唯一の方法です。それ以下は偽物です。 3番目は、アクセス権です。企業はデータがユーザーのものであることを認識し、ユーザーが自分の個人データのコピーを入手したり、修正したり、削除したりすることを容易にする必要があります。そして4番目は、安全に対する権利です。セキュリティは信頼とその他すべてのプライバシー権の基礎となります。

Apple は、米国の包括的な連邦プライバシー法を全面的に支持しています。どこで行われようとも、それは 4 つの基本的な権利に根ざしている必要があります。第 1 に、個人データを最小限に抑える権利です。企業は顧客データを匿名化するよう努めるか、そもそも顧客データを収集しないようにすべきです。第二に、知る権利。ユーザーは、どのようなデータがどのような目的で収集されるかを常に把握する必要があります。これは、許可されたユーザーがどのコレクションが合法で、どのコレクションが違法であるかを判断できる唯一の方法です。それ以下のものは欺瞞的です。 3番目は使用権です。企業はデータがユーザーのものであることを認識し、ユーザーが自分の個人データをコピー、変更、削除できるようにする必要があります。 4番目は、保護を受ける権利です。セキュリティは信頼とその他すべてのプライバシー権の基盤です。

さて、私がそんなことを言わなければよかったと思う人もいるでしょう。あらゆる形態のプライバシー法制に反対する人もいます。他の人たちは、公の場では改革を支持しながら、密室では抵抗し、改革を弱体化させるだろう。 「プライバシー規制によって制約されていれば、企業がテクノロジーの真の可能性を実現することは決してできない」と彼らは言うかもしれません。しかし、この考えは間違っているだけでなく、破壊的です。

さて、私がこれを言わないでほしいと思う人もいるでしょう。あらゆる形態のプライバシー法に反対する人もいます。公的には改革を支持しながら、私的には抵抗し、改革を妨害する人もいる。 「企業がプライバシー規制に縛られれば、テクノロジーの真の可能性を実現することは決してできない」と言う人もいるかもしれません。しかし、この考えは間違っているだけでなく、破壊的です。

テクノロジーの可能性は、常に人々のテクノロジーに対する信頼に根ざしているはずです。テクノロジーが人々の心に呼び起こす楽観主義と創造性に根ざしています。テクノロジーが世界をより良い場所にするという約束と能力に根ざしています。今こそ事実に向き合う時です。テクノロジーを利用する人々の完全な信頼と自信がなければ、テクノロジーの真の可能性を実現することは決してできません。

テクノロジーの可能性は、人々のテクノロジーへの信頼、テクノロジーが個人に与える楽観主義と創造性、そして世界をより良い場所にするというテクノロジーの約束と能力に根ざしています。現実に直面する時が来た。ユーザーの完全な信頼と自信がなければ、テクノロジーの真の可能性を実現することは決してできません。

Apple では、プライバシーの尊重、そして権威に対する健全な疑念が常に私たちの血流の中に流れています。私たちの最初のコンピューターは、はみ出し者、いじくり屋、反逆者によって、研究室や会議室ではなく、郊外のガレージで作られました。私たちは、ジョージ・オーウェルの『1984年』を彷彿とさせる有名なテレビ広告とともに Macintosh を発表しました。これは、テクノロジーが権力の道具となり、人間性を失ったときに何が起きるかを警告するものでした。

Apple では、プライバシーの尊重と権威に対する健全な懐疑心が私たちの血の中に流れています。私たちの最初のコンピューターは、研究室や会議室ではなく、郊外のガレージで、不適合者、修理屋、反逆者によって作られました。 1984 年に放映された有名な Macintosh のテレビ広告は、ジョージ・オーウェルの比喩を借用したもので、テクノロジーが権力の道具となり、人間性を失うことの結果について警告するものでした。

そして2010年にスティーブ・ジョブズははっきりとこう言いました。「プライバシーとは、人々が何にサインアップしているのかを、わかりやすい言葉で繰り返し知ることです。」

スティーブ・ジョブズは2010年にすでに、「プライバシーとは、人々が何にサインアップしているのかを知ることであり、（企業は）わかりやすい言葉を使って（ユーザーに）繰り返し思い出させるべきだ」と明言していた。

その発言をするのに要した先見性と勇気を思い出す価値がある。このデバイスを設計したとき、ほとんどの人が自宅に保管しているよりも多くの個人データをポケットに入れることができることはわかっていました。そして、スティーブとアップルに対して、私たちの価値観を曲げてこの情報を自由に共有するようにという大きな圧力がかかっていました。しかし、私たちは妥協を拒否しました。実際、それ以来 10 年間、私たちの取り組みはますます深まっています。

このような発言をするには、ビジョンと勇気が必要であることを覚えておく価値があります。このデバイス（iPhone）を設計したとき、詳細な個人データがポケットに入ることはわかっていました。スティーブとアップルは、私たちの価値観を変え、この情報を自由に共有するようにという大きなプレッシャーを受けていました。しかし、私たちは妥協を拒否します。実際、あれから10年、私たちの取り組みは深まるばかりです。

ハードウェアのブレークスルーにより、指紋と顔をデバイス上でのみ安全に暗号化します。 。 。すべてのユーザーに、共有している内容と共有している時期を正確に明確に伝える、シンプルで強力な通知です。

暗号化された指紋や顔のセキュリティなどのハードウェアの画期的な進歩から、すべてのユーザーが共有している内容とタイミングを正確に把握できるシンプルでありながら効果的な通知まで。

私たちは絶対主義者ではありませんし、すべての答えを持っていると主張するつもりもありません。代わりに、私たちは常に「私たちはどのような世界に住みたいのか」というシンプルな質問に戻るように努めています。

私たちは絶対主義者ではありませんし、すべての答えを持っていると主張しているわけでもありません。代わりに、私たちは常に「私たちはどんな世界に住みたいのか？」というシンプルな質問に戻るように努めています。

私たちは、過去も現在も、創造プロセスのあらゆる段階において、私たちが作る製品とその影響について、オープンで誠実かつ活発な倫理的議論を行っています。それは私たちの文化の一部に過ぎません。私たちは、やらなければならないからやるのではなく、やるべきだからやるのです。当社製品の背景にある価値は、あらゆる機能と同じくらい当社にとって重要です。

私たちは、過去から現在に至るまで、創造のあらゆる段階において、私たちが生み出すものやそれがもたらす影響について、オープンで誠実かつ活発な倫理的議論を行っています。それは私たちの文化の一部に過ぎません。私たちは、そうしなければならないからそうするのではなく、そうすべきだからそうするのです。当社製品の背景にある価値は、あらゆる（製品の）機能と同じくらい当社にとって重要です。

サイバー犯罪者から無法国家に至るまで、危険は現実のものであると私たちは理解しています。私たちは、ユーザーを放っておいて自力で何とかしようとは思っていません。そして、私たちは、異議が唱えられた場合にはそれらの原則を擁護することを示してきました。こうした価値観、つまり思慮深い議論と透明性への取り組みは、今後ますます重要になるでしょう。進歩が加速するにつれ、これらのことは私たちを基盤に置き、何よりもまず私たちが奉仕する人々と私たちを結びつけ続けるはずです。

サイバー犯罪者からならず者国家に至るまで、危険は現実のものであることを私たちは知っています。私たちは、ユーザーを独力で対処させるつもりはありません。私たちは、これらの原則が挑戦されたときにそれを擁護することを実証してきました。こうした価値観、つまり思慮深い議論と透明性への取り組みは、今後ますます重要になるでしょう。進歩のペースが加速するにつれて、これらは私たちに根付かせ続け、何よりもまず私たちがサービスを提供する人々と私たちを結びつけるべきものとなります。

人工知能は私がよく考える分野の一つです。明らかに、私の同僚の多くも同じように考えています。本質的に、このテクノロジーは、私たち全員に利益をもたらすために、人々から個別に学習することを約束します。しかし、膨大な個人プロファイルを収集することで AI を進化させることは、効率的ではなく怠惰です。人工知能が本当に賢くなるには、プライバシーを含む人間の価値観を尊重しなければなりません。これを間違えると、大きな危険が生じます。優れた人工知能と優れたプライバシー基準の両方を実現できます。それは単なる可能性ではなく、責任です。人工知能の追求において、人間の知性を定義する人間性、創造性、独創性を犠牲にしてはなりません。そして、Apple では、決してそうはしません。

人工知能は私がよく考える分野です。どうやら、私の同僚の多くも同じように感じているようです。このテクノロジーの本質は、個人から学び、私たち全員に利益をもたらすことです。しかし、大量の個人データを収集して AI を改善することは、効率性ではなく怠惰の表れです。 AI が真にインテリジェントになるためには、プライバシーを含む人間の価値観を尊重しなければなりません。間違えれば、大きな危険が伴うでしょう。優れた AI と優れたプライバシー標準を実現できます。これは可能性であるだけでなく、責任でもあります。人工知能の追求において、人間の知性を定義する人間性、創造性、独創性を犠牲にしてはなりません。 Apple では決してそうしません。

19 世紀半ば、アメリカの偉大な作家ヘンリー・デイヴィッド・ソローは、産業社会のペースと変化にうんざりし、ウォールデン池の近くの森の中の小屋に移り住みました。これを最初のデジタルクレンジングと呼んでください。しかし、少しの平穏を期待していたその場所でも、遠くから蒸気機関車が通り過ぎる音や汽笛の音が聞こえた。 「私たちは鉄道には乗りません」と彼は言った。 「それは我々にかかっている。」幸運にもテクノロジーの分野で働ける私たちには、大きな責任があります。それは、世の中の不機嫌なソロー全員を喜ばせるためのものではありません。それは不合理な基準であり、私たちは決してそれを満たすことはできない。

19 世紀半ば、アメリカの偉大な作家ヘンリー・デイヴィッド・ソローは、産業社会のペースと変化に疲れ果て、ウォールデン池のそばの森の中の小屋に移り住み、それを最初のデジタル浄化と呼びました。そこでも遠くから口笛の音が聞こえた。 「私たちは鉄道には乗らない」と彼は言った。 「それは私たちにかかっています。」テクノロジーの分野で働けるほど幸運な私たちには、大きな責任があります。これは、世の中の不機嫌なソローたち全員を喜ばせるためのものではありません。これは不合理な基準であり、私たちが決して満たすことのできない基準です。

しかし、私たちが作るデバイスや構築するプラットフォームが、それらを使用する個人やコミュニティに実際の、永続的な、さらには永久的な影響を及ぼすことを認識する責任が私たちにはあります。私たちは自分自身に問い続けることをやめてはいけません…私たちはどんな世界に住みたいのか？

しかし、私たちが構築するデバイスやプラットフォームは、それらを使用する個人やコミュニティに実際に永続的な、さらには永久的な影響を及ぼすことを認識する責任があります。私たちは常に自分自身に問いかけなければなりません。私たちはどのような世界に住みたいのか？

その質問に対する答えは後から考えるものではなく、私たちの主な関心事であるべきです。 Apple では、ユーザーの最も個人的なデータを貴重な荷物のように扱いながら、ユーザーに最高のものを提供できますし、実際に提供しています。そして、私たちがそれができるなら、誰もがそれができるのです。

この質問への答えは後から考えるものではなく、私たちの主な関心事であるべきです。 Apple はまさにそれを実行できますし、実際に実行しています。つまり、ユーザーの個人データを貴重なものとして扱いながら、ユーザーに最高のサービスを提供するのです。私たちにできるなら、誰にでもできるはずです。

幸いなことに、私たちの前にはあなたの例があります。あなたの仕事に感謝します。人間中心のテクノロジーの可能性への取り組みに感謝します。そして、私たちの最高の日々はまだ先にあるというあなたの確固たる信念に感謝します。

幸いなことに、我々の前にはあなた方（EU）という模範がいます。あなたの仕事、人間中心のテクノロジーの可能性への取り組み、そして私たちの最高の日々はまだ先にあるという信念に感謝します。

どうもありがとうございます。

どうもありがとう。

著者はCaijingのインターンです。