アルゴリズム学者: 複雑なデータ世界のブラックボックスを開く人々

この記事は、Viktor Mayer-Schönberger と Kennedy Cukier による「ビッグデータ: 私たちの生活、仕事、思考における革命」からの抜粋です。

今日のコンピュータ システムは、従うようにプログラムされたときに明示的に指定されたルールに従って動作します。したがって、結果が時々、そして必然的に間違った場合、振り返って、コンピューターがどのようにしてその結果に到達したかを確認することができます。たとえば、「外部センサーが突然の大幅な湿度上昇を検知したとき、なぜ自動操縦装置は飛行機を 5 度上昇させたのか」と尋ねることができます。今日のコンピューター コードは開いて調べることができ、コードの解釈方法を知っている人なら、計算がいかに複雑であっても、その計算の根拠をたどって理解することができます。

しかし、ビッグデータ分析では、この追跡ははるかに困難になります。アルゴリズムによる予測の基礎は、一般の人には理解できないほど複雑である可能性があります。

IBM が 1954 年に開発したロシア語を英語に翻訳するプログラムのように、コンピューターが、その中に書き込まれた明示的な指示に基づく一連の指示に従う場合、ソフトウェアが単語を別の単語に置き換えた理由を人間は簡単に理解できます。しかし、Google 翻訳は、英語の単語「light」をフランス語の「lumière」（光または重さを表す）に翻訳するかどうかを決定するために、数十億ページもの翻訳データを使用します。プログラムが最終的な選択を行った正確な理由を人間が追跡することは不可能です。なぜなら、これらの選択は膨大な量のデータと多数の統計計算に基づいているからです。

ビッグデータが機能する規模も私たちの想像を超えています。たとえば、Google が複数の検索キーワードとインフルエンザとの関連性を特定できたのは、4 億 5000 万の数学的モデルをテストした結果です。対照的に、シンシア・ルーディンは、マンホールが火災を起こすかどうかを予測する 106 の指標を考案しており、コンエジソンの管理者に、彼女の手順が特定の検査場所を優先する理由を説明できる。人工知能コミュニティが「説明可能性」と呼ぶものは、私たちのような一般人にとって非常に重要です。私たちは常に、何かが何が起こるかだけでなく、なぜ起こるのかを知りたいのです。しかし、システムが 106 ではなく 601 の予測を自動的に生成したらどうなるでしょうか。その 601 のほとんどが特に重要ではないが、それらを総合するとモデルの精度が向上するとしたらどうなるでしょうか。予測の根拠は非常に複雑になる可能性があります。限られた予算を再配分するようマネージャーを説得するには、何と言えばよいでしょうか?

このシナリオでは、ビッグデータ予測のリスク、およびその背後にあるアルゴリズムとデータセットが、説明不能、追跡不能、さらには信頼できないブラックボックスになる可能性があることがわかります。これを防ぐためには、ビッグデータを監視し、透明性を高める必要があり、そのためには新たな専門知識と機関が必要です。これらの新メンバーは、社会が特定の分野におけるビッグデータの予測を慎重に検討し、データによって被害を受けた人々に救済をもたらすことに貢献します。

特定の分野で複雑性と専門性が急増し、新しいテクノロジーを管理する専門家の緊急の必要性が生じたときに、社会にこれらの新しい組織が出現することがよくあります。法律、医学、会計、工学の専門家たちは、1世紀以上前にこのような大変動を経験しました。最近、コンピューター セキュリティとプライバシーの専門家が次々と登場し、国際標準化機構 (この組織自体も、この分野の新たなガイダンスのニーズを満たすために設立された) などの団体が定めたベスト プラクティスに企業が従うように努めています。

ビッグデータには、この役割を担う新しいグループの人々が必要になります。彼らは「アルゴリズム主義者」と呼ばれるようになるかもしれません。これらは、外部から会社を監視する独立した組織と、内部から会社を監視する従業員または部門の 2 つのカテゴリに分類できます。これは、会社が財務をチェックするために社内会計士と外部監査人を抱えているのと同じです。

アルゴリズム主義者の台頭

これらの専門家は、コンピューターサイエンス、数学、統計の専門家であり、ビッグデータの分析と予測を検討します。アルゴリズム専門家は、会計士やその他の専門職が現在行っているように、中立性を保ち、機密性を維持する必要があります。データ ソースの選択、アルゴリズムやモデルなどの分析および予測ツールの選択、および結果の解釈を評価します。紛争が発生した場合、特定の結果を導いたアルゴリズム、統計手法、データセットを入手します。

もし2004年に国土安全保障省にアルゴリズム専門家がいたら、ケネディ上院議員まで含まれる多くの誤りのある飛行禁止リストの作成を阻止できたかもしれない。アルゴリズム専門家が変化を生み出せたかもしれない最近の例が日本、フランス、ドイツ、イタリアで起きている。入力された名前に基づいて一般的な検索用語のリストを生成するグーグルの「オートコンプリート」機能によって名誉を傷つけられたと人々が苦情を申し立てているのだ。これらの単語は基本的に過去の検索頻度に基づいており、確率に応じてランク付けされます。それでも、潜在的なビジネスパートナーや恋人が私たちをオンラインで検索し、私たちの名前が「犯罪者」や「売春婦」の横にリストされているのを見たら、誰が気分を害さないでしょうか?

私たちは、アルゴリズム専門家とは、このような問題に対して市場志向の解決策を提供できる人々であり、その存在によって過剰な規制の必要性を減らすことができる人々であると考えています。彼らが満たすニーズは、20 世紀初頭に会計士や監査人が金融情報の氾濫に対処するために登場したときに彼らが満たしたニーズと似ています。その数は圧倒的です。専門家が柔軟かつ規律ある方法で自らを組織化することが求められます。市場はこれに応えて、財務監視を専門とする競争力のある企業からなる新しい業界を生み出しました。このサービスを提供することで、新しい職業が経済に対する社会の信頼を高めます。アルゴリズムエンジニアも同様に信頼性を高めることができ、ビッグデータはその恩恵を受けることができ、また受けるべきです。 #p#  

外部アルゴリズム専門家

私たちの見解では、裁判所が命令を出したり、規制を公布したりする場合など、政府が必要とするときに、外部のアルゴリズム専門家が中立的な監査人として機能し、ビッグデータ予測の正確性や合理性をチェックすることができます。また、ビッグデータ企業を顧客として扱い、専門的なサポートを必要とする企業に監査サービスを提供することもできます。不正防止技術や在庫カウントシステムなどのビッグデータ アプリケーションの安定性を確保できます。最後に、外部のアルゴリズム専門家は、パブリックドメインのビッグデータを最大限に活用する方法について政府機関にコンサルティング サービスを提供できます。

医学、法律、その他の専門職と同様に、この新しい専門職にも自らを統制する行動規範が存在すると私たちは考えています。アルゴリズム専門家の中立性、機密性、能力、専門性は、厳格な説明責任ルールを通じて保証されます。基準を満たさない場合は訴訟に直面することになる。また、彼らは専門家証人、つまり「審問官」として裁判に召喚されることもあり、特定の複雑な事件における技術的な問題を支援するために裁判官によって任命される。

さらに、ビッグデータの予測によって被害を受けたと考える人々、つまり手術を拒否された患者、医療上の理由で仮釈放を拒否された囚人、住宅ローンの申請を拒否された人々は、弁護士と同じように、アルゴリズム専門家に分析の支援と控訴の申し立てを依頼することができる。

社内アルゴリズム担当者

社内のアルゴリズム専門家が組織内のビッグデータ活動を監視します。彼らは、企業の利益だけでなく、企業のビッグデータ分析の影響を受ける人々の利益にも焦点を当てています。彼らはビッグデータ運用を監督しており、社内のアルゴリズム専門家は、政府機関のビッグデータ予測によって損害を受けたと感じた人が最初に連絡を取る相手である。データが公開される前に、分析の完全性と正確性を確認します。最初の 2 つのタスクを達成するには、アルゴリズム担当者は勤務先の企業内である程度の自由と中立性を享受する必要があります。

従業員が会社の経営に中立であるという考えは直感に反するように思えるかもしれませんが、実際には非常に一般的です。大手金融機関の監督部門がその一例です。経営陣ではなく株主に対して責任を負う多くの企業の取締役会も同様です。ニューヨーク・タイムズやワシントン・ポストを含む多くのメディア企業は、国民の信頼を守ることを基本的な任務とするオンブズマンを雇用している。これらの従業員は読者からの苦情を処理し、雇用主に非があると判断した場合は公に雇用主を非難することが多い。

社内アルゴリズム専門家のより身近な例としては、個人データが会社によって悪用されないようにする責任を負う専門家が挙げられます。たとえば、ドイツでは、一定規模以上の企業（通常、個人データを処理する従業員が 10 人以上）にはデータ保護担当者を置くことが義務付けられています。 1970 年代以来、これらの社内代表者は、一連の職業倫理とチーム スピリットを育んできました。彼らは定期的に会合を開いてベストプラクティスやトレーニングを共有し、独自のメディアやセミナーを開催しています。さらに、彼らは、一方ではデータ保護の検査官として、他方では企業行動を通じて情報プライバシーの価値を実践することにより、雇用主とその中立的な検察官としての役割に忠実であり続けることに成功しました。社内のアルゴリズム担当者もそれを実行できると信じています。

ブラックボックスを開ける

ビッグデータの世界に完全に備えるための簡単な方法はありません。私たち自身を規制するための新しい規範を確立する必要があります。社会がビッグデータの特性と欠点をよりよく理解するようになるにつれて、私たちの慣行におけるいくつかの重要な変化が役立つ可能性があります。私たちは、ビッグデータによって把握不能となった世界がブラックボックス化して、不可知なものが別の不可知なものに置き換わることがないよう、新しい専門職である「アルゴリズム専門家」がビッグデータ分析を評価できるように安全策を設計しなければなりません。

ヴィクトル・マイヤー・シェーンベルガー氏はオックスフォード・オンライン・カレッジのインターネット研究所でガバナンスと規制の教授を務めており、ビッグデータの世界に対する彼の賞賛には根拠がないわけではない。英国の週刊ニュース誌「エコノミスト」はかつて、ヴィクトル・マイヤー＝シェーンベルガー氏をビッグデータ分野で最も尊敬され、権威のあるスポークスマンの一人と評した。世界的に有名な科学者トーマス・エジソンによって創刊された『サイエンス』誌は、ビッグデータに関する徹底的な議論を始めるなら、ヴィクトル・マイヤー＝シェーンベルガーほど適した発起人はいないと考えています。 2010年、ヴィクトル・マイヤー＝シェーンベルガーはすでにこの分野の体系的かつ徹底的な研究を開始しており、データ編集者のケネス・クキエとともにエコノミスト誌にビッグデータに関する14ページの特集記事を発表し、ビッグデータ時代の発展傾向を予見した最初のデータサイエンティストの一人となった。