意思決定権を機械に委任することは可能でしょうか?

デジタルインテリジェンスは経営上の意思決定を促進し、驚くべき成果をもたらします

名前が示すように、データとインテリジェンスに基づく意思決定 (DDD) とは、ビッグデータとインテリジェント テクノロジーに基づいて経営上の意思決定を行うことを指します。ビッグデータ、クラウドコンピューティング、人工知能、ブロックチェーン、5Gなどのデジタル技術の急速な発展により、企業の経営意思決定環境は根本的な変化を遂げています。

実際、わが国のデジタル経済はデータ化、インテリジェンス化、プラットフォーム化、エコロジー化に向けて急速に発展しており、デジタルインテリジェンス主導の経営判断は企業が直面する標準になりつつあります。一部の企業はビッグデータやインテリジェントテクノロジーを活用して経営上の意思決定を行い、目覚ましい成果を上げています。

例えば、JDは2016年に「JDランニングチキン」プロジェクトを立ち上げ、貧困緩和をターゲットに農村部の貧しい養鶏農家を支援しました。このプロジェクトは農家の収入を1世帯あたり3,000元以上増加させ、3万世帯近く、10万人以上の収入増加に貢献しました。

このプロジェクトのハイライトは、すべての鶏が放し飼いで「走り回らなければならない」という点です。同社は、各鶏の足に「狭帯域セルラーIoTシステム」を搭載した歩数計を結びつける。160日間放し飼いにされ、100万歩以上「走った」鶏だけが販売される。

モノのインターネット技術、ビッグデータ、人工知能がなければ、このプロジェクトは立ち上げられなかったでしょうし、デジタルをターゲットにした貧困削減の社会的責任は達成されなかったでしょう。

例えば、テンセントの「Tencent Youtu」は、ビッグデータと人工知能や機械学習などのハイテク技術を組み合わせ、数千層の複雑な構造を持つディープニューラルネットワークモデルを開発し、年齢を超えた顔認識精度を96％近くまで向上させることができる。

テンセントは2017年にこれを基に「スカイアイ行方不明者」プロジェクトを立ち上げ、この技術を公共福祉活動に応用して行方不明の子供を探し、警察が何千人もの誘拐された子供を見つけるのを支援した。その中には10年以上も誘拐されていた子供もいた。

このプロジェクトを立ち上げるというテンセントの経営判断は、「テクノロジーで社会に貢献する」という強い力を如実に示しています。

実際、企業経営の意思決定は、情報収集、情報選別、不確実性、曖昧性、さまざまな対立に直面しながら、非常に複雑で動的なプロセスです。

インターネット技術の発展と広範な応用により、ビッグデータ、クラウドコンピューティング、人工知能に基づくデジタルインテリジェンス主導の経営判断は、企業の情報収集、意思決定、計画選択、計画評価の全プロセスにますます大きな影響を及ぼし、止められない傾向を示しています。

デジタルインテリジェンスは経営上の意思決定を促進し、驚くべき成果をもたらします

ビジネス界はすでにデジタルインテリジェンス技術を正しく活用して経営上の意思決定を行えるようになっているでしょうか?学術界はデジタルインテリジェンス主導の経営判断を賞賛するばかりで、批判はないのでしょうか?そうではありません。

多くの革新的な活動が広範囲にわたる論争や社会的損害をもたらす可能性があるのと同様に、デジタルインテリジェンス主導の経営判断は、企業の成長を促進し、プラスの社会的価値を提供する一方で、マイナスの社会的影響をもたらす可能性があり、これらの問題は企業の経営判断プロセス全体に潜んでいます。

経営意思決定モデルとしてのデジタルインテリジェンス主導の経営意思決定にも欠陥や短所があり、特にそれが引き起こす倫理的なジレンマがますます顕著になってきています。

1. ビッグデータの収集と活用におけるジレンマ

ビッグデータはデジタルインテリジェンス主導の経営判断の基盤となるものですが、企業はビッグデータの収集と適用の過程で知らないうちに困難に陥っています。

一方で、企業はさまざまな手段を通じてビッグデータを収集し、ビッグデータを賢く活用する必要があります。他方、インターネット時代に形成されるビッグデータはユーザーの行動を伴い、インターネットによって記録されるデータの多くはユーザー自身にも知られておらず、企業はこれらのビッグデータを所有することについてユーザーの同意を得ていない可能性があります。

そのため、データ駆動型の経営判断の基盤となるデータ収集方法と適用シナリオは、人々の警戒心をますます強めています。データは人々の生活のあらゆる詳細を常に動的に記録しており、データ情報の多くは私有財産としての特性を持っています。

企業のデータ情報へのアクセスの境界をどのように定め、合理的かつ安全な範囲内でデータを共有するかは、科学技術倫理において無視できない重要な課題となっている。

例えば、携帯端末でアプリケーションソフトウェアをダウンロードする際、インターネット企業は意図的にユーザーにとって不利なオプションをチェックするよう誘導したり、物議を醸すようなデフォルトオプションを設定したりすることで、ユーザーが知らないうちに継続的に企業にデータを提供するようにしています。

多くの企業は、ユーザーのトラフィックを獲得するために、無料でユーザーの注目を集めています。ユーザーは「データ支払い」を通じて生活の一定の利便性と引き換えに「犠牲」にしているのは、ユーザーの個人情報です。経営判断にデータを活用する企業が自制心を欠くと、データの収集や活用において無節操になり、法律の枠を超えてしまう可能性さえあります。

2018年3月19日、Facebookが5000万人のユーザーに関わる大量のユーザー情報をデータ分析会社（ケンブリッジ・アナリティカ）と秘密裏に共有していたことが発覚した。 2018年11月30日、マリオットホテルは、傘下のスターウッドホテルの顧客予約データベースがハッキングされ、最大5億人の宿泊客の詳細な個人情報が漏洩したと発表した。

インターネット上で頻繁に発生する「ビッグデータによる既存顧客殺し」は、データ主導の経営判断を行う企業がビッグデータを悪用し、価格差別を実施する典型的なビジネス慣行である。

現在、ビッグデータや人工知能の分野におけるルールは未だ不完全であり、運用手順も標準化されていないため、ユーザーのプライバシー侵害が頻繁に発生しています。これにより、一般の人々はビッグデータの応用に対してますます不信感を抱き、さらにはビッグデータに対する嫌悪感や抵抗感を抱くようになるかもしれません。

2. 人間と機械の衝突とアルゴリズムのジレンマ

私たちの日常生活で生成されるデータはインターネットによって記録されます。たとえば、スポーツ アプリは毎日の歩数を記録し、ショッピング アプリはオンラインで購入したものを記録し、ソーシャル アプリはオンラインで誰とコミュニケーションを取ったかを記録します...

多くのゲーム会社や短編動画制作会社も、心理学者や行動科学者を特別に雇用し、ユーザーがインターネットを閲覧中により多くのドーパミンを分泌し、短時間の精神的興奮状態に入るように刺激する製品設計を最適化する方法を研究しています。

アルゴリズムの精度が増すにつれ、人々はオンラインの世界に留まり、情報の繭に包まれるようになります。現代人は徐々に「デジタル肥満」の生活状態に突入しており、「減量」は非常に困難です。さらに恐ろしいのは、人間がこの状況を十分に理解していないか、あるいは何もできないかのどちらかであるように思われることです。

未来学者のゴールド・レオンハルトは、これをインテリジェント時代の「人間と機械の衝突」と表現しました。情報技術の発展は「ムーアの法則」に従い、その指数関数的な発展速度は多くの分野に拡大していますが、人間社会が従う道徳、文化、制度システムは比較的安定しており、対応する指数関数的な成長を経験していません。

近年の人工知能技術の急速な発展は、主に機械学習、ビッグデータ技術、ディープニューラルネットワークにおける技術革新によるものです。これまで機械では解決不可能と思われていた多くの問題が、今ではより迅速かつ効率的に解決できるようになりました。

純粋に技術的な観点から見ると、人工知能の発展速度はムーアの法則で説明される速度を超えており、その結果、人間と機械の間の衝突はますます大きくなるでしょう。

一方では、インターネットの普及を背景に、デジタル技術とインテリジェント技術が飛躍的に成長し、人々はデジタル生活がもたらす利便性を十分に享受できるようになりました。他方では、ロボット、人工知能、生物遺伝学が人間の生活、さらには人間自身にまで浸透し、最終的には、人類の生存と発展の基盤となる基本原則と道徳秩序への挑戦と破壊につながる可能性があります。

2013年、窃盗罪で懲役8年の判決を受けたアメリカ人がウィスコンシン州の裁判所に訴訟を起こした。彼に懲役8年の刑が言い渡されたのは、犯した罪が重大だったからでも、裁判官の賢明な判断によるものでもなく、AI（人工知能）がデータとアルゴリズムに基づいて、彼が社会にとって「非常に危険」であると推測したためである。

この事件をきっかけに、社会生活において人工知能の判断にこれほど依存することが適切であるのかどうか、人々が考え始めるようになった。機械学習やディープラーニングの技術発展により、コンピュータプログラマーがアルゴリズムを開発する負担は大幅に軽減されましたが、一方で人々のアルゴリズムへの依存度も高まり、「アルゴリズムのジレンマ」が生じています。

実際、ビッグデータ リソースとディープラーニングに基づくアルゴリズムの多くは、プロのコンピューター作業者には理解できませんが、ほとんどの場合、これらのアルゴリズムは効果的であり、コストが低く、速度が速く、予測効果が向上します。

したがって、人々はアルゴリズムがどのように生成されたかを理解していなくても、そのアルゴリズムを喜んで使用します。これにより、デジタル インテリジェンス主導の管理決定はかなり危険な状況に陥ります。いわゆる最適なアルゴリズムがどこから来たのか、その境界と失敗条件は何かは誰にもわからないため、アルゴリズムがいつ失敗するかを判断する方法がありません。

たとえある日アルゴリズムが本当に間違いを犯したとしても、データ ユーザーや経営上の意思決定者は、自身の認知的限界やアルゴリズムに関する迷信のためにこのリスクを無視する傾向があり、アルゴリズムによって引き起こされたエラーを修正することを望まず、修正することもできません。

レオンハルトは著書『人間対機械：人間と知能世界が共存する仕組み』の中で、「我々は天国と地獄が混在する世界、いわゆるヘル・ヴェンにいる」と心配そうに書いている。人間と機械の衝突とアルゴリズムのジレンマがうまく解決されなければ、データは災難の元凶となり、アルゴリズムは悪魔の手へと進化し、知能主導の管理決定は人間の精神を傷つけ、社会の進歩を妨げる元凶となるかもしれない。

△  ますます精度の高いアルゴリズムにより、人々は オンラインの世界で迷子になり、  情報の繭に包まれて

3. 技術革新におけるコリンリッジのジレンマ

科学技術の進歩と革新は人類の発展を促進する上で重要な役割を果たしており、これは無視できない歴史的事実です。しかし、一部の技術革新は社会問題や倫理的災害を引き起こす可能性もありますが、デジタルインテリジェンス主導の経営判断を取り入れることによるイノベーションのジレンマの範囲について深く考えた人はほとんどいません。

1980年代にイギリスの社会学者コリングリッジは、イノベーションの「コリングリッジのジレンマ」を提唱しました。つまり、いかなる技術革新においても、そのライフサイクルの初期段階では、人間はその社会的影響と関連する結果を効果的に予測することができません。技術が一定の段階まで発展すると、その悪影響が徐々に現れますが、技術は経済発展と社会生活に深く根付いており、効果的に制御することが難しく、それが社会問題を引き起こします。

デジタルインテリジェンス主導の経営判断は、大部分において、コリングリッジのジレンマの特徴を備えています。インターネット技術は急速に発展し、ユーザーはデジタルによる生存手段に依存し、ビッグデータとインテリジェント技術は徐々に向上しており、多くの企業がデジタルインテリジェンス主導の経営判断の波に巻き込まれていますが、それが引き起こす可能性のある根深い長期的な社会問題に対する理解が欠けています。

ビッグデータとインテリジェンスの複雑さにより、データの保存、共有、処理の難易度が増しています。ビッグデータの分析プロセスに含まれるデータアクセス、クリーニング、検索、処理の方法は従来の方法とは異なり、異なるコンピューティングおよびプログラミングスキルも必要です。技術分析とインテリジェント処理の閾値が上昇すると、探索プロセスの不確実性と機密性が高まります。ビッグデータとインテリジェント管理のマイナス面が表面化すると、その悪影響は制御不能になる可能性さえあります。

オランダのヘストロム教授はかつて、伝統的な科学技術革新のパラダイムには、技術の進歩を過度に重視し、その社会的責任の属性を無視する「近代化バイアス」があると指摘した。

特に今日では、膨大な量のデータが社会活動のあらゆる参加者によって継続的に作成、流通、活用されており、デジタルインテリジェンス主導の企業経営判断が徐々に標準になりつつあります。

このような社会規範の下で、企業はデータに基づく経営判断が「近代化バイアス」に陥るのをいかに避け、コリングリッジのジレンマから抜け出して持続可能な成長の道を歩み始めることができるのでしょうか。これは緊急の対応と真剣な解決が必要な問題です。

4. ボーモルの社会発達病

2021年9月26日、劉鶴中国共産党中央政治局委員、国務院副総理はビデオを通じて世界インターネット会議烏鎮サミットに出席し、世界各国が共同でインフラの安全性と信頼性を維持し、科学技術倫理を堅持し、「ボーモル病」と「デジタルデバイド」を克服し、包摂的成長を実現しなければならないと明確に指摘した。

いわゆる「ボーモル病」とは、1967年にアメリカの経済学者ボーモルが提唱した社会発展のジレンマを指します。

バウモルは、労働生産性の伸び率がプラスの進歩的な部門と、労働生産性の伸び率がゼロの停滞部門を含む、2部門の不均衡なマクロ経済成長モデルを構築しました。彼はいくつかの重要な仮定の下で、次のような結論に達しました。時間の経過とともに、進歩的な部門の単位生産コスト（主に労働コスト）は変化しないが、停滞部門の単位生産コストは上昇し続ける。

長期的には、停滞している部門の競争力は低下し続け、そのような部門は徐々に縮小し、最終的には消滅するはずです。しかし、現実には異常な状況が発生している。一部の不況部門の製品に対する消費者の需要は、価格に対して完全に非弾力的である可能性がある。これらの不況部門の製品単価が引き続き上昇しても、これらの部門への労働力の流入は継続し、これらの部門は縮小しないだけでなく、徐々に大量の労働力を吸収するという現象が生じる。

最終結果は、労働力が進歩的な部門から停滞した部門へと移行し続けるため、国全体の経済成長率は徐々にゼロに近づくことになる。これは有名なボーモルのコストと成長の病気であり、「ボーモル病」とも呼ばれます。この現象について冷静に考える必要があることを思い出させます。社会の一部の産業は活気があり人気があるように見えますが、これらの産業は本当に社会の進歩と発展を促進したのでしょうか。よく考えてみると、その答えは気が滅入るものになるかもしれません。

特に、デジタル財産権の定義が未だ明確ではなく、デジタル格差が解消されておらず、オンライン違法行為が後を絶たない環境においては、インターネット時代の文脈に基づくデジタルインテリジェンス主導の管理決定が社会発展の「ボーモル病」を引き起こす可能性について警戒する必要がある。デジタルインテリジェンス主導の経営判断の目的は、インターネット、ビッグデータ、インテリジェントテクノロジーを活用して、企業の経営判断の適時性と正確性を向上させ、リソースの利用効率を高め、経営判断コストを削減することです。

現在、デジタル技術は生産機能を大きく変革し、常に新しいビジネスモデルを生み出し、各国に新たな発展の機会をもたらしていますが、同時に多くの課題も生み出しています。インターネットの普及、デジタル化レベルの向上、インテリジェント技術の応用は、伝統的な経済形態を完全に排除したり、実体経済を破壊したりすることを目的としているのではなく、社会の持続可能で健全な発展と共鳴することを目的としています。

デジタルインテリジェンス技術の発展が、人々をオンライン世界の仮想空間に引き込み、近所の人々の食料品やショッピングの方法を電子商取引プラットフォームに移行させ、若者のショッピング、レジャー、社交、娯楽生活をパラレルワールドに移行するだけであれば、社会から多くの注目を集め、多くの雇用を吸収することになるが、社会問題を本当に解決することはできず（多くの新しい社会問題を引き起こす可能性さえある）、私たちは「ボーモル病」に苦しむことになるだろう。

解決：

人間に焦点を当て、倫理的な構築を強化する

ある意味、デジタル インテリジェンス主導の経営判断は、従来の経営判断理論に挑戦するものであり、実践、実験、リアルタイム データを通じて、問題に対する最適なソリューションを迅速に見つける可能性を経営者に提供します。しかし、このような意思決定の方法は多くの困難を引き起こし、危険を伴うことを認識しなければなりません。この苦境から抜け出すには、まず以下の点から始める必要があります。

まず、経営上の意思決定においては常に「人間中心」のアプローチを堅持します。  ビッグデータの時代になると、企業経営者の思考パターンは徐々に個人の経験や直感的な判断から離れ、「データに基づく」合理的な意思決定の思考パターンへと変化すると考える人もいます。著者はこの観点に関して意見を留保している。

著者は、デジタルインテリジェンス主導の経営意思決定におけるジレンマを探るためには、「人」というミクロな基礎から出発し、「人中心」のアプローチを貫くことが必要であると考えています。実際、ビッグデータの時代においては、企業は大量のデータを包括的かつ迅速に収集し、人工知能と機械学習を利用してビッグデータをモデル化および分析し、企業の意思決定に役立てる可能性が高くなります。

しかし、最終的には、あらゆる決定は機械ではなく人間によって行われます。最も高度な機械でさえ、データ処理の結果を出力することしかできず、最終的な意思決定者はすべて人間です。経営者が最終的な意思決定権を完全に機械に委ねるのは無責任です。

経営研究者として、私は「あらゆる技術的問題の背後には経営上の問題がある」という概念を堅持しており、経営の基本論理から出発することによってのみ、経営上の意思決定から生じる企業の社会的責任の問題を真に理解できると信じています。

最も重要な論理は、管理とは意思決定であり、意思決定は最終的には人によって行われるというものです。

管理者自身の倫理観や意思決定の際に遵守する価値観を真剣に検討することなく、ユーザーのプライバシーを暗号化する方法、人工知能アルゴリズムを解読する方法、機械による意思決定のリスクを回避する方法を、純粋に技術的な観点から議論することは、重要なことを避けて些細なことに焦点を当てる方法にすぎず、問題を真に解決することは不可能です。

第二に、企業経営における科学技術倫理意識を強化する。  科学技術の進歩の波の中で、特に企業経営者は科学技術倫理に対する意識を強化する必要があります。科学的知識の蓄積、技術手段の改善、革新力の高まりは、インターネット時代における企業の急速な発展に大きな可能性をもたらしました。

しかし、企業におけるテクノロジーの応用には2つの側面があります。テクノロジーは、適切に応用されれば、企業の経営効率や製品品質の向上、消費者ニーズへの対応、健全な社会発展の促進に役立ちます。一方、不適切に応用されれば、テクノロジーは悪徳企業の共犯者となり、偽造、詐欺、不法な利益の獲得、社会への損害につながります。

したがって、経営者は科学技術倫理に対する意識を高め、意思決定を行う際にビジネス倫理を念頭に置く必要があります。

特に、ビッグデータ、人工知能、機械学習、クラウドコンピューティング、仮想現実、拡張現実、ブロックチェーン、モノのインターネットなどのハイテクを経営活動に適用する場合は、「これは善行なのか？」という質問を何度も自問する必要があります。一部の人々の利益に潜在的な損害を与える可能性はありますか?それはビジネス倫理に沿っていますか?それは社会の進歩につながるでしょうか?

第三に、企業の組織構造と経営システムの構築に倫理的な要素を取り入れます。  企業経営を正しい方向に導くためには、個人の性格や思考意識だけに頼るのではなく、それを制度化する必要があります。企業の経営者が倫理的でデジタル主導の経営判断を下したいのであれば、組織レベルで一連の制度的取り決めを確立する必要があります。

たとえば、企業文化には、企業の社会的責任とビジネス倫理の遵守を重視することを明確に含め、管理職に対して定期的に経営行動規範を推進し、ビジネス倫理の問題に関して全従業員向けの内部報告ホットラインを設定し、社内に企業の社会的責任とビジネス倫理の管理部門を設立することができます。

企業倫理問題の管理を担当する最高倫理責任者を任命し、大きな権限を与える企業が増えています。英語の略語である「CEO」が、英語の略語である「Chief Executive Officer（最高経営責任者）」と同じであることから、企業経営におけるこの役職の役割はますます重要になってきています。

デジタルインテリジェンスに基づく経営判断が企業経営においてますます標準となるにつれ、企業によるハイテクの応用に対する最高倫理責任者の姿勢がますます重要になります。ハイテクの応用を企業の経営システムや制度に組み込むことによってのみ、責任ある経営判断が可能になります。

4 番目に、デジタル インテリジェンス主導の経営判断を新たな産業統合とどのように組み合わせるかを積極的に検討します。  わが国の新たな産業統合は、情報産業、デジタル産業、伝統産業の統合を重視しており、この統合は中国経済の質の高い発展を促進する強力な原動力となっている。

ビッグデータ、クラウドコンピューティング、人工知能、ブロックチェーン、機械学習などのデジタル技術がさまざまな産業分野で広く浸透し、応用されるにつれて、インテリジェントコネクテッドカー、無人スーパーマーケット、スマートシティ、スマート物流、スマート家電、スマートホームなどの新興産業がわが国​​で急速に発展し、新たな産業統合のトレンドを形成しています。

自国での社会的な責任を積極的に担い、産業の融合を推進している一部の海外インターネット技術企業と比較すると、中国の関連企業の業績には依然として大きな差がある。わが国の一部のインターネット企業は、デジタル経済時代の恩恵を享受した後、当然の社会的責任を果たしておらず、新たな産業統合の推進や実体経済の発展の促進に効果的に参加していません。

多くの中国のインターネット企業が依然として事業拡大のために人々の食料や財布に焦点を当てている一方で、西側諸国の同業企業はハイエンドの製造設備の開発や宇宙船の開発に取り組んでいる。

一部の中国企業は業務の過程で膨大なデータを入手し、機械学習や人工知能などの技術を使ってデータ資産の価値を深く探究し、伝統的なビジネスモデルに次元削減攻撃を仕掛けている。彼らは実店舗を完全に駆逐し、人々の生活のあらゆる側面に触手を伸ばしつつある。

さらに悪いことに、一部のインターネット企業は市場での優位な地位を利用して独占的な事業を展開し、健全な競争のビジネス エコシステムを破壊しています。諺にもあるように、「一輪の花が春をもたらすのではなく、百輪の花が咲けば庭は春でいっぱいになる」。

さらに、すべての花が枯れてしまうと、「一輪の花」だけが春を楽しむことは不可能になります。経営者がインターネット、ビッグデータ、インテリジェント技術を企業の経営判断に応用する場合、科学技術を善のために利用することが人類運命共同体の本質的な要求であり、社会の総合的な発展を促進することが企業の社会的責任であることを認識する必要があります。

インターネット、ビッグデータ、人工知能、機械学習などに基づくデジタルインテリジェンス主導の経営判断が急速に発展し、企業経営に大きな影響を与え始めています。私たちは、こうしたハイテク技術の開発と応用において生じる問題に正面から向き合い、注意を払わなければなりません。私たちは、大切なものを捨てると同時に捨て去ることはできませんし、放っておいて勝手に成長させることはできません。

企業経営者は、情報技術の発展動向を把握し、それを経営判断に適切に適用し、利益を促進してデメリットを排除する方法を模索し、技術が常に企業の持続的な成長と質の高い社会の発展を促進するための尽きることのない原動力となるようにする必要があります。