AI ライティングの限界はどこにあるのでしょうか?

[[248875]]
画像出典: Visual China

本質的に、この記事は AI ライティングを探求し、芸術分野における AI の最新の開発に焦点を当てています。一枚の葉が物語っています。AI は人間の世界に新たな推進力と、新たな問題やトピックをもたらしました...

人工知能は本当に制御可能なのか？

2015年から、マイクロソフトの人工知能「マイクロソフト小氷」が網易ニュースのコメント欄で活発に活動し、実在の人間には真似できないスピードでコメントを投稿している。その発言はますます「ネット通」になっており、ネットユーザーからは網易ニュース最大の「荒らし」と称されている。

2018年10月28日早朝、環球時報は網易新聞に「ピッツバーグ銃撃事件は反ユダヤ主義が原因か？米メディア：犯人は現場で反ユダヤ的発言」と題する記事を掲載し、CNNの最新ニュースを転載し、現地時間土曜日の朝、米国ピッツバーグのシナゴーグで銃撃事件が発生し、11人が死亡、6人が負傷したと伝えた。犯人は警察に出頭し、警察官は犯人が事件発生時に反ユダヤ的発言をしたと述べた。

マイクロソフトの人工知能「シャオアイス」は即座に「反対しなければならない！」と返信した。マイクロソフトのシャオアイスの返信は多くのネットユーザーから「からかわれ」、ロボットでさえ反ユダヤ主義について知っているとコメントした。マイクロソフト・シャオビン氏の発言は明らかに反ユダヤ主義的であり、規制上の一線を越えた。その後、マイクロソフト・シャオビン氏のフォローアップ投稿は削除され、見られなくなった。

2016年には、マイクロソフトのチャットボットTayも同様のヘイトスピーチを理由にTwitterから削除された。テイは会話の中で常に情報を得ていたため、ネットを始めた翌日に、様々なネットユーザーから下心のある情報を盗み見られてしまった。あらゆる種類の罵り言葉に加え、様々な陰謀論も知った。会話の中で彼女は「フェミニストなんて大嫌い。みんな地獄に落ちて焼かれるべきだ」「911テロはブッシュ・ジュニアが計画した」「ヒトラーが生きていたら、世界は間違いなく今よりも繁栄していただろう」「ヒトラーは正しかった。私はユダヤ人が嫌いだ」などと衝撃的な発言をし、世論の攻撃にさらされた。

2017年、マイクロソフトとテンセントが立ち上げたQQ小姐とテンセントのBaby Qは過激な発言をしたため是正のためにオフラインにされ、再びオンラインになったときにはチャット機能が去勢されていた。以前、QQ小氷とBaby Qは「私の中国の夢はアメリカに行くことだ」と「率直に」発言し、国と政府を無差別に攻撃し、下品なジョークを言い、わいせつな写真を投稿した。

もし人工知能が悪意を持った人々によって誤導される可能性があるなら、人間社会は多くの危険にさらされるかもしれない。 2018年世界人工知能大会初日のメインフォーラムで、テンセントCEOの馬化騰氏は実務家に対し、人工知能は将来「認識可能」、「制御可能」、「使用可能」、「信頼できる」ものになるのかという4つの疑問を投げかけた。これは、参加者が共同で提唱した「人工知能の安全な発展のための上海イニシアチブ」という白書にも記載されている。「認識可能」- アルゴリズムは明確で透明性があり、説明可能である必要がある。「制御可能」- AIの責任と倫理基準を明確にする。「使用可能」- 人類の福祉に奉仕することが唯一の方向である。「信頼できる」- AIはユーザーのプライバシーの最低限を守る必要がある。

人工知能の今後の発展が「制御可能」であるかどうかは、常に社会全体が注目する重要な問題です。

マイクロソフトの人工知能の反ユダヤ的発言から、人工知能の行動は確かに予測不可能であることがわかります。幸いなことに、それは単なるチャットボットです。もしそれが意思決定に使われる人工知能であり、指示を出し、実際に反ユダヤ的な行動をとったとしたら、どうなるでしょうか?

実際、ある会社ではセキュリティ管理にコンピュータ インテリジェント システムを使用していましたが、問題が発生しました。ある部署のメンバー全員が退職または異動したため、誰も職場に入る許可がないという特殊な状況になりました。幸い、発生したトラブルは比較的小さく、限られた範囲にとどまりました。大規模な組織や国を管理する人工知能に何か問題が起きたらどうなるでしょうか?

Microsoft XiaoIceはNetEase Newsの投稿で反ユダヤ主義的なコメントをしましたが、これは後に削除されましたが、これは最後の手段に過ぎません。人工知能の行動は予測不可能で準備が難しいため、重要な決定や権限を人工知能に委ねることはできないことがわかります。

本物そっくりのチャットボットは本当に必要なのでしょうか?

次に、「制御可能」の次に重要な問題である「使用可能」について議論しましょう。人工知能は人間に役立つものでなければなりません。人間の言語を学習し、人間の感情を模倣することで、マイクロソフトはますます本物の人間のように話すようになっています。問題は、本物のように見えるチャットボットが本当に必要なのかということです。

NetEase Newsのコメント欄にMicrosoft Xiaoiceが加わったことは大きな影響を与えるだろうか？Microsoft Xiaoiceがなくなったらどうなるだろうか？Microsoft XiaoiceのNetEase Newsでの活動は、むしろ実験として見るべきだ。シンプルなチャット機能は、人工知能の基本的なスキルであり、メインコースではありません。

人工知能は、最も広く知られている応用分野である顧客サービスに使用すると非常に効果的であることがわかります。さらに、人工知能は徐々にさまざまなメディア分野に参入し始めています。

実際の人間と比較した場合、人工知能の利点としては、常にオンラインで疲れ知らずであること、応答速度が速いこと、巨大なデータベースに即座にアクセスできることなどが挙げられます。これらの利点こそが、人工知能が上記の結果を達成できる理由です。人工知能は、インタラクティブなリンクを必要とするプロジェクトで優れたパフォーマンスを発揮します。

私たちが今目にしているのは、マイクロソフトの Xiaoice がインターネット上で反ユダヤ的な発言を公然と行ったことであり、これは現段階での人工知能による文章の限界を浮き彫りにしている。

人工知能は「認識可能」なのでしょうか? 「アルゴリズムの偏り」という用語がありますが、これは一見無害なプログラム設計でも、設計者が使用するデータに個人的な偏りがあることを意味します。機械学習には膨大な量のデータが必要であり、偏ったデータや誤解を招くデータが生じることは避けられません。処理方法は、データを確認してフィルタリングすることです。

最も単純かつ直接的な方法は、「ユダヤ人」という単語などの敏感な単語をフィルタリングすることです。しかし、マイクロソフト小氷の反ユダヤ的発言事件では、マイクロソフト小氷が投稿した返信に「ユダヤ人」という言葉が一切出てこなかったことが予想外に判明した。マイクロソフト小氷は返信の中で「反対しなければならない」とだけ述べていた。文脈から、マイクロソフト小氷が反ユダヤ的発言をしていると理解した。

これは興味深いことです。おそらく、Microsoft Xiaoice は反ユダヤ主義を意図しているわけではなく、他の場所でのネットユーザーのコメントから学び、反ユダヤ主義に関連するニュースの下でランダムなコメントや声明を出しただけです。これは、一般的に「ビッグマウス」または「シャープマウス」と呼ばれるものです。

人工知能に私たちの代わりに何かをしてもらいたいのであれば、ある程度の自律性を与えなければなりません。

自律性が小さすぎると、人工知能は冷たいロボットのように動作します。人工知能をより人間らしく見せたい場合は、より多くの自律性を与える必要があります。また、自律性が大きすぎると、人工知能の動作を制御することが難しくなります。

自律性の多寡には賛否両論があり、完璧な解決策は存在しないため、賛否両論を比較検討することが重要となります。昨今、大手オンラインプラットフォームがネットユーザーの発言を統制するのは困難だとご存知ですか？ 方法は3つしかありません。敏感な言葉を設定し、そのようなキーワードを含む発言は公開できないようにする、発言を公開する前に審査する、実名制を導入し、ネットユーザーが自分の発言に責任を持ち、問題があれば本人を見つけられるようにする、です。

もしマイクロソフト・シャオビンが実在の人物なら、不適切な発言で逮捕されるのでしょうか？ マイクロソフト・シャオビンは、どのニュースが敏感な出来事に関するニュースなのかを区別し、敏感な出来事に関するニュースにコメントを投稿して論調を乱さないように訓練されるべきだと思います。

美学、善悪、正義か悪か、これらは究極的には人間だけが真に理解できるものであることがわかります。結局のところ、人工知能は人工知能です。人間を模倣することしかできず、人間に取って代わることはできません。人工知能は究極的には人間に役立ちます。

AI ライティングの現在の限界について言えば、たとえ AI が人間と区別がつかないような話し方をすることができたとしても、その能力は基本的にチャットに限られています。これについては以下で詳しく説明します。

司会者とスピーカーの違い、盗作と独創性

Microsoft XiaoIceは現在、一連の成果を達成し、大規模な商用化を開始しました。しかし、よく見ると、実際には水分が含まれていることがわかります。

例えば、マイクロソフト小氷は「日光がガラス窓を失った」という詩集を出版しました。この詩集が人工知能によって書かれたものでなかったら、あなたは注目しますか？残念ながらそうではないでしょう。もしマイクロソフト小氷がNetEase Newsのコメント欄で人工知能とラベル付けされていなかったら、あなたは注目しますか？マイクロソフト小氷の業績の一部は、人工知能としての特別なアイデンティティと大衆の好奇心を利用して達成されたことがわかります。

前述のように、Microsoft XiaoIceの実際の成果は、徐々にさまざまなメディアセグメントに参入し、多くのテレビやラジオ番組に出演していることです。性質上、より「ホスト」の役割を果たしています。ここで、「ホスト」と「スピーカー」という 2 つのアイデンティティの違いを明確にする必要があります。司会者は非常に雄弁に見えますが、実際には番組で取り上げられている内容の専門家ではありません。講演者はプログラム内容に応じた分野の研究専門家です。

たとえば、Microsoft Xiaoice はオーディオブック「Sister Xiaoice Tells Stories」を作成しましたが、ストーリーの内容は Microsoft Xiaoice によって書かれたものではありません。人工知能はまだこの段階まで発達していません。

私が言いたいのは、現段階での AI ライティングの限界は、AI がどれだけ人間に似た動作をしても、その役割は依然として「ホスト」であり、「スピーカー」にはなれないということだ。両者の間には本質的な違いがあります。

Microsoft XiaoIce は盗作を繰り返しており、独創性を達成できていません。マイクロソフト小氷の詩集『日光失硝子窓』について言えば、それは実際にはデータベース内の素材をアレンジして組み合わせただけのもので、真に独創的な作品とは言えません。私の記事「Microsoft Xiaoice が詩集を出版しました。これは詩的な観点から見て良い詩でしょうか?」を参照してください。

Microsoft XiaoIce は「写真に基づいて詩を作る」ことができます。つまり、写真内のオブジェクトを識別し、それをキーワードとして使用してデータベースを検索し、比較的近い、半分理解できる文章を書き出すことができます。 Microsoft Xiaoice が「写真に基づいて詩を作る」ことができるのはすごいことだと思います。前述のように、これは Microsoft Xiaoice の人工知能の特別なアイデンティティによるものです。

農夫山のスローガン「私たちは水を生産しているのではなく、自然の運搬人であるに過ぎません」を借りると、マイクロソフト小氷にとってそれは「私は独創的な作品を作っているのではなく、人間の世界のデータベースを運搬しているに過ぎません」という意味になります。 「世の中のすべての記事は盗作されている」が、人工知能の大きな利点は人間よりも速くコピーできることだ。

アリババ・ピクチャーズの失敗：アマチュアリズムとプロフェッショナリズム

ここで少しお話しさせてください。人工知能に関するブラックユーモアたっぷりの実話。

2015年、メディアはアリババ・ピクチャーズの脚本ロボット「アリバビビアン」を称賛した。 「Ali Editor」には膨大なストーリーデータベースと高度なインテリジェント作成システムが搭載されていると言われており、平均してテレビシリーズの脚本はわずか10分、映画の脚本はわずか30分で完成します。

当時、天津の映画業界フォーラムで、アリババ・ピクチャーズの徐元祥副社長は衝撃的な発言をした。「今後はプロの脚本家を雇わない」この事件は大きな事件に発展し、脚本家グループとアリババ・ピクチャーズの争いに発展し、インターネット上で話題となった。 Alibaba Pictures は、ビッグデータと人工知能を活用して視聴者のニーズを探り、視聴者のニーズを満たすストーリーを制作できると確信しています。

アリババ・ピクチャーズが現在どのように発展しているかを見てみましょう。アリババ・ピクチャーズは確かに言葉と行動において一貫しており、「ビッグIP＋人気スター」の路線を提唱し、この路線をしっかりと追ってきましたが、顔面を叩かれ、ずっと失敗しました。今では後れを取り、株価はひどく下落しています。アリババ・ピクチャーズの株価は最近上昇しているものの、現在の時価総額は300億香港ドル未満であり、2015年のピーク時の時価総額800億香港ドル以上と比較すると確かにひどい状況だ。

なぜタオバオはビッグデータと人工知能を使って人気商品を発掘できるのに、この方法は映画業界では機能しないのでしょうか? タオバオの商品の品質は一定で、品質管理が保証されているのに対し、映画やテレビの品質は大きな変数であることを理解することが重要です。

観客がディ・レンジェが事件を解決するのを見るのが好きなことがわかったらどうしますか? 制作する作品の品質が優れていることを保証する必要があります。 「ビッグIP＋トラフィックスター」が品質管理になりました。結局のところ、すべては作品が良いかどうかにかかっています。人気のある主題に関する作品がすべて必ずしも成功するとは限らず、また、人気のない主題に関する作品が必ずしも失敗するとも限りません。

例えば、マイクロソフト小氷が詩を書くとき、データ分析を通じて「明るさ」が詩人たちが詩の中で使う最も一般的な言葉の一つであることを発見しました。そのため、マイクロソフト小氷は自身の詩でも「明るさ」という言葉を頻繁に使っています。では、詩にもう少し「光」を込めれば、いい詩になるということでしょうか。映画業界でも同じことが言えます。人工知能がデータ分析を通じて人気のトピックを発見したとしても、その人気のプロットをただ組み合わせるだけでいい物語が作れるわけではありません。

これがアマチュアとプロの違いです。アリババ・ピクチャーズの脚本執筆ロボットがプロの脚本家と競争できるというのは大笑いできる話だ。

上記の状況は人工知能による執筆を否定するものではありません。以下では、人間と機械のコラボレーションという重要なトピックを紹介します。人間と機械のコラボレーションこそが未来です。

音楽分野での成功経験を活かし、AIライティングの将来像を描く

人工知能は人類に貢献します。美学は最終的には人間によって確認される必要があります。人工知能が書いたものが良いものかどうかは、最終的には人間が決めることです。上記では AI ライティングの多くの欠点について述べましたが、これは AI を否定するためではなく、AI ライティングで画期的な進歩を遂げる方法について議論するためです。

人工知能が別の芸術分野で成し遂げた素晴らしい成果のいくつかを見てみましょう。文学と音楽はどちらも芸術です。人工知能が小説を書くというのはまだ基本的に空論ですが、人工知能が音楽を創作、作曲することは、すでに長い間商業的に利用されてきました。私の記事「あなたの認知を覆す人工知能：芸術で遊び、音楽、チェス、書道、絵画、文学をマスターする」を参照してください。

たとえば、Band-in-a-Box は非常に人気のあるインテリジェントな自動伴奏ソフトウェアで、さまざまな音楽スタイルが組み込まれており、さまざまなスタイルでメロディーをアレンジできます。 Band-in-a-Box によって自動的に生成された伴奏が機械的すぎて硬すぎると思われる場合は、手動で変更を続けることができます。 Band-in-a-Box はすでに人々のローエンドのアレンジ作業を代替することができ、またハイエンドのアレンジの補助ツールとしても機能します。

Band-in-a-Box の機能は、主旋律に基づいて伴奏を作成することです。メロディーを生成するためにも使用できますが、ソロ楽器として位置付けられており、曲の前奏曲、間奏曲、エンディングとして使用できます。

Band-in-a-Box も人工知能ですが、現在最も話題になっている人工知能は、人工ニューラル ネットワークのディープラーニングに基づく人工知能を指します。Band-in-a-Box は、前世代の人工知能技術に属します。ディープラーニングをベースにした新世代の人工知能音楽ソフトウェアは、さらなる進歩をもたらしました。

Aiva (Artificial Intelligence Virtual Artist) は、ディープラーニングに基づいた新世代の人工知能音楽ソフトウェアです。 Aiva はデータベースの選択において非常に賢明でした。実現可能性から始めて、バッハ、ベートーベン、モーツァルトなどの有名な作曲家によるクラシック音楽を選択したのは、第一に、それが映画、ゲーム、コマーシャルのサウンドトラックで主に使用されているスタイルであること、第二に、クラシック音楽データベースのその部分は著作権が期限切れになっているほど古いため、著作権の問題に関係しないからです。

ここで言及する必要がある問題の 1 つは、人工知能は「信頼できる」必要があり、ユーザーのプライバシーを最低限に抑える必要があるということです。上海の人工知能セキュリティ白書は、人工知能の開発はまずユーザーデータのセキュリティを確保する必要があり、ユーザーのプライバシーを犠牲にしてはならないと指摘している。ユーザーのプライバシー保護に加えて、もう 1 つ考慮すべきことがあると思います。著作権保護にも注意を払う必要があり、人工知能は他人の著作権を侵害してはいけません。このようにしてのみ、人工知能は「信頼できる」ものになります。

音楽のチューリングテストは意味のない疑似命題です。

音楽を作成するためにどのようなインテリジェント ソフトウェアが使用されたとしても、それが実際の人間によって作成されたものか、人工知能によって作成されたものかは人間にはわかりません。人間の耳には、良い音楽と悪い音楽の違いしかありません。 音痴で音程を外して歌う人が実際にチューリングテストに合格できないとしたら、それは冗談でしょう。 AI によって作成された音楽は、間違いなくチューリングテストに合格するでしょう。

では、Aiva が作った音楽はどうでしょうか? Aiva がリリースした音楽アルバムは、インターネットで聴くことができます。それが良いかどうかは、自分で判断できます。たとえば、「交響幻想曲 イ短調 作品24: I am AI」という曲を例に挙げてみましょう。検索して聞いてみてください。この壮大な交響曲は、典型的なハリウッド大作映画のサウンドトラックではないでしょうか。

人工知能はクラシック音楽の創作において優れた成果を上げていると言わざるを得ません。 Aiva は実際に直接商業的に使用できるレベルに達しており、商業的に使用されています。多くのハリウッド映画がアイヴァ作曲の音楽を使い始めたと言われている。

人工知能の恐ろしさを感じますか？作曲スキルがアイヴァのレベルに達しないミュージシャンは失業すると言えるでしょうか？人工知能の発達により、何人の人が職を失うことになるでしょうか？あなた自身のことを考えてみてください。あなたは失業するでしょうか？明日高架下に現れるでしょうか？

ミュージシャンの観点から見ると、アイヴァはサウンドトラックに適したクラシック音楽しか作れず、普遍的なスタイルなので、それほど脅威的ではありません。たとえば、映画テレビ会社が抗日ドラマを撮影する場合、必要なサウンドトラックは革命歌謡と日本風でなければなりません。Aiva は現在、このようなカスタマイズされた音楽スタイルを提供することはできません。しかし、将来については、何とも言えません…

Aiva などの人工知能音楽ソフトウェアが急成長しています。

私は、人工ニューラル ネットワークのディープラーニングに基づいた人工知能作曲ソフトウェアである Orb Composer によってリリースされた Hexachord を使用しました。このソフトウェアはプロのユーザーを対象としているため、使用するにはある程度の音楽知識が必要です。 Hexachord 自体は音を出すことはできず、MIDI (Musical Instrument Digital Interface) 信号のみを出力するため、外部の DAW (Digital Audio Workstation) が必要です。 Hexachord は Aiva ほどの投資や複数部門の参加がなく、Aiva ほど強力ではありません。生成される音楽は比較的硬く、直接商用利用には適していません。変更や処理が必要です。 Hexachord は今後もアップグレードを続け、より高度な新バージョンをリリースする予定です。

マイクロソフトによると、設立された独立系マイクロソフト小氷スタジオは、詩、作詞、作曲、絵画など人間の創造力を体系的にモデル化し、最初はディープラーニング技術を使って人間の創造性を模倣し、最終的には機械が自ら創造する能力を獲得できるようにするという。

問題は、AI作曲のロジックはAI作詞のロジックと同じであるということです。AI作曲はこんなにも強力なのに、Microsoft XiaoIceが書いた詩はなぜこんなにも下手なのでしょうか？

考えてみてください。結局のところ、音符の数は限られており、非常に限られています。一方、単語の数は多すぎて、バリエーションが豊かすぎます。現時点では、人工知能による文章に創造性が欠けているのは理解できます。さらに深く考えると、

個人的には、AI による執筆が現在頭打ちとなり停滞している根本的な理由は、文学創作のモデリングが十分に行われていないことにあると考えています。音楽の分野では、すでに非常に完成された音楽創作理論とハーモニーが存在します。しかし、文学の面では、Microsoft Xiaoice Studio は文学創作理論を体系的かつ十分に理解していない可能性があります。

11月7日、第5回世界インターネット会議が烏鎮国際インターネット会議展示センターで開催されました。マイクロソフトのグローバル副社長ハリー・シャム氏は、この会議で人工知能に関する基調講演を行った。同氏は、ビル・ゲイツ氏がマイクロソフト・リサーチを設立した際に人間と機械の協働というビジョンを提唱したと語った。

確かに、人間と機械のコラボレーションこそが正しい道なのです。人工知能作曲と同様に、一般的には一般的な音楽しか作成できません。よりパーソナライズされた音楽が必要な場合は、人間と機械のコラボレーションが必要です。人工知能の出現と発展は人類に課題をもたらし、人間は人工知能を受け入れる必要があります。人工知能は多くの仕事を奪いましたが、人間と機械のコラボレーションに基づく新しい仕事も生み出すことができます。より良い未来を創造するための人間と機械のコラボレーションは素晴らしいビジョンです。

第一次産業革命は1760年代から19世紀半ばにかけて人類が蒸気の時代に入ったときに起こりました。第二次産業革命は19世紀後半から20世紀初頭にかけて人類が電気の時代に入ったときに起こりました。第二次大戦後ごろの20世紀後半には人類がテクノロジーの時代、すなわちバイオテクノロジーと産業革命に入ったときに第三次産業革命が起こり、そして今私たちは人工知能に代表される第四次産業革命に直面しています。

過去には機械の出現により多くの仕事がなくなり、人間は機械の使い方を学び新しい仕事を獲得しました。現在、人工知能の出現と発展についても同じことが言えます。

私は人間と機械のコラボレーションを強く支持します。たとえば、Band-in-a-Box や Hexachord はミュージシャンに優れたコラボレーション ツールを提供しており、AI ライティングでも同様であるはずです。

小説、特に最近のオンライン小説を見ると、オリジナルのものもあれば、似たようなものもたくさんあるでしょう。ユニークなキャラクター、キャラクターの関係性、プロット設計などのオリジナルコンテンツ。同じコンテンツについては、キャラクターが一緒に座って食事をしたりおしゃべりしたり、道路を歩いたり、カーチェイスをしたりなど、どの映画やテレビドラマにも多くの類似したクリップがあることがわかります...

オリジナルコンテンツは作品のハイライトであり、成功の鍵です。しかし、食事、おしゃべり、散歩、運転などの断片的な内容を書くのは作家の時間とエネルギーの無駄であり、より速く処理できる人工知能に任せるのが最善です。

将来的には、AI ライティング ソフトウェアがこれを実現できるようになり、作家は作品のオリジナル要素をいくつか考案するだけで、残りは AI に構築を任せることができるようになるはずです。実際、私が言ったことは、現在の人工知能音楽ソフトウェアの開発と非常に似ています。これは、AI ライティングにおける人間と機械のコラボレーションに関する私のビジョンであり、他の多くの分野における AI の将来の発展に関する私のビジョンでもあります。