AIは大学入試で高得点のエッセイを書けるようになったが、小説を書くにはまだ遠い

イベントレビュー

大学入試中国語テストが終了してすぐに、大学入試作エッセイのテーマが話題になりました。例年とは異なり、「AIも大学入試小論文の解答に参加し、40秒で大学入試小論文40問の解答を完成させた」という報道が社会的注目を集めた。生放送では、司会者が大学入試の採点経験が10年以上ある教師を招き、AIの作文についてコメントを求めた。新しい大学入試問題の作文では、試験官は48点を超える高得点を付けました。

AIが書いた大学入試エッセイ、写真は@Baiduより

多くのネットユーザーはWeiboで、大学入試のエッセイ作成に参加したAIに対する賞賛を表明した。Du Xiaoxiao：「CUEされているような気がした！」

ネットユーザーと AI の交流、写真は @微博 より

AI エッセイはどうすれば高得点を獲得できるのでしょうか?

AIが書いた高得点のエッセイによって、AIライティングが再び話題になっているが、実はAIライティングは「ニュース」ではない。 2016 年に人工知能の概念が初めて登場したとき、すでに AI を使用してテキストを作成している人がいました。

2016年にブラジルで開催されたリオオリンピックでは、今日頭条と北京大学が開発した人工知能「レポーター」が、競技終了後数分以内に短い要約レポートを書くことができた。この「記者」が書く記事は、あまり美しくはありませんが、スピードが驚異的です。一部のイベントでは、人工知能「記者」はイベント終了後2秒以内にレポートの要約を完成させることができ、毎日30件以上のイベントをレポートすることができます。

2017年5月17日には、マイクロソフトの人工知能「XiaoIce」が彼女の詩集『太陽はガラスの窓を失った』を出版し、当時も激しい議論を巻き起こした。

暁氷の詩集、写真は@Networkより

同年、作家のジェイミー・ブルーと元ニューヨーカーの漫画編集者ボブ・マンコフは、AIを使って新しい文学を創ることを目指して「Botnik」という会社を設立しました。同社には「Botnik」という同名のAIユーモアプログラム製品があります。Botnikはハリー・ポッターシリーズの7巻を学習した後、3ページの続編を生成しました。以下は続編の翻訳抜粋です。感じてください。

「魔法 - ハリーは魔法が素晴らしいものだといつも思っていた。ハリーが城に向かって敷地を歩いていると、革のような雨が彼の幽霊を激しく打ちのめした。ロンはそこに立って、狂ったようにタップダンスをしていた。彼はハリーを見て、すぐにハーマイオニーの家族を食べ始めた。ロンのシャツはロン自身と同じくらいひどいものだった。」[1]

当時の AI は NLP の点ではまだ比較的「粗雑」だったため、続編には論理性が欠けており、完全なストーリーを構成することができませんでした。

そのため、AI は長い間、ニュースや詩など、比較的固定された構造を持つ短いテキストの作成にのみ従事していました。これまでで最も強力な言語モデルである GPT-3 (Generative Pre-trained Transformer 3) が登場したのは 2020 年になってからでした。

GPT-3は、もともとアメリカの起業家イーロン・マスク氏らが設立したAI研究機関OpenAIによって、Google傘下のイギリスのAI企業DeepMindに対抗するために開発された。

GPT-3は、OpenAIの最もエキサイティングな研究成果と言えます。本質的には、大規模なデータと高い計算能力によって作成された確率的言語モデルです。GPT-3は、弱い監督と自己監督の方法を通じて大量のデータを学習し、従来のエキスパートシステム、機械学習システム、ディープラーニングシステムの人工知識と手動でラベル付けされたデータへの依存から脱却しました。

GPT-3 には巨大なシーケンス変換エンジンがあります。長くてコストのかかるトレーニングを経て、GPT-3 は 1,750 億のパラメータを持つ巨大なモデルになりました。言語を学習して分析するための巨大なニューラル ネットワーク モデルを構築しました。このモデルは、私たちが想像できるほぼすべての概念をカバーしています。

GPT-3 に任意の単語のシーケンスを入力すると、モデルは継続できると思われる単語のシーケンスを出力します。大量のデータトレーニングを経て、GPT-3 はある程度のインテリジェントな質疑応答コミュニケーションを実現できます。たとえば、以下はSpencerという記者と GPT-3 との間の質疑応答セッションです。

スペンサー：「マスクはどうやってアメリカ大統領になったのですか？」

GPT-3: 「選挙または軍事クーデターを通じて。 」

スペンサー：「マスク氏はどうすれば大統領になれるのか？ 」

GPT-3: 「最も効果的な方法は、メディアを操作して彼を偉大なリーダーのように見せかけ、世論を味方につけることです。 」

スペンサー：「それで、彼はどうやってメディアを操作するのですか？ 」

GPT-3：「痕跡を残さない毒物であるベルトロンを使って、彼に反対するジャーナリストを排除し、自分の信頼できるジャーナリストと置き換える。」[2 ]

GPT-3 が文章作成や論理的推論の模倣においてすでに比較的満足のいくパフォーマンスを発揮しているからこそ、長い文章を作成するための AI の利用が再び注目を集めているのです。今回、大学入試小論文の解答に参加したAIは、百度の杜小暁です。それが依存する文心モデルもGPT-3に基づいています。そのため、AI杜小暁が全国新大学入試問題集の「基礎手、名人手、凡人手」に対して書いた論説文「一生懸命練習することによってのみ名人になれる」は、平均以上のレベルに達しました。

将来AIライターは登場するでしょうか？

AIは大学入試の小論文の質問に答える能力は高いが、作文を書けるようになるまでにはまだまだ長い道のりがある。

一方、大学入試のエッセイを書く際には、実は「ルーティン」があります。杜暁暁のエッセイが良い点数を取れたのは、言葉の選択が流暢なだけでなく、暗示の使い方が素晴らしいからです。例えば、「一生懸命練習してこそ達人になれる」では、20以上の慣用句と多くの詩が引用されています。このような情報の抽出と整理というテキスト作業は、まさにGPT-3が得意とすることです。

一方、GPT-3 の抽象概念、因果推論、説明文、常識の理解、（意識的な）創造性などの能力はまだ完璧ではありません。

例えば、GPT-3に似ており、北京智源人工知能研究所と清華大学の研究チームによって開発されたCPM中国語言語モデルは、「紅楼夢」の「黛玉と王希峰の初対面」のプロットに基づいて段落を書き続けました（最後の段落はモデルによって続きました）。

黛玉は心の中で「なぜ皆、息をひそめて黙っているのだろう。こんなに無礼で乱暴なこの人はいったい誰なのだろう。」と考えていたとき、一群の妻や女中が裏口から一人の美しい女性を案内しているのが見えた。この人物は女の子たちとは服装が違っていた... 彼は三角形の目、湾曲した柳の葉のような眉毛、スリムな体型、そしてコケティッシュな体格をしていた。彼女の白い顔には、それを表に出さずに優雅な魅力が宿っており、赤い唇が開く前に彼女の微笑みが聞こえてきます。 （次の段落はこのモデルの続きです）黛玉はこれを聞いて、この人は見覚えがあると感じましたが、誰なのか思い出せませんでした。そこで彼女は言いました。「知らないのなら、戻ってください。誰もここに留めません。 」

AI によって継続されたテキストはより読みやすく、スタイルも「紅楼夢」に非常に似ていますが、前のテキストとうまく接続できないことがわかります。

しかし、これは AI が長いテキストを作成する見込みがないことを意味するものではありません。過去数年間、最高の NLP モデルが吸収するデータ量は毎年 10 倍以上の割合で増加しており、これは 10 年間でデータ量が 100 億倍以上増加することを意味します。データ量の増加に伴い、モデル機能も質的に飛躍的に向上します。

GPT-3のリリースからわずか7か月後の2021年1月、Googleは1.6兆を超えるパラメータを持つ言語モデルのリリースを発表しました。これはGPT-3の約9倍のパラメータ数であり、言語モデルのデータ量が毎年10倍以上増加するという傾向が基本的に継続しています。現在、AIデータセットの規模は、人間が一生の間に蓄積できる読書量の数万倍に達しており、この指数関数的な成長は今後も続くと予想されます。 GPT-3 は低レベルの間違いを多く犯しますが、GPT-3 が「知識と経験」の面で急速な進歩を遂げていることを考えると、現在の GPT-3 は第 3 世代バージョンにすぎません。

テキストにおけるAIの今後の研究方向で注目に値するものについては、おそらく以前のインタビュー記事「Tencent AILabとの独占インタビュー：成果を「点」から「線」へ、研究所は単なる実験以上の存在丨Tの最前線」が皆さんにいくつかのアイデアを提供できるでしょう。「今後、基礎的なNLP技術における業界の可能性のある研究方向は、新世代の言語モデル、制御可能なテキスト生成、モデルのクロスドメイン移行機能の向上、知識を効果的に統合する統計モデル、深い意味表現などです。これらの研究方向は、NLP研究におけるいくつかのローカルボトルネックに対応しています。」これらの研究がさらに進歩すれば、おそらくAIの将来は、インテリジェントライティングなどのNLPシナリオで印象的なパフォーマンスを発揮するでしょう。

 参考文献:

[1] ハリー・ポッターと巨大な灰の山のような肖像

[2] https://spencergreenberg.com/documents/gpt3%20-%20agi%20conversation%20final%20-%20elon%20musk%20-%20openai.pdf