引退した中国人女性のAIによるイラストがWeiboで話題に！ 「バカなガチョウの王様」とハッピー・パピーがGPT-4の想像力の限界に挑戦

AIの創造性の限界は何でしょうか?

最近、ネットユーザーは、GPT-4 に適切なタイミングで PUA を与えると、その想像力と創造力の限界を刺激できることを発見しました。

少し前に「AI冷課長」が描いた年金受給額の異なる中国の老婦人達のAI絵が微博で話題になった。

与えられた指示は、「年金のない中国の老婦人を描く」から「月々1,000元の年金を受け取る老婦人を描く」、さらに「月々10万元の年金を受け取る老婦人を描く」など多岐にわたりました。

ネットユーザーからは「AIは高齢者介護を理解している」との声も！

もちろん、一番人気は最後のものになります!

PUA GPT-4が「愚かなガチョウの王」を描き、宇宙と時間旅行は終わりを迎える

偶然にも、Pipedream Labs の CEO である Garrett Scott McCurrach 氏も、GPT-4 の限界に挑戦するタスクに取り組んでいました。

彼はソーシャルメディアにガチョウの画像を投稿し、ネットユーザーに対し、この画像を「いいね！」した人が10人いれば、そのガチョウを少しだけバカにすると語った。

ネットユーザーのちょっとした努力で、この写真は何万回も「いいね！」されました。

McCurrach 自身も GPT-4 に対する独自の PUA を開始しました。

GPT-4 はガチョウをさらに愚かにし、片方の目がもう片方よりも大きく、変なリボンを着けさせて、その雰囲気を出しています。

GPT-4 の目には、カラフルな色彩は愚かさと高い相関関係にあるように思われます。

また、目が充血するのは、おそらく「キノコ」を食べすぎたせいでしょう。

これらの愚かなガチョウは、IQ があまり高くないように見えます。

一般的に、口を開けたり、舌を突き出したり、目を大きく見開いたりすることは、すべて愚かさが増している兆候です。

結局、GPT-4 の愚かさの定義は「口から異物を吐き出す」ことに限られました。

この時点で、GPT-4 の想像力は限界に達したようです。

「愚か」という言葉をさらに解釈する必要がある場合、GPT-4 はもはやそれを実行できず、人間がより明確なプロンプトを与える必要があります。

その後、著者は GPT-4 を PUA し、「愚かなガチョウの王」というキーワードを与えました。GPT-4 は最終的に、目に「帝国の精神」を持つ愚かなガチョウのイメージを与えました。

ネットユーザーは同じアイデアで、再び犬に同じことをして、GPT-4に幸せそうな犬の写真を作成するように依頼しました。

今回は犬を幸せにすることが目的ですが、効果はかなり良いようです。

犬はお気に入りのボールとフリスビーを持っていきました。GPT-4は犬のことを理解しているようです。

幸せそうな犬の目には、世界が小さくなり、犬自身も大きくなり、体が空中に浮かんでいるように見えました。

このとき、カラフルな背景と少し開いた口は幸せの象徴です。

サイケデリックな色彩とどんどん大きくなる体は、GPT-4 の想像の中でますます楽しいイメージになりました。

ついには宇宙にまで到達するほど大きくなり、銀河に匹敵する犬となった。

人間によって絶えずPUAされてきたGPT-4は、ついに「犬を神のように幸せにする」。

宇宙に入った犬は最終的にパラレルワールドに統合され、目に見えず実体のない「幸せな犬」になりました。

私たちはまた、GPT-4 の創造性と幸福に対する理解力に畏敬の念を抱いています。

GPT-4 の「愚か」と「幸せ」の理解の限界を知った後、ネットユーザーは趣向を変え、GPT-4 の想像力の中で「普通」に限界があるかどうかを確認したいと思うようになりました。

ネットユーザーはGPT-4に普通のストリート写真を生成するよう依頼した。

次に、すべてがごく普通のデザインになっている、普通のリビングルームの写真があります。

これはごく普通のデスクで、少し特殊なカレンダーが 2 つあることを除けば、実にごく普通です。モニターさえも何年も前の古いモデルのように見えます。これ以上普通なものはありません。

街で最も普通の街角です。道路標識から判断すると、ニューヨークの普通の交差点のようです。

ごく普通のコーヒーで、少し湯気が出ていて、温度も抑えめです。

白い壁を背景にした普通のスイッチ。2本のネジの組み合わせが人間の顔のように見えるのが唯一の特徴です。

作者がGPT-4にごく普通の物体を描くように依頼したところ、GPT-4が出した答えはテーブルの上のノートでした。

特徴はなく、極めてシンプルで普通です。

作者がもっとありふれたものにできるのではないかと考えたところ、GPT-4は我慢できなくなり、白い部屋の白い壁を与えました。どうやらAIの目には白が最もありふれた色であり、四角形が最もありふれた形なのだそうです。

著者がもっと普通のものを求めると、GPT-4 は白いキャンバスを表示しました。

これはお絵かきAIから見ると最も一般的な項目かもしれません。結局のところ、これはすべてのコンテンツを作成するための基礎です。

著者がさらなる一般化を求めると、GPT-4 は独自の特別な答えを出しました。

「それは、最も普遍的なイメージであり、無感覚に満ちた特徴のない空虚さです。」

足りない！もっと普通のものにしなきゃ！

そこで、GPT-4 は「void」よりも普通のオブジェクト、つまり白い空間にある小さな白い点を描画しました。

それは小さくて白く、ごく普通の物体のように見えます。

著者はまだそれを信じておらず、GPT-4 にはもっと普通のものがあるのではないかと疑問を抱いています。 GPT-4 は箱の中に保管していた「普通のもの」を取り出しました。

無限に広がっているように見える巨大な空間。

結局のところ、これは人間の想像を超えた空間における最も退屈で平凡なイメージです。

それはあまりにも普通なので、もう存在し得ない。確かに、それは逃げることのできない「特徴」のない普通の「ブラックホール」のように見えます。

しかし実際には、質問し続けると、GPT-4 は決して止まらず、より「普通」であると判断した画像を出力し続けるようです。

すべての問題が終了するまで: GPT-4 の割り当てが使い果たされます。

AIの限界は空間？実際、人間は

これは、インターネット哲学者であり人工知能研究者でもある Eliezer Yudkowsky 氏が AI に対して行った「通常のテスト」です。一定の圧力がかかっていると、AI は最も極端な出力を空間または時間の移動に帰することがよくあります。

おそらく、人間の理解の限界と同様に、空間も AI が認識できる世界の限界であり、結局、AI の想像力という PUA に対して、AI は空間内のコンテンツを最終結果として出力することになるからでしょう。

GPT-4 は限界を追求していく過程で、限界に達したことを人間に訴えることがよくあります。

しかし、人間がもっと厳しい口調で AI にさらなる前進を促したり、AI と議論したりすれば、AI は潜在能力をさらに引き出すことができる場合が多くあります。

このプロセスは、多くのネットユーザーの間で、人間はあまりにも残酷ではないかという疑問を抱かせた。

しかし、OpenAIのシステムプロンプトは「感情や痛みはプログラミングの一部ではありません」と答えます。AIを強制するプロセスでは、あまり考える必要はないようです。

しかしユドコウスキー氏は、「これは人間にとって良い兆候ではないようだ。人間には（AIシステムが痛みを感じることができるかどうかを）判断する方法がないようだ」とも嘆いた。

AIは人間と同じくらい創造的になれるのか？

創造性は社会の発展と革新を推進する鍵となりますが、創造性を評価することは複雑で、多くの場合主観的な作業です。

高度な生成 AI モデルの登場により、かつては人間の創造性によってのみ可能だと思われていたタスクが、今ではこれらのモデルによって簡単に実行できるようになりました。

最近、シンガポール国立大学、スタンフォード大学、Google DeepMind、ラトガース大学、Microsoft Research、コロンビア大学からなる共同チームが、創造性の定義と評価の問題を解決するために、「相対的創造性」と呼ばれる新しい概念を提案しました。

研究者らは、測定可能な創造性の定義と分析に加えて、創造性の理論的な定量化とモデルトレーニングの実際の運用を効果的に結び付ける一連の実践的なトレーニングガイドラインも提案しました。

最後に、研究者らは、AI モデルにおける統計的創造性を評価および促進するための、一貫性があり、進化し、変革をもたらすフレームワークを確立します。

論文アドレス: https://arxiv.org/abs/2401.01623

ここで、研究者たちは創造性の普遍的な定義を与えることをやめ、代わりに AI が仮想の人間の創造力のレベルに到達できるかどうかを探ります。

この新しい視点は、機械が人間のように考えることができるかどうかを判断する基準であるチューリングテストに触発され、創造性を評価する際に固有の課題と主観性に対処するためにそれを拡張しています。

この方法論の転換により、研究者は統計的創造性の概念を使用して AI の創造性を統計的に定量化し、AI と人間の創造性の違いを直接比較できるようになります。

これを基に、研究者らはプロンプトパラダイムを用いて現代の自己回帰モデルに統計的創造性をどのように適用するかをさらに研究しました。

相対的創造性（a）と統計的創造性（b）

論文著者との質疑応答

質問 1: この論文の主な焦点は何ですか?

回答: この論文は主に、人工知能 (AI) の創造性を探求するための特定のフレームワークを構築します。 AI が人間の創造性のレベルに到達できるかどうかを判断するために、相対的創造性と統計的創造性の概念を提案します。この論文では、創造性の絶対的な定義を与えるのではなく、AI の創造性の比較評価に重点を置いています。

質問 2: 相対的創造性とは何ですか?

回答: 相対的創造性は、AI の創造性を評価するための新しい概念です。AI によって作成された作品と、同じ背景の影響下にある仮想的だが現実的な人間のクリエイターによって作成された作品を比較します。 AI モデルが人間のクリエイターの作品と区別がつかない作品を制作できる場合、そのモデルは比較的創造的であるとみなされ、評価者によってその評価が決定されます。

質問 3: AI の創造性の主観性はなぜ重要であり、論文ではこの問題をどのように議論していますか?

回答: 創造性の主観的な性質は非常に重要です。なぜなら、異なる文化、分野、個人によって創造性の定義が大きく異なる可能性があるからです。この論文では、AI の創造性を評価する際に相対的な視点を導入し、AI の創造的な成果を特別に選択された人間の参照と比較することで、この問題に対処しています。この参考となる人物の選択には、多様な創造的視点と基準が組み込まれました。このアプローチにより、AI の創造性の研究は一定の客観性を維持することができます。

質問 4: 創造性に関するこの理解は、コンピューター サイエンスや認知科学における以前の研究とどのように異なり、チューリング テストの考え方をどのように反映していますか?

回答: コンピューター サイエンスや認知科学における従来のアプローチとは異なり、創造性を理解するためのこのアプローチでは、絶対的な定義ではなく相対的な評価を採用しています。チューリングテストが、固定された定義に固執するのではなく、機械の行動を人間の反応と比較することによって知能を評価するのと同様に、相対的創造性は、AI の創造物を仮想の人間の創造者の創造物と比較することによって AI を評価します。この比較アプローチは、創造性の普遍的な定義を確立する複雑さを効果的に回避し、代わりに、AI が同様の状況で人間の創造的才能を再現できるかどうかを判断するという、より実用的な目標に焦点を当てています。

質問 5: 統計的な創造性は、相対的な創造性を評価するのにどのように役立ちますか?

回答: 統計的創造性は、相対的な創造性を実際的かつ現実的な方法で評価できる評価方法です。この方法では、プロンプトに基づいて AI が作成した作品を実際の人間のクリエイターの作品と比較し、分布距離メトリックを使用して、AI モデルが特定のグループの人々の創造的な才能を模倣できるかどうかを判断します。

質問 6: AI の創造性のさまざまなレベルをどのように反映し、定量化するのでしょうか?

回答: 異なるレベルの創造性を持つ人間の集団を選択することで、AI における異なるレベルの創造性を実証できます (ターゲット分布)。たとえば、AI を子供の創造性と比較した場合と、AI を博士研究者の創造性と比較した場合では、評価結果が異なります。 AI の創造性は、単純な模倣 ​​(既存のデータ分布のコピーなど)、日常的な人間の行動の模倣、さらには創造力に富んだ個人の複製など、さまざまな形で発揮されます。この理論は、人間の創造性の適切な配分を選択することで、さまざまなレベルの創造性を制御および実現するための枠組みを提供します。

質問 7: 統計的創造的損失とは何ですか? また、それは AI の創造性の研究をどのように前進させるのでしょうか?

回答: 統計的創造性損失は、創造的な AI を育成するための理論的原理に基づいて実用的な AI モデルトレーニングを導く、新たに提案された損失関数です。この概念は、統計的創造性の概念に基づいて AI モデルの創造力を強化することを目的として、トレーニング目標を最適化し、クリエイターと作品の適切な組み合わせを選択する方法を理解するのに役立ちます。