GPT-X に基づく製品コピーライティングと画像生成の実践

I. はじめに

1. 2022年末に人気が高まったOpenAIとAIGC

2022年はAIの歴史において節目の年です。AIは作家、画家、音楽家、監督などに発展し、特にChatGPTはAIをすっかり普及させました。コンピューターの専門家ではない人々は、AIが既存のモデルを覆すことができるかどうかについて議論を続けています。 ChatGPTは、TikTokに次いで月間アクティブユーザー数が1億人を超えた最速の製品にもなりました。

2. GAN以降の最も重要なAIGC研究のレビュー

まず、過去 10 年間の AIGC 分野でのより重要な取り組みを振り返ってみましょう。 2013年から2017年にかけて、基礎理論が徐々に改善されました。この段階で、VAE、GAN、Transformerなどのディープニューラルネットワークが登場し、基本的なコンポーネントが徐々に生まれ、改善されました。2018年から2021年にかけて、超大規模モデルが徐々に普及し、マルチモーダルが徐々に融合し、大規模言語モデルの事前トレーニング学習方法が可能になり、Few Shot LearningやIncontext Learningなどの学習パラダイムが提案されました。2022年から現在まで、第3段階にあり、AIGCが集中的に発生し、モデル効果の信憑性と計算効率が全面的に向上しました。最近、マイクロソフトは、大規模モデル機能の出現と強力な人工知能の出現について説明する記事を公開しました。

2. 製品コピーの生成

1. 製品のコピーを生成するために AI が必要なのはなぜですか?

多くの買い物客はまず商品のタイトルに惹かれ、多くのアフターセールスの問題は誤った商品説明（商品が説明と一致しない）によって引き起こされる可能性があるため、商品のコピーライティングは電子商取引のショッピングプロセスにとって非常に重要です。しかし、製品のコピーを書くのは頭の痛い作業です。良いコピーライティングには、まず大衆のポートレートを理解する必要があり、また多くの SEO スキルも必要だからです。高品質のコピーライティングを継続的に作成したい場合は、多くの人的資源を投入する必要があります。

AI技術の発展により、高品質の製品コピーの自動生成は顧客のニーズを満たすだけでなく、ホットなイベントを継続的に追跡し、コピーの品質と安定性を継続的に向上させることができます。

下の画像の右側には 2 つの例があります。1 つは伝統的な衣料品の電子商取引、もう 1 つはワインおよび旅行業界です。顧客は製品の機能を提供するだけで、大規模言語モデル技術が対応するコピーを直接生成します。

2. 問題の定義

では、この問題をどのように定義するのでしょうか?ホームステイのコピーライティング設計を例にとると、実際のアプリケーションでは、元のデータが構造化データまたは非構造化データである可能性があり、顧客は製品のセールスポイントを明確に理解していない可能性があります。セールスポイントの抽出方法と、セールスポイントを抽出した後にタイトルを生成する方法。これらすべてには他のテクノロジーの介入が必要です。

本日お伝えするのは AIGC の方向性ですので、セールスポイントがわかっている場合に、よりよいコピーライティングを生み出す方法に主に焦点を当てます。たとえば、顧客が部屋のタイプ、スタイル、その他の特徴の説明を入力するだけで、モデルはより重要な情報を識別し、より優れた文章力で製品のタイトルや説明を洗練または生成できるようになります。

3. フェーズ1: テンプレートベースの技術ソリューション

数年前、私たちもテンプレートベースのアプローチを使用して同様のタスクを実行しようとしました。アプローチとしては、まず製品知識を抽出し、その知識を構造化して、ナレッジグラフを形成します。ナレッジグラフに基づいて、コアセールスポイントを選択し、テンプレートを選択してセールスポイントを入力します。このアプローチは主にテンプレートの実装に基づいており、テンプレートの数と人間による要約によって制限され、比較的厳格です。

4. テンプレートの埋め込み -> 大規模言語モデル

最近の技術の進歩を考慮して、純粋に生成的な言語モデルを組み合わせたソリューションが実現可能かどうかを検討します。特に ChatGPT がリリースされてからは、GPT シリーズのモデルがすでにコメントやメールの作成に役立っているので、同様の生成モデルを使用して上記のタスクを完了することを検討してください。予備実験の結果、得られた結果はテンプレートに基づくものよりも優れていました。その後、アルゴリズムを再度繰り返します。この部分を詳しく説明する前に、GPT シリーズのモデルの基本原理を確認しましょう。

5. GPT原則の解釈1：セマンティックモデルの考え方

具体的な技術的ソリューションを正式に紹介する前に、まず GPT の原理を紹介しましょう。 GPTの核となる考え方は比較的単純で、人間の知識は人間の言語に含まれているということです。次の単語を完全に予測できれば、モデルは人間の思考をシミュレートしてインテリジェントになることもできます。 n=t のとき、n=t+1 のときも予測できることが分かると仮定します。あらゆる言語関連のタスクは、このタイプの生成タスクに抽象化でき、言語モデルを使用して解決できます。

しかし、数十年前の言語モデルとは異なり、今日の言語モデルは、大規模なトランスフォーマーを使用したディープニューラルネットワークを使用してモデル化されています。利点は次のとおりです。

次の単語の確率をより正確にモデル化できます。
効率的なモデルのトレーニングと推論を可能にします。
長距離の意味的依存関係を解決できます。

6. GPT原理の解釈2：モデルの進化プロセス

OpenAI の技術的な反復プロセスから、モデルの規模が大きくなっているだけでなく、データの規模も増加していることがわかります。大規模なコーパスデータと大規模モデルに基づいて、モデルの機能はますます強力になっています。GPT-4は、テキスト言語だけでなく、マルチモーダルデータも処理できるレベルにまで発展しました。 GPT-4 について公開されている情報は非常に限られているため、ここでは GPT-3.5 より前に OpenAI によってリリースされたモデルの関連パラメータのみをリストします (GPT-3.5 は OpenAI によってリリースされた一連のモデルであり、ChatGPT は GPT-3.5-Turbo とも呼ばれますが、この表には含まれていません)。

7. GPT原理の解釈3: ChatGPTとRLHF

昨年末、OpenAIはChatGPT（GPT-3.5-Turbo）と人工強化学習フィードバックの技術を提案し、社会全体に大きな影響を与えました。この技術により、AI は人間の好みに合わせることができます。 ChatGPT 以前のモデルにはすでに優れたテキスト生成機能がありましたが、生成されたテキストは人間の好みに合っていませんでした。ChatGPT は主に人間の好みに合っています。

トレーニングプロセスは主に 3 つの段階に分かれています。

SFT ステージ: 人工継続データを使用して、text-davinci-003 モデルの教師あり微調整を実行します。
RM ステージ: ランキングデータに手動で注釈を付け、ペアワイズランキングモデルを使用して報酬モデルをトレーニングします。
RLHF ステージ: 強化学習 PPO を使用して大規模言語モデルを微調整します。

注目すべきは、スタンフォード大学がアルパカをベースにした訓練にSelf-Instruct技術を使用し、RLHF訓練法は使用しなかったが、得られた結果も良好だったことである。

8. 100億以上のパラメータを持つ言語モデルの反復パス

最近のレビュー記事では、100 億を超えるパラメータの規模を持つ言語モデルの反復パスを調査しました。なぜ100億ですか?このモデルには、以前の小規模モデルには存在しなかった 100 億のパラメータでの新たな機能が備わっています。実験により、モデルのパラメータが 60 億〜 70 億になるとモデルの機能が大幅に向上することが判明しており、これが ChatGPT や同様のモデルが強力な機能を持つ基礎となっています。

これには主に以下の側面が含まれます。1 つ目は、OpenAI が提案したモデルである In-Context 学習です。勾配の更新は必要ありません。いくつかの例を与えるだけで済みます。モデルは例の意味を知ることができます。新しいタスクの場合、モデルは優れた予測結果を提供できます。 2 つ目は、指示に従うことです。モデルは指示を理解できます。たとえば、「コードの記述を手伝ってください」という指示が与えられた場合、モデルはより適切な応答を返すことができます。最後は段階的な推論です。これまでの言語モデルは数学の問題を解くのにあまり向いていませんでした。Google はソースのトレーニング法を提案しました。これによりモデルは段階的に学習し、常識的な推論、論理的推論、数学の問題でより優れたパフォーマンスを発揮できるようになります。これは、100 億のパラメータに基づく大規模なモデルで実現される可能性のある機能でもあります。

9. フェーズ2: 言語モデルに基づく技術的ソリューション

計算能力の制限により、最初に GPT2 を微調整し、テンプレートベースの結果よりも効果が優れていることがわかりました。しかし、いくつかの問題も発見されました。生成される情報は多様で豊富ですが、高頻度コンテンツしか生成できず、低頻度コンテンツには効果が薄いのです。ホームステイの場合、これは非標準的な商品です。すべてのコピーライティングが同じストーリーを伝えていると、効果的に顧客を引き付けることができません。したがって、これに基づいて、モデルが人間の好みに合うことが期待されます。そのため、GPT2 に基づいて最適化の第 2 段階が実行され、生成タスクに適用されました。

10. フェーズ3: 言語モデルに基づく改善計画

当時のソリューションと計算能力の制限により、結果は理想的とは言えませんでした。そこで、ChatGPTのトレーニング方法を参考に、3段階のトレーニング方法を採用しました。まず、良質なデータを収集し、モデルを微調整します。次に、モデルを使用してデータサンプルを生成し、これらのデータを並べ替えます。最後に、ソートされたデータを使用してモデルを 2 回目に微調整します。 2 回のトレーニングの後、モデルは比較的良好に収束したことがわかりました。

11. ケース分析

以下は、いくつかの結果のケース分析です。GPT2 の微調整されたモデルと比較すると、改善されたソリューションは、際立ったセールスポイントを識別し、ランキングでより強調することができます。これは、モデルが人間の評価基準に一致することと同等です。

12. 製品コピーライティング作成のまとめ

私たちの方法では、まず、より小さなモデルサイズで GPT2 に基づくモデルを微調整します。第二に、私たちのタスクはより単純で、コピーの生成に限定されています。最初の段階では、ChatGPT は手動のラベル付けを使用します。私たちのソリューションでは、シナリオが教師ありデータをより効率的に取得できるため、選択されたデータセットを使用するため、この段階では手動のラベル付けは必要ありません。第 2 段階では、ランキングモデルもペアワイズ損失に基づいてトレーニングされます。第 3 段階では、大規模なデータラベルに基づいて 2 回の微調整が実行されます。

3. 製品画像の生成

1. 製品画像を生成するために AI が必要なのはなぜですか?

電子商取引の分野では、写真は非常に重要ですが、実際の撮影プロセスは非常に複雑で、コストも比較的高くなります。ただし、製品の反復時間は比較的短く、写真の最適化に対する需要は非常に大きいです。 AI を基盤に、比較的シンプルなテキスト制約方式で商品画像を生成できます。特にアパレル業界においては、画像生成にかかる時間を大幅に短縮し、元のプロセスの時間とコストを削減できます。したがって、私たちはこの方向で探求します。

2. Text2Image マイルストーン

まず、テキストから画像への生成に関するいくつかの画期的な研究を紹介します。 2021年、DALL-E 1の登場は画期的な意義を持ち、テキストから画像への生成モデルが商業化の可能性を秘めています。その後もこの分野では研究が続けられ、DALL-E 2 では効果の向上だけでなくパラメータの数も削減されました。 Stable Diffusion の登場も画期的な成果です。優れた結果が得られるだけでなく、コンシューマーグレードのグラフィックカードでも動作し、AIGC の敷居を下げました。最近非常に人気が高まっている LoRA テクノロジは、消費者向けグラフィックスカードで使用できるだけでなく、モデルを微調整することもできるため、参加のハードルがさらに下がり、この分野に多くの人と資金が注ぎ込むようになっています。

3. 技術の急速な進化: 良い肖像画を描くには?

ポートレートの自動生成を例にとると、VQGAN-CLIPの21年間の急速な進化からStable Diffusionまで、技術が急速に進歩していることがわかります。最近のControlNetは、人の姿勢や線光図に基づいて結果を直接生成できるため、商用化が可能になりました。

4. 安定拡散原理の解釈1: 拡散モデル

Stable Diffusionのアイデアは比較的単純で、U-Netを使用してノイズを予測することと同等です。つまり、元の画像にノイズを継続的に追加し、ノイズのあるデータを入力として、U-Netを使用して元の画像とノイズを追加するプロセスを予測します。このモードでは、ノイズから画像を生成することができます。

5. 安定拡散原理の解釈2: 暗黙の拡散モデル

安定拡散に基づいて、潜在ベクトルを使用したトレーニング方法も提案されています。画像にノイズを追加する本来の拡散処理が適用され、中間処理は本来の処理に近いものになります。潜在拡散モデルは、オートエンコーダを使用して中間プロセスを潜在空間にマッピングします。これにより、中間プロセスの次元削減計算と高次元空間でのデコードが容易になります。これは、高解像度の画像をサポートし、ビデオメモリの計算リソースを削減できる主な理由でもあります。

6. 安定普及原理の解釈3: モデルの全体構造

テキストのエンコードについては、Stable Diffusion は CLIP を導入し、クロスアテンションを通じてそれをモデルに統合します。 CLIP を使用してプロンプトをエンコードし、U-Net とクロスアテンションを制御条件として使用して、画像生成プロセスをガイドします。一般的に、Stable Diffusion は、高次元空間での直接計算によってもたらされるリソース消費と精度制御の制限を LDM を構築することで解決し、非常に優れた結果を達成しています。最も重要なことは、全体の構造を消費者向けグラフィックカードで使用できることであり、これにより AIGC 業界の発展が大きく促進されます。

7. 安定拡散のその後の反復技術

Stable Diffusion の後、Textual Inversion、DreamBooth、ControlNet、LoRA など、関連する作業が最近数多く反復されています。これらのモデルにより、生成された画像はよりリアルになり、ユーザーはより多くの制御条件を提供したり、トレーニングをより速く微調整したり、必要なパラメーターを減らしたり、必要なビデオメモリを減らしたりすることができます。

8. AIライター画像生成表示

この分野での私たちの取り組みは、主に電子商取引の画像生成に焦点を当てており、たとえば、いくつかの製品に購入ポイントのキーワードを提供すると、モデルが対応する画像を自動的に生成します。

9. 安定拡散に基づく電子商取引画像生成

具体的なアプローチは、安定拡散モデルをサンプリングして微調整し、主に CLIP 部分を微調整することです。まず、eコマースデータをクロールします。これを基に、ユーザーのコメント数、お気に入り数、トランザクション数などの情報に基づいてデータをフィルタリングします。次に、CLIPを使用してこれらのコンテンツをスコアリングし、タイトルと画像の関連性の高いデータをトレーニング用のトレーニングセットとして保持します。

10. Eコマースアパレル商品画像制作プロセス

オリジナルの電子商取引の衣料品の製品画像制作プロセスには、写真家による写真撮影、モデルのポーズ、アートの後処理、配送などが含まれます。モデルを使用して画像を生成すると、モデルと写真家のコストを回避でき、運用ニーズに応じて時間内に調整できます。

市場調査を行った結果、電子商取引業界では画像素材の自動生成に対する需要が非常に高いことがわかりました。しかし、技術的な観点から見ると、画像生成作業全体はまだ研究段階にあります。プロセスは公開されていますが、より高い品質が求められる画像の生成には依然として一定の制限があります。この分野の進歩は非常に速く、私たちは常に経験から学び、反復と最適化を行っています。現時点では、小さな写真、コンセプト写真、サムネイルの生成結果は比較的良好ですが、一度に大きな高解像度の写真を生成することはまだ困難です。

IV. 結論

この記事は、まずテキスト、画像、その他の関連分野における最近の重要な研究をレビューし、大規模モデルが電子商取引分野にもたらす新たな機会と課題について議論します。次に、GPT モデルに基づく電子商取引のコピーライティング生成における Shuyuanling の実践を紹介し、モデルの異なるバージョンの反復効果を比較および分析します。最後に、Study Diffusion に基づく電子商取引画像生成における Shuyuanling の実践を紹介します。

AIGC は現在急速に発展しており、将来的には最新の技術進歩に基づいてモデルをさらに改良していく可能性があります。新しいテクノロジーの出現により、以前は膨大なコンピューティングリソースを必要とした製品も、それほど多くのリソースを必要とせずに発売できるようになりました。

AIGC が電子商取引分野にもたらす可能性のある以下の変化についてお話ししましょう。

ショッピングガイドリンク：たとえば、OpenAI と提携しているショップは、対話形式でやり取りします。顧客がアイデアやニーズを提示すると、モデルがさまざまな商品を推奨します。新しいテクノロジーの出現により、この商品インタラクションモードが可能になりました。
製造およびサプライチェーン: 現在の技術では、まだ高品質の画像を生成することはできませんが、それはまだ不可能です。しかし、製造方向に関しては、CALA は設計図を生成することができるため、衣服デザインの敷居を下げ、デザインコストを削減することができます。
運用効率: たとえば、AI Writer は複数の運用ドキュメントを自動的に生成し、オペレーターは生成された要素を調整して適切なドキュメントを選択できます。このアプローチにより、運用コストが削減され、運用効率が向上します。結局のところ、多肢選択式の質問は主観的な質問よりも答えるのがはるかに簡単です。

下の写真のウェブサイトでは、ChatGPT だけでなく、Bard など、多くの大規模なモデルアプリケーションシナリオが提供されています。

現時点では、中国で一般的な大型モデルや国内のChatGPTを作ることは、多くの蓄積を必要とするため、最良の選択ではないかもしれません。一般的な起業家や開発プロジェクトにとっては、次のような機会があるかもしれません。

長いテキストの処理や知識のよりタイムリーな更新など、大規模なモデルが苦手とする問題を解決します。
電子商取引やその他の産業を含め、ビッグモデルに基づく既存ビジネスの再構築は、この時代に再び行われるかもしれません。
ビッグモデル時代の Linux コミュニティでは、オープンソースコミュニティがあらゆるところで盛んになっています。ビッグ言語モデルの iPhone の時代は過ぎましたが、Android の時代はそう遠くないと思います。

5. 質疑応答

Q1: 小型のユニバーサルモデルを作ることは可能ですか? もし可能であれば、技術的な解決策は何ですか?

A: これはモデルのサイズに基づいて決定する必要があります。現在、モデルのパラメータが100億未満の場合、汎用性がない可能性が高く、世界知識や指示の理解と推論能力が比較的低いです。このような汎用性を徐々に開発するには、少なくとも60〜70億のパラメータを持つモデルが必要になる可能性があります。

Q2: 製品のコピーを生成する際に、Douyin、Xiaohongshu などの説明スタイルのような様式化された要素を追加する方法はありますか?

A: それが私たちが行っていることです。現在、Prompt を使用してモデルをガイドし、さまざまなスタイルのコピーライティングを生成しています。さらに、Tik Tok や Xiaohongshu スタイルの注釈データが必要になる場合があり、モデルは再生成中に Prompt によってガイドされる可能性があります。

Q3: 幻覚が起こる可能性はありますか？誤った情報が生成された場合、どのように制御すればよいですか？

A: コピーの中に幻覚や虚偽の情報が含まれる可能性があります。現在の解決策は、複数の候補を生成し、後処理を行うことです。

Q4: コピーを作成する際に特に注意すべき点は何ですか?

A: 最も重要なのは、高品質のデータを収集することです。 2 つ目は、モデルを微調整する方法です。

Q5: ニッチな分野でも AIGC は実施できますか?

A: これは可能ですし、現在もそれを行っていますが、パラメータのスケールはそれほど大きくする必要はないかもしれません。

Q6: ChatGPT とインターネットを組み合わせることで、データ遅延の問題を解決できますか?

A: はい、できます。

Q7: 100 億以上のクエリを持つモデルにはどれくらいの計算能力が必要ですか?

A: 微調整されたモデルであれば、A100 が 8 台あれば十分でしょう。 A100をお持ちでない場合は、V100でも大丈夫です。具体的な機器要件は、モデルパラメータの数、データ量、トレーニング時間などに関連しており、特定の状況に基づいた具体的な分析が必要です。

Q8: 中国語をサポートする、より優れた事前トレーニング済みの大規模モデルはありますか?

A: ハグフェイスには、大柄な中国人モデルがたくさんいるはずです。

Q9: 生成された結果に常識や論理に反する問題が多く含まれている場合、その問題を解決するにはどうすればよいですか?

A: これは、私たちが試行を開始したときに遭遇した問題でもありました。製品属性に基づいて画像を生成すると、結果は理想的ではありません。私たちの解決策は、まず製品データを正規化し、次に TF-IDF を使用して重要な属性を選択するなど、よりスパースな属性をフィルタリングすることです。この問題は主にデータの品質に起因します。

Q10: AI作成の分野において、AIGCが解決できない問題や制限は何ですか?

A: 現時点では、ビデオ生成の領域が最も難しいと思われます。 Meta が提案する Make-A-Video では、短いビデオしか生成できず、品質も理想的ではありません。高解像度画像における細かい部分の生成効果も難しい問題です。

Q11: 電子商取引の分野で、AIGC が解決できるその他の問題点は何ですか?

A: 理論的には、会話モデルは販売者と顧客との間のすべてのコミュニケーションの問題を解決できます。これらはすべて ChatGPT が解決できるものです。例えば、現在のカスタマーサービスロボットのほとんどはルールを通じて実装されており、ChatGPT 以降は ChatGPT と知識を組み合わせることで改善することができます。