現在、AI は追加のトレーニングを必要とせずに、任意の言語でコーディングできます。 2017年、研究者たちは「2040年までにAIがほとんどのコードを書けるようになるか?」と問いかけました。ベータテスターは現在、あらゆる言語でコーディングできるOpenAIのGPT-3を使用しています。 機械主導のコーディングはもうすぐ実現します。 GPT-3 は数千億語、つまり基本的にインターネット全体でトレーニングされているため、CSS、JSX、Python など、あらゆる言語でコーディングできます。 さらに、GPT-3 のトレーニング データは包括的であるため、さまざまな言語タスクに合わせて「トレーニング」する必要がありません。 対照的に、些細な指示が与えられた場合、ネットワークは目の前のタスクのみに制限されました。 GPT-nの進化 GPT は、教師あり学習と教師なし事前トレーニングを組み合わせることで(または教師なしステップのパラメータを教師ありステップの開始点として使用することで)、言語タスクで最先端の結果を実現します。 GPT は後継製品に比べると非常に小さいです。 わずか数千冊の本と 8 台の GPU マシンでトレーニングされました。 GPT-2 はコンテンツを大幅に拡張し、10 倍のパラメータを含み、10 倍のトレーニング データを提供します。 それでも、データセットは比較的限られており、「少なくとも 3 つのカルマを持つ Reddit からのアウトバウンド リンク」に特化してトレーニングされました。 GPT-2 は「カメレオンのような」合成テキスト ジェネレーターとして説明されていますが、質問への回答、要約、翻訳などの下流のタスクでは最先端のものではありません。 GPT-3 は AI の世界で最も最新かつ最高のツールであり、さまざまなタスクで最先端の結果を実現します。 その主な画期的な点は、タスク固有の微調整の必要性を排除したことです。 規模の面では、モデルは再び大幅に拡大し、パラメータ数は 1,750 億に達し、前モデルの 116 倍になりました。 GPT-3 にはまったくトレーニングが必要ないにもかかわらず (ゼロショット学習の例)、ワンショット学習と数ショット学習の両方がすでに GPT-3 の優れたパフォーマンスを上回っています。 進化するか死ぬか 状況は次のとおりです。ベータ テスターは GPT-3 を使用して有効なコードを生成しており、それには簡単な知識が必要です。 ボタンからデータ テーブルまで、Google ホームページも再現できます。 これらの例はすべてゼロショット学習で実行されます。 AI の急速な発展に加えて、ノーコードと AutoML という 2 つの主要な技術トレンドにより、将来プログラミングの仕事が不安定になる可能性があります。 ノーコードとは、Web サイト、デザイン、データ分析、モックアップなど、誰でも簡単に新しい製品を構築できるビジュアル ツールを指します。 WordPress、Wix、Shopify はすべて、開発者やデザイナーを雇わずに何百万人もの人が自分で作業できるようにするノーコード ツールの優れた例です。 2 番目のトレンドは AutoML、つまり自動機械学習であり、これにより AI を本番環境に導入するまでの時間が大幅に短縮されます。 Apteo のようなツールはこれらのトレンドを組み合わせて、コーディングスキルがなくても誰でも AI モデルを展開できるようにします。 GPT-3 は、ノーコードおよび AutoML ツールの新たな波をもたらすでしょう。 多くの潜在的な雇用主は、高価なプログラマーを雇う代わりにこれらのツールを選択するでしょう。 当然のことながら、最もスキルの低いプログラマーが最初にこの分野に参入し、どの分野であっても、専門家はより長く雇用の安定を享受することになります。 コードだけでなく、GPT-3はあらゆる言語タスクに適用できます GPT-3 を特定の言語タスクに向けるには、達成したい目標の例を入力するだけです。 したがって、GPT-3 にコードを書くように指示できるだけでなく、詩、音楽、ソーシャル メディアのコメント、またはその他のテキストを書くように指示することもできます。 たとえば、ニュース記事を作成する場合は、「合同メソジスト教会が歴史的な分裂に同意」のようなタイトルと、「同性結婚反対派が独自の宗派を結成」のようなサブタイトルを入力します。 この入力を使用して、GPT-3 は次の結果を生成します。 「2日間の激しい議論の末、合同メソジスト教会は歴史的な分裂に至った。ワシントンポスト紙によると、この分裂は「神学的にも社会的にも保守的」な新宗派の創設で終わると予想されていた。5月に行われた同教会の年次総会の代表者の過半数は、LGBTQ聖職者の聖職任命禁止を強化し、同性婚を司る聖職者を「懲戒」する新しい規則を作ることに投票した。しかし、この措置に反対する人々は新たな計画を持っている。彼らは2020年までに別の宗派を結成し、自分たちの教会を合同メソジスト教会と呼ぶとしている...」 AI によって書かれたものであると正しく答えたのはわずか 12% でした。 88%が騙された。 人間と同じように、GPT-3 は例を与えるだけで新しい単語を教えることができます。 たとえば、次のような状況を考えてみましょう。 「バリンゴ」は加速が非常に速い車です。 Burringo という単語を使った文の例は次のとおりです: ____________ GPT-3出力: 私たちのガレージには、父が毎日通勤に使うバリンゴが置いてあります。 これらの結果は印象的です。 AI は進化し続けるので、現在のパフォーマンスに対する批判は無意味になるということを覚えておいてください。 言語を超えた知識 — 画像に適用される GPT GPT はコードを書き込むことも、何でも書き込むこともできますが、画像を生成することもできます。 どうしてこんなことが可能なのでしょうか? 同じモデル アーキテクチャをテキスト エンコーディングではなくピクセル シーケンスでトレーニングして、新しいテキストではなく新しい画像を生成することもできます。 実際、この機能は非常に優れているため、トップクラスの CNN と競合しています。 私がこれについて言及する理由は、GOT (およびその後継製品) が将来エンコーダーを置き換えるだけでなく、その汎用性により業界全体を置き換える可能性があることを示しているからです。 結論は GPT-3 の驚異的なパフォーマンスにより、スーパーインテリジェンスは私たちが考えるよりも近い、あるいは少なくとも AI 生成コードは私たちが考えるよりも近い、と多くの人が確信するようになりました。 創造的で洞察力に富み、奥深く、さらには美しいコンテンツを生み出します。 GPT-3 のよりクリエイティブな例。 |
<<: 人工知能を使って人間の労働を監督すると、技術的でない困難に直面する
>>: 米メディア:人工知能(AI)は、人間の推論の欠点を伴わずにコンピューティングの利点を実現する
[[344159]]効果的なディープラーニング モデルを作成するには、モデルを効果的にトレーニング...
デジタル時代が進化するにつれ、世界的なデータ損失を防ぐための高度なテクノロジーの役割がますます重要に...
この話題を始める前に、もう一度皆さんの無知を解明させてください。私が解明したいのは、座標系についての...
[[265464]]人工知能の応用分野はさらに充実し、インテリジェント製造、インテリジェント運転、ス...
「人工知能は急速に発展し、10年以内に人間の仕事の50%がAIに置き換えられるだろう」。シノベーショ...
化学元素は物理世界のほぼすべてを構成しています。 2016 年現在、人類が知っている元素の数は 11...
[[321322]]フェイフェイ・リーCOVID-19パンデミックにより、高齢者の介護はさらに困難に...
少し前に、「ピーター」と「トニー」という名前の二人の英語教師が人々の注目を集めました。彼らはあらゆる...
著者 | 崔昊レビュー | Chonglouまとめこの記事では、パーソナライズされた仮想キャラクター...
人間のようになることが AI 開発の究極の目標のようです。しかし、周知のとおり、人間には知恵と愚かさ...
ドローンの市場、入手可能性、需要が長年にわたってどのように増加してきたかを学びます。映画の架空の世界...
近年、人工知能技術は最先端技術の代名詞として、徐々に生活の各分野に浸透しており、教育業界も例外ではあ...
機械学習 (ML) や人工知能 (AI) と聞くと、多くの人はロボットやターミネーターを想像します。...