ChatGPT が処理できない 5 つのプログラミング タスク

ネイト・ロシディ

翻訳者 | ブガッティ

レビュー | Chonglou

制作：51CTO テクノロジースタック（WeChat ID：blog）

私は ChatGPT を StackOverflow のスマートバージョンとして考えています。これは非常に役立ちますが、すぐに専門家に取って代わることはないでしょう。元データサイエンティストである私は、ChatGPT がリリースされたときに、それを試すのに多くの時間を費やしました。そのプログラミング能力には本当に感心しました。非常に便利なコードを最初から生成し、自分のコードに対する提案も提供してくれます。エラー メッセージに関して支援を求めると、デバッグもかなりうまく行われます。

しかし、必然的に、長く使用すればするほど、限界にぶつかるようになりました。仕事を失うことを心配している開発者のために、ChatGPT ではできない仕事のリストを示します。

写真

1. 専門基準に準拠するために会社が要求するあらゆるタスク

最初の制限は機能性ではなく合法性です。 ChatGPT によって純粋に生成され、会社の製品にコピーして貼り付けられたコードは、雇用主が訴訟の対象となる可能性があります。

これは、ChatGPT がインターネット全体から収集したトレーニング用データからコード スニペットをランダムに抽出するためです。 「ChatGPTにコードを生成するよう依頼したところ、GitHubリポジトリから大量のコードが取得されていることがすぐに分かりました」とRedditユーザーのChunkyHabaneroSalsaさんは説明した。

結局のところ、ChatGPT のコードがどこから来たのか、どのようなライセンスに基づいているのかを知る方法はありません。 ChatGPT によって作成されたコンテンツは、完全にゼロから生成された場合でも、それ自体は著作権で保護されません。 Bloomberg Law の寄稿者である Shawn Helms 氏と Jason Krieser 氏は、「派生作品とは、1 つ以上の既存の作品を基にした作品です。ChatGPT は既存の作品を使用してトレーニングされ、そのトレーニングに基づいて出力を生成します。」と述べています。

ChatGPT を使用してコードを生成すると、雇用主との間でトラブルになる可能性があります。

2. 批判的思考を必要とするあらゆるタスク

興味深いテストを紹介します。ChatGPT に Python を使用してコードを作成し、統計分析を実行させます。

それは正しい統計分析ですか?おそらくそうではないでしょう。 ChatGPT は、テスト結果が有効になるために必要な仮定をデータが満たしているかどうかはわかりません。 ChatGPT は、利害関係者が何を望んでいるかも知りません。

たとえば、異なる年齢層間で満足度評価に統計的に有意な差があるかどうかを調べるために ChatGPT に協力を求めることができます。 ChatGPT は独立サンプルの T 検定を提案しましたが、年齢グループ間で統計的に有意な差は見つかりませんでした。しかし、複数の年齢層が存在する可能性がある、データが正規分布していないなど、いくつかの理由により、T 検定はここでは最適な選択ではありません。

写真

フルスタック データ サイエンティストは、どの仮定をチェックし、どのテストを実行するかを把握しており、ChatGPT にさらに具体的な指示を提供できます。しかし、ChatGPT 自体は間違った統計分析に対して正しいコードを簡単に生成し、結果の信頼性を低下させ、使用できないものにする可能性があります。

より批判的な思考と問題解決を必要とする問題の場合、ChatGPT は最適な選択ではありません。

3. ステークホルダーの優先事項を理解する

どのデータ サイエンティストも、プロジェクトの関係者の優先事項を理解し、解釈することが仕事の一部であると言うでしょう。これらの優先順位は、ChatGPT や人工知能では完全に把握したり管理したりすることはできません。

たとえば、利害関係者の優先事項には、データだけでなく、人的要因、ビジネス目標、市場動向も考慮した複雑な意思決定が含まれることがよくあります。

アプリの再設計を例に挙げると、マーケティング チームはユーザーの定着率を高める機能を優先したいと考え、営業チームはクロスセルを可能にする機能を推進し、カスタマー サポート チームはユーザーを支援するためにアプリ内サポート機能の改善を必要としていることがわかります。

ChatGPT は情報を提供したりレポートを生成したりできますが、さまざまな利害関係者のさまざまな (場合によっては競合する) 利益や好みに一致する複雑な決定を下すことはできません。

さらに、ステークホルダー管理には、ステークホルダーに共感し、人間的な観点から彼らの懸念を理解し、彼らの感情に応える能力である、高いレベルの感情的知性が必要になることがよくあります。 ChatGPT には、利害関係者の関係における感情的な側面を管理するための感情的知性が欠けています。

これをプログラミング作業とは考えていないかもしれませんが、現在この新機能のコードを開発しているデータ サイエンティストは、それが利害関係者の優先事項にどれほど関係しているかを知っています。

4. 新しい質問

ChatGPT は、真に新しい洞察を提供できません。トレーニング データから学習した内容をリミックスして言い換えることしかできません。

R プロットの凡例のサイズを変更する方法を知りたいですか?問題ない。 ChatGPT は、StackOverflow 上の同じ質問に対する何千もの回答からコンテンツを抽出できます。しかし、これまで起こりそうになかった状況に遭遇した場合はどうすればよいでしょうか?たとえば、コミュニティディナーを企画する場合、料理の味が豊かになるように、各人が準備する料理の材料は、各自の姓と同じ文字で始まる必要があります。

このプロンプトをテストしたところ、料理の名前が姓と一致する必要があると想定し、材料の要件さえ正しく取得しない Python コードが表示されました。また、英語のアルファベットの各文字に1つずつ、合計26の料理のカテゴリーを考えるように求められました。これは賢い答えではありません。おそらく、これはまったく新しい質問だからでしょう。

5. 倫理的な意思決定

最後に、ChatGPT は倫理的にコーディングできません。人間と同じように価値判断を下したり、コードの道徳的意味を理解したりする能力はありません。

倫理的なコーディングには、コードがさまざまなグループの人々にどのような影響を与えるかを考慮し、コードが差別や危害を加えないようにし、倫理基準や社会規範に準拠した決定を下すことが含まれます。

たとえば、ChatGPT にローン承認システムのコードを作成するように依頼すると、履歴データに基づいてモデルが生成される場合があります。しかし、データの偏りにより、モデルが社会的に疎外されたコミュニティへの融資を拒否する可能性があるという社会的影響を理解できていない。これには、開発者が公平性と公正性の必要性を認識し、データの偏りを探して修正し、コードが倫理的な慣行に準拠していることを確認することが必要です。

この点でも人間は完璧ではないことを指摘しておく価値がある。アマゾンの偏った採用ツールを書いた人もいれば、黒人をゴリラと識別するグーグルの写真分類ツールを書いた人もいる。しかし、人間はこの点では優れています。つまり、ChatGPT には、道徳的コーディングに必要な共感、良心、道徳的推論が欠けています。

人間は、より広い文脈を理解し、人間の行動の微妙な点を認識し、善悪について議論することができます。私たちは道徳的な議論に参加し、特定のアプローチの長所と短所を比較検討し、自分の決定に責任を持ちます。間違いを犯したとき、そこから学ぶことができ、それが私たちの道徳観と理解力の向上に役立ちます。

6. 結論

Reddit ユーザーの Empty_Experience_10 さんの次の表現が気に入っています。「コードを書くだけなら、あなたはソフトウェア エンジニアではありません。確かに、あなたの仕事は置き換えられるでしょう。ソフトウェア エンジニアはコードを書くことで高給を得られると考えているなら、ソフトウェア エンジニアとは何かについて根本的な誤解をしています。」

ChatGPT はデバッグやコードレビューに最適で、StackOverflow で回答を検索するよりも少し速いことがわかりました。しかし、多くの「コーディング」は、単に Python コードを入力するだけではありません。ビジネスの目標が何であるかを知ること、アルゴリズムの決定を扱う際に注意する必要があることを理解すること、利害関係者との関係構築を目指すこと、彼らが何を望んでいるのか、その理由を本当に理解すること、そしてそれを可能にする方法を見つけることも重要です。

重要なのは、ストーリーテリング、円グラフと棒グラフのどちらを選択するかを知ること、データビューが伝える真実を理解すること、そして複雑なアイデアをシンプルな言葉で伝えて関係者が理解し、それに応じて決定を下せるようにすることです。

ChatGPT ではこれらのタスクを実行できません。それができる限り、あなたの仕事は安定しています。

参考リンク:

https://www.kdnuggets.com/5-coding-tasks-chatgpt-cant-do