generated at
ChatGPTでできること、できないこと
というよりかはGPT-3.5GPT-4でできることできないことという話

ChatGPTは書いた文章に沿った回答を自動的に生成してくれるが、時折不正確な内容を返したり、求めていた内容を返してくれなかったりする
個人の体感でだけど、持っているパラメータにあまり存在していないデータや紛らわしいデータについては不正確な情報を出力してしまいやすいんだと思うMijinko_SD

このページに関すること
ここで言う「できる」と「できない」はあくまでMijinko_SDの主観による
求めていた内容を不便ない精度で安定的に出力できていれば「できる」と見なす
ChatGPTの能力を書きたいというよりは、Mijinko_SDどんな用途でChatGPTを使っているかというのをメモするために、このページはある

GPT-3.5でもできること
基本機能に関すること
ユーザーのメッセージを正確に解釈し、それに沿った回答をする
ただし、前述の通りどれだけ正確に回答できるかはGPTのパラメータ数にもよる
複雑な指示を与えたり、ChatGPTが知らないことの回答を求めるほど、返答の精度は下がる
返答の精度が下がると、本当のことみたいな嘘を吐いたり、本当のことの中に嘘を混ぜたりする
嘘をつく能力としては人間を遥かに超えているね(皮肉Mijinko_SD
会話の文脈コンテキスト)を読んだ上での回答
最初に返答のフォーマットを指示すれば、それに従いつつ以降の要求に対応してくれる
GPTの返答に対して追加の要求をする
例えば「〇〇の部分がわからないのでもっと詳しく教えて」など
特定のキャラになりきる
口調を変える
ただ、使える口調とそうでないものははっきりしている
ツンデレ口調は容易にこなせるが、ルー語ルー大柴の方)はできない
より柔軟性の増したGPT-4では、会話の途中で口調が戻ることが少ない(おそらく)
ただし、GPTが保持しているデータセットは2021年あたりまでなので、それ以降の技術に関するコードは生成できない
2021年ギリギリに出来た技術でも、データセットに含まれていないことがある
2021年より数年前ぐらいなら多分問題ない

GPT-3.5ではできないけれど、GPT-4では高精度にできること
GPT-4で急にできるようになることというのはあんまり無い
GPT-3.5で不正確だったものは、GPT-4でより高精度になっている
OpenAIのGPT-4のページには各種試験を解かせた際の結果が掲載されているので、参考になるかも
曖昧さの残る文章(細かい部分を正確に指定していない文章)でも、正しく解釈してくれやすくなった
回答に不適切な内容が含まれる時は回答を拒否するが、GPT-4では代替案を挙げる頻度がより高くなった
GPT-3.5よりも綺麗で丁寧な文章を書く
テストや教科書に書くような文章や、敬意を持った親切な文章を書くのがかなり得意
こういうの:
GPT-3.5でもできるけれど、文脈の解釈が甘いので、思ったのとは違う文章を生成してしまうおそれがある

GPT-4でも難しいこと
画像を使った会話
イラスト生成などはもちろんできない
将来的にはできるようになるかもだけど
図示することができないので、大抵のことを文章のみで説明しなければならない
ヨガストレッチの方法は、ChatGPTに聞くより自分で調べたほうが、画像を用いてわかりやすく説明しているサイトが出てくる
オタク知識に関する会話
かなり高確率で嘘を吐く