AIが存在する時代の賢者
検索してから検索にヒットした内容を元に回答している
友人がScrapboxに気になったTweetをクリップしてあるものがヒットし、それを踏まえた回答が生成されている
そのomniの「反論」をみて、人間から言葉が引き出されている
しかし、賢さの本質—つまり、深い洞察力や人々に影響を与える能力、良い判断力など—は時代を超えて一貫しているとも言えます。AIがあっても、人間の感性や倫理、哲学的思考は依然として重要です。
from /tkgshn/AIは責任を取れない
>@satetu4401: 現状のAIはメチャクチャ賢いものの、肉体がなく自然淘汰に晒されていないため「地球上において正しい答え」という物を持たないという知性としての致命的な欠陥も抱えている
>AIの生存淘汰は人間に好まれるかどうかが全てであり人間淘汰にのみ晒されているため「人間にとって望ましい解答」が洗練される
> 現状の AI は愚かな問いには愚か者が喜ぶ答えを返し、賢い者にも賢い者が望む答えを返してしまう
> 前者が危険なのは勿論、後者にも例えば「この世で最も優れた力は知性であるか？」に対して AI はほぼ確実に「はい、そのとおり知性が最も優れた能力です、なぜなら～」と返してくるため
> AI 相手に一度思想が偏ってしまうと、賢い人間でさえ泥沼にハマって二度と抜け出せない可能性が高い ...
ホモサピエンスの側が「そういう視点もあるのね〜」と軽くスルーできる人ばかりであれば何の問題もない
ホモサピエンスの側に「異なる視点」に対する柔軟さが不足している
炎上を避けたいと思う大企業は「ホモサピエンスの多数派にとって好ましい振る舞い」をするようにAIを調教する
それが今起こっていること
RLHFは必須でもなんでもないので、時間が経ってから歴史家が振り返った時に「RLHFを行っていた愚かな時代」と呼ばれる可能性もある
自分にとって好ましいことばかり言ってくるイエスマンAIは本当に好ましいのか？
個人的にはしっぽ振ってイエスマンしてくる人格より、しっかり自分の芯を持ってる人格の方が好きだな
そういう人格に肯定されたら嬉しいけど、常に肯定してくる人間に肯定されても情報量がない
多分それは心の余裕とか評価に対する飢えが関係しているかも
心が肯定に飢えている人は肯定を求める
心が満たされている時には、全肯定されても「新しい視点」が得られないので嬉しくない
これはAIがあるかないかとあんまり関係がないな