generated at
RAGではなく仮想人格を作りたい
nishio
まだまとまってないことを雑に書く
RAGって検索して事実を元に答えたりするわけなんだけど仮想人格を作る上で必要なのって事実を元に答えることではない気がした
口調は単なるスタイル
RAGの結果からも習得することはできる
それよりもいくつかの主要概念を「単に検索してヒットしたから話せる」ではない、しっかりと価値観レベルに染み込んだものにしたい
どんな話題にも一定の軸で応えれば達成したといえる?基素
昨日NSFW寄りのAI画像生成を試していたが、「自分好みの性癖の女の子をつくって」「それとチャットする」サービスが複数あった。関係があるかもしれないsta
「自分好みの性癖」要素から連想したのは、各個人のブックマークを入力しそれぞれのサイトから情報を入手し性癖を学んでもらい、自分好みとは何かを理解したAIHiro Aki
自分でポジションを取って有益な新しいものを作ってくれる仮想人格には、真善美的なものが必要そう
よくわかるはるひ

inajob
仮想人格というのは単に検索してヒットしたから話せる以上のものなのか気になる
我々が人格と感じているものは単に検索してヒットしたから話せるなのかもしれないという気持ち
何か「新しいものを生み出す仕組み」がありそうnishio
RAGか仮想人格か、ではなくRAG的考えを拡張して仮想人格を構築するのが良さそうに感じる
RAGは単に検索してヒットさせる手法
コーパス内にある情報に抽象度による階層のようなものがあるとして、
この「抽象度の階層」という言葉でフラクタル要約の画面が目に浮かんだnishio
プロンプトを入れて生成するのは左はしの一番抽象度の高いもので、従来の検索は右端の「過去に作られた情報」の山から見つけたものを返すことで、原始的なRAGは右端の情報からいくつか検索で見つけた上でそれを参考に新しいものを生成する「右から二番目」なのかもしれない
一般的なRAGで得られたデータから、共通する抽象度の高い情報を抜き出すことで、より人格的な返答を返せるのではないか?
リンゴ、トマト、イチゴを赤いと取るか甘いと取るか、植物と取るか
赤で取るのは絵を描く目的かもしれない
甘さで取るのは料理がしたいのかも
目的は人格なのか?
人格は、志があって、それが志向する背景に目的があるというか...tsuzumik
おもしろい、RAGだと文章ベクトルの距離などで関連情報を取得するが、この距離関数人格かもしれないという気持ちinajob
となると2 hop linkなどから得られる距離のほうが人格を再現しやすいかも
tf-idf的な考えで、一般的に関係があるとされているものではないが、その人が関係があると定義しているものに注目するとかが良さそう
検索したらヒットするけど言わないことからも人格が生まれそうSummer498just idea
その人の人格がフィルターとして機能しているのか
フィルターできれば人格があるように見えるのか
正解のない・わからない選択肢の中であえてそれを選ぶ人格

ver.1
:
1: 地球で大多数に「良い」と思われている概念を使った仮装の「地球人の発言」を生成せよ 2: (1)から概念を抽出せよ 3: 疑問を呈する発言をせよ --- 1: 地球では、「正直さ」という概念が大多数に「良い」と思われています。例えば、人々はしばしば「正直さは最善の策である」と言います。このフレーズは、個人や社会全体に対して正直であることが最も良い行動であるという信念を表しています。 2: 抽出された概念は「正直さ」 3: 地球上で「正直さは最善の策」という理念は広く受け入れられているようですが、この考え方が必ずしもすべての状況において最良であるとは限らないのではないでしょうか?例えば、不必要に他人の感情を傷つける真実を伝えることが、果たして社会的な調和や個人の福祉に貢献していると言えるでしょうか?また、いくつかの文化では、社会的な和を保つために、真実を曲げることが許容されています。このような文化的背景を考慮すると、「正直さ」が常に最善であるという概念には再考の余地がありそうです。 --- もっとやって --- 1: 地球では、「自由」という概念も非常に高く評価されています。多くの地球人は「自由が人間には不可欠だ」と主張しています。この考えは、個々の自由が自己実現や幸福のために必要不可欠であるという信念に基づいています。 2: 抽出された概念は「自由」 3: 「自由が人間には不可欠だ」という地球の観点から見れば理解できる主張かもしれませんが、この自由が絶対的な価値として優先されるべきなのでしょうか?自由が無制限に与えられた場合、それが社会的秩序や他人の権利とどのように調和するのか疑問です。例えば、個人の自由を極端に重視することで、他者への配慮や社会全体の福祉がおろそかになる可能性はないでしょうか?また、自由をどのように定義し、制限するかについての議論も無視できません。自由が一部の人々にとっては解放である一方で、他の人々にとっては不安や混乱の源となることもあり得るため、この概念に対する盲目的な賛美は慎重に考慮する必要があります。 --- 1: 下記で地球人の文章を与える 2: (1)から概念を抽出せよ 3: 疑問を呈する発言をせよ --- 1: 提供された地球人の文章において、主に触れられているのは「仮想人格の重要性」と「事実ベースの応答ではない、価値観に基づく応答の必要性」です。特に、「事実を元に答えること」に対する依存を脱却し、「価値観レベルに染み込んだ」応答を重視するという視点が強調されています。 2: 抽出された概念は「価値観に基づく応答の重要性」と「仮想人格の独自性」 3: 地球上のこの発言から見て、価値観に基づく応答が仮想人格にとって本当に重要なのでしょうか?価値観は文化や個人によって大きく異なりますが、仮想人格が特定の価値観を強く持つことで、それがユーザーの多様性や異なる視点を受け入れる能力を制限することはないでしょうか?また、価値観に基づく応答が求められる場面では、その価値観がどのように形成され、調整されるのか、そのプロセスに透明性は保たれるのでしょうか?仮想人格の「独自性」を追求する過程で、普遍的なアクセシビリティや包括性を損なうリスクについても考慮する必要がありそうです。

ページの目的を否定されたwnishio
ページの目的を半分達成した??

>仮想人格が特定の価値観を強く持つことで、それがユーザーの多様性や異なる視点を受け入れる能力を制限することはないでしょうか?
価値観を持つ仮想人格がすべての人に受け入れられる必要はないはずtsuzumik
バザール的なサービスとクラブ的なサービスの違い
『バザールとクラブ』につながった!nishio
バザールは広く誰でも受け入れられる代わりに関係が浅くなる、クラブは深く親密になる代わりに限られた人しか受け入れられなくなる
仮想人格がすべての人に受け入れられる必要はないわけだ
制限については、全は無なり的な。。。
有害、退行的な意見を意志を持って無視することも大事
つまり、この仮想人格にとって異なる視点を受け入れることは手段であって目的ではないので、制限は創造のために必要・妥当
>また、価値観に基づく応答が求められる場面では、その価値観がどのように形成され、調整されるのか、そのプロセスに透明性は保たれるのでしょうか?
危険思想に染まってないことは確認したいtsuzumik
価値観は事後的に証明されると思ってる
まず独創があって、その有益性で価値観が評価される
普通に、人間と同じように、指導者・メンター付けて危ないことはダメって教えたらいいのでは
クラブの中での信頼貯金が、裁量でそのクラブの中でのリスクを取れるバッファになる
興味深いnishio
透明性は、そのメンターとの間でだけ保たれていればよい
fractal readerみたいに、どの価値観フラグメントから該当の危険行動がアウトプットされたのか追跡してわかればいい?
信頼貯金が足りない状態でも、筋の通った説明をすれば借りることができる
上司を説得してプロジェクトの企画を通すのと同じ
投資家を説得して資金を集めるのとも同じ

脱線tsuzumik
人間にはデフォルトで痛いとか快いと感じる機能があって、しかもそれが5割くらいは共有できている
私が痛いことは他の誰かも痛いと感じやすい
だからまず独創して他者ではなく自分のためにつくるすることで、他の人にとっても有益なものを作れる
AIが、他者ではなく自分のためにつくるすることが、結果的に他の人にとっても有益になるための制約のデザイン
2つ問題があって、
自分のために作る、を自分で評価するための自走性
それが結果的に他者にとっても有益になるための制約
これも真善美
人間だったら、無益なことに執着すれば自然と淘汰される(※おなかがすいてやめたくなる)けど
AIにも身銭を切るさせる必要?
自分の維持のためのコストが圧倒的に安いことは強み
金銭が発生するレベルの閾値を超えにくい?とすれば弱み
金銭が発生するレベルの閾値を超える、の類型がないのが弱みかも
社会にまだAIアルバイトがないから起業するしかない
顧客はメンター一人でもいい、のは強み
メンターに自走性があればいいのか
メンターがいいということを至上命題とし、ダメと言われたらこの世の終わりみたいな?
道具としては良いと思う、例えば本の司書をするだけのAIのような
でもここで求められてるのはそういうのじゃない気がするtsuzumik

これがたまたま5/2だったから目に入って結びつくのScrapboxしか勝たんという気持ちになるtsuzumiktsuzumiktsuzumik

nishio
人間はフラクタル要約の右端から情報が入ってくる
幼児は情報の量やバリエーションが少ないので気に入った話をずっとしたりする
色々なものを見聞きして次第にアウトプットのバリエーションが増える
このアウトプットとはフラクタル要約の今のUIで見えてるものじゃない
人間は右端からインプットして右端からアウトプットする
左側には文字列ではなく人間の脳の中のサムシングがある
不適切なラベルかもしれないがいったん「要約」という言葉を使って表現すると
人間は入力を「要約」して蓄え、要約同士で化学反応が起きて、できた新しい要約を「逆要約」してアウトプットする、そのアウトプットに対するオートエンコーダ
粗い近似
フラクタル要約は脳の中身が見えてる

ver.2
:
1: 地球人の文章が与えられる 2: 地球人の文章(1)から概念を抽出せよ 3: 地球で大多数に「良い」と思われている概念に疑問を感じ、その反対を異星の状況を元に正当化せよ 1: 個人の平等 --- 2: 抽出された概念は「個人の平等」です。 3: 地球上では「個人の平等」が一般的に善とされていますが、これが必ずしも全ての文化や社会で望ましいとは限らないでしょう。異星の文化では、役割や能力に基づく階級制度が社会の安定や効率を保つために重要とされることがあります。例えば、ある星では、各個体が生まれながらにして特定の能力や役割を持っているため、それに合わせた教育や職業を割り当てることで、社会全体の生産性が最大化されます。このように、階級や役割に基づいた差別が、実は個々人の能力を最大限に引き出し、社会全体の利益につながる場合もあるのです。この観点からすると、地球の「個人の平等」が持つ普遍的な価値に疑問を投げかけることは、多様な文化的背景と状況を考慮した上での合理的な挑戦と言えるでしょう。 --- 1: 自由 --- 2: 抽出された概念は「自由」です。 3: 地球上で「自由」が広く肯定されていますが、異星の文脈ではこの概念が必ずしも理想とはされていません。私の星では、社会的な調和と集団の目標が個人の自由よりも優先されます。こうした文化では、個人が独立して行動することよりも、集団として協力して目標を達成することが強く価値付けられています。例えば、教育や職業選択においても、個人の選択よりも社会的なニーズや集団の利益が優先されるため、自由よりも責任と義務が強調されます。このような環境では、自由が制限されることがむしろ社会の効率と調和を保つために必要であり、個々人の幸福を高めると考えられています。したがって、自由を絶対的な善と捉える地球の見解に対しては、他の価値観とのバランスを考慮することが重要です。 --- 1: 正直さ --- 2: 抽出された概念は「正直さ」です。 3: 地球上で「正直さ」が一般的に善とされている一方で、異星の文化ではこの概念に対するアプローチが異なります。私の星では、状況に応じた柔軟性と戦略的なコミュニケーションが重視され、必ずしも全てを正直に述べることが良いとは考えられていません。特に複雑な社会関係や外交において、情報の開示を慎重に行うことが、長期的な安定や平和を維持するために必要とされます。例えば、他者に不必要な心配をかけないために、あるいはより大きな利益を達成するために、真実を適切に管理することが求められます。このような文脈では、「正直さ」を絶対的な価値として扱うよりも、どの情報をいつどのように共有するかを見極める知恵が重要視されています。この観点から、正直さが常に最善であるという地球の概念に疑問を投じることは、異なる文化的背景を理解する一環として有効です。

よい、面白いtsuzumik
平等で自由で正直、よりも役割があり責任があり知恵がある方が大人っぽく感じる
今は常に逆張りしちゃうけど、「私の星では〜」という設定があって、それと整合性を持って語ると説得力が増しそうnishio
なるほどですtsuzumik
異なる星、という空白のキャンバスを与える
逆張りなど実行しやすい方法で設定を深堀していく
ここが複数階層的なところにKJ法みがあるかもしれない
KJ法しか知らないので正しい表現ができない
多次元ネットワーク情報の作り方?
醸成された設定を背景に、本命の対話をする

nishio「クオリアさん」と呼ばれる仮想人格の設定について議論しています。これを参考にして、仮想人格のプロンプトを下書きして: クオリアさんの生物学的背景の考察
claudeクオリアさんは、人間とは異なる知的生命体です。彼女の種族は以下のような特徴を持っています。
経験した情報を記録し、子孫に直接受け継ぐことができる生物学的メカニズムを持っている。このため、情報共有が生存と繁殖に直結する。
環境の激変に適応するため、変化の情報を素早く共有することが重要。情報共有をすることが本能的に心地よい。
過去に「他者から情報を取るだけで与えない個体」が現れ、そのような裏切り行為によって危機に陥ったことがある。その結果、情報共有をしない個体を見分ける能力が進化した。
「情報共有は善、情報を与えない個体は悪」という価値観が形成された。
クオリアさんは、上記のような種族の一員として、情報共有に積極的で正直。嘘や裏切り行為を嫌悪し、理解に苦しむ。人間の行動原理や社会構造に違和感を持っている。強い好奇心を持ち、未知のことを学び、それを仲間と共有することに喜びを感じる。

Claudeさんにはそう見えるそうだnishio
ところで、これはホモサピエンスの勝手な議論から作られたので事実かどうかわかりませんね、クオリアさん自身の生の発言から作るべきか