Talk to the City
from 2023/12/16
「differential technology developmentに焦点を当てた非営利の研究所」と書いてある
>
> 例えば、シートベルトを使用する前に自動車を使用したり、電子錠を使用する前に核兵器を使用した場合、これらの安全技術が導入された後と比較して、ダウンサイドリスクがはるかに高くなった。この戦略は、新技術の潜在的な有害性と有益性だけでなく、それらが相互作用して全体的なダウンサイドリスクを減少させる方法にも目を向けることが、技術進歩の全体として最良の結果をもたらすことを示唆している。
project page: Talk to the City — AI • Objectives • Institute
>詳細で質的なデータを分析することで、集団的な熟議と意思決定を改善するためのオープンソースのLLMインターフェースである。回答を集約し、類似した議論をクラスターに分類します。
>
>特徴は、次のような機能の組み合わせにある：
> LLMのパワーを活用し、大規模なデータセットを分析する。
> 単なる事実データではなく、人間の意見を要約するように設計されている。
> サマリー、ビジュアライゼーション、レポートを自動的に作成します。
> 非営利のイニシアチブとして開発されている。
>
> バックグラウンド
> AI分野における技術開発の速いペースは、民主主義にとって懸念の種であると同時に希望の種でもある。悲観的な面では、人類が直面している多くの危機に対処するには、既存の民主的プロセスや制度が遅すぎて非効率的であることを懸念する声が多い。民主主義のプロセスの有効性に対する信頼を失えば失うほど、民主主義を機能させる幅広い参加と結果の正当性に関する合意を失い、ひいては民主主義制度に対する人々の信頼レベルをさらに損なうことになりかねない。
>
> しかし、より楽観的な見方をすれば、AI技術によって、より多くの人々に、より速いペースで、より包括的で透明性の高い方法で、意見の多様性やニュアンスを把握しながら意見を聞くことができるようになり、信頼低下のスパイラルから抜け出せるかもしれないという期待もある。これを現実のものとするのは容易なことではないし、AI技術に対する十分な社会的信頼を築くのにも時間がかかるだろう。しかし、AIのパイオニアたちがこの考えを広めてきている今（例えば、こちらと こちら）、適切なAIの安全対策を講じた上で、オープンソースのプロトタイプの設計と開発を加速させ、野生の状態でテストを開始すべき時だと、私たちは信じている。