AIの進歩を6ヶ月止めよう署名
from 2023/03/29
> チューリング警察機構(Neuromancer)発足の機運。展開が面白過ぎる🤩
> > 【速報】
> > 『イーロン・マスクを含む世界のテック界の大物数百人がAIシステム開発を6ヶ月間停止する旨を書面で要請』とタイム紙が報道
> >
> > 最近AIの急激な進歩が『社会と人類に重大なリスクをもたらす』こと懸念 https://time.com/6266679/musk-ai-open-letter/ …
> >
> >
AIの進歩を遅くしようという署名
Yoshua Bengio先生も署名している。こう思うに至ったエピソードの積み重ねが知りたい
もはや何をしても驚かないイーロンも署名してる
Twitter有料なのしかまともじゃない扱いしない方針なんだから別によくない？
>有料プランTwitter Blueへの加入を促すためにBOTの蔓延を喧伝するのはイーロン・マスクの平常運転ですが、最近はAIが発達したためもはやBOTと人間は区別できない、だからこそ有料プランに加入することで人間性を証明すべきという、「AIの脅威に共に立ち向かい、民主主義と表現の自由を守る戦い」的なストーリーを強調しています。
人間性を金で証明していきましょう！！
>買収以前から認証バッジを得ていた著名人やジャーナリスト、公式アカウント等の「レガシーブルー」アカウントからは認証バッジを剥奪し、Twitter Blueへの課金を必須とする方針。
> このため、「おすすめ」は実質的に「課金ユーザーの投稿だけが推薦されるタイムライン」、
>ユーザーがフォロー中アカウントのツイートも含まれるとのこと
>Twitter 投票は「Twitter にお金を払うユーザーの意見を募る機能」に変わることになります。
ガバメントの発信が本物かどうか全然わからなくなるなー
軍拡競争みたいな感じ？
ニューロマンサーってこういう話なんだ
前に読んだ時はあまり理解できなかったけど、今読んだら理解しやすいのだろうか...
遅くできるとは思わないが……
具体的なアクションはないより主張の強さを感じるので重要
シナリオ
半年後まであっためるという協定を結びつつAIを開発しているそれぞれの会社が「わ～リークされた～(棒)」という
半年後に一斉にAIの進化が起こり人が適応できないまま仕事がなくなる
むしろこの分野で仕事が無くなったら、自然災害問題がすべて消え去るということだから大歓迎
むしろ土木って老朽化インフラの作り替えで需要も増えるしいいポジションなのでは
いいポジションですが、現状だと人手不足がやばいです
メンテのための人材が全く足りない
「人手不足=人間に比べて仕事がたくさんある」なので「仕事がなくなる」の対極では、という趣旨
ですね
仕事がなくなるということは雇用側の人は適応した…？
いや、雇用側の人の仕事もなくなるのか？
ラッダイト運動起きたりしないかな
ネオ・ラッダイトすでにあるので名前が…
ラッダイト3.0だ
令和のラッダイト運動が始まってしまう
仕事はたくさんあるけどやりたい仕事が消える可能性はある
今の時代に計算手にはなれない
さすがイーロンマスク、ちゃんとヤってる
追いつくための時間稼ぎか…
「GPT-4を超えなければ大丈夫」って予防線張ってるから予想してた
そう。この情報ではダブルスタンダードとは言えない
DeepMindの研究者を引き抜いたらしい
> Twitter（X？）、1万個のGPUを買ったらしい。Elon MuskはDeepMindからIgor Babuschkin @ibab_ml らを引き抜いたようなので、いよいよ "Based" AI を作る気か Elon Musk reportedly bought thousands of GPUs for a Twitter AI project | Engadget
と言っているけどhttps://www.babushk.in/research.html をみるとOpenAIだから、OpenAIの人を引き抜いたんだな
イーロン v.s. sam altman
反対意見
Bill「特定のグループを停止させても問題が解決するとは思わない」
署名した人
>@ktakahashi74: Future of Life Institute(FLI)がGPT4以降の学習を６ヶ月間控えることを求める公開書簡を出した。私にも署名依頼が来たが、その時点ではエンバーゴがありすぐにはツイート出来なかった。メディア報道が始まったので少し解説する。(1/13)
>@ktakahashi74: 今回、FLIの署名に応じるかは結構迷った。まず、AGIが膨大な利点があると同時に相当に慎重に扱うべき技術なのは多数の文献で検討されており一定の合意がある。ただし、現状ではLLMとAGIを直接結びつけることにまだ若干の飛躍がある。 (1/11)
>@ktakahashi74: 署名した理由をまとめると次の通り。(1)今般の動きがあまりに急であり、巨大資源を持つ限られた組織が手元で起きていることを十分理解しないまま技術競争だけが先行していること。(2)社会への潜在的なインパクトに比べて社会側、政策側の議論が圧倒的に遅れていること。(8/11)
国内与党だと自民党AIの進化と実装に関するプロジェクトチーム｜衆議院議員 塩崎彰久（あきひさ）｜noteのような議論があるようだ
>@ktakahashi74: (3)現状LLM自体は特殊な技術ではないが、今後の発展を考えるとフェアな競争条件を整えるなら今しかないだろうこと。(4)6か月間の時限付きであること。（もしこれが長期の禁止などということになれば、明確に反対する）(9/11)
from 2023/03/30
署名への異論
> 1/The call for a 6 month moratorium on making AI progress beyond GPT-4 is a terrible idea.
>
> I'm seeing many new applications in education, healthcare, food, ... that'll help many people. Improving GPT-4 will help. Lets balance the huge value AI is creating vs. realistic risks.
ヘルスケアや教育など、人類の利益の方が大きい
政府が介入しないと本当に止める方法はないが、もし政府介入すればひどい前例になる
透明性や監査の方が実用的
開発者の多くは倫理的であり、倫理的でない人が大部分というような考えは誤解
技術を進歩させながら安全性に投資を
> Nope.
> I did not sign this letter.
> I disagree with its premise.
> The year is 1440 and the Catholic Church has called for a 6 months moratorium on the use of the printing press and the movable type.
> Imagine what could happen if commoners get access to books!
> They could read the Bible for themselves and society would be destroyed.
1440年にカトリック教会が出版を禁止しようとした話を持ち出しているが、史実なのだろうか
出した側の思想
>Future of Life Instituteの共同創設者のマックステグマーク氏とLex FridmanのPodcastの和訳です。