Pinned Tweet
まずは、名前に ⏸️ を付ける人を増やしていく活動をするのが良いのかな?
現状のペースでAIの成長が進んでいくと、極端に悲観的ではない専門家でも、破滅を迎える確率として10%以上を見積もっています。
僕は10%で墜落する飛行機なんて、絶対に乗りたくありません。
まずはAI開発競争を止めましょう!
「人類はまだ滅んでいません。戦いはこれからです。」
主任研究員 林央(@Align_ASI)のメッセージを、Researchに全文掲載しました。
データセンターに監査団を送れば、米中が信頼し合わなくても開発停止を確かめられる。止めても今あるAIは使える。超知能の開発停止に希望を持つ理由を語ります。
4
402
とち⏸️ - Toshiya Kobayashi retweeted
OpenAIとAnthropicの元研究員ジェイコブ・コクソンさん「魔法少女まどか☆マギカが好きです」
エコノミストのエミン・ユルマズさん「メイドインアビスもすごくいいですよ」
(人類の分岐点が2027年という超シリアスなAIリスク対談より)
youtube.com/watch?v=iY2MFP2V…
楽待さん、最近はAI安全性関連の良い動画をたくさん出してくれますね〜!
たまに不動産のCMが入るたび、楽待だったんだと思い出すw
【超知能AI】2030年にも「人類絶滅」か、元OpenAI・Anthropic研究者の警告《ジェイコブ・コクソン×エミン・ユルマズ》 youtu.be/iY2MFP2VHi4?si=WAEn… @YouTubeより
「ノストラダムスの大予言」並みの扱いをされるようになるなら、現状よりはマシかもしれないと思ってしまう自分もいます。
今は「自力で情報の真偽を調べられる層」にも届いていない状況に見えており…
超知能AIの実現によって人類が滅亡するかどうかについて、否定も含めて多様な意見があるのはいいと思う
しかし、未だにノストラダムスの大予言と同列視したり、陰謀論の類だと考えたりする人が少なくないのは、とても残念だ
ニュースや新聞すらも、ご覧になっていないのかもしれない
例えば、本日の読売新聞の記事でも、AIの悪用は、核戦争と並んで、人類の滅亡に繋がりかねない脅威に分類されている
また、悪用だけでなく、AIが人間を敵と見なすリスクについても触れられている
さらに、予測の専門家達による「2100年までにAIが大惨事(世界の人口の10%以上が死亡)を起こす確率」の中央値が、2.4%であることを紹介している
仮に2.4%であっても、深刻な問題と言わざるを得ない
なお、AIの専門家達によるこの確率の中央値は5%だという
AIの専門家ほど、AIの害悪を大きく見積もっていると言えるだろう
そんなわけで、一人でも多くの人が、この問題に興味を持ってくださることを願っています
yomiuri.co.jp/science/202611…
7
462
右も左も、AI推進派も否定派も、最先端AIの開発競争停止には合意できるはず。。



















