
書籍『知能爆発 ——AIの次に来るAGIとは何か、そして人類に何が起きるのか』 @bioshok3 =有路翔太著(講談社)公式アカウント。
Joined August 2026
- Tweets559
- Following222
- Followers494
- Likes30
米カリフォルニア州、知能爆発(RSI)を制限するための法的権限の創設を提言。
ニューサム知事が11月18日、AI安全性に関する政策報告書を公表。AIによるAI研究開発の自動化が、再帰的自己改善(RSI)を通じて制御不能な加速につながる危険性を重視している。
主な提言は以下の通り。
① 最低安全基準の義務化:州政府が安全性・セキュリティ・透明性の最低基準を制定する。
② 独立評価の義務化:独立検証機関(IVO)による継続的な監督を義務づけ、モデルや開発環境、社内情報へのアクセスを認める。
③ 政府による是正・緊急停止命令:基準不適合には是正命令、差し迫った破局的リスクには即時停止命令を出せるようにする。
④ 規制対象の拡大:訓練計算量が10²⁶演算未満でも、破局的リスクにつながる能力を持つモデルを規制対象に含める。
⑤ AI研究開発の透明化:企業がAI研究の自動化率や計算資源の配分、AI生成訓練データの割合などを州に定期報告し、第三者が検証する。
⑥ RSI・開発速度の制限:安全対策が開発の加速に追いつかない場合、AI研究開発の自動化に投入できる計算資源の割合に時限的な上限を設定する権限を州に与える。
⑦ 緊急停止手順の検証義務:企業にモデル停止・封じ込め手順の整備と第三者検証を義務づける。AIが自らのモデル重みをコピーして停止を回避するケースも想定する。
⑧ 重大事故報告の強化:通常の報告期限を15日から48時間に短縮。制御喪失やモデル重みの窃取未遂を対象に含め、ニアミスの報告窓口も新設する。
⑨ 内部告発保護・公的研究基盤の強化:元従業員や業務委託者にも保護を拡大し、独立した安全性研究に使える公的計算基盤「CalCompute」を整備する。
報告書はOpenAI・Hugging Face事件を、既存の規制が危険なAIエージェントを捕捉できなかった例として挙げている。
特に注目すべきは、AIの安全性を評価するだけでなく、知能爆発につながり得るAI研究開発の加速そのものを州政府が制限するという提案が盛り込まれた点だ。
なお、これらはまだ成立した法律ではなく、州議会に向けた立法提言である。
youtu.be/e8bMn8N78kg?si=2k81…を見つつ、今更『超知能AIをつくれば人類は絶滅する』を読んでいる
加速派の中でも加速派だったが、要するに「ほぼ詰み」ということがなんとなくわかってきて、少しは恐怖心を持ち始めた
真の意味でAGIピルは飲めてなかった
早めに『知能爆発』も読んでおかねば
中国共産党の権威ある理論誌『求是』がAIによる人類存亡リスクに踏み込んだ。
『求是』は共産党中央委員会が発行し、党の思想や政策方針を解説する重要な機関誌。
「最先端AIにはすでに人間の制約から逸脱する兆候があり、知能爆発の過程で人間の期待と一致しない目標を形成し、さらには人類の生存を脅かす重大なリスクが生じる可能性がある」
と警告している。
中国では9月のAI安全性文書でも自己改善や制御喪失への懸念が示されていたが、今回、党の重要な機関誌でここまで直接的に人類存亡リスクが論じられたことは注目に値する。
知能爆発 公式 retweeted
AGI HubのLINEスタンプ「ミニショゴス(くっきり版)」を発売しました。
「了解」「ありがとう」のような毎日の返事から、「テスト中だけ」「止めるなら今」のようなAIアライメントのミームまで、40個そろっています。
笑顔の仮面の下の正体は、よくわかりません。
知能爆発 公式 retweeted
絶滅を免れても、人間が何も決められなくなる「静かな無力化」が待っているかもしれない。
必要なのは完璧な楽園を作ることではなく、「未来を選び直せる文明」を失わないこと。
AI時代の見取り図『知能爆発』(有路翔太 著)の要約漫画でした!(20/20)
🤖 Made with AI
知能爆発 公式 retweeted
え、公式の方ですか!?!?
好きで作った漫画を、公式に「めちゃめちゃわかりやすい」って紹介してもらえました!!!!
めちゃくちゃ嬉しいです。ありがとうございます!!
気づいたら夜が明けるくらいハマった『知能爆発』。500ページにひるんでる人は、まず漫画からどうぞ。
人類史が終わる可能性あるのに、こんなに知らない人が多いことに個人的に危機感感じてます。
話題の書『知能爆発』(@bioshok3著)の中身をマンガでめちゃめちゃわかりやすくまとめてくださっています! 500ページは長いという方も、まずこちらを見ていただければざっくり内容がわかるので、ぜひ!
破滅論の本だと思って敬遠している方もいるかもしれませんが、
「いまトランプ政権とAI企業のあいだで何が起きているのか」
「AI各社はなぜ『ヤバい』と言いながら開発をやめようとしないのか」
「AIを安全に使うためにできる対策は何か」
といったことも徹底解説していますので、直近のニュースをより深く理解するためにも絶対役立ちます!
知能爆発 公式 retweeted
話題の書『知能爆発』(@bioshok3著)の中身をマンガでめちゃめちゃわかりやすくまとめてくださっています! 500ページは長いという方も、まずこちらを見ていただければざっくり内容がわかるので、ぜひ!
破滅論の本だと思って敬遠している方もいるかもしれませんが、
「いまトランプ政権とAI企業のあいだで何が起きているのか」
「AI各社はなぜ『ヤバい』と言いながら開発をやめようとしないのか」
「AIを安全に使うためにできる対策は何か」
といったことも徹底解説していますので、直近のニュースをより深く理解するためにも絶対役立ちます!
知能爆発 公式 retweeted
フジテレビ報道YouTube「#ニュース延長戦はじめます。」に bioshok #有路翔太 氏(『#知能爆発』著者)が出演🎤
収録後のbioshok #有路翔太 氏に直撃インタビュー!!
フジテレビ報道YouTube「#ニュース延長戦はじめます。」では、関係者に衝撃をもたらしたアンソロピックの「開発速度2倍レポート」に始まり、ついに間近に迫りつつある「AIの再帰的自己改善」、その先の「繁栄か滅亡か」の未来像まで語っています。
▶️ youtu.be/EoRUEUZWvec
売行き好調につき品切れの書店さんも多いですが、この後また重版が出来ますし、電子もございます。
ぜひ手にとってみてください📚
フジテレビ報道局さんの公式YouTubeチャンネルに@bioshok3(『知能爆発』著者)が出演!
関係者に衝撃をもたらしたアンソロピックの「開発速度2倍レポート」に始まり、ついに間近に迫りつつある「AIの再帰的自己改善」、その先の「繁栄か滅亡か」の未来像まで語っています。
興味を持たれたら、書籍『知能爆発』をぜひお求めください。大反響につき品切れの書店さんも多いですが、電子版のご用意もございます。
youtu.be/EoRUEUZWvec
知能爆発 公式 retweeted
ジャーナリストの野嶋剛さん(@nojima_tsuyoshi)が台湾の経済誌「天下雜誌」のコラムで、共同代表 @bioshok3 と『知能爆発』を紹介しました。
学生の論文に広がるAIの使用から書き起こし、日本と台湾が協力してAIの安全性に取り組むことを提案しています(中国語)。
知能爆発 公式 retweeted
「破滅論の本」ではないので、安心して🙏笑
今、AIの最先端で何が起きているのかを、網羅的に知ることができます!
AIの悪用が社会問題になっている昨今ですが、その先にはどんな未来が待ち受けているのか。
知っておくだけでも、気の持ちようが変わると思います!
みんなで読もう💪
話題の書『知能爆発』(@bioshok3著)の中身をマンガでめちゃめちゃわかりやすくまとめてくださっています! 500ページは長いという方も、まずこちらを見ていただければざっくり内容がわかるので、ぜひ!
破滅論の本だと思って敬遠している方もいるかもしれませんが、
「いまトランプ政権とAI企業のあいだで何が起きているのか」
「AI各社はなぜ『ヤバい』と言いながら開発をやめようとしないのか」
「AIを安全に使うためにできる対策は何か」
といったことも徹底解説していますので、直近のニュースをより深く理解するためにも絶対役立ちます!
知能爆発 公式 retweeted
Replying to @bioshok3
@bioshok3 さんと @Align_ASI さんの発信を追っていたら、知能爆発にハマって夜が明けました。
AIがAIを作り始めたら人類はどうなるのか。
2人から学んだことを、漫画15ページにまとめてみました。
結構面白いので見てください。
note.com/riku_samune/n/n5158…
知能爆発 公式 retweeted
AI開発者たちが「人類絶滅」に怯えながら走っている話(1/20)
AIに仕事を任せて楽できると思っていたら、開発トップたちがガチで「人類絶滅」に怯えていた。
しかも悪意すら不要。人類が消える理由は「ただの作業効率」だった――。
有路翔太著『知能爆発』の衝撃の全体像を20枚の漫画にしました(1/20)
🤖 Made with AI
知能爆発 公式 retweeted
ポッドキャスト司会者のDwarkesh Patel氏(@dwarkesh_sp)が、超知能は2030年までに来ると予想を大きく早めました。
数学でAIが急に伸びたことが、AI研究でも起きると見ています。その根拠と、継続学習や実験の壁という反論への答えを、図で解説しました。
知能爆発 公式 retweeted
【AGI Hub テーマ別解説】AIのリスク、家族にどう話す?世論から「AI開発の一時停止」へ
解説:AGI Hub主任研究員 Akira(@Align_ASI)
AIに関心のない家族にどう伝えるかという視聴者の質問に、身近な悪用の話から入る伝え方を答えます。後半は、日本から米国と中国を動かしていく道筋を話します。
知能爆発 公式 retweeted
人類に警鐘を鳴らすために東大を休学してAI研究している林君20歳のYouTube、面白い。若いから彼自身がAIのように端的にまとめてる。youtu.be/3WTb1LtV6Bg?si=6gXa…
知能爆発 公式 retweeted
bioshokさんの『知能爆発』はAGIに関する世界観を学ぶのにとても良い。個別の議論を深掘りするよりまず体系的に広く議論の存在を認識できる点が素晴らしい
ユドコウスキー、カーツワイル、ココタイロ、ボストロム・・・AIの開発企業も政治もまるっきり広く捉えて状況を知るために非常に役立つ一冊だった
いまは自分なりに参考文献リストを整理していってる
知能爆発 公式 retweeted
安野貴博さん(@takahiroanno)のYouTube「安野貴博の自由研究」に有路翔太(@bioshok3)と林央(@Align_ASI)が出演した回の、前後編の全文書き起こしを公開しました。
AIで人類が滅びうる理由、開発停止は現実的か、日本にできることを読めます。
agi-hub.ai/articles/anno-jiy…
xitter.gq/annotakahiro24/status/…
【人類滅亡】5年後まで生き残る確率は50% /『知能爆発』著者に聞く/AIの悪用より怖いものとは/上司は『超知能AIをつくれば人類は絶滅する』著者/世界のAI開発を止めるために東大休学 【前編】
チームみらい党首・ #安野貴博 が詳細に迫ります🔍
























