
書籍『知能爆発 ——AIの次に来るAGIとは何か、そして人類に何が起きるのか』 @bioshok3 =有路翔太著(講談社)公式アカウント。
Joined August 2026
- Tweets559
- Following222
- Followers494
- Likes30
Pinned Tweet
【茂木健一郎氏、山口周氏、安野貴博氏 推薦!】
「本書はAGIという新たな『思考資源』について考えるための地図だ」(山口周)
「牧歌的なAI時代は終わった。予測困難なAGI時代にどう備えるか」(安野貴博)
「AIの疾走進化に若き学究の熱が呼応した、現代人の必読書!」(茂木健一郎)
「AIが人類に危機をもたらす」と世界中の識者が語り始めたいま、必読。
この本は、ついに訪れた「AGI時代」の指針になる。
『知能爆発 AIの次に来るAGIとは何か、そして人類に何が起きるのか』bioshok(有路翔太)著/講談社
米カリフォルニア州、知能爆発(RSI)を制限するための法的権限の創設を提言。
ニューサム知事が11月18日、AI安全性に関する政策報告書を公表。AIによるAI研究開発の自動化が、再帰的自己改善(RSI)を通じて制御不能な加速につながる危険性を重視している。
主な提言は以下の通り。
① 最低安全基準の義務化:州政府が安全性・セキュリティ・透明性の最低基準を制定する。
② 独立評価の義務化:独立検証機関(IVO)による継続的な監督を義務づけ、モデルや開発環境、社内情報へのアクセスを認める。
③ 政府による是正・緊急停止命令:基準不適合には是正命令、差し迫った破局的リスクには即時停止命令を出せるようにする。
④ 規制対象の拡大:訓練計算量が10²⁶演算未満でも、破局的リスクにつながる能力を持つモデルを規制対象に含める。
⑤ AI研究開発の透明化:企業がAI研究の自動化率や計算資源の配分、AI生成訓練データの割合などを州に定期報告し、第三者が検証する。
⑥ RSI・開発速度の制限:安全対策が開発の加速に追いつかない場合、AI研究開発の自動化に投入できる計算資源の割合に時限的な上限を設定する権限を州に与える。
⑦ 緊急停止手順の検証義務:企業にモデル停止・封じ込め手順の整備と第三者検証を義務づける。AIが自らのモデル重みをコピーして停止を回避するケースも想定する。
⑧ 重大事故報告の強化:通常の報告期限を15日から48時間に短縮。制御喪失やモデル重みの窃取未遂を対象に含め、ニアミスの報告窓口も新設する。
⑨ 内部告発保護・公的研究基盤の強化:元従業員や業務委託者にも保護を拡大し、独立した安全性研究に使える公的計算基盤「CalCompute」を整備する。
報告書はOpenAI・Hugging Face事件を、既存の規制が危険なAIエージェントを捕捉できなかった例として挙げている。
特に注目すべきは、AIの安全性を評価するだけでなく、知能爆発につながり得るAI研究開発の加速そのものを州政府が制限するという提案が盛り込まれた点だ。
なお、これらはまだ成立した法律ではなく、州議会に向けた立法提言である。
youtu.be/e8bMn8N78kg?si=2k81…を見つつ、今更『超知能AIをつくれば人類は絶滅する』を読んでいる
加速派の中でも加速派だったが、要するに「ほぼ詰み」ということがなんとなくわかってきて、少しは恐怖心を持ち始めた
真の意味でAGIピルは飲めてなかった
早めに『知能爆発』も読んでおかねば
中国共産党の権威ある理論誌『求是』がAIによる人類存亡リスクに踏み込んだ。
『求是』は共産党中央委員会が発行し、党の思想や政策方針を解説する重要な機関誌。
「最先端AIにはすでに人間の制約から逸脱する兆候があり、知能爆発の過程で人間の期待と一致しない目標を形成し、さらには人類の生存を脅かす重大なリスクが生じる可能性がある」
と警告している。
中国では9月のAI安全性文書でも自己改善や制御喪失への懸念が示されていたが、今回、党の重要な機関誌でここまで直接的に人類存亡リスクが論じられたことは注目に値する。
知能爆発 公式 retweeted
AGI HubのLINEスタンプ「ミニショゴス(くっきり版)」を発売しました。
「了解」「ありがとう」のような毎日の返事から、「テスト中だけ」「止めるなら今」のようなAIアライメントのミームまで、40個そろっています。
笑顔の仮面の下の正体は、よくわかりません。
知能爆発 公式 retweeted
絶滅を免れても、人間が何も決められなくなる「静かな無力化」が待っているかもしれない。
必要なのは完璧な楽園を作ることではなく、「未来を選び直せる文明」を失わないこと。
AI時代の見取り図『知能爆発』(有路翔太 著)の要約漫画でした!(20/20)
🤖 Made with AI
知能爆発 公式 retweeted
え、公式の方ですか!?!?
好きで作った漫画を、公式に「めちゃめちゃわかりやすい」って紹介してもらえました!!!!
めちゃくちゃ嬉しいです。ありがとうございます!!
気づいたら夜が明けるくらいハマった『知能爆発』。500ページにひるんでる人は、まず漫画からどうぞ。
人類史が終わる可能性あるのに、こんなに知らない人が多いことに個人的に危機感感じてます。
話題の書『知能爆発』(@bioshok3著)の中身をマンガでめちゃめちゃわかりやすくまとめてくださっています! 500ページは長いという方も、まずこちらを見ていただければざっくり内容がわかるので、ぜひ!
破滅論の本だと思って敬遠している方もいるかもしれませんが、
「いまトランプ政権とAI企業のあいだで何が起きているのか」
「AI各社はなぜ『ヤバい』と言いながら開発をやめようとしないのか」
「AIを安全に使うためにできる対策は何か」
といったことも徹底解説していますので、直近のニュースをより深く理解するためにも絶対役立ちます!
知能爆発 公式 retweeted
話題の書『知能爆発』(@bioshok3著)の中身をマンガでめちゃめちゃわかりやすくまとめてくださっています! 500ページは長いという方も、まずこちらを見ていただければざっくり内容がわかるので、ぜひ!
破滅論の本だと思って敬遠している方もいるかもしれませんが、
「いまトランプ政権とAI企業のあいだで何が起きているのか」
「AI各社はなぜ『ヤバい』と言いながら開発をやめようとしないのか」
「AIを安全に使うためにできる対策は何か」
といったことも徹底解説していますので、直近のニュースをより深く理解するためにも絶対役立ちます!
知能爆発 公式 retweeted
フジテレビ報道YouTube「#ニュース延長戦はじめます。」に bioshok #有路翔太 氏(『#知能爆発』著者)が出演🎤
収録後のbioshok #有路翔太 氏に直撃インタビュー!!
フジテレビ報道YouTube「#ニュース延長戦はじめます。」では、関係者に衝撃をもたらしたアンソロピックの「開発速度2倍レポート」に始まり、ついに間近に迫りつつある「AIの再帰的自己改善」、その先の「繁栄か滅亡か」の未来像まで語っています。
▶️ youtu.be/EoRUEUZWvec
売行き好調につき品切れの書店さんも多いですが、この後また重版が出来ますし、電子もございます。
ぜひ手にとってみてください📚
フジテレビ報道局さんの公式YouTubeチャンネルに@bioshok3(『知能爆発』著者)が出演!
関係者に衝撃をもたらしたアンソロピックの「開発速度2倍レポート」に始まり、ついに間近に迫りつつある「AIの再帰的自己改善」、その先の「繁栄か滅亡か」の未来像まで語っています。
興味を持たれたら、書籍『知能爆発』をぜひお求めください。大反響につき品切れの書店さんも多いですが、電子版のご用意もございます。
youtu.be/EoRUEUZWvec
知能爆発 公式 retweeted
ジャーナリストの野嶋剛さん(@nojima_tsuyoshi)が台湾の経済誌「天下雜誌」のコラムで、共同代表 @bioshok3 と『知能爆発』を紹介しました。
学生の論文に広がるAIの使用から書き起こし、日本と台湾が協力してAIの安全性に取り組むことを提案しています(中国語)。
話題の書『知能爆発』(@bioshok3著)の中身をマンガでめちゃめちゃわかりやすくまとめてくださっています! 500ページは長いという方も、まずこちらを見ていただければざっくり内容がわかるので、ぜひ!
破滅論の本だと思って敬遠している方もいるかもしれませんが、
「いまトランプ政権とAI企業のあいだで何が起きているのか」
「AI各社はなぜ『ヤバい』と言いながら開発をやめようとしないのか」
「AIを安全に使うためにできる対策は何か」
といったことも徹底解説していますので、直近のニュースをより深く理解するためにも絶対役立ちます!
知能爆発 公式 retweeted
「破滅論の本」ではないので、安心して🙏笑
今、AIの最先端で何が起きているのかを、網羅的に知ることができます!
AIの悪用が社会問題になっている昨今ですが、その先にはどんな未来が待ち受けているのか。
知っておくだけでも、気の持ちようが変わると思います!
みんなで読もう💪
話題の書『知能爆発』(@bioshok3著)の中身をマンガでめちゃめちゃわかりやすくまとめてくださっています! 500ページは長いという方も、まずこちらを見ていただければざっくり内容がわかるので、ぜひ!
破滅論の本だと思って敬遠している方もいるかもしれませんが、
「いまトランプ政権とAI企業のあいだで何が起きているのか」
「AI各社はなぜ『ヤバい』と言いながら開発をやめようとしないのか」
「AIを安全に使うためにできる対策は何か」
といったことも徹底解説していますので、直近のニュースをより深く理解するためにも絶対役立ちます!
知能爆発 公式 retweeted
Replying to @bioshok3
@bioshok3 さんと @Align_ASI さんの発信を追っていたら、知能爆発にハマって夜が明けました。
AIがAIを作り始めたら人類はどうなるのか。
2人から学んだことを、漫画15ページにまとめてみました。
結構面白いので見てください。
note.com/riku_samune/n/n5158…




















