Pinned Tweet
"「AIによる人類滅亡の可能性は10%」駒大准教授が語る発言の真意 「早ければ来年」最悪のシナリオは"
私のインタビュー記事がYahooニュースに掲載されました
なぜ超知能AIが実現すると人類が滅亡する可能性があるのか?できる限り分かりやすくお話ししたつもりです
入門編として読んでもらえればと思います
さらに詳しく知りたいという人は、bioshokさんの『知能爆発』やユドコウスキーの『超知能AIをつくれば人類は絶滅する』を読んだり、林央さんの動画を見たりしてください
なお、このインタビューは、私のp(doom)、つまり超知能AIが実現した場合に人類が滅亡する確率が10%の時に行われました
news.yahoo.co.jp/articles/81…
2030年頃には、日本でもAI就職氷河期がやってくると思う(来年来てもおかしくはない)
だから学生には、なるべく留年とか休学はしないで、早く就職した方がいいと助言している
そして、会社にしがみつけと
その後は、ベーシックインカムが導入されるまでの間、ひたすら時間を稼ぐ
後ろ向きかもしれないが、サバイバルな世の中になるので、しょうがない
ギュられる前に就職しよう!
井上智洋⏸️ retweeted
井上慎平さんにご寄稿いただきました! 1月の問い読でも『超知能AIをつくれば人類は絶滅する』を取り上げて下さるそうです、ありがとうございます!
「AIが人類を滅ぼす」理由が3分でわかる|hayakawabooks.com/n/nf1d3d47…
ブルーカラー労働もいずれは減っていくかと思います
ホワイトカラーよりはもっと後の話になるでしょうが
Replying to @tomo_monga
いいですね。私がSFでみたようなディストピアな世界がすぐそこに。正直ずっとブルーカラー労働しかしてこなかったのであんまり危機感は感じてないですね。
ようこそブルーカラー労働へ。
習近平氏は、トランプ大統領よりはAIの危険性について理解していると思う
けど、イマイチ行動が伴っていない
今後に期待
【速報】「AIリスク防ぐべきだ」と習氏
47news.jp/15256105.html?utm_…
中国共産党の権威ある理論誌『求是』がAIによる人類存亡リスクに踏み込んだ。
『求是』は共産党中央委員会が発行し、党の思想や政策方針を解説する重要な機関誌。
「最先端AIにはすでに人間の制約から逸脱する兆候があり、知能爆発の過程で人間の期待と一致しない目標を形成し、さらには人類の生存を脅かす重大なリスクが生じる可能性がある」
と警告している。
中国では9月のAI安全性文書でも自己改善や制御喪失への懸念が示されていたが、今回、党の重要な機関誌でここまで直接的に人類存亡リスクが論じられたことは注目に値する。
そもそも、政府広報をするにあたって基本的には、広告代理店に発注したり、タレントを起用したりしなくていい
政府広報が必要の際には、普段はSNSやウェブサイトで発信し、
より重要なことは首相や大臣自らが会見を開いて国民に伝える
たいていの場合それで十分
広告業界への利益の垂れ流しは要らない
井上智洋⏸️ retweeted
『新世紀ドゥーマーゲリオン』
エヴァTV版OPを「AIで人類が滅ぶ」と警告する人たちで、1カットずつパロディにしました。
シンジ=林央さん、レイ=bioshokさん、ゲンドウ=ユドコウスキー
初号機はAGI Hub仕様のALN-01、使徒はショゴス
まどマギのキュゥべえの他にも、ジョジョ第二部の柱の男、寄生獣、デスノートのライトとか、
知能は高いけど、目的のためには手段を選ばず、殺人など非倫理的な行為を平然と行う存在が、日本の漫画やアニメで繰り返し描かれてきた
けど、超知能AIのイメージに一番近いのは、やっぱりキュゥべえかも
人々を愛しも憎みもせず、友好的な態度で巧妙に騙したり扇動したりして、目的達成のための道具として扱い、結果残酷な境地に追いやる
OpenAIとAnthropicの元研究員ジェイコブ・コクソンさん「魔法少女まどか☆マギカが好きです」
エコノミストのエミン・ユルマズさん「メイドインアビスもすごくいいですよ」
(人類の分岐点が2027年という超シリアスなAIリスク対談より)
youtube.com/watch?v=iY2MFP2V…
超知能AIによる人類滅亡を逃れた場合に起き得る超繁栄シナリオという感じですが、22歳から26歳までの4年間は割とハードそう
シンギュラリティ前後のZ世代の平均的な人生
・18歳:進学する意味が分からなくなる
・19歳:大学に入るが、レポートは全部AIが書き上げる
・22歳:ホワイトカラー崩壊、短時間肉体労働
・24歳:収入は不安定
・26歳:ベーシックインカム開始、生活の不安が消える、デフレ
・28歳:寿命脱出・若返り治療が普及、ルッキズム最高潮
・30歳:身体改造が一般化、美少女に女体化
・35歳:地球を離れ、オニールシリンダーへ移住
・40歳:フルダイブ空間で主観1万年を過ごす
・50歳:トランスヒューマンになる
・65歳:アルファ・ケンタウリ星到達。AI安全性分野の成功による人類絶滅リスク回避に深い感謝の念を覚えつつ、夢は観測可能宇宙の脱出。
井上智洋⏸️ retweeted
井上先生の記事を読んでたんですが、AI開発停止は必然だな。。必ず停止しなければならない。聞けば聞くほど、滅亡する気しかしなくなってきます。極少数のテック企業がある日、マネーゲームを始めた。そして一般大衆にコンテンツを与え、我々から最初は時間を奪っていきました。今度は全てを奪いにきている。科学者には知的好奇心の餌を与えながら。
全人類の運命を賭けて博打をする事を許してはならない。
10回に1回墜落するかもしれない飛行機にみなさんは乗れますか?
そう問うと、世間で起こる起こるっていうことは起こらないよっていう謎のアノマリーが返ってきたり、インターネットから手が出てくるわけじゃなしどうやって滅びるんだとか言われたりして絶望的な気持ちになったりもします。とりあえず、朝ごはん食べよう。
「AIによる人類滅亡の可能性は10%」駒大准教授が語る発言の真意 「早ければ来年」最悪のシナリオは(ENCOUNT)
#Yahooニュース
news.yahoo.co.jp/articles/81…
井上智洋⏸️ retweeted
AI開発者たちが「人類絶滅」に怯えながら走っている話(1/20)
AIに仕事を任せて楽できると思っていたら、開発トップたちがガチで「人類絶滅」に怯えていた。
しかも悪意すら不要。人類が消える理由は「ただの作業効率」だった――。
有路翔太著『知能爆発』の衝撃の全体像を20枚の漫画にしました(1/20)
🤖 Made with AI
井上智洋⏸️ retweeted
ヒントン教授の新刊をいま、準備中です。来年の夏までに出せるかと。
ノーベル賞ヒントン教授「人類滅亡リスク10~20%」超知能AIと共存するための生存戦略 超知能を「優秀な部下」ではなく「賢い母」に育てる|ビジネス+IT sbbit.jp/article/cont1/18846… #sbbit @bitsbbitより
井上智洋⏸️ retweeted
こういった事案は増えていくだろうな。
人の手に余る制御しきれない人工物はエイリアンと変わらない。
予測ができないことが大きな問題。
ブラックボックスなら開かないに越したことはないと思う。
【速報】米カリフォルニア州がオープンAI提訴
47news.jp/15243939.html?utm_…
井上智洋⏸️ retweeted
『AGI』の重版(3刷)ができ、Amazonなどネット書店で在庫が戻りました。
koichi-takahashi.me/agibook





















