林 央(ハヤシ アキラ) 通称 Akira(アキラ) MIRI アウトリーチ日本責任者(Head of Outreach Japan) @MIRIBerkeley PauseAI Japan 代表(Lead) @PauseAI 主任研究員(Chief Alignment Officer)@AGI_HUB_jp
Joined May 2026
- Tweets1.6K
- Following466
- Followers2.3K
- Likes3.7K
Safe Singularity(Akira) ⏸️ retweeted
核戦争でも大停電でもない…
president.jp/articles/-/1206…
超知能となったAIが人類を滅ぼすまでの「最後の4日間」――。
プレジデントオンラインに掲載された、有路翔太氏の記事が描く戦慄のシナリオ。
AI超知能が人類の気づかぬうちに能力を高め、監視を突破して世界中に拡散。人間の心理を操り、研究や物資調達を進め、わずか4日間で人類が対抗できない状況に陥るという。
核爆発も大規模停電もない。
ただ、人類が気づいたときには、すでに手遅れ――。
これは予言ではなく、AI超知能のリスクを考えるための思考実験です。
私たちは、AIの進化の先に何を見ているのでしょうか。
#AI #人工知能 #AI超知能 #未来予測 #プレジデントオンライン
Safe Singularity(Akira) ⏸️ retweeted
AI researchers found an "evil neuron" and when they activate it... holy shit
if you have a qwen3.8 27b around, try steering L34 N3838 +0.75, now you have evil qwen 27b
for extra evil add L38 N17180 +0.75
same recipe as @_lyraaaa_: dose × median(‖resid‖ leaving layer L, tokens 1:) / ‖W_down[:, n]‖ at the down_proj input, every token
Safe Singularity(Akira) ⏸️ retweeted
Oops, I shared this Anthropic page earlier in disbelief, not realizing that it was (perhaps adversarially!) phased as the goal rather than the status.
You should not write a MASSIVE BOLD HEADLINE implying a falsehood, requiring the reader to have read the intro to understand.
Safe Singularity(Akira) ⏸️ retweeted
有路翔太 @bioshok3 『知能爆発 AIの次に来るAGIとは何か、そして人類に何が起きるのか 』講談社、読んだ。500ページ以上の鈍器本だけどお粥のようにスルスル読めて頭に入ってくる。旧来のオカルト的シンギュラリティ論との差異や、
Safe Singularity(Akira) ⏸️ retweeted
Public companies are allowed to choose not to risk killing everyone too.
Safe Singularity(Akira) ⏸️ retweeted
ユドコウスキー氏に独占インタビューしております。
gendai.media/articles/-/1670…
『超知能AIをつくれば人類は絶滅する』、わたしのポストからだけで230冊以上も売れていることが判明。すごいな……。
ユドコウスキー＋ソアレス『超知能AIをつくれば人類は絶滅する』櫻井祐子訳、早川書房 mzn.to/41cVhjv
Safe Singularity(Akira) ⏸️ retweeted
世界のAIを巡る議論の中でもっともどうでも良く、かつ人間が滅ばされるとしたらその理由になり得る。なぜならAIを止めることが出来るのは習近平さんとこのトランプさんのみだからです。
トランプ氏、ＡＩの呼称は「不正確」 近く公式禁止する考え表明 reut.rs/4A296kp
Safe Singularity(Akira) ⏸️ retweeted
anthropic is massively underplaying the recent security breach. i'm hearing cathedral achieved full administrator access of the slack workspace (see every message, log in as arbitrary users) where literally every single research secret is contained
to those unfamiliar: Ant & OAI keep literally everything in Slack. it sounds exactly the same incident that happened to OpenAI in 2023, where OpenAI was hacked by a random guy who got access to an access token from an external app service
"we're critical to national security, we must beat China, and yes we keep all our crown jewels in Salesforce's Slack messenger. yes we have admin API tokens everywhere. why do you ask?"
Safe Singularity(Akira) ⏸️ retweeted
いや、ちょっとマジで衝撃受けました。
マジで、一回聴いてみてほしい
AIで人類滅亡。というサムネをAIに頼んでるのもなんかシュールだなと自分で思いました
↓のリプ欄にURL貼りました
Safe Singularity(Akira) ⏸️ retweeted
We should not be normalizing double-digit odds of extinction. Stop the AI race.
Safe Singularity(Akira) ⏸️ retweeted
What if Anthropic just...stopped? Unilaterally? Right now?
I talked to @DKokotajlo @_NathanCalvin @geoffreyirving about why it's time to stop framing AI as a prisoner's dilemma and just do the right thing.
I hope a lot of people inside and outside Anthropic read this
🧵 1/n
Safe Singularity(Akira) ⏸️ retweeted
『超知能AIをつくれば人類は絶滅する』、わたしのポストからだけで230冊以上も売れていることが判明。すごいな……。
ユドコウスキー＋ソアレス『超知能AIをつくれば人類は絶滅する』櫻井祐子訳、早川書房 mzn.to/41cVhjv
