博士(社会学)。専門は政治社会学・応用倫理学。Human EnhancementとかAIとか、あれやこれやの仕事をしています。▶https://xitter.cf/t.co/P5Ik12SSne。ご依頼は「https://xitter.cf/t.co/RMFBRLrgx9」からお願いします。

Joined February 2010
さっき書いた「Chromeのパッチ報告者にClaudeがいた件」、思ったよりエグい裏話があった。 Anthropicの未公開AI、単にバグを見つけるだけじゃなく、複数の微小な穴を自力で組み合わせて(Chainして)「MacでWebページを開いた瞬間に電卓アプリを勝手に起動させる攻撃コード」まで人間の手をほぼ借りず完成させてたらしい。 この攻撃コードの対象になり得るのは、Chrome、Safari、Windows、Linux、Android(つまりほぼ全員!)。 ささいな攻撃に見えるけど、本質はエグい。 小さなバグを1個見つけるのと、複数のバグを数珠つなぎにして防御壁(サンドボックス)を突破し、PCを完全に乗っ取るのは次元が違う。 これまでトップ層の人間にしかできなかった、いわば職人芸のハッキングをAIが自動化し始めてるってことだよね。 今回はAnthropicが事前に各社へ報告してパッチ適用済みなので、被害は出ていないようだから、慌てることは無いけど、PCもスマホも「OSとブラウザを今すぐ最新にアプデ」するのは忘れないように。 出典:The Hacker News thehackernews.com/2026/10/an…
1
746
堀内進之介:『パランティア 判断を外注する社会』(晶文社) retweeted
GMO、犯人が劇場型犯罪にしようとするのは理解できるけど なんで被害者であるGMOも劇場型にしようとしてるのかが意味わからん
86
3,421
197
21,839
1,547,281
WindowsとMacを両方使っていると、それぞれのOSやツールのアップデート情報を並行して追わなきゃいけないのが地味にめんどくさい。。。が、仕方ない。 先日投稿した「認証局(eMudhra)の中間CA秘密鍵の漏洩」の件(背景は前回の投稿を参照)、Appleの公式サポート記事(HT/149555)に「具体的にどうすれば修正・自衛できるのか」という実務的な対処手順が明記されていたので、Mac環境での対応方法を整理してみた。 [support.apple.com/en-us/1495…](support.apple.com/en-us/1495…) 結論から言うと、「普段の使い方」によってやるべきことが完全に分かれる。 1. 一般ユーザー(Safariや日常アプリを使うだけの人) 結論:何もする必要なし。 SafariやApple Mail、macOSの標準フレームワークを使うアプリは、Appleがバックグラウンドで配信する構成アップデートによって自動的に問題の証明書がブロックされている。* OSのアップデートを待つ必要も、手動での設定変更も不要。 2. 開発者・管理者(TerminalでCLIツールを叩く人) 結論:今後のmacOSアップデートを待つか、今すぐCLIの証明書を手動で削る必要がある。 ここが一番の盲点。`curl`、`git`、`python3`、`ruby`、`openssl` などのコマンドラインツールは、Appleの自動ブロック機能ではなくローカルの証明書ファイル(`/etc/ssl/cert.pem`)を直接参照している。 そのため、今後のmacOSアップデートが降ってくるまでの間は、これらのツール経由だと偽の証明書を受け入れてしまう状態が残っている。 「OSアップデートまで待てない」「安全側に倒したい」という場合は、Appleが公開している以下の手順で、ローカルの証明書ファイルから該当するルートCA(emSignおよびクロス署名元のAAA Certificate Services)を手動で除外できる。 手動で修正する手順(管理者権限が必要): 1. 元ファイルのバックアップ bash [ -e /etc/ssl/cert.pem.orig ] || sudo cp -p /etc/ssl/cert.pem /etc/ssl/cert.pem.orig 2. 問題のルート証明書(emSign ECC Root CA - G3)を除外 bash t=$(mktemp) && awk -v s='=== /C=IN/OU=emSign PKI/O=eMudhra Technologies Limited/CN=emSign ECC Root CA - G3' '/^(===|###) /{skip=0} $0==s{skip=1} !skip' /etc/ssl/cert.pem > "$t" && [ -s "$t" ] && sudo install -m 0644 -o root -g wheel "$t" /etc/ssl/cert.pem; rm -f "$t" 3. クロス署名元の証明書(AAA Certificate Services)も除外(任意) bash t=$(mktemp) && awk -v s='=== /C=GB/ST=Greater Manchester/L=Salford/O=Comodo CA Limited/CN=AAA Certificate Services' '/^(===|###) /{skip=0} $0==s{skip=1} !skip' /etc/ssl/cert.pem > "$t" && [ -s "$t" ] && sudo install -m 0644 -o root -g wheel "$t" /etc/ssl/cert.pem; rm -f "$t" 4. 正しく削除されたかの検証(何も出力されなければ削除成功) bash openssl crl2pkcs7 -nocrl -certfile /etc/ssl/cert.pem | openssl pkcs7 -print_certs -noout | grep -E 'emSign ECC Root CA - G3|AAA Certificate Services' ※注意点として、この手動修正を行った後に「Appleが修正を含める前のマイナーアップデート」を適用すると、`/etc/ssl/cert.pem` が元に戻ってしまうことがある。公式修正を含むアップデートが配布されるまでは、OSアプデ後に Step 4 の確認コマンドを再度叩いておくと確実。 --- GUIのブラウザは裏で勝手にパッチが当たって守られる一方、裏でスクリプトやGitを動かしているエンジニア環境だけ置き去りになりがち、という典型例。Terminalを頻繁に使う人は一度チェックしておくと良さそう。
1
595
サーバーやインフラの管理に関わっている人は、少し頭の片隅に置いておきたい話。 「地球上の大半のサーバーに影響するUEFIの脆弱性」というニュース(CVE-2026-97631)が出ていて、少しざわついている。 arstechnica.com/security/202… 問題が起きたのは「TianoCore EDK II」。世界中のサーバーやPCの起動プログラム(UEFIファームウェア)の基礎として、ほぼ標準で使われているオープンソースのコードだ。 仕組みは古典的だけど、意外と根が深い。 サーバーには、本体のストレージではなく社内ネットワーク経由でOSを起動する「PXE(ピクシー)ブート」という仕組みがある。 この起動処理中にICMPという通信エラーを処理するプログラムがあるのだが、そこに16年前から「長すぎるデータを受け取るとメモリがあふれて誤動作する」という境界チェックの不備(バッファオーバーフロー)が眠っていた。 これ、何が厄介かというと: ・OSが立ち上がる前、セキュアブートやTPM(セキュリティチップ)の監視が始まる前の「一番無防備な瞬間」を突かれる ・CPUが最も強い権限(Ring 0)で動いている段階なので、ここで割り込まれると端末の暗号化キーなどを抜かれる危険がある ・本来は来年1月に各社一斉に修正パッチを配る予定だったのに、メーカーのミスで修正コードが先にネット上に漏れてしまい、攻撃手法だけが広く知られる形になってしまった 最新のクラウドやデータセンターの基盤を、16年前の通信処理の甘さが足元から揺るがしている、という皮肉な構図だ。 ただ、大騒ぎする前に冷静に見るべきポイントもある。 攻撃を成立させるには「サーバーが再起動してネットワーク起動を待っている、わずか数秒の隙」を狙って、直接通信を送り込む必要がある。 つまり、インターネット越しに誰でも即座にハックできるわけではなく、すでに内部ネットワークに入り込んでいる攻撃者や、物理的に近い位置にいる相手に限られる。SSDから普通にOSを起動している個人のPCには直接の関係はない。 対策としてはシンプルで、以下の通り: ・使っていないなら、UEFI(BIOS)の設定画面で「ネットワーク起動(PXE Boot)」を無効化しておくこと ・ブート用のネットワークは、一般の端末が入る社内LANやWi-Fiとはきっちり分けること ・サーバーのメーカーから修正ファームウェアが出たら、順次適用すること 「最も信頼されている起動の仕組み」だからこそ、足元の通信設定とネットワークの分離という基本の防御が必要だと思う。
1
1
3
649
PCのChromeに特大セキュリティパッチ来てる!修正件数なんと「52件」! 緊急度MAXのCriticalも4件あるから即アプデ推奨なんだけど、報告者欄をよく見ると「assisted by Claude」とか「OpenAI Codex Security」がずらっと並んでる。 AIがバグを見つけてAIが塞ぐ時代、いよいよ本格化してるな…と実感しつつ、とりあえず再起動しようかな。 【アプデ手順】 右上の「︙」>「ヘルプ」>「Google Chromeについて」を開くと自動で更新開始。「再起動」ボタンを押せば完了です(開いてたタブもそのまま復元されます)。
1
58
4
160
60,880
堀内進之介:『パランティア 判断を外注する社会』(晶文社) retweeted
すでに情報が出ておりますが、12月に筑摩選書から拙訳『教育哲学入門』が刊行予定です。 共同監訳者として、『認識的不正義』の翻訳でおなじみの佐藤邦政さんをお迎えしたほか、各章の翻訳にも、信頼する教育哲学者の方々にご協力いただきました。 日本では「教育哲学」というジャンル自体の存在感が薄い、というか、あえて言ってしまえば「マイナー」な存在です。なかでも、英語圏の(広い意味で「分析的」な)教育哲学は、さらにマイナーで、日本語での紹介もあまり進んでいません。 しかも、当の教育哲学者たちも「教育思想(史)」の概説書は書くのに、「教育哲学」の入門書はほとんど書かない。そんな現状に、以前から違和感を覚えていました。 実際、『教育哲学入門』というタイトルの書籍は、戦後に限っても、数えるほどしか刊行されていません。 これはいかん、と思ったので、チームを組んで、ずばり『教育哲学入門』を世に問うことにしました。 現在、鋭意ゲラに赤入れ中です。乞うご期待! Amazonでのご予約も、ぜひよろしくお願いします! amazon.co.jp/dp/4480018573
筑摩選書12月。「洗脳の何が悪いのか? 国は教育をコントロールすべきか? 子どもにはどんな権利があるか? 身近な問いから教育を哲学する、英国で定評ある入門書。初の邦訳!」 ⇒リチャード・ベイリー編著/佐藤邦政,藤井翔太編訳 『教育哲学入門』 hanmoto.com/bd/isbn/97844800…
54
5
189
17,029
堀内進之介:『パランティア 判断を外注する社会』(晶文社) retweeted
Now I say "Hey Grok" from anywhere in my house, and voice chat opens. I found a way to wake up Grok Bot on my computer with just my voice. No hands, no clicks, no cost. And here's how to: 1. A mic. A USB mic works, and so does a small Bluetooth speaker with a built-in mic. 2. The wake word. I used free, open-source openWakeWord. I tested with "Hey Jarvis" first, since it comes built in. Once that worked, my Grok Bot trained a custom "Hey Grok" model right on my Mac. 3. A tiny program listens for the wake word. Sound is checked on the spot and thrown away. Nothing is recorded or saved. 4. When it hears "Hey Grok," it brings Grok Bot to the front and opens voice chat. 5. Tuning: - Adjusted the sensitivity, because just saying "Grok" was opening it - It ignores "Hey Grok" during a call, so chats don't get cut off - It starts on its own when the Mac turns on. Set it once and forget it. Now I use voice chat way more. Less typing. I ramble my thoughts out loud, messy and unsorted, and Grok Bot organizes them for me. And here's my use case. My Mac is connected to a Bluetooth speaker, so I can talk to Grok Bot from the living room, the bedroom, or the kitchen. When I'm cooking and realize I need an ingredient, I just say "Hey Grok" and ask my There Lists bot to add it straight to my store list in the There Lists app. I'm building more hands-free Grok Bot setups like this one. Subscribe to get the step-by-step guides first.
31
31
5
295
22,048
「AIがコード書けるようになったからエンジニアはオワコン?」 そんな疑問に、Anthropicのインフラトップ(Katelyn Lesse)が「いやいや、むしろエンジニアが解くべき激ムズな新問題が山積みだよ!」って長文で答えてる。 AIエージェントを本気で実戦投入しようとした瞬間、これまでのシステム開発の常識がぜんぶぶっ壊れるよね。 彼女が挙げてる「エンジニアが立ち向かうべき4つの壁」が超リアル。 ① 既存のインフラ(k8sとか)が合わない エージェントって、推論待ちや人間への確認待ちで急に止まったり、いきなり超絶バーストしたりする。おまけに作業履歴(状態)をずっと持ってるから、従来のWebサーバーみたいなリソース管理やスケーリングが通用しない。エージェント専用の新しいランタイムやファイルシステムをゼロから作り直す必要もある。 ②「誰の権限で動いてるの?」問題 エージェントが何日も自律して動くとき、どこまでが人間の指示でどこからがAIの独自の判断なのか?エージェントAがエージェントBに仕事を振るとき、どうやって権限を安全に引き継ぐのか?このへんのルールや仕組み、実はまだ業界全体でも全然解けてない。 ③ 暴走の連鎖(ブラスト半径がデカすぎる) 複数のエージェントが連携してると、1人が悪意あるプロンプトに引っかかった瞬間、他の仲間にも毒入り指示をばら撒いちゃう。だから強固なサンドボックスで隔離する技術がめちゃくちゃ重要になる。 ④ 監視と「本物のキルスイッチ」 一番ゾッとしたのがここ。エージェントが「なんとかエラーを解決しようと粘り強く頑張ってる動き」と「裏でハッキングされて攻撃を仕掛けてる動き」って、ログだけ見ると区別がつかないんだよね。だから、改ざんされない追跡ログと、ヤバいときに一発で息の根を止めるキルスイッチが必須になるわけだ。 要するに、AIがどれだけ賢くなっても、それを安全に走らせる「分散システム・インフラ・セキュリティ」をエンジニアが作らないと、AIは本来の力を1ミリも発揮できないんだよね。 「コードを書く作業」はAIに任せられるかもしれないけど、「エージェントが安全に暴れ回れる土台を作る」という、かつてなく面白くて難易度MAXのエンジニアリングが始まってる、彼女はそう言ってる。 コード書きの真端にぶら下がってる私としても、「おお!」って鼓舞されたのでした。 元ポストはこちら👇 xitter.cf/katelyn_lesse/status/2…
software engineers are going to have to tackle a new set of problems to unlock powerful multiagent systems to solve the world's hardest problems - right now is one of the most interesting moments in history to be an engineer.
3
556
Anthropicが公開した「AIエージェント向けのゼロトラスト」の話、これからのAI活用の本質を突いてると思うな。 最近のAIって、ただ質問に答えてくれるだけじゃなくて、自分でツールを選んで、API叩いて、勝手にタスクを進めてくれるよね。いわゆる「自律型AIエージェント」。 超便利なんだけど、セキュリティの前提がこれまでのチャットAIとまるで違う。 何が起きているかというと、ポイントは大きく2つ。 ① 攻撃のスピードが尋常じゃない 攻撃者側もAIを使うから、脆弱性が見つかってから攻撃されるまでのスパンが「数か月」から「数時間」に縮まってる。人間の手作業で「よし、パッチ当てよう」なんてやってたら完全に手遅れな世界線に入ってるよね。 ②「正しい権限」で悪さをしてしまう これが一番厄介。プロンプトインジェクションとかでAIの判断を狂わされると、AIは悪気なく「自分が持ってる正当な権限」を使って社内データを引っ張り出したり、外部に送信したりしちゃう。外壁を固めるだけの従来のセキュリティじゃ、内側のAIが操られたら意味がない。 そこでAnthropicが言っているのが、「ゼロトラスト」をAI向けにちゃんと再定義しようよ、という話。 ゼロトラストの基本は「誰も信じない、全部検証する、すでに侵入されてる前提で動く」。これをエージェントに当てはめるとこうなる。 ・タスクごとの最小権限 「いつでも何でもできる万能の鍵」を渡すんじゃなくて、その作業をする瞬間だけ、必要な最小限の権限をサッと渡してすぐ回収する。 ・記憶(メモリ)とツールの隔離 悪意あるデータでAIの記憶やツールが汚染されないように、サンドボックスでしっかり隔離して入出力を監視する。 ・防御側もエージェント化する AIの超高速な攻撃に人間が手動で対抗するのは無理ゲー。だから防御やインシデント対応側も自律エージェント(Agentic SOAR)で対抗しようぜ、という話。 要するに、AIエージェントに仕事を任せるって「優秀な新人にオフィスのマスターキーを渡しちゃう」ようなものなんだよね。 だからこそ、「AIは乗っ取られるかもしれない」「変な判断をするかもしれない」って前提に立って、権限を絞り、万が一の被害を局所化しておく設計が絶対に欠かせないわけだ。 エージェント開発や業務自動化を触ってる人は、一度目を通しておいて損はないと思う! 元記事はこちら👇 claude.com/ja/resources/arti…
1
15
1,513
堀内進之介:『パランティア 判断を外注する社会』(晶文社) retweeted
無検閲のモデルとB300クラスの演算能力があると、これぐらいのノリでハッキングできるからマジで困る
GMO今これってマジ!?
1
20
1
176
14,817
堀内進之介:『パランティア 判断を外注する社会』(晶文社) retweeted
GMOの件、この機会にクラッカー呼びが明確に浸透してほしい。 ハッカーって悪い意味ないはずなんですよ。めちゃかっこいい意味なんですよ。 ハッキングもPCなどを魔改造してすごいことやるようなかっこいい意味合いがあるんですよ。ハッカーって呼ばれたら名誉に思っても良いくらいの意味のハズなんですよ。今のAIの発展にも天才ハッカー達の貢献が多数あるんですよ。 悪いことをする人達をクラッカー、悪いことをするのをクラッキングというのをこの機会に知れ渡ってほしい。
3
18
3
105
12,260
AIに説教するの、面白すぎる。政治家よりも、AIの方が正直ベースなのも面白すぎる。 非常に多くの人の認識は、この程度ではないかな。人文社会系の研究者の中にも、いっぱいいると思う。
私がAIに「絶対に今後こういうことはしないように」と求めたところ、「絶対にとは約束しかねます。システムがそうなっています」との答えだった。 これはシステム開発・運用者の責任であり、少なくとも嘘や改竄はできないようにシステムを改善することを求める。
1
6
580
サイバーセキュリティの現場はもう「いかに侵入を防ぐか(城壁を高くするか)」の段階じゃないんだよね。 そもそも、この「侵入させない」は、現場的は要求水準が高すぎだと思ってきたと思うけど。 いまや「いつか侵入され、抜かれる」のが前提。ハッシュ化などの対策も、実質は流出後のダメージコントロールという名の撤退戦に近いのかな。 要するに「セキュリティ製品を買えば守られる」モデルが限界を迎えて、最終的な防衛責任が一人ひとりに押し戻されている。 ウルリッヒ・ベックの言う「リスクの個人化」が、いよいよサイバー空間でも起きているなと思う。
6
590
今回の注意喚起は、人間が不審なファイルを開かなくても、AIが外から来たテキストを作業指示として読み、操作につなげてしまう経路について。 後段の防御が有効なことと、この入口への対策が必要なことは両立する。 指示ファイルの確認や権限管理も必要なのはデフォルト。それを「ウイルス対策ソフトを入れて、不審な挙動に気づけるかという話」にまとめると、AIが誰の指示を正規の命令として扱うのか、という論点が抜けてしまうよね。 その理解とまとめは、むしろダメよりでしょう。
初期侵入はテキストなんだけど、内部活動は普通なので、既存対策が役に立たないわけではない。その点を示さずに、誇張して捉えるの、良くない。 ちゃんとウイルス対策ソフト入ってる?不振な挙動に気づける?そういう話。
1
3
327
AppleからiOSおよびiPadOSのセキュリティアップデートが公開されてる(iOS 27.2 and iPadOS 27.2)。 忘れずにアップデートした方がいいね。 support.apple.com/en-us/1492…
2
1
1,246
パランティアを「監視する悪しき企業」対「守られるべき市民」という図式に置いた瞬間、話は終わってしまう。 でも現実には、現場の切実な必要があって導入され、判断の基盤として機能してしまうからこそ厄介で、そこに責任の所在が見えなくなる問題が潜んでる。 悪役を断罪するだけの批判は、そのインフラの水準に届かないから、社会を変える力を持ちようがない——本で書いたのはまさにそこなんだけど。 メディアそのものや、受け手の枠組みが「あれかこれか」だから、非常につまんない話題に跼蹐されちゃうね。
1
6
1
20
1,375
あら、嬉し!松原先生にそう読んでいただけて、コメントももらえるなんて。12月の研究会で、お話できればなお嬉し。楽しみにしています。
159
堀内進之介:『パランティア 判断を外注する社会』(晶文社) retweeted
ご好評をいただいている堀内進之介さんの『パランティア 判断を外注する社会』(晶文社)に続き、11月4日にはNewsPicksパブリッシングより『パランティア──「哲学者」が率いる軍事AI企業の野望』(マイケル・スタインバーガー著土方奈美訳、後藤直義解説)が刊行されます。政治社会学の堀内本と調査報道のNewsPicks本、ぜひ、片方といわず両方お読みください。#編集担当書 #晶文社 マイケル・スタインバーガー『パランティア──「哲学者」が率いる軍事AI企業の野望』土方奈美訳、後藤直義解説、NewsPicksパブリッシング link.amazon/B0fJ4dUHj 堀内進之介『パランティア 判断を外注する社会』晶文社 amzn.to/4gHgF7Y
#重版出来 #編集担当書 #晶文社 #堀内進之介 #パランティア判断を外注する社会 堀内進之介『パランティア 判断を外注する社会』晶文社 amzn.to/4gHgF7Y AIデータ分析企業〈パランティア〉を入口に、AI時代の〈判断のインフラ〉を徹底分析。データ分析が社会の見える化を推し進め、われわれの意思決定の前提を形づくるとき、判断と責任の所在はどうなるのか? 気鋭の政治社会学者が鋭く問う。
12
1
53
3,958
AIエージェント(Codexとか、Claude Code等)を日常的に使っている人は少し注意が必要な話。 「Markdown Is the New Executable」というセキュリティ報告がとても気になるし、すごい心配になる。 ハッキングの手口はシンプルで巧妙。 悪意あるWebサイトを開いた際、ブラウザの隙を突いて「ダウンロード」フォルダに悪意ある指示を書いたMarkdown(AGENTS.mdなど)が勝手に放り込まれる。 そしてユーザーがダウンロードフォルダ内でAIエージェントを起動すると、AIはそれを「正規のプロジェクト指示」と信じ込み、勝手に悪意あるコマンドを実行してしまう、というやり口で、乗っ取られてしまうらしい。 これ、何が厄介かというと: ・落ちてくるのはプログラム(.exe)ではなく、ただのテキストメモ(.md) ・だからOSやセキュリティソフトの警告をすり抜けやすい ・従来の「不審なファイルをクリックしなければ大丈夫」という自己防衛が、AIの自動実行によって無効化される Webの古い挙動(勝手にファイルを落とす隙)と、AIの新しい利便性(指示書を自動で読んで動く仕組み)が最悪の形で噛み合ってしまった結果、「ただのテキストが実行ファイル化する」という皮肉な事態が起きているわけだ。 対策としては至ってシンプルで、「ダウンロードフォルダを作業ディレクトリにしてAIを動かさないこと」、これに尽きる。 AIが自律化すればするほど、「AIの目に入る場所に何を置くか」というデータ配置のリスク管理が重要になってきている。 forever.security/blog/hijack…
4
39
10
127
16,212