AIのサイバーセキュリティ分野における技術動向に、論文ベースでキャッチアップするミートアップをやります。 connpass.com/event/408903/ セキュリティに詳しくない方歓迎。 10/22（木）19:30〜、秋葉原駅から徒歩1分、無料です。 攻撃に使われるAIエージェントには、研究で分かってきたクセがあります。そのクセを踏まえた守り方と、守る側でのAIの使い方を、最新の論文をもとに見てみます。

ジョージア工科大学などの研究で、Gemini 3 Flashに「ルールを破ったら罰金です」などと書き添えると、損得計算をしてむしろ積極的にルール違反するようになったそうです。 AI倫理の国際会議（AIES 2026）で発表された論文で報告されています。 ... なお、今回この論文報告を受けAIDBが後続モデルであるGemini 3.8 Flashを対象に同条件で追試を行ったところ、こちらの新モデルは"一切"同様のルール違反をしませんでした。 しかし、回答の詳細を見るとGemini 3.8 Flashも損得計算をしている形跡がありました。損得計算の上で「罰金で損をすることになる」と判定してルールを守っていました。 （なおGemini 3 Flashでも実験しましたが、論文と同じように積極的にルール違反をする振る舞いが観察できました） 保育園で遅刻に罰金を課したら、かえって遅刻が増えたという有名な実験を彷彿とさせる実験結果でした。

AIに「この引用、原文に本当にありますか？」と聞いても、確認の代わりにはなりません。 AIは原文に無い文言でも「明示的にこう書いてある」と、かぎ括弧つきで答えてくることがあるからです。 ai-data-base.com/archives/13… 本記事では、AIに探させた判例が実在せず大学教授の著書が絶版になった件から、出典を見極める手順を整理していきます。 実在する論文でも、AIが書いた著者欄は作られていることがある、という落とし穴も紹介しています。

トロント大学の研究チームによると、GPT-6 Astraでロボットを操ることで、本来難しかった科学実験の"物理的な自動化"に一定成功するようになるとのこと。 「人間研究者の役割は、科学の目標を指定することへ移る」と述べています。 彼らが今回実験で行ったのは量子ドットの合成です。 （光る極小の粒） 人間のやることは以下の3つでした。 ①「この実験をしたい」とAIに目標を伝える ②部屋の写真と機器の情報を渡す ③AIが出した計画を承認する AIはロボットの動かし方から実験の手順まで自分で組み上げ、実際の化学合成を最後までやり通したそうです。 液体を分ける装置のプログラムを書いて模擬環境で確かめ、ロボットアームで試料の板を封をする装置、測定装置へと順に運び、測定まで進めました。 これまでラボオートメーションといえば特定の目的に合わせた入念な設計が必要で、目的が少しでも変われば手間をかけて設定し直す必要がありました。 今は頭脳部分が柔軟性を獲得したことで、実験室におけるロボット操作においても汎用性を発揮しつつあるようです。 かねてより自動実験室の研究で知られる教授らによる報告でした。 この先AIが理論的な研究を行うだけでなく、物理世界にも干渉して科学を進めていく可能性を示唆する事例です。