Pinned Tweet
未来に向けて私達が何ができそうか、駄文を書いてみました。
第4回:自治体システム運用における「伴走支援」とは何か 〜運用SEは自治体業務の外部記憶装置である〜|Meteor note.com/meteor8065/n/n858b2…
现在都在推崇用本地 Markdown 文件夹给 AI 当知识库,但有个哥们实测完发现,这做法比用数据库多烧了 40 倍的 token。
这个哥们叫 Richard,他们团队就两个人(其中一个还是兼职),带着几千个 Agent 干了两个月。
结果两个月下来,光是项目记录、沟通和文档,就攒出了 11,000 多个 Markdown 文件,足足 120MB。
以前人类自己记笔记,在 Obsidian 里攒一万个文件得花好几年。
现在 Agent 产出的上下文实在太猛,两个月就干到了这个量级。
他把这 1.1 万个文件拉出来跑了 120 次真实工作问答测试,对比 Agent 直接翻 Markdown 文件夹和查 SQLite 数据库的差距。
拿到同样正确的答案,用 SQLite 消耗的 token 只有 Markdown 的 1/40,算下来账单便宜了 20 倍,速度还快了 6 倍。
看里面的调用日志,有几个细节我真没想到:
第一,纯文本检索在需要全局统计的问题面前直接崩溃。
比如问一句“哪个项目下面活跃的任务最多”。
用 SQLite 的 Agent 写了条查询语句,花 43 秒、13.8 万 token 就答对了。
而读纯 Markdown 的 Agent,在目录里疯狂跑了四五十次 grep 和 find,单次任务直接干掉 1500 万 token,跑了十多分钟,最后还是回答失败。
第二,Agent 甚至被逼得自己手写数据库。
测试里有一组带了严格类型头部的 Markdown 文件。
Agent 试了几下发现用命令行硬搜太蠢,居然自己当场写了个 Python 脚本,把一万多个文件读进内存,自己在内存里搞山寨 SQL 查询。
这玩意太逗了,你不给它数据库,它为了活命自己现场造一个。
第三,很多人觉得现在有上下文缓存(Cached tokens),长会话很便宜。
这哥们算完总账发现,长会话里超过 2/3 的钱,全都烧在了缓存输入上。
因为 Agent 在文件夹里迷路时,每多调一次命令行工具,前面攒下的几十万甚至上百万 token 就要重新刷一遍计费。
单次看着打折,架不住它原地打转调四五十次工具。
我觉得这事把一个被忽略的边界挑明了:
平时几百个文件以内,直接拿 Markdown 喂给 AI 确实最爽,零配置,随便改。
但只要文件量上万,或者你真的靠 Agent 高频干活,纯文本文件夹就是个吞金兽。
这哥们最后搞的架构其实挺通透:底层用事件日志和 SQLite 给 AI 提供查询接口,同时在本地同步投影成 Markdown 文件夹。
人看人的纯文本,AI 查 AI 的数据库。
看完我默默打开自己那个塞满 .md 的工作目录看了一眼。
难怪最近跑任务老觉得 token 掉得跟流水一样,我还以为它在做什么高深的逻辑推理,合着它每天都在我的文件夹里盲人摸象,每摸一下还要收我一次过路费。
看来周末得写个脚本把这堆文件全塞进 SQLite 里,省下来的钱拿去吃顿好的算了。
news.ycombinator.com/item?id…
実際問題として、まだ移行できてない自治体も多数存在しますし、移行できたとして、運用1年目は地雷を踏みぬきながら進めてるような状況もあるので、まだ全然戦後では無いですよね。
まだ、戦後ではない。
JLISフェア「自治体情報システムの標準化の課題と今後の展望について」
結果的に、前の方を標どう塾生で(数時間前までしこたまいっしょに飲んで解散したのに)固まって聴講する構図に講演が終わった時点で気づき吹きました。
さて、内容についてです。
タイトルに相応しくデジタル庁の反省点・課題の芯を捉えた内容だったと思います。一方で、地方部隊の現場の立場で言わせてもらうと、「戦後」の反省としは評価できるが、「戦前」「戦中」の混乱期に的を得た対応ができるのか?できたのか?が重要。かなりの犠牲を伴った取り組みだったのでどうしても「今、言われても」と言うモヤモヤはある。そして、重要なのは現在進行形で「戦中」なのである。
Meteor retweeted
アジビラが良いように、各チャネルで軌道修正すべき材料は投げていたが、全部が全部じゃないが軸になる部分は絶対に変えなかった。「標準化の反省」としてごまかしで終らないのか?日本の官僚機構そのものの反省点ではないのか?彼らの能力は本当にすごい。しかし、黒と思っても上官が白だと言えば、その能力がそれに向けて使われたのを目の当たりにしたのですよ。まぁ、そこまで話を大きくしても仕方ありませんが。いずれ、話は聞くけど決まった道は絶対に変えませんと言う姿勢がある限りDXを語っちゃダメ。
Meteor retweeted
動画があったとのことなので、追っかけ再生。
信頼関係が難しくなってしまった状況に対して、期待をもう一度抱いてもいいかなと思う人も出てくる講演だったのかなと思いました。ここが定まらないと全てが揺れ動いてしまうので、その最初としては充分なお話だったかと思います。
しかし3年前くらいとどうしてこんなにも人としてのバラツキがあるのかについては、本当にもったいないと言わざるを得ない。
動画はこちら
youtube.com/live/ZNAGPrm3F8M
Replying to @goingmywill
全く以て仰る通り。
先行団体検証事例とか、Fが投げたタイミングとか、立ち止まるポイントもいくつかあったと思うんですけどね。
Meteor retweeted
私もここでしかないと思いますね。
技術や状況の変化は早いし、最初に出した答えが間違っていても仕方ないと思っているし、この課題に気づいていた人がいなかったわけではないわけで、そうすると進める中でどうにかすることができなかったかが今後においても最大の焦点にしなければならないと思う。
そういう意味でも振り返りはもちろんのこと、これからそういう場合にどうするかについて定めて実行して紆余曲折を乗り越えていける体制づくりが肝だと思いました。
確かに戦中の際の組織ガバナンス的な部分にも突っ込むべきかな。
失敗の本質にも書かれているように、戦時中の意思決定と統制についてはまさにこの標準化(特にガバクラ)は旧日本軍的なムーブがあったように思う。
え、どんなことかって?「ガバクラはうまく行きません」と誰も言えなかったことやな。
JLISフェア「自治体情報システムの標準化の課題と今後の展望について」
結果的に、前の方を標どう塾生で(数時間前までしこたまいっしょに飲んで解散したのに)固まって聴講する構図に講演が終わった時点で気づき吹きました。
さて、内容についてです。
タイトルに相応しくデジタル庁の反省点・課題の芯を捉えた内容だったと思います。一方で、地方部隊の現場の立場で言わせてもらうと、「戦後」の反省としは評価できるが、「戦前」「戦中」の混乱期に的を得た対応ができるのか?できたのか?が重要。かなりの犠牲を伴った取り組みだったのでどうしても「今、言われても」と言うモヤモヤはある。そして、重要なのは現在進行形で「戦中」なのである。
戦中の表現はまさにと思った。自分がちょっと危惧したのは、一部運用経費を国が負担することで満足して、国と事業者だけが苦労する構図にならないかと。最適化されたシステムがあるとして、それに業務を合わせる覚悟を持つのは自治体しかないので、自治体側も現場から意見していかないとと思います
JLISフェア「自治体情報システムの標準化の課題と今後の展望について」
結果的に、前の方を標どう塾生で(数時間前までしこたまいっしょに飲んで解散したのに)固まって聴講する構図に講演が終わった時点で気づき吹きました。
さて、内容についてです。
タイトルに相応しくデジタル庁の反省点・課題の芯を捉えた内容だったと思います。一方で、地方部隊の現場の立場で言わせてもらうと、「戦後」の反省としは評価できるが、「戦前」「戦中」の混乱期に的を得た対応ができるのか?できたのか?が重要。かなりの犠牲を伴った取り組みだったのでどうしても「今、言われても」と言うモヤモヤはある。そして、重要なのは現在進行形で「戦中」なのである。
Meteor retweeted
動画はこちら
youtube.com/live/ZNAGPrm3F8M
JLISフェア「自治体情報システムの標準化の課題と今後の展望について」
結果的に、前の方を標どう塾生で(数時間前までしこたまいっしょに飲んで解散したのに)固まって聴講する構図に講演が終わった時点で気づき吹きました。
さて、内容についてです。
タイトルに相応しくデジタル庁の反省点・課題の芯を捉えた内容だったと思います。一方で、地方部隊の現場の立場で言わせてもらうと、「戦後」の反省としは評価できるが、「戦前」「戦中」の混乱期に的を得た対応ができるのか?できたのか?が重要。かなりの犠牲を伴った取り組みだったのでどうしても「今、言われても」と言うモヤモヤはある。そして、重要なのは現在進行形で「戦中」なのである。
Meteor retweeted
JLISフェア「自治体情報システムの標準化の課題と今後の展望について」
結果的に、前の方を標どう塾生で(数時間前までしこたまいっしょに飲んで解散したのに)固まって聴講する構図に講演が終わった時点で気づき吹きました。
さて、内容についてです。
タイトルに相応しくデジタル庁の反省点・課題の芯を捉えた内容だったと思います。一方で、地方部隊の現場の立場で言わせてもらうと、「戦後」の反省としは評価できるが、「戦前」「戦中」の混乱期に的を得た対応ができるのか?できたのか?が重要。かなりの犠牲を伴った取り組みだったのでどうしても「今、言われても」と言うモヤモヤはある。そして、重要なのは現在進行形で「戦中」なのである。
1日目の裏セッションの討議会は、目から鱗の非常に勉強になる会だった。
企画いただいた方々ありがとございました。
標準化・ガバクラって見てる人の数だけ見え方違うのだよなぁと改めての気づき。
だからこそ一律強制的に進めるのは良くない、身の丈にあった選択肢を残しておくべきだなぁと。
人には人の乳酸菌。














