Meteor (@goingmywill) header
Meteor (@goingmywill) profile picture

自治体システム関連のこと|SE|地方ベンダです|本アカウントの発言内容は所属する機関会社とは全く関係なく本人の個人的見解

日本
Joined December 2020
Photo by Meteor (@goingmywill)Photo by Meteor (@goingmywill)Photo by Meteor (@goingmywill)Photo by Meteor (@goingmywill)Photo by Meteor (@goingmywill)Photo by Meteor (@goingmywill)Photo by Meteor (@goingmywill)Photo by Meteor (@goingmywill)Photo by Meteor (@goingmywill)Photo by Meteor (@goingmywill)
Meteor retweeted
现在都在推崇用本地 Markdown 文件夹给 AI 当知识库,但有个哥们实测完发现,这做法比用数据库多烧了 40 倍的 token。 这个哥们叫 Richard,他们团队就两个人(其中一个还是兼职),带着几千个 Agent 干了两个月。 结果两个月下来,光是项目记录、沟通和文档,就攒出了 11,000 多个 Markdown 文件,足足 120MB。 以前人类自己记笔记,在 Obsidian 里攒一万个文件得花好几年。 现在 Agent 产出的上下文实在太猛,两个月就干到了这个量级。 他把这 1.1 万个文件拉出来跑了 120 次真实工作问答测试,对比 Agent 直接翻 Markdown 文件夹和查 SQLite 数据库的差距。 拿到同样正确的答案,用 SQLite 消耗的 token 只有 Markdown 的 1/40,算下来账单便宜了 20 倍,速度还快了 6 倍。 看里面的调用日志,有几个细节我真没想到: 第一,纯文本检索在需要全局统计的问题面前直接崩溃。 比如问一句“哪个项目下面活跃的任务最多”。 用 SQLite 的 Agent 写了条查询语句,花 43 秒、13.8 万 token 就答对了。 而读纯 Markdown 的 Agent,在目录里疯狂跑了四五十次 grep 和 find,单次任务直接干掉 1500 万 token,跑了十多分钟,最后还是回答失败。 第二,Agent 甚至被逼得自己手写数据库。 测试里有一组带了严格类型头部的 Markdown 文件。 Agent 试了几下发现用命令行硬搜太蠢,居然自己当场写了个 Python 脚本,把一万多个文件读进内存,自己在内存里搞山寨 SQL 查询。 这玩意太逗了,你不给它数据库,它为了活命自己现场造一个。 第三,很多人觉得现在有上下文缓存(Cached tokens),长会话很便宜。 这哥们算完总账发现,长会话里超过 2/3 的钱,全都烧在了缓存输入上。 因为 Agent 在文件夹里迷路时,每多调一次命令行工具,前面攒下的几十万甚至上百万 token 就要重新刷一遍计费。 单次看着打折,架不住它原地打转调四五十次工具。 我觉得这事把一个被忽略的边界挑明了: 平时几百个文件以内,直接拿 Markdown 喂给 AI 确实最爽,零配置,随便改。 但只要文件量上万,或者你真的靠 Agent 高频干活,纯文本文件夹就是个吞金兽。 这哥们最后搞的架构其实挺通透:底层用事件日志和 SQLite 给 AI 提供查询接口,同时在本地同步投影成 Markdown 文件夹。 人看人的纯文本,AI 查 AI 的数据库。 看完我默默打开自己那个塞满 .md 的工作目录看了一眼。 难怪最近跑任务老觉得 token 掉得跟流水一样,我还以为它在做什么高深的逻辑推理,合着它每天都在我的文件夹里盲人摸象,每摸一下还要收我一次过路费。 看来周末得写个脚本把这堆文件全塞进 SQLite 里,省下来的钱拿去吃顿好的算了。 news.ycombinator.com/item?id…
67
99
15
1,189
140,576
Meteor retweeted
実際問題として、まだ移行できてない自治体も多数存在しますし、移行できたとして、運用1年目は地雷を踏みぬきながら進めてるような状況もあるので、まだ全然戦後では無いですよね。 まだ、戦後ではない。
JLISフェア「自治体情報システムの標準化の課題と今後の展望について」 結果的に、前の方を標どう塾生で(数時間前までしこたまいっしょに飲んで解散したのに)固まって聴講する構図に講演が終わった時点で気づき吹きました。 さて、内容についてです。 タイトルに相応しくデジタル庁の反省点・課題の芯を捉えた内容だったと思います。一方で、地方部隊の現場の立場で言わせてもらうと、「戦後」の反省としは評価できるが、「戦前」「戦中」の混乱期に的を得た対応ができるのか?できたのか?が重要。かなりの犠牲を伴った取り組みだったのでどうしても「今、言われても」と言うモヤモヤはある。そして、重要なのは現在進行形で「戦中」なのである。
1
7
288
アジビラが良いように、各チャネルで軌道修正すべき材料は投げていたが、全部が全部じゃないが軸になる部分は絶対に変えなかった。「標準化の反省」としてごまかしで終らないのか?日本の官僚機構そのものの反省点ではないのか?彼らの能力は本当にすごい。しかし、黒と思っても上官が白だと言えば、その能力がそれに向けて使われたのを目の当たりにしたのですよ。まぁ、そこまで話を大きくしても仕方ありませんが。いずれ、話は聞くけど決まった道は絶対に変えませんと言う姿勢がある限りDXを語っちゃダメ。
私もここでしかないと思いますね。 技術や状況の変化は早いし、最初に出した答えが間違っていても仕方ないと思っているし、この課題に気づいていた人がいなかったわけではないわけで、そうすると進める中でどうにかすることができなかったかが今後においても最大の焦点にしなければならないと思う。 そういう意味でも振り返りはもちろんのこと、これからそういう場合にどうするかについて定めて実行して紆余曲折を乗り越えていける体制づくりが肝だと思いました。
2
10
451
動画があったとのことなので、追っかけ再生。 信頼関係が難しくなってしまった状況に対して、期待をもう一度抱いてもいいかなと思う人も出てくる講演だったのかなと思いました。ここが定まらないと全てが揺れ動いてしまうので、その最初としては充分なお話だったかと思います。 しかし3年前くらいとどうしてこんなにも人としてのバラツキがあるのかについては、本当にもったいないと言わざるを得ない。
5
19
887
Meteor retweeted
Replying to @goingmywill
全く以て仰る通り。 先行団体検証事例とか、Fが投げたタイミングとか、立ち止まるポイントもいくつかあったと思うんですけどね。
1
4
132
私もここでしかないと思いますね。 技術や状況の変化は早いし、最初に出した答えが間違っていても仕方ないと思っているし、この課題に気づいていた人がいなかったわけではないわけで、そうすると進める中でどうにかすることができなかったかが今後においても最大の焦点にしなければならないと思う。 そういう意味でも振り返りはもちろんのこと、これからそういう場合にどうするかについて定めて実行して紆余曲折を乗り越えていける体制づくりが肝だと思いました。
確かに戦中の際の組織ガバナンス的な部分にも突っ込むべきかな。 失敗の本質にも書かれているように、戦時中の意思決定と統制についてはまさにこの標準化(特にガバクラ)は旧日本軍的なムーブがあったように思う。 え、どんなことかって?「ガバクラはうまく行きません」と誰も言えなかったことやな。
2
1
14
1,090
J-LISのアーカイブ見たけど、緊張してるし、相当考えて話している。うーん、すごい。 財政の説明はさすがプロ。
1
6
154
確かに戦中の際の組織ガバナンス的な部分にも突っ込むべきかな。 失敗の本質にも書かれているように、戦時中の意思決定と統制についてはまさにこの標準化(特にガバクラ)は旧日本軍的なムーブがあったように思う。 え、どんなことかって?「ガバクラはうまく行きません」と誰も言えなかったことやな。
JLISフェア「自治体情報システムの標準化の課題と今後の展望について」 結果的に、前の方を標どう塾生で(数時間前までしこたまいっしょに飲んで解散したのに)固まって聴講する構図に講演が終わった時点で気づき吹きました。 さて、内容についてです。 タイトルに相応しくデジタル庁の反省点・課題の芯を捉えた内容だったと思います。一方で、地方部隊の現場の立場で言わせてもらうと、「戦後」の反省としは評価できるが、「戦前」「戦中」の混乱期に的を得た対応ができるのか?できたのか?が重要。かなりの犠牲を伴った取り組みだったのでどうしても「今、言われても」と言うモヤモヤはある。そして、重要なのは現在進行形で「戦中」なのである。
2
2
1
14
974
立ち止まるべきポイントでしっかりと振り返り、評価して、次の行動を議論する。 この機能役割こそ検討会に期待しているところかも。
2
4
260
Meteor retweeted
戦中の表現はまさにと思った。自分がちょっと危惧したのは、一部運用経費を国が負担することで満足して、国と事業者だけが苦労する構図にならないかと。最適化されたシステムがあるとして、それに業務を合わせる覚悟を持つのは自治体しかないので、自治体側も現場から意見していかないとと思います
JLISフェア「自治体情報システムの標準化の課題と今後の展望について」 結果的に、前の方を標どう塾生で(数時間前までしこたまいっしょに飲んで解散したのに)固まって聴講する構図に講演が終わった時点で気づき吹きました。 さて、内容についてです。 タイトルに相応しくデジタル庁の反省点・課題の芯を捉えた内容だったと思います。一方で、地方部隊の現場の立場で言わせてもらうと、「戦後」の反省としは評価できるが、「戦前」「戦中」の混乱期に的を得た対応ができるのか?できたのか?が重要。かなりの犠牲を伴った取り組みだったのでどうしても「今、言われても」と言うモヤモヤはある。そして、重要なのは現在進行形で「戦中」なのである。
2
26
638
動画はこちら youtube.com/live/ZNAGPrm3F8M
JLISフェア「自治体情報システムの標準化の課題と今後の展望について」 結果的に、前の方を標どう塾生で(数時間前までしこたまいっしょに飲んで解散したのに)固まって聴講する構図に講演が終わった時点で気づき吹きました。 さて、内容についてです。 タイトルに相応しくデジタル庁の反省点・課題の芯を捉えた内容だったと思います。一方で、地方部隊の現場の立場で言わせてもらうと、「戦後」の反省としは評価できるが、「戦前」「戦中」の混乱期に的を得た対応ができるのか?できたのか?が重要。かなりの犠牲を伴った取り組みだったのでどうしても「今、言われても」と言うモヤモヤはある。そして、重要なのは現在進行形で「戦中」なのである。
1
1
28
2,856
JLISフェア「自治体情報システムの標準化の課題と今後の展望について」 結果的に、前の方を標どう塾生で(数時間前までしこたまいっしょに飲んで解散したのに)固まって聴講する構図に講演が終わった時点で気づき吹きました。 さて、内容についてです。 タイトルに相応しくデジタル庁の反省点・課題の芯を捉えた内容だったと思います。一方で、地方部隊の現場の立場で言わせてもらうと、「戦後」の反省としは評価できるが、「戦前」「戦中」の混乱期に的を得た対応ができるのか?できたのか?が重要。かなりの犠牲を伴った取り組みだったのでどうしても「今、言われても」と言うモヤモヤはある。そして、重要なのは現在進行形で「戦中」なのである。
4
5
44
3,790
GCAS ジーキャス!!
【お題】 私も...「 」と「 」の違いが今でもわからないです
1
2
217
私にできる事を私なりにやっていくのである。
8
287
Meteor retweeted
私も同じ感想です。そう簡単な話ではないのは理解しつつ、少なくとも前の体制より前向きな議論が出来そうに感じました。
J-LISの標準化セミナー泣けるな。 前回まで悪い意味でだったけど今年はいい意味で。ちょっとじーんときた。 多少なりとも報われた感があった。
3
19
642
Meteor retweeted
そう思いました。キラキラした言葉で飾らず、ご自身の言葉で、やるべきことをやろうという決意と、各所へのリスペクトも感じました。
真面目な話。 今回のフェア参加はいくつかの目的があったが、最大の目的のひとつであるデジ庁の「標準化の振り返りと今後の展望」を生で聴くことができて、とても期待感が持てた。(偉そうでごめんなさい) じゃあこれからどうするのか、そのためにどんなことをやっているのか、に終始していて、かつお話の随所で各所へのリスペクトを感じた。 文句言い合うのではなく、国・地方・事業者それぞれで役割を全うしていこう、そんな前向きな気持ちになれた。
4
22
595
Meteor retweeted
我ながらチョロいなと思う。 それだけ某アジでビラな周りが酷かった。 今回も他の一部からその雰囲気は感じたけど
2
9
412
1日目の裏セッションの討議会は、目から鱗の非常に勉強になる会だった。 企画いただいた方々ありがとございました。 標準化・ガバクラって見てる人の数だけ見え方違うのだよなぁと改めての気づき。 だからこそ一律強制的に進めるのは良くない、身の丈にあった選択肢を残しておくべきだなぁと。 人には人の乳酸菌。
2
1
21
1,170
裏テーマは初号機さんとご一緒に乾杯するというもの。 念願叶いかんぱいぱいできました。
1
12
642
基幹系システム×生成AIの活路を調べるというのもテーマの一つ。 これは(私のイマジネーションが及ばないだけなのだが)いまいち商用化できるイメージが持てなかったというのが正直なところ。 不勉強分野なのでもっと勉強する。
2
3
25
2,799