Автор Haskell in Depth. JetBrains. @VBragilevsky (en), https://xitter.cf/t.co/D4PmysRyUM (ru)

Cyprus
Joined April 2013
На этой неделе работаю в поте лица отсюда
1
15
338
Виталий Брагилевский retweeted
Вучич признал поражение на выборах в Сербии, его партия потеряла преимущество впервые за 14 лет. «Студенческий список» получит около 138 мест в парламенте rfi.​my/DA5M
1
1
11
663
Виталий Брагилевский retweeted
Что меня поражает: в соцсетях есть аккаунты с сотнями тысяч подписчиков, ежедневно постящие безграмотный антинаучный трэш. Пытаются посеять панику и отвадить людей от вакцинации. Я думаю, что они повинны в смертях и увечьях людей, во множестве горя. Цинизм запредельный. 👎🏻
1
3
11
645
Виталий Брагилевский retweeted
Quando un cinese capisce la situazione russa meglio di tutti i cosiddetti esperti dei talk show: «Guardando la situazione attuale, questa operazione della Russia è come avere in mano una mano di partenza perfetta e riuscire a giocarsela fino a mandare tutto a puttane. Se non avesse invaso l’Ucraina, oggi, nel grande poker globale dell’intelligenza artificiale, oltre agli Stati Uniti e alla Cina, con ogni probabilità ci sarebbe stata anche la Russia. Per sviluppare l’IA e addestrare modelli di grandi dimensioni, la logica di fondo è: consumare una quantità enorme di elettricità, raffreddare tutto e mettere insieme tonnellate di hardware. Negli ultimi due anni, i responsabili dei data center di tutto il mondo si lamentano delle bollette della luce e dei costi dei sistemi di raffreddamento. E la Russia? È come se Dio stesso le avesse servito tutto su un piatto d’argento: in Siberia basta aprire la finestra per avere un condizionatore naturale di prima classe. Nel Paese ci sono acqua, energia nucleare e gas a basso costo. Non a caso, quando si faceva mining di criptovalute, tutti sceglievano la Siberia. Inoltre, i russi sono forti in matematica e negli algoritmi. Nelle competizioni internazionali di programmazione e su Kaggle, nel campo del machine learning, i russi fanno regolarmente a pezzi la concorrenza. E, al di fuori degli Stati Uniti e della Cina, la Russia è uno dei pochi Paesi ad aver sviluppato un proprio ecosistema digitale completo: per le ricerche c’è Yandex, per i social network VK, oltre a Telegram. E adesso c’è Nebius, la nuova stella emergente nel settore della potenza di calcolo, le cui azioni sono schizzate alle stelle sulla borsa americana. Il suo nucleo è costituito proprio dagli stessi russi che lavoravano in Yandex. Se, dopo la pandemia, la Russia avesse messo a disposizione terreni, aria fredda ed elettricità a basso costo, per poi invitare la Cina — quella macchina da guerra delle infrastrutture — a contribuire alla costruzione di linee ad alta tensione, stabilimenti e reti in fibra ottica, attirando anche capitali europei per costruire fabbriche di server, i russi avrebbero potuto trasformarsi nella più grande «fabbrica di supercalcolo» dell’Eurasia. Mentre Stati Uniti e Cina si affrontavano come divinità, la Russia avrebbe potuto stare in mezzo e riscuotere pedaggi da entrambe le parti. E invece com’è andata a finire? Putin si è dato una pacca sulla coscia e ha deciso: no, io devo conquistare quei due pezzetti di terra. La mente di Putin è rimasta definitivamente intrappolata nel vecchio sogno zarista ottocentesco dell’«espansione dei confini». Che importanza ha avere uno sbocco sul mare o una zona cuscinetto militare? Anche se fossero davvero necessari, esistono mille modi per ottenerli. Ma siamo nel XXI secolo! La lotta per il dominio mondiale oggi si gioca sulle catene di approvvigionamento dei semiconduttori, sugli algoritmi più avanzati e sulla conquista dei migliori talenti nel settore high-tech. E tu vai a impantanarti nel Donbass per un paio di pezzi di terra fangosa e qualche acciaieria abbandonata, ipotecando in cambio il futuro dell’intero Paese. Non appena sono risuonati i primi spari, tutto è crollato. I programmatori e gli ingegneri più brillanti sono scappati in una sola notte. Il nucleo tecnologico di Yandex ha dovuto sottoporsi a una brutale amputazione per non affondare: ha reciso i legami con la madrepatria per potersi ricostruire in Europa sotto il nome di Nebius. Putin ha terrorizzato le persone più lungimiranti del Paese, trasformandole in rifugiati e fondatori di startup all’estero. Alla vigilia dell’esplosione dell’intelligenza artificiale, il mondo intero corre freneticamente per aumentare la propria capacità di calcolo e cerca disperatamente un biglietto per la nuova rivoluzione industriale. E il capo della Russia trascina decine di migliaia di persone a sprofondare nel fango, combattendo una guerra di posizione nello stile della Prima guerra mondiale, cento anni dopo».
站在今天看,俄罗斯这波操作,属于手握着一把天胡的牌打得稀烂。 如果不出兵乌克兰,今天全球AI的牌桌上,除了中美,大概率真得坐着一个俄罗斯。 搞AI、跑大模型,底层逻辑就是“吃电、散热、堆机器”。这两年全世界的数据中心老板都在为电费和机房降温发愁。俄罗斯属于老天爷喂到饭:西伯利亚开窗就是纯天然顶级空调;境内水电、核电、天然气很便宜,当年挖矿的都选西伯利亚。 另外俄罗斯人的数学和算法也强,各大国际编程竞赛,Kaggle机器学习竞赛常被俄国人屠榜。全世界除了中美,俄罗斯也搞出了自己完整的互联网生态:搜东西有Yandex,社交有VK,还有Telegram。现在在美股被炒上天的算力黑马Nebius,核心班底就是原先Yandex那帮俄罗斯人。 如果疫情后俄罗斯出地皮、出冷气、出便宜电,再拉着中国这种基建狂魔帮忙拉高压电网、建厂房、铺光纤,欧美资本开服务器工厂。俄国人完全可以成为欧亚大陆最大的“超级算力工厂”,中美神仙打架,它在中间两头收过路费。 结果呢?普京一拍大腿:不行,我得去抢那几块地。 普京的脑子,彻底停留在了19世纪沙皇俄国那种“开疆拓土”的旧梦里。什么有没有出海口啊,有没有所谓的军事缓冲带啊,就算抢方法也多的是,这可这是21世纪啊!现在的世界霸权争夺,抢的是半导体供应链,抢的是先进算法,抢的是高精尖人才。你去顿巴斯抢了几片烂泥地、几座废弃钢铁厂,代价却是把整个国家的未来都押了上去。 枪声一响,一切全崩了。稍微有点本事的程序员、算法工程师,连夜跑路。Yandex核心技术团队,宁可巨亏,惨烈的断尾求生、割裂母国,也要跑到欧洲重组成Nebius。普京把最懂未来的人,全逼成了难民和海外创业者。 在人工智能技术爆发的黎明前夜,全世界都在疯狂狂飙算力、抢占新工业革命的门票;而俄罗斯的老大,却带着几十万人,在泥潭里打着一百年前的一战式堑壕战。 再说一遍,普京不行,国内崇拜普京的那帮人也不行
117
918
72
3,916
217,181
Вы как хотите, но ничего вкуснее шефталий не существует.
9
1
21
2,314
Маловато стран, конечно…
7
31
2,417
НЛО какое-то
4
35
1,511
Виталий Брагилевский retweeted
Replying to @xpitfire @_bravit
1
1
9
558
Виталий Брагилевский retweeted
Finally some innovation in consensus protocols. Nothing ever happens around here.
We replaced Raft with a JEV-style decision model. Consensus is fundamentally a reasoning problem. Why rely on deterministic leader election when a model can evaluate each node's leadership potential? We've replaced quorum with confidence scores. Write throughput dropped 99.98% but the cluster is finally making informed decisions.
1
4
46
8,847
Виталий Брагилевский retweeted
Вы хорошо потрудились на этой неделе, и вам надо посмотреть на корягу у моря.
3
3
43
903
Виталий Брагилевский retweeted
It is a weird weird year to be a formal methods expert. Some unorganized thoughts on the new @AnthropicAI and @theoremlabs post on formal verification (anthropic.com/research/forma…): - This is very cool. - The main innovation is verifying a later stage of the program. Normally provers take the source code, LLM it into a theorem language, and then prove that, which means you have to make assumptions about source semantics and compilation properties. It's very easy to make a mistake in translating and prove the wrong thing! What they instead do is compile the code into assembly, and then (if I understand this correctly), compile that assembly into a theorem language (which they call LPS). So as long as the compiler is faithful you can skip the whole divergence problem. - I'm glad they clarify that you still have to trust the translation process, the "hardware, OS, OCaml" compiler, the LPS model, and also assume that the program is single threaded with fixed memory. The single biggest source of errors in formally verified code is when the proof assumes something that isn't true in practice. It's really, really important to state your assumptions! - I'm not clear why they need to compile the fuzzer into the theorem. Is it to act as a description of valid inputs and workload? Maybe to embed assertions in as theorems? - Holy crap, 180 million lines of Rocq. Is that more Rocq than exists in the world already? I notice they say a 600,000 line proof corresponds to roughly 20k CPU instructions. That would be like, 1-2k lines of source code at most? Really goes to show how inefficient this approach is and how it only works because you can throw LLMs at the problem. - This, probably deliberately, doesn't address the single biggest gap in AI-based verification: AIs cannot come up with good properties. Doesn't matter if you're doing unit testing, property testing, formal verification. I always assumed this was a "frontier labs haven't trained for it yet" thing, but if Anthropic hasn't talked about that here, maybe they've tried and haven't been successful yet. That's interesting to me. Instead, they take a known universal property (this code doesn't crash or get flagged by UBsan) and prove that instead. Still very useful, but makes it harder to generalize to proving arbitrary things about arbitrary programs. - Anybody reading the official post should also read their expert review appendix (www-cdn.anthropic.com/files/…). It points out some interesting things, like the fact that most of the code the LLM wrote wasn't used in the proof (over one billion lines of Rocq), that they had to prove the equivalence between fuzzed and unfuzzed programs, and (this is most interesting), some experiments find that the LLM-method of proofwriting may not scale to more complex things. - Also read the description of LPS (github.com/theorem-labs/oss-…) to understand the limitations of the assembly -> Rocq compilation. In particular, it does not handle concurrency at all (which is one of the main use cases for formal methods!) or OS signals. Also it can't prove things about program arguments with slash characters, meaning they can prove stuff about `rm foo` but not `rm foo/bar`. - The official skill (github.com/theorem-labs/oss-…) doesn't tell us much about the nature of FM and AI. Probably too much for me to hope of any skill. - Some of the article's specific caveats and throat clearings make me think someone at Anthropic reads my stuff ( ͡° ͜ʖ ͡°)
36
126
12
840
197,539
Виталий Брагилевский retweeted
Всем привет! Я к вам со сбором на посылочку политзаключенной Ольге Комлевой, деньги требуются на продукты, предметы гигиены и лекарства. Сбор на карту её мужа Вячеслава. Буду очень благодарна за лайки, репосты и донаты ❤️
6
46
4
158
4,685
Виталий Брагилевский retweeted
I'm happy to share that Mojo and MAX are now fully open - for development, extension, and commercial use! This includes the full Mojo programming language, but also the MAX graph compiler, MLRT runtime internals, and hardware abstraction logic. Get your agents going!👇
49
191
22
1,500
76,923
Виталий Брагилевский retweeted
Hey Its Friday * OpenCode Hacked * php screwed the internet * node said hold my beer * ruby said hold my beer * curl said hold my beer and eMudhra held that beer * Railway said hold my beer * OpenCode again helluva week and I only mentioned literally 1/2 of what I know about
208
242
29
4,729
125,541
А в нашем берлинском офисе 2 ноября будет дизайнер языка Rust Нико Матзакис, кстати, и рассказывать он будет про Rust в эпоху агентской разработки. Берлинские, заходите! meetup.com/rust-berlin/event….
2
29
1,197
Виталий Брагилевский retweeted
Historical moment indeed: formal methods are now verifying real-world binaries at scale! But the specs are single-entry (not API), proofs are huge, and reuse is largely copy-and-adapt. Compositional reasoning and modular abstractions are how the FM community can make this scale.
New on our Frontier Red Team blog: using Claude to formally verify software at large scale. Formal verification can prove that code is free of certain bugs, but historically it has only been feasible for small codebases (or required a lot of expert time). With AI models, however, this is beginning to change. In collaboration with @theoremlabs, we used Claude to prove security properties in over one hundred real-world open-source libraries over the span of a few weeks. Read our research in full here: anthropic.com/research/forma…
4
28
2
161
5,884
Люблю свой Остров!
3
38
1,032
С вами был я!
1
8
270
Завтра надо будет на озеро сходить. Говорят, туда уже фламинго прилетели.
5
236