Introducing Fern, Mirendil’s first model: pretrained from scratch, with up to 10M tokens of context! That’s ~0.5M lines of code (roughly Megatron-LM scale) or days of an agent’s work, all in context at once. Its first version, Fern 0.1, had a short round of post-training 🚢

一般の人がEAを動かすためにVPSを契約するケースがあるって初めて聞いた時自分はかなり驚いたのだけど、自宅のPCで動かすよりもVPSを選ぶ理由って何があるんだろう…？ パッと浮かぶ合理的な理由って、EAを大量に動かすためのリソース確保くらいなもんだけど、それ以外だと何だろう…？🤔

氷河期1st世代のエンジニア(50代〜)で 既に十分な資産を積み上げている人は 「ああ…8bitから始まりAIまで来た。テクノロジーの進化を体感できた。一つの時代を駆け抜けた。満足だ」 と人生に想いを馳せながら 「えーと、突然ですが、今日でエンジニア引退しますね」 と、口まで出かかってるじゃろ

type inference from .sql files has been achieved internally ORMs are toast

結局AIの一番すげぇところは物量なので、こうやって爆速で駆動してしまったらそりゃぁ......まぁ、ね にしても1500token/s、実際目にするとその恐ろしさに震えるしかないンゴ......

病院のHP作るのにエンジニアに65万払うのをおかしいと言ってた医師が Wordpress で作った HP が本日爆散する世界線ありますか。

年収1000万円のエンジニア vs RTX PRO 6000 4枚のrig 会社がどっちを採用するかって言ったら100%後者なんだよなぁ