smly (@smly) header
smly (@smly) profile picture

AI Fellow at Rist. ex-PFN / 5x Kaggle GM https://xitter.gq/t.co/Fbnhh888VD / Game AI https://xitter.gq/t.co/LQRTdKP3AO

Joined April 2007
Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)Photo by smly (@smly)
Hi all, I have a new result I'm excited to share. It turns out that *all existing implementations* of softmax and cross-entropy (that's JAX, PyTorch, textbooks, etc) have a subtle bug --- two bugs, actually. A simple rewrite fixes both, and eliminates "slingshots" when grokking:
135
796
153
6,571
840,209
旅9日目の最終日。江田島経由で広島市内へ。雨で景色を満喫できなくて残念。しかし安全に旅を終えることができたのでヨシ ho.lc/blog/etajima-awajishim…
10
1,347
旅8日目。雨に降られながら呉に到着 ho.lc/blog/mitarai-townscape
12
1,248
旅7日目。しまなみ海道。造船ドックがよかった ho.lc/blog/shimanami-shipbui…
1
13
1,581
旅6日目。尾道倶楽部からの展望が最高に良い ho.lc/blog/onomichi-roman-co…
11
1,490
旅5日目(昨日)。直島の地下美術館に行って倉敷まで。体力回復に専念して1日遅れの記録 ho.lc/blog/naoshima
11
1,369
いま直島なのでがんばって対策モデル作ったヤドキングに近いやつ記念撮影です
25
1,321
やったあああああーーーー 2次ラウンド優勝するぞ!
PTCGABC(ポケカコンペ), Strategy部門の評価も終わりました!みなさんありがとうございました〜! また第二ラウンドや、PlayGroundでお会いしましょう! kaggle.com/competitions/poke…
3
4
52
6,344
第2ラウンド進出!!第2ラウンドはYouTubeで配信されます。引き続き対戦よろしくお願いします!!
PTCGABC(ポケカコンペ), Strategy部門の評価も終わりました!みなさんありがとうございました〜! また第二ラウンドや、PlayGroundでお会いしましょう! kaggle.com/competitions/poke…
1
2
37
3,444
第二ラウンド進出したぜ!優勝するぞ!!!
PTCGABC(ポケカコンペ), Strategy部門の評価も終わりました!みなさんありがとうございました〜! また第二ラウンドや、PlayGroundでお会いしましょう! kaggle.com/competitions/poke…
1
3
63
5,474
旅4日目。白い彼岸花を見るなどした ho.lc/blog/kagawa-white-spid…
9
923
旅の2日目。大塚国際美術館です ho.lc/blog/otsuka-museum
19
1,582
記録していく。大塚国際美術館行きたい ho.lc/blog/tama-tokyu-ferry
12
1,659
旅程を早めて無事乗船。ただし3-5mほどの高波を覚悟とのこと。あと海上 Starlink がいい仕事してる。一度使ってみたかった marinetraffic.com/en/ais/det…
31
1,745
あ、欠航、はい、そうですよね。無念です
1
15
3,542
シルバーウィークの長期旅前に風邪をひいて、台風発生で初手フェリー欠航の可能性が出てきて、楽しいまである
10
1,488
ポケカAIのStrategy部門Writeupが一斉に読めるようになりましたね。弊チームの記事はこちらになります!kaggle.com/competitions/poke…
9
2
113
23,816