Human Native SWE @Uber mobile ML/AI platform. Ex: Tesla/Google HD2D dota2: https://xitter.cf/t.co/qNPWKJjNXW Dota2 AI coach https://xitter.cf/t.co/zYG2cZo7Kl
Amsterdam
Joined August 2015
- Tweets1.6K
- Following392
- Followers1.5K
- Likes3.6K
Pinned Tweet
现在这个HD2D dota2已经部署，欢迎大家试用并提意见。
目标是一个完整的Dota2 HD2D 录像渲染引擎。 所以数据都是从Dota2的demo文件来的。
这个版本是TI15决赛Team Spirit 和Pari Vision BO5的最后一局，也算是Yaotoro的封神战了。
网址 reflection.dota2tavern.org/
前两天看到推友在看「岩田先生」这本书，我这两天也读了一下，发现这书太好了！
岩田聪真是一个神奇的人，像 @ewind_dev 说的，如果聪哥还在这个时代，肯定能是一个蹬AI的高手。
里面很多十几二十年前的想法在这个AI时代看来，反而非常适用。
我这里随便摘抄几句：
- 人生之中，值得一做的事情绝对比实际能去做的事情要多得多。假如凡是值得一做的事情全都去尝试，不论是谁都会累倒。
- 计算机之所以能够飞速进步，是因为它试错的速度极快。
- 要想让整体顺畅运转，就必须首先找到这个最狭窄的地方，从这里着手进行改善。只把注意力放在瓶颈以外的地方，再怎么拓宽也改变不了全局。
- “我并没有预见未来。世界已经开始发生变化，我只是比其他人更先察觉而已。”
- “所谓创意，应该能够一口气解决多个问题。”
类似的精华感觉还有非常多，也推荐大家看一看这本！
感觉最近越来越喜欢看书了。
AI时代之后生成各种东西的门槛太低了，导致低质量的东西越来越多了，即便筛选的很快，也是额外的精力。
然而书，尤其是AI时代之前的书，已经是经过层层筛选，被很多人认可的东西。
现在也是流行Knowledge distillation。书可以说是这种蒸馏的最好的结果之一。
现在每天已经固定出来时间专门看书，减少一些低质量输入，集中自己的Attention资源。
看到Tesla折叠屏适配有点感慨 🥲
想起大概22-23年时候，当时我在特斯拉工作一大部分就是本地化和一些适配，然而Android折叠屏一直太小众，根本没资源做这种比较深度的适配。感受到的都是阻力。而且工具和各种也不成熟。
甚至因为没手机，我偷偷跑去直营店里去测试。
iPhone折叠屏就不一样了，第一时间适配，并且可以官推发帖宣传。
Android人太难了。
没想到LiteLLm这个这么草台
攻击者只是拿到了Auth Token，然后去LiteLLM的仓库关闭main protection，直接Force Push一个带病毒的新版本，然后立马发布。
权限确实不应该为了方便就放宽，版本更新也应该小心。
在想是不是有可能Magpie这种按推文自动更新也很有可能被Prompt Injection攻击注入病毒。
跟我家猫一样，会打dota。
Malr1ne’s 🇷🇺 kitten takes over his Dota game 🐈
First, it accidentally took a screenshot. Then it paused the match.
Already learning the controls
More Dota markets here 👇
polymarket.com/r/KittyKittyM…
学习CS336到现在一个很大的体会是大模型好像并没有那么的“黑盒”，甚至已经有一点“模感”了。
有点像学英语很多人强调“语感”，就是我也不知道语法具体怎么回事，但是我就觉得这里应该放这个介词或者另一个副词。放别的就很别扭。
现在好像慢慢形成了一点点“模感”，看到一些东西，直觉上就会觉得这里应该有这么个东西，而且觉得这个东西放这特别合理。
之前对模型的理解仅仅停留在“预测下一个token”，最多知道点kv cache，prefill decode这种很常见的东西。
学到现在感觉很多架构上的选择是有rationale在里面的，而不是随机选择的。
比如觉得上下文之间应该是有联系的，才想到QKV这种attention机制。再比如大家觉得这个关联也不应该是线性的，所以做了FFN。
虽然还是没办法完全解释为什么能有这么强大的能力，但是似乎在我心里这种合理性越来越多了。
所以这低概率bug被我碰见 ？我说我怎么没5h limit。
There were reports of usage draining faster than anticipated for some users over the weekend. We've identified approximately 40,000 accounts that had an inconsistency on which usage limits where the actual usage that was applied did not correspond to their actual selected plan. We are reaching out individually to all these users and have corrected the issue. If this affected you, we'll add credits to your account. Sorry we got this wrong.
BinaryTree retweeted
Open-sourced my pixel art normals generator!
It compiles to a CLI and a wasm lib.
github.com/Hugo-Dz/spritefus…