🎓 Academic
一句「我们怀疑」：注意力为什么要除以 √dₖ
在 Transformer 论文的一句话旁边，摆三张实验纸。先估点积会长多快，再看 softmax 怎样变得固执，最后回到那句「We suspect」。
#interactive
4 条内容
✍️ Insight
迟到六拍：车已经越线，控制器还在催它往前
把一次振荡暂停在 0.7 秒：一条轨道画真实位置，一条画收到的消息。沿这一个瞬间，找到“更用力”为什么可能更糟。
✍️ Insight
首页那只机械臂，是怎么够到你的鼠标的
从转动一个手肘，到让三个关节轮流让步。五张可以摸的插图，拆开首页那只机械臂背后的几何，也看看它没有替真实机器人解决什么。
✍️ Insight
上有奖励，下有对策：替送咖啡的机器人写一张价目表
你定价，它开工。四张越改越长的价目表，两张永远按同一规则结算的小票：亲眼看见「分数最高」怎样偏离「事情办好」。