PinnedKenji Hiranabe@hiranabeAug 13, 2022My matrix visualizations with MIT Gilbert Strang. I compiled the graphics in a short(14-page) PDF paper! github.com/kenjihiranabe/…255912.8K
Kenji Hiranabe@hiranabeSep 23Karpathy の "build GPT" をハンズオンしていたら,線形代数の変態的な計算が! 0 を -inf に変えて,softmax せよと.こういう直感はとても工学的な気がする.そしてこの後 transformer 実装はこうしていると。参照は以下のタイム付きのyoutube を. youtu.be/kCc8FmEb1nY?si…15512
Kenji Hiranabe@hiranabeSep 21これはわかりやすい! とくに記法や詰みポイントへのアプローチが、螺旋的で、例と絵の使い方絶妙。 準同型定理を図いっぱいで理解しよう!(前編)From mathlog.info4402.7K