Sakana AIは、@NVIDIAとの共同研究で、スパースなTransformer言語モデルの推論・学習を高速化する新しいGPUカーネルとデータ形式を開発しました。

ブログ：https://t.co/fMARMRFsJJ

LLMのコストの大部分を占めるフィードフォワード層では、実は各トークンに対して大半の活性がほぼゼロで無駄な計算に… https://t.co/nTMg0QgdSr

— Sakana AI (@SakanaAILabs) 9 mai 2026

Sakana AI has developed new GPU kernels and data formats that accelerate inference and training of sparse Transformer language models through joint research with @NVIDIA
. Blog: https://
pub.sakana.ai/sparser-faster
-llms/
… In the feedforward layers, which account for the majority of LLM costs, most

→ View original post on X — @sakanaailabs