AI Dynamics

Global AI News Aggregator

Specialized Transformer Chip Achieves 500K Tokens Per Second

Qué barbaridad. Un chip especializado sólo para ejecutar Transformers! Si nos parecía rápido Groq con los 800 tokens/segundo, esto llega a los 500.000 tokens/segundo ejecutando Llama 70!!!

→ View original post on X — @dotcsv,

Commentaires

Leave a Reply

Your email address will not be published. Required fields are marked *