Modelos tipo MoE con activación de 5.1B el de 120B y 3.6B el de 20B !! Ojo que podrían ser modelos muy rápidos!
MoE Models 120B and 20B with Efficient Activation Parameters
By
–
By
–
Modelos tipo MoE con activación de 5.1B el de 120B y 3.6B el de 20B !! Ojo que podrían ser modelos muy rápidos!