FYI, not gpt-5 but still something you can play with, check inside
LLMS
-
Sparse Autoencoders Scale Training Improves GPT-4 Interpretability
By
–
Improved methods for training sparse autoencoders at scale. Shows promise towards interpreting GPT-4's neural activity: https://t.co/zNbYnYr6lE
— Greg Brockman (@gdb) 6 juin 2024Improved methods for training sparse autoencoders at scale. Shows promise towards interpreting GPT-4's neural activity:
-
Chinese Character Tokenization in Language Models
By
–
I saw something like this before. Curious why Chinese characters are multiple tokens, and how it would be different if they were single tokens.
-
Token Efficiency Approaches in AI Model Optimization
By
–
I asked it to make it token efficient, but I didn’t provide details beyond that. Though for reasons pointed out by others, I don’t think is the right approach.
-
Open Source LLMs Continue Compression Trend Evolution
By
–
Otro paso más en la evolución de los LLMs open source, que siguen la tendencia de comprimir más potencia en menos tamaño. A falta de ver las pruebas de la comunidad.
-
Model Context Windows: 128K Tokens in 72B and 7B Models
By
–
Ventas de contexto de 128K tokens en los modelos 72B y 7B 64K tokens en el modelo 57B 32K tokens en los modelos 1.5B y 0.5B
-
Qwen vs Llama 3: Programming and Math Capabilities Comparison
By
–
Efectivamente el punto fuerte en el que hacen hincapié desde Qwen es en las capacidades de programación y matemática frente a Llama 3.
-
New 7B Model Outperforms Llama 3 8B in Programming
By
–
También el modelo 7B que la mayoría de vosotros utilizaréis también tiene muy buena pinta, con mejor rendimiento que Llama 3 8B -sobre todo en programación y matemáticas-. Si acostumbrabais a usar el modelo 8B de Meta, pues ahora tenéis un buen upgrade que probar 🙂
-
Running Ollama on MacBook M1 Pro with 16GB RAM
By
–
Running on Macbook M1 pro (16GB RAM) using the @ollama
. -
Google’s NotebookLM Integrates Gemini 1.5 Pro Model
By
–
Google’s NotebookLM is now running Gemini 1.5 Pro