Can you comment on my original question — can a process on one grace CPU launch kernels and operate on all 72 GPUs, or do you need to treat it as 18 separate hosts that just happen to have great NCCL connectivity?
CODE
-
The future of programming in the age of AI translation
By
–
Aprés je me prétend pas du tout savoir gérer du .ts mais je suis de plus en plus persuadé que apprendre un langage a terme ca servira plus à rien. Faudra juste savoir TRES BIEN dans un langage, et laisser ce type d'IA faire la traduction.
-
Using Cursor AI to build applications in unfamiliar programming languages
By
–
Tous les jours, je me rends compte de la chance qu'on a d’être remplacés petit à petit par des IA pour cracher du code. Vole mon travail, stp. Vas-y, continue Cursor, j'adore ça. Je n'ai jamais codé en .ts, et pourtant je viens de sortir une app en .ts. Après 5 mois
-
LLM Engineers Handbook: Production Engineering Guide
By
–
I'm such a good businessman I forgot the link. Here you go: https://
amazon.com/LLM-Engineers-
Handbook-engineering-production/dp/1836200072/
… Thanks @sommelierhela2
! <3 -
7 Best Free Deep Learning Online Courses and Tutorials 2024
By
–
7 Best Free #DeepLearning Online Courses and Tutorials in 2024 — compiled by @tut_ml ———
#AI #DataScience #MachineLearning #ML #DataScientist -
Optimizing AWQ Deployment for Flexible Model Distribution
By
–
Think a more likely one would be to help people create the best, most optimised AWQs and then they can deploy wherever they want ofc you can have direct deployment options. But I’m 100% there’s value in this.
-
AGI Accessible: Install QwQ with Two Lines of Code
By
–
You too can have AGI in just a couple lines of code! `pip install transformers` & QwQ is all you need
-
Educational challenges in code verification using LLMs
By
–
Ça y est, c'est l'heure… Je viens de faire une review de code avec des étudiants sur un projet, et ils ne comprennent déjà plus les erreurs du code sorti par un LLM. (Le LLM a utilisé une ancienne version de la bibliothèque utilisée, et ils n'ont pas eu le réflexe de vérifier
-
Contribution guidance: Referencing Alpaca and LIMA code implementations
By
–
Thanks for your interest in contributing. I unfortunately currently don’t have access to a computer until likely next week (long story) but off the top of my head and as far as I can tell right now, I think you can copy most code from the Alpaca or LIMA (
https://
github.com/Lightning-AI/l
itgpt/blob/main/litgpt/data/lima.py
…)