Andrei Carpaty a învățat agenții AI să efectueze sute de experimente noaptea, când oamenii se odihnesc

Andrej Karpathy deschide o nouă abordare pentru auto-încercări

Foștiul director al proiectelor de inteligență artificială Tesla și cofondatorul OpenAI, Andrej Karpathy, a anunțat lansarea unui proiect simplu, dar puternic cu cod sursă deschis. Scriptul conține doar 630 de linii și este găzduit pe GitHub. Nu pretinde să fie un model gata făcut sau un produs corporativ major; scopul este să arate cum agenții AI pot automatiza complet metoda științifică fără intervenția umană.

> „Misiunea noastră este să construim agenți care progresează nelimitat rapid în cercetări, chiar și noaptea” – a scris Karpathy pe X. Mesajul a devenit imediat viral și a acumulat peste 8,6 milioane de vizualizări în două zile.

Cum funcționează sistemul
1. Inițializare

Agentul primește scriptul de antrenament și un buget de calcul fix (de obicei 5 minute pe GPU).

2. Autoanaliza codului

Citește propriul său cod sursă, formulează o ipoteză de îmbunătățire (de exemplu, schimbarea ratei de învățare sau a adâncimii modelului).

3. Modificare și rulare experiment

Face modificări, rulează experimentul și evaluează rezultatele.

4. Verificarea eficienței

Dacă metrică *val_bpb* (pierderi pe byte la validare) se îmbunătățește, schimbarea este salvată; altfel se revine și generează o nouă ipoteză.

Într-o singură noapte, agentul a efectuat 126 de experimente, reducând pierderile de la 0,9979 la 0,9697. După ajustări pe două zile, a procesat aproximativ 700 de modificări autonome, descoperind ~20 îmbunătățiri suplimentare care au fost transferate cu succes la modele mai mari.

Karpathy a menționat: „Este incredibil să vezi cum agentul controlează complet procesul de la început până la sfârșit. A găsit erori în scalarea atenției și regularizarea pe care le-am omis în 20 de ani de muncă.”

Ce spun experții
Automatizarea metodei științifice este considerată un pas fundamental în dezvoltarea AI. Transformând învățarea automată într-un „proces evolutiv” la viteza siliciului, Karpathy a deschis noi orizonturi pentru cercetări nu doar în IT, ci și în marketing, sănătate și alte domenii.

Exemple de aplicare practică
PartenerDescriere experimentRezultateHyperspace AI (Varun Mathur)35 de agenți autonomi au lucrat într-o rețea peer-to-peer, folosind CPU-uri laptop. În noapte, au efectuat 333 de experimente fără operator, descoperind strategii de inițializare (Kaiming, Xavier) și normalizare (RMSNorm).Single Grain (Eric Siu)Automatizarea ciclului de marketing: agentul schimbă variabilele pe paginile țintă, creativitatea publicitară sau e-mailurile. Măsoară „procentul de răspunsuri pozitive”, păstrează modificările reușite și elimină cele ineficiente.

Concluzie
Karpathy a demonstrat cum scripturi simple pot deveni instrumente puternice pentru auto-învățarea agenților AI. Ciclul automatizat de optimizare permite efectuarea sutelor de experimente pe o noapte, identificând îmbunătățiri care anterior necesitau ani de cercetare. Acest lucru deschide drumul către dezvoltarea mai rapidă și scalabilă a modelelor în diverse domenii.