Capul departamentului de securitate cibernetică AI la Anthropic a părăsit compania, recunoscând că „lumea este în pericol”.

Mrinank Sharma părăsește Anthropic: scrisoarea către colegi și planurile pentru viitor

Foștiul director al departamentului de cercetare în securitate AI la compania Anthropic, Mrinank Sharma (Mrinank Sharma), a publicat începutul săptămânii aceasta pe internet o scrisoare de rămas bun. În ea explică motivele plecării, împărtășește reflecții despre riscurile actuale și povestește ce va face în continuare.

Ce se spune în scrisoare
* Realizări – Sharma subliniază că „a obținut tot ce a dorit” aici. Printre proiectele menționate se numără dezvoltarea mecanismelor de protecție împotriva bioterorismului cu ajutorul AI și cercetarea impactului rețelelor neuronale asupra societății.

* Motivul plecării – autorul a ajuns la concluzia că e timpul să meargă mai departe. El a reflectat constant asupra „pericolului pe care îl poate aduce AI, armamentul biologic și lanțul de crize interconectate care se desfășoară în prezent”. În opinia lui, ne apropiem de pragul după care înțelepciunea trebuie să crească proporțional cu capacitatea noastră de a influența lumea; altfel ne așteaptă consecințe imprevizibile.

* Barierile culturale – Sharma subliniază cât de greu este să păstrezi valorile în condiții de presiune. A văzut acest lucru atât în interiorul său, cât și în cadrul companiei, unde uneori trebuie să renunți la ceva important pentru influența externă, precum și în societate în general.

* Planuri viitoare – după plecare intenționează să se ocupe de muncă care corespunde principiilor sale și să studieze poezii și alte direcții creative.

Ce se întâmplă la Anthropic
* În companie au părăsit deja mai mulți dezvoltatori de top, ceea ce amplifică valul de schimbare a personalului.

* Anthropic negociază atragerea unor investiții suplimentare. Dacă tranzacția se finalizează cu succes, valoarea de piață ar putea crește până la 350 mld USD.

* Săptămâna trecută a fost lansată o nouă versiune a modelului Claude Opus 4.6. Aceasta îmbunătățește productivitatea în birou și eficiența programării, extinde fereastra de context pentru lucrul cu documente mari și suportă sarcini mai complexe.

Unde găsiți scrisoarea
Textul complet al scrisorii de rămas bun a lui Sharma este publicat într-un articol Business Insider. Acesta oferă o perspectivă mai detaliată asupra gândurilor și motivației sale.