OpenAI a numit un „director de pregătire” care va supraveghea securitatea inteligenței artificiale

OpenAI a numit un nou lider pentru securitatea inteligenței artificiale

În contextul preocupărilor tot mai mari privind utilizarea sigură a IA, OpenAI a anunțat un nou membru al echipei – Dylan Scandino în funcția de *Head of Preparedness* (director al pregătirii).

Cine este Dylan Scandino?
Perioadă Companie Rol
Mai 2023 – februarie 2024 Anthropic Lider de proiecte de securitate IA
Septembrie 2022 – mai 2025 DeepMind (Google) Specialist în date sintetice pentru antrenarea Gemini
Până în 2022 Palantir, Unity Technologies, Everyday Robots Diverse poziții în domeniul învățării automate și dezvoltării software
Scandino este cunoscut pentru faptul că la locurile de muncă anterioare a gestionat sarcini similare de reducere a riscurilor în dezvoltarea modelelor IA.

Ce semnifică noua numire?
* Rol: Poziție cheie în echipa „pregătirii” – responsabilă pentru pregătirea și implementarea măsurilor care permit dezvoltarea unor modele puternice fără a pune în pericol utilizatorii.
* Condiții: Salariu de 550.000 $ pe an plus acțiuni OpenAI.
* Context: Din 2023, compania are o „echipă de pregătire”, condusă anterior de Alexander Madrid, specialist MIT.

Cum vede situația directorul general al OpenAI
CEO-ul Sam Altman a subliniat că, odată cu accelerarea dezvoltării modelelor, compania va întâmpina noi și mai grave riscuri. El a accentuat:

> „Vom lucra la modele foarte puternice. Acest lucru va necesita măsuri de precauție adecvate pentru a asigura continuarea beneficiilor majore.”

Altman a exprimat încrederea în competențele lui Scandino:

*„Este cel mai bun candidat pentru această poziție dintre toți oamenii pe care i-am întâlnit vreodată”, a spus el.*

El a adăugat că, datorită noului lider, echipa va putea să se concentreze pe securitatea pe termen lung și „va dormi mai liniștită”.

Ce se așteaptă de la Scandino?
Scandino s-a recunoscut singur că modelele IA în creștere rapidă pot provoca „daune extreme și chiar ireversibile”. Prin urmare, înaintea lui există următoarele sarcini:

* Dezvoltarea strategiilor de minimizare a riscurilor;
* Implementarea practicilor de antrenament și exploatare sigură a modelelor;
* Coordonarea eforturilor întregii echipe OpenAI în acest domeniu.

Concluzie
OpenAI își extinde structura de securitate, atrăgând un specialist experimentat din cele mai importante companii din industrie. Noua numire subliniază angajamentul companiei față de dezvoltarea responsabilă a IA și pregătirea pentru posibilele provocări ale viitorului.