Anthropic a prezentat o modalitate de a întrerupe brusc dezvoltarea inteligenței artificiale.

Anthropic îndeamnă la „autolimita” dezvoltării inteligenței artificiale

Compania Anthropic, cunoscută pentru eforturile sale în domeniul eticii inteligenței artificiale, a revenit în atenția publicului după un conflict cu Pentagonul la începutul anului. În această săptămână startup-ul s-a adresat reprezentanților industriei cu cererea de a fi pregătiți să limiteze dezvoltarea tehnologiilor dacă acestea ar începe să reprezinte o amenințare la adresa controlului uman.

Principalele puncte ale apelului

* Îmbunătățirea recursive completă a AI poate duce la situația în care sistemele își creează „suplienții” fără intervenție umană.

* În astfel de cazuri, capacitatea de monitorizare și limitare a comportamentului acestor sisteme devine critică.

> „Dacă sistemele dobândesc abilitatea de a-și crea singurele suplieni, importanța controlului, monitorizării și limitării comportamentului lor crește enorm”, spune declarația Anthropic.

De ce este important?

În luna trecută, peste 80 % din codul nou utilizat de companie a fost generat de agentul său Claude. Acest lucru confirmă că Anthropic știe despre ce vorbește: dacă AI se auto-înnoiește, controlul asupra sa devine tot mai dificil.

Reprezentanții startup-ului consideră că întreaga lume trebuie să aibă posibilitatea de a încetini sau suspenda dezvoltarea modelelor avansate pentru a oferi societății timp să se adapteze și să analizeze schimbările. În același timp, coordonarea acțiunilor tuturor participanților la piață este critică: fără măsuri concertate, jucătorii necinstit pot pune în pericol securitatea publică.

Planurile companiei

* În lunile următoare, Anthropic intenționează să dezvolte instrumente de monitorizare a tendințelor periculoase în dezvoltarea AI.

* Paralel cu aceasta, va desfășura activități publice privind discuția mecanismelor regulate și crearea unui organ de supraveghere care poate introduce un regim de „autolimita”.

Compania subliniază că o singură organizație nu poate schimba situația în mod independent. Este necesară colaborarea tuturor dezvoltatorilor principali de AI pentru a asigura evoluția sigură a tehnologiilor.