Antropic a respins cererea Pentagonului pentru utilizarea militară necondiționată a inteligenței artificiale, chiar și în prezența avertismentelor

Rezumat scurt

* Situație:

Compania Anthropic a refuzat să ofere Ministerului de Apărare al Statelor Unite (MoD) acces nelimitat la modelele sale AI, în ciuda amenințării de pierdere a unui contract de 200 mln USD.

* Context:

În cadrul unei întâlniri la Casa Albă, ministrul apărării Pete Hegrset i-a acordat Anthropic până la sfârșitul zilei lucrătoare de vineri timp să reflecteze asupra propunerii, însă în joi compania a anunțat deja refuzul.

* Părțile implicate:

- MoD solicită acces complet la tehnologiile AI pentru utilizare liberă în scopuri militare.
- Alți jucători majori (OpenAI, Google, xAI de la Musk) au acceptat să permită Pentagonului să utilizeze sistemele lor „pentru toate scopurile legale” pe rețele neclasificate și lucrează la acorduri pentru rețele clasificate.

* Reacția Anthropic:

În declarația directorului general Dario Amodei, se subliniază că compania colaborează activ cu structurile militare și crede în importanța existențială a AI pentru protecția SUA. Totuși, ea nu s-a opus niciodată operațiunilor militare concrete și consideră că AI poate încălca valorile democratice doar în cazuri foarte limitate.

Amodei a evidențiat două „linie roșie”:

1) lipsa supravegherii de masă asupra cetățenilor SUA;
2) interzicerea dezvoltării armelor autonome letale (sau oricăror arme capabile să distrugă ținte fără control uman).

Compania nu este pregătită pentru utilizarea sistemelor complet autonome.

* Posibile consecințe:

Pentagonul a solicitat deja contractorilor mari de apărare să evalueze dependența de modelul Claude. Dacă MoD consideră Anthropic „o amenințare la lanțul de aprovizionare”, aceasta ar putea duce la clasificarea companiei ca o amenințare pentru securitatea națională, lucru tipic pentru firme chineze și ruse.

Pentagonul a declarat că este dispus să solicite confirmări de la toți furnizorii și contractorii că nu utilizează modele „antropogene”. În caz de refuz de la Anthropic, compania se angajează să asigure o tranziție lină către un alt furnizor fără întreruperi în operațiile militare.

* Măsuri legislative:

Pentagonul ia în considerare aplicarea „Legii privind producția defensivă” din 1950, care permite autorităților federale să intervină în activitatea companiilor private pentru a satisface cerințele MoD.

* Mesajul cheie al Anthropic:

Amenințarea de la Minister nu schimbă poziția companiei: ei nu pot îndeplini cu conștiinciozitate cererile de acces complet. În cazul refuzului de colaborare, Anthropic este dispusă să sprijine o tranziție lină și să continue furnizarea modelelor sale pe termeni conveniți.

Concluzie:

Anthropic rămâne fidel principiilor sale de confidențialitate și limitări în utilizarea militară a AI, în ciuda riscului de pierdere a unui contract semnificativ. Ministerul de Apărare, pe de altă parte, dorește acces complet la tehnologiile avansate de la toți furnizorii cheie. Opțiunile de rezolvare includ posibilitatea intervenției guvernului federal sau trecerea la furnizori alternativi.