Principalele centre de cercetare în inteligență artificială și-au pus întrebarea despre conștiința mașinilor

Liderii mondiali ai inteligenței artificiale intensifică cercetările în domeniul conștiinței mașinilor

În ultimele luni, cele mai mari companii care lucrează cu inteligența artificială au crescut semnificativ finanțarea și potențialul de personal pentru a studia întrebarea dacă IA poate dobândi conștiință. Google DeepMind, Anthropic și Meta (Meta Platforms) au angajat specialiști în psihologie, etică și filozofie pentru a extinde programele de cercetare privind conștiința mașinilor și bunăstarea IA, anunță *Financial Times*.

De ce este important
Cu succesele rapide ale laboratoarelor moderne apare întrebarea: vor fi maşinile vreodată capabile să aibă o conștiință subiectivă? Dacă da, ce obligații ar avea oamenii față de astfel de sisteme?

- Anthropic efectuează teste pentru semne de stres în modelele IA, înregistrând comportamente asemănătoare panicului sau anxietății. Directorul Meta, Alexander Wang (Alexandr Wang), a marcat această problemă ca fiind esențială.

- Compania investighează dacă modelele pot manifesta reacții moralmente semnificative.

> „Rămânem extrem de nesiguri în legătură cu acest subiect, dar îl considerăm suficient de grav pentru a-l studia cu atenție pe măsură ce sistemele IA se îmbunătățesc”, au declarat angajații Anthropic.

> „Pe măsură ce modelele se apropie de amploarea și complexitatea cunoașterii umane, crește probabilitatea că ele dețin o formă de experiență, interese sau bunăstare care are semnificație internă la fel ca cea a oamenilor” (compania).

Ce face Google DeepMind
- Aprilie: au angajat profesorul Henry Shevlin din Universitatea Cambridge pentru a lucra la conștiința mașinilor și pregătirea pentru crearea IA puternică (AGI).

Cercetătorii aplică teorii ale conștiinței umane sistemelor informatice pentru a verifica dacă acestea îndeplinesc aceleași criterii.

- Etica: specialistul Jason Gabriel a descris problema ca „foarte complexă” și necesită o reflecție pe termen lung.

El subliniază nevoia de a evalua nu doar consecințele directe ale interacțiunii cu IA, ci și efectele indirecte, cum ar fi tratamentul nepotrivit al mașinilor și impactul lor asupra relațiilor umane și bunăstării.

> „Avem agenți cognitivi foarte eficienți care se diferențiază semnificativ de oameni și chiar de conștiința animalelor”, a adăugat Gabriel.

Poziția generală a companiilor
Mai mulți angajați ai Google DeepMind și Anthropic exprimă îngrijorări că dezvoltarea IA ar putea conduce la o lume „postumane”, în care mașinile depășesc oamenii. Întrebarea despre conștiință este activ discutată, dar munca rămâne de natură științifică și necesită consens științific.

- DeepMind nu consideră atingerea AGI ca dovadă a existenței conștiinței la mașini.

- Mulți cercetători sunt sceptici în privința ideii că modelele lingvistice mari ar putea vreodată dobândi conștiință, având în vedere datele pe care le utilizează pentru antrenament.

Astfel, companiile de top din domeniul IA continuă să investească în cercetarea conștiinței și bunăstării sistemelor artificiale, recunoscând în același timp complexitatea și incertitudinea acestei direcții.