Rețelele sociale vor trece în curând prin atacuri de masă ale agenților AI, avertizează oamenii de știință

Atacuri de masă ale roboților AI: o nouă amenințare pentru rețelele sociale

În viitorul apropiat, în mediile sociale pot apărea campanii pe scară largă organizate de roboți cu inteligență artificială (AI). Acești roboți vor modela comportamentul realilor oameni și vor folosi predispoziția psihologică spre „înțelepciunea majorității” pentru a manipula opinia publică. În consecință, ei pot:

* Difunda informații false
* Exersa presiune asupra utilizatorilor individuali
* Influența procesele politice

Astfel, roboții AI ar putea deveni un nou tip de armă în războaiele informaționale.

Cum funcționează viitorii roboți
Profesorul norvegian Jonas Künst avertizează că roboții cu AI vor:

1. Imită oamenii – activitatea lor va părea naturală, astfel încât să fie greu de detectat.
2. Crea iluzia unei mulțimi – oamenii vor urma „înțelepciunea”, dar în realitate o va controla un operator necunoscut (individ, grup, partid politic, companie sau actor guvernamental).
3. Persecuta pe cei care refuză să se alăture – roboții pot suprimă argumente contrare și întări propriul lor narativ.

Nu există termene precise pentru apariția unor astfel de „roboti”, dar experții consideră că aceștia sunt deja implementați în anumite zone. Amenințarea crește deoarece ecosistemele digitale sunt slăbite din cauza pierderii discursului rațional și a incertitudinii generale privind realitatea printre cetățeni.

De la roboți simpli la cei complexi
* Roboții primitivi reprezintă deja peste jumătate din traficul web. Ei execută doar sarcini de bază: postează mesaje similare, dar pot fi identificați ușor dacă există operatori.
* Roboții AI bazati pe modele lingvistice mari vor fi mult mai complecși.
* Se adaptează la comunități specifice.
* Creează mai multe „personalități” cu memorie și identitate.
* Se auto-organizează, învață și se specializează în exploatarea slăbiciunilor umane.

Künst îi compară cu un „organism autosuficient”, capabil să coordoneze acțiuni fără intervenție constantă a omului.

Se observă deja primele semne
Anul trecut, administrația Reddit a anunțat o acțiune în justiție împotriva cercetătorilor care au folosit chatbot-uri pentru manipularea opiniilor 4 milioane de utilizatori. Rezultatele au arătat că răspunsurile AI erau de trei–șase ori mai convingătoare decât postările realilor oameni.

* Scara atacului depinde de puterea de calcul a infractorului și de capacitatea platformei de a-l contracara.
* Chiar un număr mic de agenți poate avea un impact semnificativ în comunități locale, deoarece noii participanți vor fi percepuți cu suspiciune.

Ce pot face administratorii rețelelor sociale
1. Întări autentificarea – cererea confirmării că utilizatorul este om (nu o panaceu, dar complică sarcina infractorilor).
2. Scanarea traficului în timp real – identificarea anomaliilor statistice și a devierilor de la comportamentul normal.
3. Crearea comunităților de experți – reunirea specialiștilor și instituțiilor pentru monitorizarea atacurilor, răspunsul și creșterea conștientizării publice.

Ignorarea acestor măsuri poate duce la defecțiuni serioase în alegeri și alte evenimente importante.

Concluzie
Atacurile de masă ale roboților AI nu mai sunt doar o problemă teoretică. Ele reprezintă o amenințare reală pentru schimbul onest de informații, democrație și stabilitate socială. Pentru a se proteja, platformele și utilizatorii trebuie să implementeze activ noi tehnologii de detectare și să crească nivelul gândirii critice în societate.