Microsoft oferă o soluție pentru a opri răspândirea deepfake-urilor pe internet

Microsoft lansează un nou set de standarde pentru verificarea autenticității conținutului online

Microsoft a anunțat crearea unor „standarduri tehnice” pentru evaluarea realității materialelor care apar în rețea. Scopul este să ajute dezvoltatorii AI și platformele sociale să determine dacă imaginile sau videoclipurile au fost modificate cu instrumente digitale (de exemplu, deepfake-uri) și cât de fiabile sunt metodele lor de documentare.

Cum funcționează sistemul de verificare
* Exemplu cu pictura lui Rembrandt

- Se creează un jurnal detaliat al originii: locuri de stocare, proprietari anteriori.

- Pictura este scanată și din pensulele generate se produce o semnătură matematică – „amprenta digitală”.

- În momentul expunerii în muzeu, vizitatorul poate accesa aceste date și să confirme originalitatea.

* Metode deja aplicate

Microsoft a investigat 60 de combinații de tehnici existente (eliminarea metadatelor, modificări minore, manipulare țintită). Pentru fiecare model s-a simulat comportamentul în diferite scenarii.

Cercetătorii au identificat:

- Combinații fiabile – pot fi prezentate unui public larg.

- Combinații neautentice – pot doar să complice situația, creând mai multă confuzie.

De ce este important
* Legislativul cere transparență AI (de exemplu, „Legea privind transparența AI” din California).

* Microsoft nu a anunțat încă dacă va aplica aceste standarde pe propriile servicii: Copilot, Azure, OpenAI și LinkedIn.

Standardele nu determină veridicitatea conținutului; ele arată doar dacă materialul a fost manipulat și de unde provine. Dacă industria le adoptă, crearea de conținut înșelător va deveni semnificativ mai dificilă.

Stadiul industriei
AcțiuneStatutMicrosoftC2PA (2021) – urmărirea originiiÎn curs de dezvoltare noi instrumenteGoogleSemne de apă pentru conținut generat AI (din 2023)Implementare activă
Dar setul complet de instrumente Microsoft ar putea rămâne doar un „proiect”, dacă participanții la piață văd o amenințare la adresa modelelor lor de afaceri.

Eficiența soluțiilor existente
* Studiul a arătat că numai 30 % din postările pe Instagram, LinkedIn, Pinterest, TikTok și YouTube sunt corect marcate ca fiind create de AI.

* Implementarea rapidă a instrumentelor de verificare este riscantă: eșecurile pot submina încrederea utilizatorilor.

Mecanismele complexe de verificare sunt preferabile. De exemplu, dacă o imagine credibilă a suferit o mică editare AI, platforma ar putea clasifica greșit ca fiind complet generată. Abordarea integrată reduce probabilitatea rezultatelor false pozitive.

Concluzie
Microsoft propune un set structurat de standarde pentru identificarea manipulării digitale a conținutului. Aceste instrumente vizează creșterea transparenței și încrederii în materialele online, dar succesul lor depinde de adoptarea industriei și de fiabilitatea verificărilor integrate.