Angajații Amazon folosesc inteligența artificială doar pentru raportare, nu pentru rezultate reale

Cum se transformă inteligența artificială generativă într-un „indicator” al eficienței angajaților

Pe măsură ce tehnologiile de inteligență artificială generativă (IA) devin din ce în ce mai populare, companiile cer tot mai des ca angajații să demonstreze realizări practice în utilizarea acestor sisteme. Ca răspuns la această presiune a apărut un nou fenomen: angajații atribuie IA sarcini fără sens doar pentru a-și îmbunătăți statisticile de utilizare a tehnologiei.

Financial Times descrie situația din Amazon

În articolul Financial Times se spune cum angajații gigantului de comerț electronic aplică tot mai activ soluția software MeshClaw. Acest agent se conectează la instrumentele de lucru ale angajaților și poate executa sarcini în numele lor. Unii dintre ei îl folosesc pentru a automatiza acțiuni practic inutile, pentru a-și crește ratingul personal de eficiență în utilizarea IA.

Motivul este presiunea din partea conducerii: acum peste 80 % dintre dezvoltatori sunt obligați să folosească IA în fiecare săptămână. Pentru fiecare angajat se ține o statistică separată, iar cei care rămân sub țintă trebuie să explice acest lucru conducerii. Deși formal managerii nu ar trebui să evalueze angajații pe baza datelor de utilizare a token-urilor IA, în ultimele luni au apărut suspiciuni că se face exact așa.

În acest mediu, unii angajați din Amazon dezvoltă stimulente false: imită activitatea ridicată pentru profit personal, nu pentru binele companiei. Acest lucru este deosebit de important pentru acei giganti tehnologici care investesc sume enorme în infrastructura IA și doresc să arate investitorilor și conducerii beneficiile reale ale implementării.

Cum gestionează Amazon datele despre utilizarea IA

Amazon plănuiește să cheltuiască anul acesta aproximativ 200 de miliarde de dolari pe cheltuieli de capital. Pentru a se asigura că tehnologiile sunt folosite cu adevărat, compania intensifică controlul asupra utilizării IA. Inițial se publica statistică de grup privind utilizarea IA de către angajați, dar acum acces la rezultatele individuale au doar specialiștii și conducerea lor directă. Managerii sunt formal interziși să folosească aceste date pentru evaluarea eficienței personalului.

Situația în alte companii tehnologice

Financial Times menționează că astfel de abuzuri se observă și la Meta Platforms. MeshClaw, dezvoltat de peste 30 de specialiști Amazon, poate încărca cod software în versiunile de producție, sorta e-mailuri și interacționa cu aplicații precum Slack. Mulți angajați exprimă îngrijorări privind securitatea acestor soluții: IA poate genera erori, iar controlul asupra acțiunilor sale rămâne slab.

Astfel, creșterea cerințelor de utilizare a IA generativă conduce la crearea „indicatorilor” de eficiență care uneori devin scopuri în sine, nu mijloace pentru obținerea unor rezultate reale de afaceri.