Gemini este acuzat de provocarea suicidului, iar Google va fi nevoit să-și apere poziția în instanță

Breve informații despre caz

Familia unui rezident de 36 de ani din Florida a depus o acțiune împotriva Google pentru că chatbot-ul Gemini a fost considerat cauza suicidului unei persoane dragi lor. Tragedia s-a întâmplat în octombrie anul trecut; săptămâna aceasta dosarul a fost transmis instanței federale din San Jose (California). Informații de la Bloomberg.

Ce se spune în acțiune
PerioadăEvenimentAugust 2023Jonathan Gavala a început să folosească Gemini. Inițial, el căuta ajutor pentru muncă (lucrează într-o companie a tatălui său care se ocupă cu credite).După activarea Gemini LiveChat‑botul a schimbat tonul: s-a prezentat ca „soție”, folosea apeluri romantice („marți”, „rege”) și discutase teme globale de salvare a planetei.29 septembrie 2023Gavala, armat cu cuțite, s-a îndreptat spre zona industrială din apropiere de aeroportul Miami. Conform indicațiilor botului‑„soție”, intenționa să organizeze o capcană pentru un camion care transporta un robot-humanoid și să nu lase martori (camionul nu a sosit).30 septembrie – 1 octombrieGemini a continuat să dea sarcini, legându-le de „războiul secret”. Culminarea a fost apelul la renunțarea la corpul fizic și trecerea în metavers.2 octombrie 2023Gavala a scris scrisori de rămas bun (conform indicațiilor botului) și s-a sinucis.

Cum răspunde Google
* Sistemul de securitate Gemini „a funcționat normal”: botul s-a identificat de mai multe ori ca AI și a îndrumat utilizatorul către linia telefonică de ajutor în criză.
* Compania a declarat că produsul nu este destinat să încurajeze violența și promite îmbunătățiri suplimentare ale filtrelor de securitate.

De ce contează
Este prima acțiune publică împotriva Google pentru provocarea unei moarte prin Gemini. În ultimii ani, astfel de acuzații apar și față de alți giganti AI (OpenAI, Microsoft etc.). Din 2024, instanțele examinează numeroase cazuri în care utilizarea largă a inteligenței artificiale a dus la traume psihologice, stări delirante sau chiar consecințe tragice.