OpenAI integrează securitatea în agenții AI prin achiziționarea startup-ului Promptfoo

OpenAI achiziționează startup-ul Promptfoo

Compania OpenAI a încheiat un acord de cumpărare pentru startup-ul Promptfoo, cu doi ani de activitate, care dezvoltă instrumente pentru testarea securității inteligenței artificiale încă din faza de creare. Conform Bloomberg, scopul tranzacției este să reducă riscurile pentru clienții care utilizează soluții AI și să atragă un mare segment corporativ.

Cine este Promptfoo?

- Fondat: 2022
- Locație: San Francisco
- Servicii: cod deschis pentru testarea rețelelor neuronale, inclusiv „echipa roșie” (red‑team), unde specialiștii imită atacuri asupra propriilor modele, identificând vulnerabilități înainte ca acestea să fie descoperite de atacatori.
- Clienți: aproximativ 25 % din companiile din lista Fortune 500.

Ce se va schimba după integrare?

Tehnologiile Promptfoo vor fi integrate în platforma corporativă OpenAI – Frontier. Aceasta va oferi Frontier testare automatizată, monitorizare a schimbărilor și un sistem de raportare a verificărilor conforme cu cerințele de securitate.

Reacția investitorilor

Ganes Bell (CEO Insight Partners), care a condus rundă de finanțare Promptfoo de 18,4 milioane de dolari anul trecut, a declarat: „Achiziția demonstrează angajamentul clar al OpenAI față de dezvoltarea AI corporativă, care va fi nu doar puternică, ci și sigură și fiabilă la scalare.” Detaliile financiare ale tranzacției nu sunt încă dezvăluite.

Viitorul Promptfoo

OpenAI va continua să dezvolte codul deschis Promptfoo în paralel cu integrarea sa comercială. Recent, compania a prezentat deja un agent AI capabil să identifice și să remedieze vulnerabilități în bazele de date – un instrument similar cu Anthropic PBC.