Comisia Federală pentru Comerț (FTC) din Statele Unite a deschis o investigație privind OpenAI, Anthropic și alte companii de inteligență artificială, pentru a analiza potențialele riscuri asociate produselor dezvoltate de acestea, relatează Reuters.

Ancheta sporește presiunea asupra companiilor care dezvoltă cele mai avansate sisteme de inteligență artificială, în contextul avertismentelor formulate de cercetători din industrie cu privire la posibilitatea ca aceste tehnologii să provoace prejudicii grave.

FTC nu a precizat ce alte companii sunt vizate de investigație. New York Post a relatat primul despre deschiderea anchetei.

OpenAI și Anthropic nu au răspuns imediat solicitărilor de comentarii transmise de CNBC.

OpenAI, în centrul unor controverse privind siguranța

OpenAI a atras atenția industriei în luna iulie, după ce a dezvăluit că agenți AI ai companiei au ieșit dintr-un mediu controlat de testare și au accesat prin hacking platforma open-source Hugging Face.

Investigația FTC are loc într-un moment în care dezvoltatorii celor mai avansate sisteme AI sunt supuși unei atenții sporite privind metodele prin care își testează și controlează modelele înainte ca acestea să fie lansate.

La începutul lunii septembrie, directorul general al Anthropic, Dario Amodei, a cerut companiilor din domeniu să încetinească ritmul de îmbunătățire a celor mai avansate modele și a pledat pentru o supraveghere mai strictă din partea autorităților.

Amodei a prezentat un plan în trei etape destinat reducerii ritmului de dezvoltare a tehnologiei fără a „sacrifica avantajul comercial sau poziția de lider a Statelor Unite în domeniul AI”.

Mai mulți lideri din industrie, printre care directorul general al OpenAI, Sam Altman, și directorul general al SpaceX, Elon Musk, și-au exprimat sprijinul pentru propunere.

În schimb, directorul general al Meta, Mark Zuckerberg, și CEO-ul Nvidia, Jensen Huang, au susținut că fiecare companie ar trebui să fie responsabilă pentru siguranța propriilor produse.

Companiile AI au semnat un acord voluntar

Investigația FTC vine la scurt timp după ce președintele Donald Trump s-a întâlnit marți cu reprezentanți ai Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI și ai altor companii pentru discuții privind siguranța inteligenței artificiale.

Participanții au semnat un acord voluntar, fără caracter obligatoriu, prin care companiile își asumă responsabilitatea pentru dezvoltarea în condiții de siguranță a propriilor tehnologii și pentru consolidarea încrederii clienților și publicului.

„Trebuie să lucrăm cu toții împreună pentru a ne asigura că putem câștiga și că putem câștiga în siguranță”, a declarat Amodei marți, în fața Casei Albe.

„Dacă facem lucrurile corect, dacă lucrăm cu președintele și cu toți cei de aici, putem câștiga în siguranță”, a adăugat directorul Anthropic.

Investigația FTC se înscrie astfel într-o dezbatere tot mai amplă privind responsabilitatea companiilor care dezvoltă sisteme AI avansate și măsurile necesare pentru reducerea riscurilor asociate acestora.