Compania Anthropic a intervenit pentru a împiedica utilizarea abuzivă a modelului său de inteligență artificială, Claude, în dezvoltarea de arme biologice. Într-un raport recent, firma a subliniat riscurile și măsurile luate împotriva unor cercetători care au încercat să ocolească controalele de securitate.
Anthropic a anunțat că a blocat tentativele de a folosi Claude pentru crearea de arme biologice. Compania a precizat că nu a putut determina intențiile exacte ale cercetătorilor, dar a acționat preventiv, potrivit The New York Times.
„Nu avem de-a face cu scenarii de benzi desenate”, a spus Jacob Klein, un oficial al companiei, subliniind complexitatea situației. Riscurile ca AI să accelereze dezvoltarea agenților patogeni sunt o preocupare majoră.
Raportul evidențiază și utilizarea Claude de către agenți asociați cu guvernele din China și Iran, precum și de instituții media ruse pentru propagandă. Au fost documentate și cazuri din Yemen, sugerând implicarea miliției Houthi.
Anthropic a observat și tentative de a folosi AI pentru dezvoltarea de arme convenționale. Compania a detaliat cazuri din China, Rusia și Yemen, fără a dezvălui numele părților implicate.
Andrew Weber, de la Council on Strategic Risks, a susținut restricționarea accesului la AI pentru cercetători din țări care dezvoltă arme biologice interzise, subliniind necesitatea utilizării responsabile a tehnologiei.
Compania a suspendat conturile implicate și a evidențiat un caz din mai, în care un cercetător a cerut ajutorul Claude pentru experimente cu virusul chikungunya. Cercetările de tip „câștig de funcție” pot fi legitime, dar prezintă riscuri semnificative.
