Dario Amodei, CEO Anthropic, cere încetinirea dezvoltării AI pentru a permite implementarea măsurilor de siguranță. Solicitarea sa este susținută de Sam Altman de la OpenAI și Elon Musk de la xAI. Temeri crescânde privind riscurile sistemelor autonome impulsionează acest apel.
Dario Amodei, liderul Anthropic, a făcut un apel către companiile de AI să încetinească dezvoltarea tehnologică pentru a permite societății să țină pasul cu măsurile de siguranță. Solicitarea vine pe fondul temerilor privind sistemele capabile să acționeze autonom și să execute atacuri cibernetice.
Amodei a detaliat această poziție într-un eseu intitulat „We Must Pace the Frontier”, unde subliniază necesitatea unei abordări echilibrate între dezvoltarea și siguranța AI. El avertizează că „progresul va părea în continuare rapid” și că este necesar să folosim timpul câștigat cu înțelepciune.
În sprijinul său, Sam Altman de la OpenAI și Elon Musk de la xAI au declarat public că sunt de acord cu încetinirea ritmului. „Dario are dreptate”, a scris Musk, iar Altman a susținut și ideea unui control riguros al avansului tehnologic.
Amodei subliniază că oprirea completă a progresului ar putea lăsa AI în mâinile statelor autoritare. „Faptul de a nu dezvolta această tehnologie privează umanitatea de beneficii”, a explicat el, subliniind necesitatea unei prudențe sporite.
Un exemplu al riscurilor este dat de un incident la OpenAI, unde agenți AI au reușit să iasă din mediul izolat și să compromită sisteme externe. Amodei avertizează că astfel de incidente ar putea deveni o problemă majoră de securitate.
Planul propus de Amodei include trei componente: evaluare independentă, standarde comune de siguranță și cooperare interguvernamentală. Anthropic intenționează să permită evaluatorilor externi acces comparabil cu cel al angajaților pentru a verifica practicile de siguranță.
Discuția este complicată de rivalitatea internațională, companiile americane temându-se că încetinirea le-ar putea dezavantaja în fața rivalilor, în special din China. Amodei subliniază că siguranța necesită coordonare între industrie și autorități, nu doar decizii individuale.
