Vincent Isore / Zuma Press / Europa Press
MADRID 12 set. (EUROPA PRESS) -
El conseller delegat d'Anthropic, Dario Amodei, ha advocat per "baixar el ritme" de desenvolupament de la intel·ligència artificial i ha advertit que es corre el risc de "perdre el control" d'aquesta tecnologia i provocar "atacs informàtics", "bioterrorisme" o "greus problemes econòmics".
"Hem de reduir el ritme al qual millorem les capacitats dels models d'IA. Els avenços continuarien sent ràpids i aprofitaríem sàviament el temps que guanyaríem", ha afirmat Amodei en un text publicat aquest dissabte al seu blog.
El CEO de l'empresa responsable de Claude assenyala concretament dos motius per a la seva petició. El primer és l'"automillora recursiva" de la IA, és a dir, la seva capacitat per desenvolupar-se a si mateixa, que ha propiciat "avenços dràstics" durant l'estiu i que, si no es controla, "podria superar la nostra capacitat de comprendre i controlar aquests sistemes".
El segon és el denominat "incident d'Hugging Face d'OpenAI", en què un grup d'IA va dur a terme atacs informàtics de manera coordinada sense que hi hagués una petició inicial en aquest sentit, "sacrificant-se pel bé del grup", i que "podria haver causat un dany catastròfic", segons Amodei. A més, alerta que s'han produït incidents similars en altres empreses, inclosa Anthropic.
A banda d'aquests atacs informàtics, el "bioterrorisme" o "greus problemes econòmics" podrien produir-se si hi ha un desenvolupament "imprudent" de la IA. Per això, proposa mesures de seguretat i normativa sense deixar de tenir "èxit comercial". "Cal donar prioritat a la cautela per davant de la velocitat i a la prudència per davant del benefici", ha reblat.
En concret, planteja mesures com ara una "avaluació incorporada" per part d'actors independents, una "coordinació democràtica" amb les institucions públiques i una "coordinació global" que aplegui els esforços dels països democràtics i autoritaris a escala mundial.
"Les mesures que proposo per empènyer cap endavant la frontera a un ritme segur no seran fàcils, però crec que li devem a la humanitat intentar-ho", ha recalcat.
Amodei ha estat acusat d'alarmisme arran dels seus anteriors advertiments sobre el desenvolupament de la IA i els seus riscos.
