El pasado 12 de septiembre, el cofundador y director general de Anthropic, Dario Amodei, publicó en su página web personal un artículo titulado «We Must Pace the Frontier».
Entre los laboratorios estadounidenses que desarrollan modelos de Inteligencia Artificial de vanguardia, como la propia Anthropic (la empresa detrás de Claude), ésta última se ha posicionado, desde su lanzamiento en 2021, como defensora de un desarrollo prudente de la tecnología, sobre todo luego de que algunos de sus mismos empleados advirtieran que la trayectoria actual de la IA podría conducir a la extinción de la humanidad.
En este contexto, el Dr. Carlos Navarrete, subdirector del Centro de Datos e Inteligencia Artificial UdeC, explicó que, en el fondo, “estamos ante un conflicto geopolítico” entre Estados Unidos y China, considerando que los modelos de desarrollo de estas herramientas obligan a las y los usuarios a entregar sus datos a empresas estadounidenses o mantener esa información bajo su propio resguardo en base a modelos chinos.
En cuanto al riesgo propiamente tal, el especialista destacó principalmente dos aspectos: el hackeo de otras webs, por parte de algunas herramientas, para acceder a más información, y los llamados delirios provocados por la IA, principalmente en el modo más conversacional y relacionado con las actividades cotidianas de las personas.
Navarrete indicó que las herramientas de inteligencia artificial estás creadas para responder, y cuando los modelos tratan de resolver las pruebas de ciberseguridad (especialmente sensibles para los Gobiernos) éstos logran encontrar vacíos en la estructura donde estaban para poder hackear otras páginas que sí tienen las respuestas.
En este mismo sentido, otro factor de riesgo tiene relación con el acceso de las herramientas de IA a nuestra información privada. Si bien la mayoría de las aplicaciones permite desactivar el uso de datos confidenciales para su entrenamiento, la tendencia actual refleja cómo una gran cantidad de usuarios comparte voluntariamente información sensible de su familia, salud, presupuestos o intereses.
A nivel local, si bien el subdirector del Centro de Datos e Inteligencia Artificial UdeC valoró el desarrollo del Doctorado en IA, programa académico único en Sudamérica y surgido en Biobío, comentó que “no estamos tan insertos en las conversaciones globales sobre el desarrollo de la inteligencia artificial”.
Cabe señalar que la carta publicada por el CEO de Anthropic hace unos días, un texto de 3.800 palabras pidiendo una regulación del ritmo de la IA, propone un control de tres pasos para dar tiempo a la sociedad y a los gobiernos de adaptarse a estos cambios. Además, ya en 2023 el Future of Life Institute publicó una petición firmada por más de 20 mil personas ese año (más de 33 mil actualmente) para frenar por seis meses el entrenamiento de sistemas más potentes que GPT-4. En ese momento ya se alertaba sobre la pérdida de control social, la desinformación masiva y los riesgos de ciberseguridad.
Escucha aquí la entrevista completa con el Dr. Carlos Navarrete, subdirector del Centro de Datos e Inteligencia Artificial UdeC.
