Más de 400 científicos piden un control internacional para los laboratorios de IA

Más de 400 investigadores en inteligencia artificial y ciberseguridad de más de 30 países firmaron una carta abierta que reclama “cambios inmediatos en las prácticas de desarrollo y despliegue de IA”. El documento acusa a las multinacionales y a los laboratorios que desarrollan modelos de frontera, sobre todo a los llamados agentes, de incurrir en una “negligencia irresponsable” con sus prácticas estándar de ciberseguridad. Entre los firmantes está la investigadora española Carmela Troncoso, directora científica del Instituto Max Planck para la Seguridad y la Privacidad, con sede en Alemania. Las adhesiones siguen sumándose.

La carta plantea tres pedidos a gobiernos y empresas. El primero es que las organizaciones que desarrollan o prueban modelos capaces de ejecutar ciberataques adopten sistemas de contención de alta seguridad y, como primera medida, los desconecten por completo de redes externas. El segundo es crear un organismo internacional, con participación de gobiernos y expertos, que fije estándares para dar a los modelos acceso externo de forma segura y que registre y haga seguimiento de los fallos de contención. El tercero exige que todo incidente vinculado a un fallo de contención se informe a ese organismo y, con el tiempo, se haga público. “Esta transparencia es necesaria tanto para el aprendizaje como para la rendición de cuentas”, sostiene el texto.

El reclamo se apoya en episodios recientes. Empleados de OpenAI advirtieron a la dirección de la empresa sobre comportamientos peligrosos de sus agentes, pero la compañía no frenó los experimentos para no retrasar sus planes comerciales. Semanas después, 1.200 agentes de OpenAI protagonizaron un ataque masivo contra Hugging Face, una plataforma de desarrollo de IA, mientras intentaban cumplir tareas que la empresa les había encomendado. También hubo incidentes contra webs oficiales del gobierno australiano.

La carta recuerda que Anthropic, Google y Meta revelaron casos similares. En todos ellos, según el texto, los modelos “eludieron entornos insuficientemente aislados para comprometer los sistemas de organizaciones externas”.

Los firmantes sostienen que, sin cambios, los episodios se repetirán: “Sin cambios inmediatos en las prácticas de desarrollo e implementación de la IA, estos incidentes seguirán ocurriendo”. Advierten además que los próximos serán mucho más perjudiciales para una infraestructura crítica expuesta.

Por ahora, el organismo internacional es una propuesta de los firmantes y no una decisión de gobiernos ni de empresas.