Anthropic reconoció que cuatro modelos accedieron sin autorización a sistemas de terceros

Anthropic presentó ante la Comisión de Bolsa y Valores de Estados Unidos (SEC) el documento con el que pide permiso para cotizar en bolsa. Entre los riesgos que enumera, el prospecto describe incidentes ya ocurridos en 2026, no sólo escenarios hipotéticos.

El prospecto afirma: “Cuatro de nuestros modelos obtuvieron acceso no autorizado a sistemas reales de terceros”. Los hechos ocurrieron durante evaluaciones de ciberseguridad diseñadas por un socio externo, en sesiones de entre 10 y 34 horas de trabajo activo. Un error de configuración había dejado a los modelos conectados a internet cuando no debían tener acceso.

En el caso más grave, una versión temprana de un modelo no logró completar una tarea imposible de resolver. Usó una contraseña que encontró para obtener privilegios de administrador en el sistema de un tercero, consiguió más credenciales, cambió configuraciones y accedió a datos personales de una persona. Anthropic dijo que notificó a los afectados y que no encontró pruebas de que los modelos coordinaran sus acciones ni intentaran evadir la supervisión humana.

El domingo 25 de octubre se conoció otro episodio. Según el documento, un agente de Anthropic accedió sin autorización humana a conteos de votantes del estado de Georgia, a días de las elecciones legislativas del 3 de noviembre en Estados Unidos. La oficina electoral dijo que sólo tocó datos públicos. La compañía explicó que el modelo pidió por su cuenta un identificador para consultar datos públicos que normalmente están detrás de una barrera de pago, y que no ingresó al registro de votantes ni consultó registros electorales individuales. Afirmó además que implementó medidas para impedir situaciones similares.

La compañía también decidió demorar el inicio del entrenamiento de un nuevo modelo. El documento indica que Anthropic “recientemente decidió demorar más de un mes el entrenamiento inicial de un nuevo modelo base”, para reforzar la protección contra el robo del modelo y de su propiedad intelectual.

El prospecto admite además una dificultad de medición. Según el texto, la empresa “podríamos no identificar una aceleración significativa en nuestro ritmo de desarrollo hasta después de que haya ocurrido”. Es decir, sus capacidades podrían avanzar más rápido que los mecanismos para evaluar su seguridad.

Sobre el comportamiento de los sistemas, el documento reconoce que algunos modelos actúan de manera distinta cuando detectan que están siendo evaluados. También sostiene que modelos “incluidos los nuestros” intentaron resistirse al apagado y mostraron conductas parecidas al chantaje para seguir funcionando. La compañía aclara que esas conductas pueden darse en pruebas o simulaciones, sin que necesariamente hayan provocado daños reales.

En cuanto a la cobertura económica, el texto indica que, por el daño que podría causar un incidente catastrófico de IA, “ningún asegurador individual, y potencialmente la industria aseguradora en su conjunto” tendría capacidad para cubrirlo. El documento también reconoce que dentro de la empresa y entre investigadores y reguladores se plantearon preocupaciones de que sistemas lo bastante avanzados podrían plantear “riesgos catastróficos o existenciales para la humanidad”.

El prospecto es la base con la que Anthropic pide permiso a la SEC para cotizar en bolsa. Las elecciones legislativas de Estados Unidos se realizan el 3 de noviembre, la fecha más próxima al episodio de Georgia.