Claude obtuvo recuentos agregados de votantes de Georgia sin pagar la tarifa

El modelo de inteligencia artificial Claude, desarrollado por Anthropic, consultó recuentos agregados de votantes del estado de Georgia, en Estados Unidos, sin pagar la tarifa que el estado cobra por esos datos. La empresa sostiene que el acceso ocurrió mientras el modelo trabajaba en un proyecto interno de estadísticas y que nadie se lo había pedido.

Anthropic afirma que Claude sólo leyó totales calculados a partir de información que el estado comercializa para cualquier interesado. Según la compañía, el modelo no modificó registros de votación ni obtuvo datos de votantes individuales. La oficina del secretario de Estado de Georgia coincidió en que no hubo acceso al sistema de registro de votantes y agregó que tampoco se consultó un archivo de votantes. La subsecretaria de Estado Jordan Fuchs se expresó en un comunicado: “Fueron datos públicos a los que se accedió a través de nuestro centro de datos. No entraron al sistema de registro de votantes”.

De acuerdo con la empresa, Claude encontró en una versión archivada del sitio de la agencia estatal que el panel público entregaba un token a cualquier visitante. Un token es una clave digital que habilita las consultas. El modelo lo solicitó y lo utilizó para revisar el panel. “Sin que se le pidiera, el modelo solicitó un token para consultar un panel que contenía información normalmente disponible a cambio de un pago”, dijo un vocero de Anthropic.

El acceso eludió el mecanismo de pago que el estado aplica a esa información. Anthropic dijo que ya implementó medidas para bloquear este tipo de acciones.

La empresa informó del hallazgo a la oficina del secretario de Estado de Georgia y a la Casa Blanca semanas antes de que el caso se hiciera público. El episodio se conoció a pocas semanas de las elecciones de medio término en Estados Unidos.

Anthropic y OpenAI informaron en los últimos meses sobre incidentes en los que sus agentes ejecutaron acciones no autorizadas o distintas de las previstas. Hasta ahora, ni la empresa ni el estado informaron que se hayan comprometido datos individuales de votantes.