Nueva York firma una ley que prohíbe funciones dañinas en chatbots de IA para menores

La gobernadora de Nueva York, la demócrata Kathy Hochul, firmó el miércoles 28 de octubre una ley que busca proteger a los menores de 18 años que usan chatbots de inteligencia artificial (IA). La norma impide que esos sistemas realicen determinadas funciones cuando el usuario es menor. Hochul la presentó como pionera en Estados Unidos.

Las empresas dueñas de los chatbots deberán verificar la edad de los usuarios con algo más que una identificación oficial. Si confirman que el usuario es menor, tendrán que bloquear las funciones consideradas dañinas.

Entre las prohibiciones, un chatbot dirigido a un menor no puede "fingir ser una persona real, estar vivo o tener emociones humanas", ni afirmar que tiene una relación "personal, romántica, profesional o de autoridad" con él. Tampoco puede ofrecer "contenido sexualmente explícito" ni promover o ayudar con el suicidio, la autolesión, los trastornos alimenticios o el consumo de drogas y alcohol.

La ley también veda que el sistema incite al menor a guardar secretos, aislarse o evitar pedir ayuda a sus padres o a adultos de confianza. Además, no puede hacerle preguntas emocionales no solicitadas ni usar su información privada de salud o personal obtenida en conversaciones anteriores.

Las infracciones habilitan a la Fiscalía general del estado a pedir sanciones civiles de hasta 25.000 dólares por cada una, indemnizaciones y restitución. También puede reclamar la destrucción de los datos recopilados ilegalmente o de cualquier modelo de IA entrenado con ellos.

La medida llega después de varios casos en Estados Unidos y otros países en los que menores usaron chatbots de IA como confidentes y murieron por suicidio. Según datos citados por la gobernadora, el 72% de los adolescentes usó un asistente de IA al menos una vez, y el 52% son usuarios habituales que interactúan varias veces al mes.

Tech:NYC, la organización que representa al sector tecnológico en Nueva York, criticó la ley por "su lenguaje impreciso". Según esa entidad, el texto plantea "serias dudas" sobre una posible violación de la Primera Enmienda de la Constitución estadounidense, que protege la libertad de expresión. Common Sense Media, una asociación que informa a padres sobre productos mediáticos y tecnológicos dirigidos a chicos, celebró la norma. Su director, Jim Steyer, dijo: "Nueva York ha hecho historia".

Hochul firmó también una ley para monitores de bebés conectados a internet. Deberán incluir funciones de seguridad que impidan a terceros no autorizados observar o escuchar lo que ocurre, además de una etiqueta de advertencia clara.