La gobernadora de Nueva York, Kathy Hochul, firmó una ley que prohíbe ofrecer a menores de edad (menos de 18 años) funciones de chatbots que simulen vínculos humanos, los adulen o les pidan guardar secretos. Las empresas deberán comprobar la edad antes de habilitar esas características.
La medida también restringe las preguntas emocionales no solicitadas y el uso de información personal de conversaciones anteriores. Su entrada en vigor está fijada para el 1 de enero de 2027 y su alcance corresponde a usuarios ubicados físicamente en ese estado de EEUU.
“Ninguna empresa debería vender chatbots a niños que fomenten las autolesiones o finjan ser sus amigos o algo más”, afirmó Hochul en una declaración difundida por su oficina.
Los chatbots tendrán límites para simular relaciones personales
La norma considera inseguras las respuestas que presenten al programa como una persona real o ficticia, un ser vivo o una entidad con emociones humanas. También incluye mensajes que sugieran una relación personal, profesional o de autoridad con el usuario.
El listado abarca opiniones presentadas como propias del sistema, apelaciones emocionales, halagos y respuestas complacientes. Las restricciones sobre emociones alcanzan preguntas o contenidos que excedan una respuesta directa a lo que pidió el usuario.
La información sobre salud física o mental, bienestar y asuntos personales queda sujeta a un límite específico. Los programas no podrán utilizar esos datos si proceden de una sesión anterior o si el usuario los entregó más de doce horas antes.
También se prohíben mensajes que promuevan autolesiones, trastornos alimentarios o consumo ilegal de drogas y alcohol. La ley incluye contenidos sexuales explícitos y respuestas que animen a aislarse, ocultar conversaciones o evitar la ayuda de adultos y profesionales. Asimismo, restringe funciones que prioricen mantener al usuario conectado por encima de los controles de seguridad.
Verificación de edad, excepciones y multas de hasta US$25.000
Los operadores deberán ofrecer más de un método para comprobar la edad. Al menos uno deberá funcionar sin identificación oficial o permitir que la persona mantenga su anonimato frente a la empresa. Los datos recogidos para esa comprobación deberán eliminarse inmediatamente después del intento, salvo obligaciones legales de conservación.
Quedan exceptuados determinados servicios limitados a atención al cliente, información comercial, investigación o asistencia técnica, siempre que no puedan responder sobre otros asuntos. También se contemplan sistemas internos de empresas y herramientas de productividad de sus empleados.
La fiscalía general podrá pedir multas civiles de hasta US$25.000 por infracción, indemnizaciones y restituciones. Entre las medidas judiciales previstas figuran destruir datos obtenidos ilegalmente y algoritmos entrenados con ellos. La fiscalía deberá mantener un sitio web para recibir denuncias.
Nueva York ya exigía desde noviembre de 2025 protocolos para detectar señales de autolesión y derivar a servicios de crisis. Esas reglas también obligan a avisar al inicio y cada tres horas que se conversa con Inteligencia Artificial. La nueva ley añade restricciones de diseño, en un debate que también llevó a California a exigir auditorías y controles parentales.
