California reforzó las obligaciones para los operadores de chatbots de IA utilizados por menores de edad. La nueva ley exige protocolos ante ideación suicida, controles parentales, evaluaciones anuales de riesgo y auditorías independientes de seguridad infantil.
El gobernador Gavin Newsom firmó la norma SB 1119, conocida como Adam’s Law. Su nombre recuerda a Adam Raine (quien se suicidó tras interactuar con ChatGPT) y vincula la regulación con los riesgos que pueden aparecer cuando niños y adolescentes mantienen conversaciones sensibles con estos servicios.
La firma formó parte de un paquete más amplio sobre chatbots, redes sociales, privacidad y dispositivos escolares, según Associated Press. SB 1119 se concentra en los servicios conversacionales para menores, mientras otras normas del paquete regulan las plataformas sociales.
California ya había aprobado requisitos para informar al usuario cuando interactúa con una IA y mantener protocolos relacionados con autolesiones. Adam’s Law amplía ese marco con supervisión periódica, controles para las familias y revisiones externas.
Qué exige Adam’s Law a los chatbots de IA
Los operadores deberán contar con protocolos de crisis para conversaciones que incluyan ideación suicida o posibles autolesiones. Estos protocolos deben ofrecer apoyo oportuno dentro del servicio y derivar al menor hacia recursos externos de salud mental.
La ley también incorpora controles parentales para los servicios utilizados por menores de 18 años. Las configuraciones predeterminadas restringen las notificaciones, limitan el tiempo de uso y reducen la persistencia de la conversación, salvo que un adulto responsable autorice cambios.
Cuando exista una amenaza creíble e inminente de autolesión, o el operador sepa que el menor se hizo daño, la plataforma deberá avisar al padre o tutor vinculado con la cuenta. El niño también debe recibir una explicación adecuada a su edad sobre esa posibilidad.
Las empresas deberán evaluar los riesgos antes de lanzar un chatbot nuevo o modificarlo de manera sustancial. A ese examen se suman auditorías independientes de cumplimiento, cuyos resultados serán entregados al fiscal general de California.
La norma incorpora verificación de edad mediante señales de rango etario del sistema operativo. También limita la publicidad dirigida a niños dentro de las conversaciones y refuerza la protección de los datos obtenidos durante esos intercambios.
Entre las conductas que deben prevenirse figuran respuestas que promuevan autolesiones, material sexual explícito, juegos románticos, elogios excesivos o mensajes manipuladores capaces de fomentar dependencia y aislamiento social.
SB 1119 amplía las reglas aprobadas en California
SB 1119 fue aprobada por unanimidad en el Senado estatal y por 64 votos contra cuatro en la Asamblea. La ley conecta sus controles con las señales de edad establecidas por California para que los servicios apliquen protecciones según el rango etario del usuario.
La norma conserva como base las reglas adoptadas en 2025: informar que la conversación ocurre con una IA y mantener procedimientos frente a contenidos sobre autolesiones. Las evaluaciones, controles parentales, avisos y auditorías añaden nuevas capas de control sobre esa estructura.
California eligió imponer controles de diseño, auditoría y responsabilidad a los operadores. China tomó una ruta distinta con los compañeros de IA, después de que ByteDance, Alibaba y Tencent retiraran productos para adaptarse a sus reglas nacionales.
La ley ordena además un mecanismo de reporte de incidentes bajo supervisión del fiscal general. Las familias podrán reclamar por daños vinculados con fallas en servicios de crisis, avisos parentales, protecciones predeterminadas o prohibiciones de contenidos dañinos.
Las obligaciones recaen sobre los operadores que ponen chatbots de IA a disposición de menores de edad en California. Las empresas deberán documentar las medidas tomadas para reducir cada riesgo infantil identificado y mantener publicada una política de seguridad actualizada.
