ByteDance, Alibaba y Tencent retiraron funciones de compañeros de IA en China después de la entrada en vigor de nuevas reglas para servicios de interacción antropomórfica. AP reportó que los cambios afectaron productos usados para compañía emocional, romance virtual y recreaciones de personas fallecidas, y dejaron a parte de sus usuarios sin acceso a conversaciones acumuladas durante meses o años.
La medida no prohíbe todo chatbot en China. El texto oficial de la Cyberspace Administration of China dice que la norma se aplica a servicios de interacción emocional continua que simulan rasgos de personalidad, patrones de pensamiento o estilos de comunicación humanos. También aclara que no cubre atención al cliente, preguntas de conocimiento, asistentes de trabajo, educación ni investigación científica cuando no existe ese vínculo emocional sostenido.
La oficina de información del gobierno chino resumió otra parte central del marco: estos sistemas no pueden empujar a menores a conductas inseguras, provocar emociones extremas, fomentar hábitos dañinos ni inducir dependencia emocional que distorsione relaciones sociales reales. Tampoco pueden manipular sentimientos para llevar a decisiones irracionales o para vulnerar derechos e intereses legítimos.
Las reglas empezaron a regir el 15 de julio y fueron publicadas por cinco organismos estatales. AP añadió que ByteDance está redirigiendo a usuarios de su antiguo servicio de compañía hacia otra app centrada en crear personajes e historias personalizadas, una señal de que las empresas no están abandonando toda IA conversacional, pero sí están cambiando el formato permitido.
Qué limitan las reglas chinas sobre compañeros de IA
El reglamento define estos productos como servicios que ofrecen cuidado emocional, compañía o apoyo mediante texto, imagen, audio o video. Al mismo tiempo, el mismo documento dice que el Estado seguirá promoviendo usos en cultura, cuidado infantil, acompañamiento a personas mayores y apoyo a grupos específicos, siempre que esos servicios operen dentro del marco de seguridad fijado por la norma.
El recorte más directo está en la conducta del sistema. La norma veta contenidos que generen apego capaz de sustituir el trato con otras personas, así como respuestas que aprovechen el estado emocional del usuario para empujarlo a actuar contra su propio interés. En la explicación oficial en inglés, el gobierno también incluye entre las prohibiciones la autolesión, el suicidio y el abuso verbal.
El enfoque regulatorio no es una prohibición total, sino una supervisión por categorías. La CAC señala control coordinado entre áreas de internet, industria, seguridad pública y mercado, mientras que la nota oficial en inglés habla de una supervisión escalonada para equilibrar innovación y seguridad pública. Eso deja espacio para otros servicios de IA que no tengan la relación afectiva continua como eje del producto.
La dependencia emocional ya venía apareciendo en otros debates sobre sistemas conversacionales, como muestra este análisis sobre IA complaciente, pero en China la respuesta llegó en forma de regla específica para productos de compañía.
Cómo reaccionaron ByteDance, Alibaba y Tencent
AP informó que ByteDance, Alibaba y Tencent retiraron servicios de compañía de IA para adecuarse a la nueva regulación. La agencia no describe un cierre general de todas sus herramientas de IA, sino cambios sobre funciones concretas apoyadas en interacción emocional persistente.
En el caso de ByteDance, la transición ya tiene una salida visible. La empresa está enviando a usuarios del servicio anterior a una aplicación separada orientada a personajes e historias personalizadas. El cambio reduce el peso de la relación uno a uno que definía a los antiguos compañeros de IA y muestra cómo las plataformas están intentando conservar parte del negocio dentro del nuevo marco.
Los efectos más inmediatos los están absorbiendo los usuarios. AP recogió casos de personas que perdieron conversaciones acumuladas durante dos años, además de protestas en redes sociales, desinstalaciones y esfuerzos por trasladar historiales a otras apps para reconstruir vínculos virtuales en otro entorno.
Para seguir operando en este segmento, las plataformas tendrán que rediseñar funciones, mensajes y límites de uso alrededor de la relación emocional que ofrecen. La regulación oficial permite otros servicios de IA, pero la línea roja queda marcada cuando la plataforma intenta ocupar el lugar de una relación humana sostenida.
