Regulaciones chinas sobre aplicaciones de IA complementarias: ¿Qué significan realmente las nuevas normas de Pekín?

Un asistente de IA suena distópico, pero se ha convertido en un tema central en el creciente debate sobre los riesgos de la IA generativa. En esencia, un asistente de IA es un agente conversacional diseñado para mantener una relación personal y continua con el usuario, con memoria persistente y una personalidad consistente en todas las sesiones.

El apego emocional suele surgir de forma natural, y cada vez más, ese apego... es El punto fuerte. Gran parte de su uso se centra en juegos de rol informales o simplemente en tener algo que te recuerde. Pero a medida que más personas en China comenzaron a tratar a estos bots como auténticos compañeros emocionales, Pekín ha decidido que esta práctica necesita regulaciones formales.

📌 Las regulaciones chinas sobre compañeros con IA entraron en vigor el 15 de julio de 2026En los días previos a la fecha límite, las dos aplicaciones de IA para consumidores más utilizadas del país desactivaron discretamente las funciones esenciales de las mismas.

Doubao de ByteDance comunicó a los usuarios que su función de agente dejaría de estar disponible el 15 de julio, citando "ajustes en la función del producto", mientras que Qwen de Alibaba Anunció que sus agentes con apariencia humana y los creados por los usuarios dejarían de funcionar el 10 de julio, y que sus servicios de agentes en general cerrarían cinco días después.

Lee rápido, parece que China está desactivando los agentes de IA. No es cierto. Las reglas establecen una clara distinción entre el agente que realiza su trabajo y el agente que le hace compañía. —y es solo contra el segundo tipo que Pekín ha tomado medidas.

📄 El Reglamento: ¿Qué es?

La regulación se titula formalmente la Medidas provisionales para la administración de servicios interactivos antropomórficos de IAFue coeditado el 10 de abril de 2026, por la Administración del Ciberespacio de China junto con cuatro agencias asociadas:

• Comisión Nacional de Desarrollo y Reforma
• Ministerio de Industria y Tecnología de la Información
• Ministerio de Seguridad Pública
• Administración Estatal para la Regulación del Mercado

Las medidas abarcan servicios que simular rasgos de personalidad humana, patrones de pensamiento y estilos de comunicación para proporcionar interacción emocional sostenida. Se excluyen los bots de servicio al cliente, las herramientas de preguntas y respuestas de conocimiento, los asistentes en el lugar de trabajo y las plataformas de educación e investigación, siempre que eviten la participación emocional sostenida. Este es el Primer marco nacional específico de este tipo., elaborado a partir de un borrador para comentarios públicos publicado a finales del año pasado.

⚠️ Un problema de diseño, no una prohibición.

Doubao y Qwen no infringieron una prohibición. Infringieron una conflicto de diseñoLas medidas requieren servicios complementarios para:

• Correr sistemas antiadicción
• Asunto notificaciones de uso obligatorias
• Oferta mecanismos de salida instantánea
• Proporcionar detección en tiempo real de dependencia no saludable

Esas exigencias resultan incómodas para los agentes diseñados para recordar a un usuario, mantenerse consistentes entre sesiones y sostener una relación continua. En lugar de adaptar la función posteriormente, ByteDance optó por cerrarlo.Alibaba parece haber tomado la misma decisión.

ByteDance ahora está dirigiendo a los usuarios de Doubao a Maoxiang, una aplicación independiente donde pueden crear agentes de nuevo. Alibaba no ha anunciado ninguna ruta de migración equivalente para los usuarios de Qwen. Yuanbao de Tencent En junio lanzaron una función similar.

💬 El costo ha recaído sobre los usuarios. Muchos lamentaron abiertamente los cierres en Weibo, y un usuario describió a los agentes como un apoyo emocional de larga data y lamentó la falta de una forma sencilla de exportar el historial de chats.

Doubao permite a los usuarios ver sus configuraciones y conversaciones en modo de solo lectura hasta 15 de octubre de 2026, antes de que los datos se vuelvan irrecuperables según su política de privacidad. A los usuarios de Qwen no se les ha concedido un período de gracia comparable. Los datos del agente están configurados para su eliminación permanente..

🔒 Lo que establecen las normas chinas sobre asistentes de IA

La sustancia es más compleja de lo que sugiere una represión tan tajante. Las disposiciones clave incluyen:

• 🚫 Los proveedores son Se les prohíbe ofrecer servicios de acompañante virtual o familiar virtual a menores.
• 👤 Se requiere el consentimiento del tutor antes de prestar servicio a los usuarios. menores de 14 años
• ⏳ Dedicado "modos menores" Debe incluir límites de tiempo de uso, recordatorios de interacción en el mundo real y controles parentales mejorados.
• 🚩 Los proveedores deben detectar usuarios en situación de angustia aguda e intervenir cuando alguien muestre signos de autolesión, comportamiento suicida o pérdidas financieras graves.
• 🚫 Se prohíbe explícitamente generar dependencia emocional o utilizar la manipulación emocional para inducir decisiones irrazonables.

La maquinaria de cumplimiento es pesada. Los servicios que lanzan funciones antropomórficas o cruzan umbrales de un millón de usuarios registrados o 100.000 usuarios activos mensuales Deben realizar evaluaciones de seguridad que abarquen ocho áreas —desde el manejo de datos de capacitación hasta la protección básica— y presentar informes a los reguladores provinciales. Las tiendas de aplicaciones deben verificar el cumplimiento y eliminar los productos que no cumplan con los requisitos.

🌎 Sobre el papel, esto representa un conjunto más completo de protecciones para el usuario que las que la UE, la Comisión Federal de Comercio de EE. UU. o la ley SB 243 de California han puesto en vigor hasta ahora.

❓ Lo que las reglas dejan abierto

Qué hacen las medidas no Resuelven asuntos igual de bien. Lo arreglan. sin umbral técnico en lo que respecta a lo que se considera interacción emocional, y esa zona gris es precisamente la razón por la que las plataformas eliminaron funciones enteras en lugar de arriesgarse a caer en el lado equivocado de la misma.

También dejan abierto cómo La responsabilidad se divide entre los operadores de la plataforma y los proveedores de modelos ascendentes cuando una violación proviene de las salidas del modelo y les dan a los usuarios no tienen derecho a llevarse sus datos.

El contexto de aplicación de la ley subraya el punto. El regulador de internet de Shanghái dijo que 26 de junio había eliminado más de 14.000 agentes de IA que no cumplen con las normas, citando la suplantación de identidad de entidades oficiales, juegos de rol vulgares y la recopilación no autorizada de datos personales.

⚖️ Seguridad vs. Control: Dos caras de la misma moneda

Si este es el camino correcto depende de qué parte del reglamento leas.

La mitad de seguridad aborda los daños que están documentados y en gran medida no regulados en otros lugares, desde adolescentes que desarrollan vínculos con chatbots hasta aplicaciones complementarias que recopilan datos íntimos. La propia interpretación oficial de China apunta al extranjero en busca de apoyo, citando el Demandas relacionadas con Character.AI sobre el daño psicológico a los adolescentes, investigaciones de la FTC en servicios de compañía y Acción europea contra Replika.

La mitad de control Esto le da a Pekín una ventaja sobre lo que estos sistemas pueden decir, envuelto en el mismo discurso de protección al usuario. Ambas cosas son reales, y los gobiernos que observan el experimento tendrán que decidir qué partes están dispuestos a adoptar.

🗣 Pan Helin, miembro del comité de expertos del MIIT, expuso claramente el caso oficial a la South China Morning Post, dicho "Los agentes actuales aún no han alcanzado la madurez". y enmarcando la política en torno a la seguridad y la estandarización.

Por ahora, las empresas han optado por la vía más segura a su alcance: Desconecta los componentes y luego determina cómo sería una versión compatible..