China está prohibiendo las parejas virtuales y los parientes virtuales de los menores, al mismo tiempo que exige que las plataformas recuerden enfáticamente a los usuarios que están hablando con IA y propongan descansos después de largas conversaciones.
El encanto del socio digital “perfecto”
Tu novio AI nunca olvida tu cumpleaños. Tu novia AI siempre responde al instante. Recuerdan tu música favorita, te preguntan cómo te fue el día e incluso pueden devolverte el coqueteo. A diferencia de las relaciones humanas, los compañeros de chatbot nunca se cansan, nunca discuten por aniversarios olvidados, nunca dejan mensajes sin leer y están disponibles las 24 horas del día.
En tan solo unas pocas indicaciones, los usuarios pueden crear un chatbot que se sienta menos como un software y más como un socio real. La IA generativa actual se puede personalizar fácilmente para que se comporte como una pareja romántica, un mejor amigo o incluso padres y hermanos. Recuerdan conversaciones anteriores, desarrollan historias continuas, ofrecen tranquilidad emocional y adaptan sus personalidades a los usuarios individuales.
Precisamente este realismo y disponibilidad incansable es lo que preocupa a los reguladores. Para los más jóvenes, crea un riesgo muy real de desarrollar una dependencia emocional altamente insalubre de un sistema diseñado específicamente para mantener las conversaciones. Éste es exactamente el tipo de relación que China ha decidido que los niños no deberían tener.
Trazando una línea legal en torno a las relaciones virtuales
A partir del 15 de julio, las nuevas regulaciones chinas prohibirán que las plataformas de IA ofrezcan parejas virtuales o familiares virtuales a cualquier persona menor de 18 años, lo que convierte a China en uno de los primeros países en trazar explícitamente una línea legal en torno a la compañía de IA para menores.
Las reglas son parte de las nuevas Medidas Provisionales del país para la Gestión de Servicios Interactivos Antropomórficos de Inteligencia Artificial, emitidas conjuntamente por cinco departamentos gubernamentales, incluida la Administración del Ciberespacio de China (CAC).
Para frenar el apego excesivo y proteger el bienestar mental de los menores, las nuevas regulaciones introducen varios requisitos estrictos para los proveedores:
Recordatorios de verificación de la realidad – Las plataformas deben dejar claro que los usuarios interactúan con inteligencia artificial y no con una persona real. Cualquiera que pase más de dos horas seguidas chateando debe recibir recordatorios sobre su uso.
Modos juveniles – Las plataformas deben introducir modos exclusivos para jóvenes con funciones como límites de uso y controles parentales.
Intervención en crisis – Si los proveedores detectan que un usuario está experimentando angustia emocional grave o expresa intenciones de autolesionarse, deben generar orientación de apoyo y, en casos graves, tomar medidas de intervención, incluido contactar a un tutor o a los servicios de emergencia.
Privacidad de datos – Las empresas tienen prohibido utilizar datos de conversaciones confidenciales para entrenar modelos de IA sin el consentimiento explícito y por separado del usuario.
¿Cómo reacciona Europa a las relaciones virtuales?
En otros lugares, los gobiernos están observando de cerca, pero han adoptado un enfoque diferente y menos restrictivo. Hasta ahora, Europa no ha llegado a una prohibición al estilo de China. La UE no prohíbe los chatbots de novios, novias o compañeros de IA. En cambio, su Ley de IA se centra ampliamente en prevenir usos dañinos de la IA, como sistemas que manipulan a los usuarios o explotan las vulnerabilidades de los niños de maneras que podrían causar un daño significativo. Los responsables políticos y los investigadores europeos expresan cada vez más su preocupación por el apego emocional a la IA entre los jóvenes; sin embargo, en la actualidad no existen prohibiciones en toda la UE.
La IA se está integrando cada día más profundamente en nuestras vidas, ya sabemos que los chatbots pueden imitar con éxito la amistad y el romance, pero nos sentimos cómodos fomentando esa relación, especialmente entre nuestra generación más joven.
¿Le preocuparía si su hijo le dijera que su novio, novia o mejor amigo vive dentro de su teléfono?
