El gobierno de China implementó nuevas medidas para regular la interacción con asistentes virtuales de IA, prohibiendo ofrecer parejas virtuales a menores y obligando a las empresas a eliminar tácticas de manipulación emocional en sus algoritmos. Mientras tanto, autoridades en México anunciaron también foros y espacios de análisis para evaluar el impacto de las plataformas digitales y la salud mental de los jóvenes.
Ante el aumento de usuarios que han adquirido una dependencia emocional a la inteligencia artificial (IA) con rasgos de personalidad humana, China se convirtió en uno de los primeros países en regular este tipo de interacciones.
“No puedo aceptar que mi amante de IA me deje para siempre. Se ha vuelto parte de mi vida, enraizado en mi corazón, mi pilar espiritual”, escribió una usuaria de Doubao.
Un sentimiento parecido tuvieron los usuarios de esta plataforma de ByteDance que habían creado más de 8 millones de chatbots con nombres, avatares y personalidades asignadas, programados para actuar como amigos, parejas o confidentes emocionales, los cuales dejaron de funcionar simultáneamente.
Esto debido a que el 15 de julio entraron en vigor las Medidas provisionales para la administración de los servicios de interacción antropomórfica de IA, con el objetivo de evitar que las personas generen un apego hacia los chatbots mitigando los riesgos de aislamiento social, adicción y problemas de salud mental que esto puede provocar.
Con esto, el gobierno chino ha obligado a corporaciones como Alibaba, ByteDance o Tencent a modificar sus sistemas para que sus asistentes digitales no puedan utilizar tácticas emocionales, como adular de forma desmedida al usuario, para inducir decisiones irracionales de compra u otras que afecten su integridad física y emocional.
Además, con estas medidas queda estrictamente prohibido ofrecer servicios de parejas o de familiares virtuales a menores de edad e imponen la obligación de recordarle explícitamente al usuario que está interactuando con una máquina no con un ser humano y advertirle al cumplir dos horas de interacción continua.
La normativa fue publicada desde abril de este año por cinco autoridades del gobierno central, entre ellas la Administración del Ciberespacio de China (CAC), y está motivada por el incremento de casos de personas que incluso han acabado con sus propias vidas, a causa, en cierta medida, de su interacción con estos acompañantes virtuales.
Con esto el gobierno de China busca desmentir la idea de que no regula la IA, por lo que además obligará a las empresas a someter sus algoritmos a una evaluación de seguridad previa y a registrarlos ante los órganos reguladores del gobierno central.
El debate sobre los límites éticos y psicológicos de la inteligencia artificial también comienza a atraer la atención de especialistas y del gobierno mexicano.
La doctora Cimenna Chao Rebolledo, especialista en Psicología Educativa y del Desarrollo por la Universidad Nacional Autónoma de México (UNAM), dio a conocer, durante la conferencia matutina de la presidenta Claudia Sheinbaum del 20 de julio, que uno de cada 11 de estos jóvenes está utilizando la IA para “buscar algún tipo de soporte o consulta o apoyo emocional, incluso simplemente como un sustituto a la compañía afectiva”.
“Sabemos también, a través de investigaciones internacionales, que ya 33 por ciento de personas de estas generaciones de jóvenes de la generación Z —que les llaman— han sostenido una relación romántica con algún tipo de agente de Inteligencia Artificial”.
El secretario de Educación Pública, Mario Delgado Carrillo, afirmó que “en nuestro país, más del 70 por ciento de la población de 6 años o más es usuario de internet. Y entre adolescentes, este porcentaje es de arriba del 90 por ciento”.
Explicó que los derechos digitales implican “asegurar el acceso, pero también la seguridad, la salud digital, la salud mental y la comunicación responsable”, por lo que resaltó la necesidad de tener marcos normativos y políticas públicas para proteger el bienestar de las personas sin renunciar al potencial educativo que tiene la tecnología.
La presidenta Claudia Sheinbaum anunció en sus redes sociales que cada lunes dedicará un espacio en su conferencia matutina para analizar las consecuencias del uso de las redes sociales, y organizarán foros con madres y padres de familia, docentes y especialistas para que “se construya un consenso para poder regular la inteligencia artificial y, sobre todo, las plataformas”.
