China está introduciendo nuevas y amplias regulaciones sobre inteligencia artificial que podrían cambiar la manera en que millones de personas interactúan con acompañantes virtuales.
China ha presentado oficialmente nuevas regulaciones dirigidas a los acompañantes de IA, que prohíben que los chatbots fomenten la dependencia emocional y restringen las relaciones románticas virtuales para menores. La medida llega en un momento en que las autoridades están cada vez más preocupadas por la adicción a la IA, la caída de la natalidad y el impacto que las relaciones digitales podrían tener sobre los vínculos sociales en el mundo real.
China quiere que los acompañantes de IA sigan siendo solo IA
Las nuevas normas, que entraron en vigor el 15 de julio, prohíben que los servicios de acompañantes de IA fomenten la dependencia emocional o manipulen a los usuarios para que desarrollen vínculos poco saludables. Los proveedores también deberán intervenir si los usuarios parecen encontrarse en una situación de angustia emocional, mientras que las relaciones románticas virtuales para menores quedan ahora expresamente prohibidas.
Las regulaciones se dirigen específicamente a los servicios de IA diseñados para simular personalidades humanas y ofrecer interacción emocional continua. Los asistentes de IA de uso general empleados para el trabajo, la educación o la atención al cliente prácticamente no se verán afectados.
Para cumplir con las nuevas medidas, importantes empresas tecnológicas chinas, entre ellas ByteDance
y Alibaba, ya comenzaron a desactivar o modificar las funciones de IA centradas en el acompañamiento dentro de sus plataformas.
Las autoridades temen que la IA reemplace las relaciones reales
El gobierno de China afirma que las regulaciones están diseñadas para reducir los riesgos de dependencia emocional, adicción y aislamiento social. Las autoridades también han relacionado las normas con preocupaciones más amplias por la caída de la natalidad y la reducción de la población del país, argumentando que los acompañantes de IA no deberían reemplazar las relaciones humanas.
Los expertos afirman que los chatbots de compañía son cada vez más sofisticados y ofrecen apoyo emocional que lleva a algunos usuarios a pasar horas interactuando con parejas virtuales en lugar de relacionarse con personas de su vida cotidiana. Los críticos de esta tecnología sostienen que esto puede facilitar que los usuarios vulnerables se alejen de las relaciones del mundo real.
Los usuarios dicen que están perdiendo algo más que un chatbot
Las nuevas regulaciones han provocado reacciones emocionales en las redes sociales chinas, donde muchos usuarios describieron cómo se despedían de sus acompañantes de IA después de que las empresas eliminaran o restringieran las funciones románticas de sus chatbots. Algunos compararon la experiencia con perder a un amigo cercano o una pareja, mientras que otros comenzaron a guardar sus conversaciones antes de que los cambios entraran en vigor.
El debate también ha reavivado preguntas más amplias sobre la compañía de la IA en todo el mundo. Mientras que sus defensores sostienen que estos chatbots pueden brindar consuelo y apoyo emocional, sus críticos advierten que pueden fomentar una dependencia poco saludable y difuminar la frontera entre las relaciones humanas genuinas y la interacción artificial.
¿Qué opinas? ¿Deberían los gobiernos regular los acompañantes de IA o las personas deberían tener libertad para establecer cualquier tipo de relación que deseen con los chatbots? Cuéntanoslo en los comentarios.
El artículo original fue escrito por Tommy-lee Venghaus.