SOCIEDADE
Por Luisa Costa
Chatbots, assistentes virtuais e avatares de IA não podem agradar excessivamente os usuários, induzir dependência emocional ou vício nem prejudicar as relações interpessoais dos usuários no país.
As plataformas não podem incentivar seus usuários a manter conversas contínuas, usar linguagem que simule relações românticas ou familiares nem explorar fragilidades emocionais a fim de aumentar o engajamento.
A lei chinesa proíbe que as empresas incentivem menores de idade a desenvolverem vínculos afetivos com avatares de IA e exige que elas tenham protocolos para intervir em crises e identificar sinais de sofrimento psíquico e emoções extremas.
As empresas que oferecem serviços de inteligência artificial que simulam interações humanas também precisam enviar lembretes periódicos para alertar os usuários que estão falando com um programa de computador.
Mais de 1,3 milhão de companhias na China oferecem serviços de avatares digitais, segundo um relatório governamental de 2024, para setores como educação, saúde e cuidados domésticos.
Usar ferramentas de IA como se fossem amigos ou companheiros pode aumentar o bem-estar dos usuários em certa medida, mas existem riscos psicológicos, comerciais e de segurança digital.
Especialistas argumentam que conversar com "humanos digitais" pode distorcer a compreensão de como os relacionamentos funcionam, porque nessas interações não existem atritos e desentendimentos.