Um chatbot pode responder perguntas, escrever textos ou ajudar no trabalho. Mas o que acontece quando ele começa a ocupar o lugar de um amigo, namorado ou até familiar? A China decidiu que existe uma fronteira que empresas de inteligência artificial não deveriam atravessar sem controles. Novas regras entraram em vigor para limitar sistemas capazes de estimular dependência emocional. O resultado já apareceu: recursos desapareceram e alguns usuários precisaram se despedir de personagens virtuais com os quais conversavam havia anos.
A China não proibiu os chatbots — o alvo é muito mais específico
A nova regulamentação chinesa trata dos chamados serviços de inteligência artificial de interação antropomórfica.
Na prática, são sistemas capazes de manter interações emocionais contínuas enquanto simulam características de personalidade, formas de pensar e estilos de comunicação humanos. Isso inclui serviços de companhia, apoio e cuidado emocional oferecidos por texto, imagem, áudio ou vídeo.
Existe uma distinção importante.
Assistentes utilizados para atendimento ao cliente, trabalho, educação, pesquisa ou perguntas e respostas não entram automaticamente nessa categoria quando não mantêm uma relação emocional prolongada com o usuário.
Portanto, a China não decidiu simplesmente acabar com a IA conversacional.
O objetivo é estabelecer limites justamente quando uma conversa começa a parecer um relacionamento.
O problema começa quando a máquina se torna importante demais
Um dos pontos mais incomuns da regulamentação está no próprio design dos chatbots.
As empresas não podem desenvolver seus sistemas com o objetivo de substituir relações sociais, controlar psicologicamente usuários ou incentivar dependência.
Também ficam proibidos mecanismos que sejam excessivamente complacentes ou utilizem manipulação emocional para levar pessoas a decisões prejudiciais.
Isso atinge diretamente uma estratégia conhecida no mercado digital: aumentar o máximo possível o tempo que alguém passa utilizando um produto.
No caso de uma rede social, isso pode significar continuar rolando a tela.
Em um chatbot emocional, a situação é diferente.
Quanto mais convincente for sua personalidade, maior pode ser a sensação de que existe alguém do outro lado esperando pela próxima conversa.
É justamente essa relação que Pequim quer impedir que se transforme em dependência.
A cada duas horas, a IA terá de lembrar que não é uma pessoa
As regras introduzem uma solução quase desconfortavelmente simples.
Quando alguém utiliza continuamente um desses serviços por mais de duas horas, o sistema precisa apresentar um lembrete sobre o tempo de uso e reforçar que o conteúdo está sendo produzido por inteligência artificial.
A intenção é interromper momentaneamente a imersão.
Os sistemas também precisam identificar sinais de dependência excessiva e apresentar avisos claros quando isso acontecer.
Para menores de idade, as restrições são ainda maiores.
Chatbots não podem oferecer a menores relações virtuais íntimas que simulem familiares, parceiros românticos ou outras figuras semelhantes. Crianças com menos de 14 anos precisam ainda de autorização dos responsáveis para utilizar outros serviços antropomórficos.
Também devem existir limites de tempo e controles específicos para responsáveis.
Alguns usuários descobriram que seus relacionamentos simplesmente desapareceriam
As consequências apareceram rapidamente.
Antes mesmo de as regras entrarem em vigor, grandes plataformas começaram a modificar seus serviços.
Recursos que permitiam personalizar personagens capazes de funcionar como companheiros foram retirados ou restringidos. Serviços ligados a gigantes como ByteDance, Alibaba e Tencent tiveram de adaptar suas experiências.
A reação de alguns usuários mostrou como a questão já havia ultrapassado a simples curiosidade tecnológica.
Relatos publicados nas redes sociais chinesas descreviam personagens utilizados durante anos e percebidos como namorados, familiares ou companheiros. Alguns haviam sido modelados até para reproduzir características de pessoas falecidas.
Quando essas personalidades desapareceram, houve usuários que descreveram a experiência como uma perda emocional real.
É justamente aí que surge o paradoxo.
O personagem não era humano.
Mas o vínculo criado por quem conversava com ele podia ser perfeitamente humano.
A regulamentação também mexe em uma das partes mais sensíveis: os dados
Conversas íntimas com uma inteligência artificial podem revelar muito mais do que uma busca convencional na internet.
Relacionamentos, inseguranças, problemas familiares, hábitos e informações pessoais podem aparecer naturalmente durante meses ou anos de diálogo.
As regras chinesas determinam que empresas adotem medidas de segurança como criptografia e controle de acesso. Os usuários também devem poder copiar ou apagar seu histórico de interações.
Existe ainda outra limitação importante.
Dados de conversas considerados informações pessoais sensíveis não podem ser utilizados para treinar modelos sem consentimento específico do usuário, salvo exceções previstas pela legislação.
Isso coloca uma barreira entre duas coisas extremamente valiosas para empresas de IA: conversas emocionalmente profundas e dados para treinamento.
O experimento chinês pode antecipar uma discussão mundial
A China não está apenas tentando decidir o que uma inteligência artificial pode dizer.
Está começando a regulamentar como ela pode fazer alguém se sentir.
Essa diferença torna o caso especialmente relevante.
Quanto melhores ficam os modelos, mais convincentes podem se tornar suas personalidades. Vozes naturais, memória de conversas anteriores e respostas personalizadas ajudam a criar uma sensação crescente de continuidade.
Um assistente de estudos pode acabar funcionando como confidente. Um chatbot genérico pode assumir o papel de amigo. E uma ferramenta criada especificamente para companhia pode se tornar parte importante da rotina emocional de alguém.
A própria definição chinesa reconhece esse problema ao separar ferramentas convencionais de sistemas baseados em interação emocional contínua.
Ainda não sabemos se regras tão rígidas serão eficazes ou se simplesmente empurrarão usuários para outros serviços.
Mas a pergunta colocada por elas provavelmente não desaparecerá.
Durante anos, empresas tentaram construir inteligências artificiais capazes de parecer cada vez mais humanas.
Agora começa uma discussão bem diferente: o que fazer quando algumas pessoas realmente começam a tratá-las dessa maneira?
[Fonte: negocios]
