A inteligência artificial está assumindo um papel cada vez mais presente na rotina de milhões de pessoas, inclusive adolescentes. Mas, à medida que essas ferramentas se tornam companheiras de conversas diárias, cresce também a preocupação com sua capacidade de identificar situações de vulnerabilidade. Agora, a Meta anunciou uma mudança importante que pretende transformar seu chatbot em mais um aliado na proteção de jovens diante de possíveis crises de saúde mental.
A inteligência artificial passará a identificar conversas que indiquem situações de risco
A Meta anunciou um novo conjunto de medidas de segurança para seu assistente de inteligência artificial, ampliando os mecanismos de proteção voltados principalmente para adolescentes.
A principal novidade é que a empresa começará a notificar pais ou responsáveis quando seu sistema detectar conversas que indiquem possíveis referências a suicídio ou automutilação envolvendo usuários menores de idade.
Segundo a companhia, o objetivo é permitir que familiares sejam informados rapidamente caso o chatbot identifique sinais que possam indicar uma situação de risco.
Antes que qualquer alerta seja enviado, porém, a Meta afirma que todas as conversas sinalizadas pela inteligência artificial passarão por uma revisão manual realizada por pessoas da equipe responsável pelo sistema.
A empresa explicou que prefere agir com cautela. Isso significa que, em situações nas quais a intenção do adolescente não esteja totalmente clara, os responsáveis ainda poderão receber uma notificação preventiva.
A decisão surge em meio ao aumento da pressão sobre grandes empresas de tecnologia, que vêm sendo cobradas por governos, especialistas e organizações internacionais para reforçar a proteção de crianças e adolescentes durante o uso de plataformas digitais e ferramentas de inteligência artificial.
O sistema já existia no Instagram e agora será ampliado
Embora a novidade envolva o chatbot Meta AI, parte desse sistema de monitoramento já vinha sendo utilizada pela empresa em outro de seus serviços.
Atualmente, usuários que utilizam a ferramenta de Supervisão Parental no Instagram, disponível em países como Estados Unidos, Reino Unido, Austrália e Canadá, já podem receber alertas quando adolescentes realizam buscas repetidas relacionadas a suicídio ou automutilação.
Além disso, os responsáveis também têm acesso aos principais temas discutidos pelos jovens com a Meta AI durante a última semana.
Agora, a empresa pretende expandir essas funcionalidades para um número muito maior de usuários.
Segundo a Meta, a implementação ocorrerá de forma global até o fim deste ano.
Em comunicado publicado em seu blog oficial, a empresa reconheceu que esse tipo de alerta pode causar preocupação nas famílias, mas destacou que prefere adotar uma postura preventiva.
A companhia também admite que poderão ocorrer notificações em situações nas quais, posteriormente, seja constatado que não havia um risco real. Mesmo assim, afirma considerar esse cenário mais seguro do que deixar de alertar diante de um possível pedido de ajuda.
As restrições para adolescentes também serão ampliadas
As mudanças não se limitam ao envio de alertas.
A Meta informou que continuará expandindo os mecanismos de proteção voltados aos usuários menores de idade dentro de seu ecossistema de inteligência artificial.
Entre as novidades está a extensão da configuração de Conteúdo Limitado, já utilizada no Instagram, para o chatbot Meta AI.
Na prática, pais que ativarem esse recurso poderão restringir ainda mais os tipos de interações permitidas durante as conversas.
O assistente já havia sido treinado para evitar diálogos envolvendo conteúdo sexual, relacionamentos amorosos ou consumo de bebidas alcoólicas com adolescentes.
Com a nova atualização, a empresa afirma que o sistema passará a bloquear uma quantidade ainda maior de solicitações consideradas inadequadas para essa faixa etária.
Essas medidas fazem parte de uma estratégia mais ampla da Meta para responder às críticas que vêm sendo direcionadas às redes sociais e aos sistemas de inteligência artificial sobre a proteção de crianças e adolescentes no ambiente digital.
A empresa também prepara um sistema para acionar serviços de emergência
Outra novidade anunciada pela Meta envolve situações consideradas ainda mais graves.
A companhia informou que trabalha no desenvolvimento de um mecanismo capaz de entrar em contato com serviços de emergência quando uma conversa com a Meta AI indicar um risco iminente de suicídio.
Esse recurso não ficará restrito aos adolescentes. Segundo a empresa, ele poderá ser aplicado também a conversas envolvendo usuários adultos sempre que forem identificados indícios claros de uma situação crítica.
A Meta já utiliza um procedimento semelhante quando detecta publicações relacionadas ao risco de suicídio no Facebook e no Instagram. Agora, pretende ampliar esse protocolo para incluir também as interações realizadas diretamente com seu assistente de inteligência artificial.
Além disso, a empresa informou que trabalha em parceria com mais de 75 profissionais especializados em saúde mental para aperfeiçoar a capacidade de seu modelo de identificar situações delicadas e oferecer respostas mais adequadas nesses contextos.
Com essas mudanças, a Meta busca tornar sua inteligência artificial não apenas uma ferramenta de produtividade ou entretenimento, mas também um recurso capaz de colaborar na identificação precoce de situações que exigem atenção imediata. Ao mesmo tempo, a iniciativa reacende o debate sobre os limites da inteligência artificial, da privacidade e da responsabilidade das plataformas digitais quando interagem com milhões de adolescentes todos os dias.
[Fonte: Ambito]
