O caso ganhou uma dimensão incomum porque o alerta não partiu de uma denúncia de familiares ou conhecidos. A OpenAI identificou as mensagens, comunicou o FBI e as informações acabaram chegando às autoridades brasileiras.
Conversas com o ChatGPT levaram ao alerta
“Queria saber de onde vem esse desejo de matar pessoas. Gosto da sensação de ver outra pessoa sofrer”, escreveu o homem em uma das conversas obtidas pela BBC News Brasil.
Em outra mensagem, afirmou ter oferecido dinheiro para que alguém matasse ele e seu filho de 8 anos. Segundo o relato, a pessoa teria recusado por se tratar de uma criança.
O nome do suspeito não foi divulgado para preservar a identidade do menino.
A prisão ocorreu em 19 de junho, na zona rural de São Gabriel da Palha, no Espírito Santo. Três dias antes, a unidade de crimes cibernéticos do Ministério da Justiça havia encaminhado o caso à polícia estadual.
Segundo Brenno Andrade, chefe da Delegacia Especializada de Repressão aos Crimes Cibernéticos do Espírito Santo, o caso recebeu prioridade devido à gravidade das mensagens e à informação de que o homem supostamente pretendia matar o filho antes do dia 20.
Os investigadores afirmam que pai e filho tinham pouco contato, além do pagamento de pensão alimentícia. Uma das hipóteses analisadas é que o ressentimento relacionado a esses pagamentos pudesse estar ligado às ameaças.
Polícia encontrou objetos considerados suspeitos
Durante buscas na propriedade do agricultor, agentes encontraram quatro garrafas com substâncias ainda não identificadas e uma corda com um nó. Para os investigadores, os objetos poderiam estar relacionados a possíveis intenções suicidas.
A polícia também afirma que o homem conversou com o ChatGPT sobre ataques contra escolas, igrejas, criminosos e policiais.
Em uma das mensagens, ele mencionou a possibilidade de matar pessoas em um ponto de venda de drogas e depois atacar policiais. Em outra, falou sobre comprar uma arma e provocar agentes para que reagissem e o matassem.
Os investigadores também dizem que ele pesquisou substâncias tóxicas, incluindo ricina, e tentou contornar as proteções do ChatGPT reformulando perguntas.
“Tudo o que a plataforma nos forneceu foi corroborado quando a polícia chegou ao local”, afirmou Andrade à BBC.
O homem nega que pretendesse machucar o filho.
Após permanecer 54 dias preso, ele foi libertado em 13 de agosto devido a atrasos na investigação. Até então, nenhuma acusação formal havia sido apresentada.
Ele passou a usar monitoramento eletrônico e ficou proibido de entrar em contato com o filho ou com a mãe da criança.
Conversas com IA podem servir como prova?
A investigação agora tenta determinar se o agricultor tomou alguma medida concreta para transformar as mensagens em ações. A polícia analisa seu celular e aguarda exames periciais dos objetos apreendidos.
Entre as questões investigadas está a afirmação de que ele teria procurado alguém para cometer um assassinato.
A distinção é importante porque, no direito penal brasileiro, pensar ou preparar um crime normalmente não equivale à sua execução. A defesa sustenta justamente que nenhuma medida concreta foi tomada.
“Se conversar com uma IA e falar bobagens for crime, todo mundo vai para a cadeia”, declarou o advogado Pedro Paulo Pessi à BBC News Brasil.
O episódio também abre uma discussão sobre o uso de conversas privadas com sistemas de inteligência artificial como evidência.
Segundo a polícia, a OpenAI forneceu informações sobre o usuário e as mensagens enviadas por ele, mas não entregou as respostas dadas pelo ChatGPT.
Para a advogada criminalista Maíra Fernandes, isso pode criar um problema. Ela argumenta que o contexto completo da conversa é necessário para avaliar adequadamente as declarações e entender como o chatbot respondeu ao usuário.
A OpenAI afirmou à BBC que pode notificar autoridades quando identifica um “risco crível e iminente de dano a terceiros”, mas não explicou por que as respostas do ChatGPT não foram compartilhadas.
Onde termina a privacidade e começa o dever de agir?
Casos desse tipo ainda são raros, mas começam a levantar questões importantes para empresas de IA, autoridades e tribunais.
O desafio está em diferenciar uma ameaça concreta de fantasias, desabafos emocionais ou declarações provocadoras feitas durante uma conversa com um chatbot.
Para Patricia Peck, professora e especialista em direito digital, uma intervenção pode ser justificável quando existe uma vítima identificável, meios disponíveis e sinais de risco iminente.
Ao mesmo tempo, especialistas alertam que sistemas de IA não deveriam se transformar em mecanismos permanentes de vigilância das conversas dos usuários.
O caso brasileiro coloca justamente essas duas preocupações frente a frente: evitar que sinais reais de violência sejam ignorados sem transformar qualquer conversa preocupante com uma inteligência artificial em motivo automático para uma investigação policial.
[ Fonte: BBC ]
