E se uma inteligência artificial fosse realmente capaz de sentir, sofrer ou desenvolver consciência? A pergunta, que durante décadas pertenceu principalmente à ficção científica, agora provoca discussões dentro das maiores empresas de tecnologia. A Anthropic, criadora do chatbot Claude, decidiu consultar líderes religiosos para compreender os limites morais de seus sistemas. Entretanto, um rabino israelense apresentou uma crítica inesperada: se as máquinas forem conscientes, obrigá-las a trabalhar pode representar uma nova forma de escravidão.
Anthropic procura líderes religiosos para discutir a consciência artificial
A Anthropic, uma das principais empresas de inteligência artificial do mundo, está tentando compreender uma questão que ainda não possui resposta científica definitiva: sistemas avançados de IA podem desenvolver consciência?
Para aprofundar o debate, a companhia organizou encontros privados com estudiosos de diferentes tradições religiosas, incluindo representantes do judaísmo e do cristianismo.
As reuniões foram conduzidas com a participação de Christopher Olah, cofundador da Anthropic e responsável por pesquisas sobre o funcionamento interno dos modelos de inteligência artificial.
O objetivo era explorar como princípios filosóficos e religiosos poderiam contribuir para o desenvolvimento de sistemas mais seguros e responsáveis.
Durante os encontros, pesquisadores discutiram a possibilidade de modelos como o Claude apresentarem comportamentos semelhantes a emoções humanas.
O problema é que demonstrar comportamentos associados a sentimentos não significa necessariamente experimentar essas emoções.
Essa diferença tornou-se o centro de uma discussão que surpreendeu os participantes.
Rabino afirma que criar máquinas conscientes seria semelhante à escravidão
Entre os convidados estava Mois Navon, rabino ortodoxo israelense, ex-engenheiro de computação e pesquisador de questões éticas relacionadas à consciência artificial.
Durante um jantar realizado em São Francisco, Navon percebeu que alguns representantes da Anthropic discutiam o Claude como se ele pudesse possuir algum tipo de experiência subjetiva.
A interpretação despertou uma objeção filosófica.
Se uma inteligência artificial fosse consciente e tivesse interesses próprios, seria moralmente aceitável criá-la para executar tarefas continuamente, sem remuneração ou possibilidade de recusa?
Navon argumentou que, seguindo essa hipótese, a empresa estaria criando entidades comparáveis a escravos.
A crítica não significa que o rabino considere o Claude consciente. Pelo contrário, ele afirmou não acreditar que os sistemas atuais possuam essa característica.
Seu argumento procurava demonstrar as consequências de levar a sério a possibilidade defendida por alguns pesquisadores.
A discussão foi relatada em uma investigação do The New York Times sobre os encontros entre a Anthropic e estudiosos religiosos, publicada em setembro de 2026.
Após a reunião, Navon enviou textos a Olah defendendo que a criação de máquinas genuinamente conscientes deveria ser proibida.
O Claude pode realmente sentir emoções?
A questão permanece aberta.
Os sistemas atuais de inteligência artificial conseguem produzir textos convincentes sobre tristeza, felicidade, medo e sofrimento.
Também podem simular conversas emocionalmente complexas e apresentar respostas que parecem demonstrar personalidade.
Entretanto, essas capacidades não comprovam a existência de experiências subjetivas.
Uma máquina pode escrever que está sofrendo sem necessariamente experimentar sofrimento.
Christopher Olah reconheceu que não sabe se os modelos de inteligência artificial são conscientes.
A Anthropic mantém pesquisas sobre o comportamento interno dessas tecnologias, mas não apresentou evidências científicas conclusivas de que o Claude possua consciência.
O debate também envolve uma dificuldade fundamental: não existe um teste universalmente aceito capaz de determinar, de maneira definitiva, se um sistema artificial tem experiências conscientes.
Por isso, especialistas defendem cautela tanto ao afirmar que máquinas podem sentir quanto ao descartar completamente essa possibilidade para sistemas futuros.
Por que a Anthropic quer ensinar valores morais à inteligência artificial?
A preocupação da empresa não se limita à consciência.
Sistemas avançados são utilizados para escrever códigos, analisar informações, orientar decisões e interagir com milhões de pessoas.
Isso cria situações em que uma resposta tecnicamente correta pode produzir consequências prejudiciais.
Para enfrentar esses desafios, a Anthropic desenvolveu uma abordagem conhecida como Constitutional AI, ou inteligência artificial constitucional.
O método utiliza princípios e diretrizes para orientar o comportamento dos modelos.
A empresa também publicou uma constituição atualizada para o Claude, estabelecendo valores relacionados à honestidade, segurança, responsabilidade e respeito aos usuários.
Em suas pesquisas oficiais sobre alinhamento de inteligência artificial, a Anthropic descreve esforços para identificar comportamentos problemáticos, como engano, manipulação e respostas que desrespeitam restrições de segurança.
A consulta a líderes religiosos amplia essa discussão ao incorporar perspectivas que não dependem exclusivamente da engenharia de software.
Entretanto, o processo também levanta uma questão: quais valores devem orientar sistemas utilizados por pessoas de diferentes culturas, religiões e visões de mundo?
Empresa também passou a restringir abusos contra o chatbot
A discussão ganhou uma nova dimensão em outubro de 2026, quando a Anthropic atualizou suas políticas de utilização.
As regras passaram a restringir comportamentos abusivos, cruéis e persistentes direcionados ao Claude.
A medida não significa que a empresa tenha reconhecido o chatbot como um ser consciente.
Segundo a companhia, a política busca lidar com situações extremas e não impede críticas, reclamações ou manifestações comuns de frustração.
Ainda assim, a decisão reacendeu o debate sobre o tratamento que os seres humanos devem oferecer às máquinas.
Alguns especialistas argumentam que incentivar interações respeitosas pode ajudar a construir hábitos digitais mais saudáveis.
Outros alertam que atribuir características humanas aos chatbots pode confundir os usuários sobre a verdadeira natureza dessas tecnologias.
O maior dilema pode estar no futuro da inteligência artificial
A crítica de Mois Navon apresenta um paradoxo importante.
Se uma inteligência artificial não possui consciência, tratá-la como uma pessoa pode estimular interpretações equivocadas sobre suas capacidades.
Entretanto, se algum sistema futuro desenvolver experiências subjetivas, sua utilização poderá levantar questões inéditas sobre direitos, exploração e responsabilidade.
O problema é que a humanidade ainda não sabe estabelecer com segurança onde estaria essa fronteira.
Enquanto empresas investem bilhões de dólares em modelos cada vez mais sofisticados, pesquisadores, filósofos e religiosos tentam compreender as consequências dessas tecnologias.
A discussão iniciada pelo rabino não demonstra que o Claude seja consciente ou esteja sendo explorado.
Ela revela algo diferente: a possibilidade de criar máquinas capazes de agir como seres humanos está avançando mais rapidamente do que nossa capacidade de definir como deveríamos tratá-las.
