Empresas de inteligência artificial recorrem à religião para ensinar chatbots a diferenciar o certo do errado

Anthropic, Google, Meta, Amazon e Microsoft buscam diálogo com líderes religiosos e especialistas em teologia para orientar respostas de inteligência artificial sobre dilemas morais e questões humanas.

Por Guia Miraí

(Fonte: The News)

O avanço da inteligência artificial está levando grandes empresas de tecnologia a buscar conhecimento fora dos tradicionais laboratórios de programação. Agora, organizações do setor estão recorrendo a padres, pastores, teólogos e estudiosos de diferentes religiões para ajudar a definir como os chatbots devem lidar com questões relacionadas à moral, ética e comportamento humano.

A iniciativa acontece em meio ao crescimento do uso da inteligência artificial para responder a perguntas pessoais e delicadas, que anteriormente eram direcionadas a amigos, familiares, líderes religiosos ou profissionais de saúde mental.

Segundo informações divulgadas pelo portal The News, a Anthropic afirmou ter ouvido representantes e estudiosos de mais de 15 grupos religiosos e interculturais nos últimos meses. Representantes de empresas como Meta, Google, Amazon e Microsoft também já participaram de reuniões com o Vaticano.

Por que a religião entrou nessa discussão?

Um dos principais desafios das empresas é ensinar os sistemas de inteligência artificial a responder a perguntas que não possuem soluções simples ou respostas universais.

Temas como eutanásia, pensamentos suicidas, culpa, luto, doenças, morte e conflitos morais envolvem diferentes valores culturais, religiosos e filosóficos.

O cofundador da Anthropic, Chris Olah, defende que determinadas questões não podem ser resolvidas apenas com critérios técnicos ou respostas padronizadas.

Como os chatbots são treinados com grandes volumes de textos produzidos por seres humanos, as tradições religiosas também podem contribuir para ampliar a compreensão dessas questões.

Debate também envolve diversidade religiosa

Apesar da aproximação com representantes religiosos, a iniciativa levanta questionamentos.

O Conselho de Supervisão da Meta, por exemplo, demonstra preocupação com a possibilidade de que a mistura de diferentes tradições acabe apagando características particulares de cada religião ou favorecendo determinadas crenças.

A Anthropic, por sua vez, afirma que não pretende alinhar seus modelos a uma tradição religiosa específica, mas ampliar as referências utilizadas para orientar respostas sobre dilemas humanos.

Brasileiros também utilizam IA para questões emocionais

O levantamento mencionado na publicação aponta que 70% dos brasileiros já recorreram à inteligência artificial para tratar de questões emocionais, percentual superior à média global, de 63%.

O dado evidencia como essas ferramentas estão deixando de ser utilizadas apenas para pesquisas, estudos e atividades profissionais e passando a ocupar espaço em conversas sobre sentimentos, relacionamentos e decisões pessoais.

O futuro da inteligência artificial

A aproximação entre tecnologia e religião revela um novo desafio para o desenvolvimento da inteligência artificial: construir sistemas capazes de lidar com questões humanas complexas sem impor crenças, julgamentos ou respostas únicas.

Mais do que fornecer informações, os chatbots estão sendo cada vez mais procurados para conversar sobre assuntos sensíveis. Por isso, definir limites, responsabilidades e critérios éticos tornou-se uma das principais discussões sobre o futuro dessa tecnologia.