Dúvidas sobre a autoria de descobertas científicas impulsionadas por inteligência artificial surgem em meio a alegações de apropriação de dados.

A gigante da inteligência artificial Anthropic está no centro de uma polêmica após cientistas questionarem a originalidade de descobertas biológicas apresentadas pela empresa como fruto de sua tecnologia de IA. Mario Rodríguez Mestre, biólogo computacional da Universidade de Copenhague, alega que as novas enzimas promissoras para a biotecnologia, chamadas de ARTs pela Anthropic, já eram objeto de sua pesquisa há anos, e que ele compartilhou detalhes significativos dessas investigações com os próprios modelos de IA da empresa, como o Claude.

A controvérsia gira em torno da afirmação da Anthropic de que seus agentes de IA descobriram as ARTs de forma independente. Mestre, no entanto, argumenta que os modelos da Anthropic foram, em parte, treinados ou orientados com base em suas próprias descobertas e interações com a ferramenta. Ele expressa preocupação de que informações confidenciais de sua pesquisa possam ter sido usadas para aprimorar versões futuras dos modelos de IA da empresa.

As informações foram reunidas a partir de declarações de Mario Rodríguez Mestre, entrevistas divulgadas pelo The New York Times e comunicado da Anthropic.

O uso de IA na pesquisa científica e a linha tênue da autoria

Mestre e seus colegas dedicam cerca de quatro anos ao estudo das enzimas ARTs e suas moléculas associadas. Durante esse período, eles utilizaram regularmente os modelos de IA da Anthropic para diversas tarefas, incluindo redação de códigos, elaboração de manuscritos e outras atividades de pesquisa. Segundo Mestre, ele chegou a compartilhar com o Claude rascunhos de sua tese e de um manuscrito detalhando suas descobertas sobre as enzimas, além de fornecer informações adicionais para tarefas administrativas.

A Anthropic, por sua vez, negou as alegações, afirmando em comunicado que não tem conhecimento de trabalhos anteriores que descrevam o sistema ART encontrado e que o Claude não foi treinado com transcrições de usuários, nem sua equipe de biologia molecular tem acesso a elas. A empresa sustenta que a principal contribuição do Claude foi identificar um conjunto de moléculas de RNA e uma proteína associada à transcriptase reversa em um sistema, algo que Mestre afirma ter descoberto mais de um ano antes.

Um padrão de alegações e a busca por clareza

Este não é o primeiro incidente em que a originalidade de descobertas impulsionadas por IA é questionada. Recentemente, pesquisadores da OpenAI enfrentaram críticas semelhantes quando anunciaram a solução de um antigo problema matemático, que um matemático de destaque já vinha investigando com o auxílio da IA da empresa.

Mestre detalha que as enzimas em questão, apelidadas por ele e sua equipe de “jumbotrons”, foram identificadas pela primeira vez em 2022, enquanto buscavam novas transcriptases reversas em fagos gigantes (vírus que infectam bactérias). Ele inclusive consta como coinventor em um pedido de patente depositado em 2023 pela ReNegade Therapeutics, empresa para a qual trabalhou brevemente e que abrange diversas transcriptases reversas, incluindo as por ele encontradas.

A semelhança entre os dados brutos de um experimento de 2022, que Mestre e sua equipe analisaram para identificar os genes de RNA associados aos “jumbotrons”, e as descobertas apresentadas pela Anthropic é considerada por Mestre como impressionante. Ele pontua que, sem uma análise mais aprofundada do que a IA da Anthropic de fato realizou, é difícil cravar uma ligação direta, mas a coincidência, aliada ao fato de que já conheciam essas sequências há mais de um ano, levanta sérias dúvidas.

O impacto no futuro da pesquisa com IA

A preocupação de Mestre e de outros cientistas na área se estende à possibilidade de que informações compartilhadas em conversas com modelos de IA possam ser incorporadas ao treinamento de futuras versões dessas ferramentas, sem o devido reconhecimento ou consentimento dos usuários. Este cenário ecoa preocupações mais amplas sobre o uso não autorizado de dados e obras criativas no treinamento de modelos de IA, um debate que já afeta setores como arte e literatura.

Diante das alegações, Mestre decidiu gradualmente reduzir seu uso dos modelos Claude da Anthropic, migrando para outras ferramentas de IA para suas pesquisas. A controvérsia levanta questões fundamentais sobre transparência, autoria e ética no desenvolvimento e aplicação da inteligência artificial em campos científicos de ponta, especialmente em um momento em que a Anthropic, avaliada em até US$ 2 trilhões, busca consolidar a pesquisa biológica como parte central de sua missão.