A inteligência artificial promete revolucionar a ciência, mas um incidente recente levanta sérias preocupações sobre a integridade e a confiabilidade das descobertas.
Em um cenário onde a inteligência artificial (IA) avança a passos largos, prometendo acelerar descobertas científicas em áreas como biologia e matemática, uma polêmica envolvendo a OpenAI e matemáticos independentes lança uma sombra de dúvida sobre o futuro da pesquisa. A controvérsia gira em torno da solução de um problema matemático de longa data, cujas circunstâncias levantaram questionamentos sobre o uso de dados e a originalidade do trabalho gerado por IA, alimentando temores de que a tecnologia possa, paradoxalmente, corroer a confiança no próprio método científico.
O caso ganhou destaque quando a OpenAI anunciou ter resolvido um complexo problema ligado às equações de Navier-Stokes, uma façanha que, segundo a empresa, foi alcançada por seus agentes de IA em menos de 90 horas. No entanto, a celebração foi antecipada por preocupações expressas pelo matemático Tristan Buckmaster, da Universidade de Nova York. Buckmaster, que trabalhava em uma solução para o mesmo problema com uma equipe independente, incluindo Levent Alpöge, colega da Anthropic (concorrente da OpenAI), relatou que a pesquisa de sua equipe, armazenada em uma ferramenta de programação da OpenAI, poderia ter sido inadvertidamente utilizada pela própria empresa. Ele questionou se a OpenAI teria acesso, direto ou indireto, ao trabalho em andamento de sua equipe, embora tenha ressaltado que não fazia acusações formais.
A OpenAI negou veementemente o acesso indevido, afirmando que nem humanos nem IAs da empresa tiveram contato com o trabalho da outra equipe antes de sua publicação. Inicialmente, a empresa admitiu uma pequena possibilidade de que dados anonimizados de uso de seus produtos pudessem ter contribuído para o aprimoramento de seus modelos, mas posteriormente retificou, declarando que os comandos inseridos por Buckmaster no período relevante não poderiam ter influenciado o sistema. A complexidade do incidente e as declarações conflitantes sublinham um problema mais sutil e preocupante: a IA pode abalar a confiança no processo científico, levantando dúvidas sobre a originalidade e a precisão das pesquisas.
O Potencial Transformador da IA na Ciência
A IA tem o potencial de ser uma ferramenta poderosa para o avanço científico. Cientistas lidam com volumes massivos de dados, muitas vezes impossíveis de serem processados por mentes humanas. Ferramentas de IA podem identificar padrões e informações relevantes em conjuntos de dados gigantescos, acelerando descobertas em diversas áreas.
Um exemplo notável é o AlphaFold, desenvolvido pela DeepMind (Google), que revolucionou a biologia ao prever a estrutura tridimensional de mais de 200 milhões de proteínas em um ano, um feito que exigiria milhões de anos de experimentação laboratorial. Esse avanço, que contribuiu para a compreensão de processos vitais e doenças, rendeu o Prêmio Nobel de Química aos líderes do projeto. Outra iniciativa promissora é a da Basecamp Research, que coleta vastas quantidades de DNA para treinar uma IA a compreender a linguagem da biologia, com o objetivo de acelerar o desenvolvimento de curas para doenças como o câncer.
Os Riscos da “Alucinação” e da Pesquisa de Baixa Qualidade
Contudo, o uso da IA na ciência não está isento de riscos. Um dos mais preocupantes é o fenômeno da “alucinação”, onde modelos de IA geram informações falsas ou inventadas, como a menção de filmes inexistentes ou a atribuição de frases a pessoas que nunca as disseram. Há evidências crescentes de que isso está ocorrendo com frequência em pesquisas científicas, dificultando a distinção entre descobertas reais e conteúdo fictício gerado por IA.
Além disso, a IA pode superestimar a importância de suas descobertas. Um modelo da DeepMind identificou milhões de novas estruturas cristalinas, anunciadas como um avanço equivalente a 800 anos de conhecimento. No entanto, químicos renomados analisaram uma amostra e concluíram que muitas eram “adaptações triviais de materiais conhecidos”, sem compostos verdadeiramente inovadores. Embora a DeepMind defenda a validade de suas descobertas, o episódio ressalta a necessidade de validação rigorosa por especialistas humanos.
Um temor ainda maior reside no “AI slop”, ou conteúdo “tosco” gerado por IA, que ameaça inundar as revistas científicas. Estudos indicam que uma vasta porcentagem de artigos científicos já apresenta indícios de uso de IA em sua redação. Isso pode levar à inclusão de referências falsas e à citação de artigos inexistentes, comprometendo a integridade do processo de revisão por pares e o avanço científico. Pesquisadores podem perder tempo e recursos valiosos seguindo caminhos baseados em informações inventadas pela IA, com desperdício de financiamento público e atraso na chegada de inovações à sociedade.
Medidas de Proteção e a Necessidade de Supervisão Humana
Editoras de revistas científicas e plataformas de pesquisa estão implementando medidas para combater essa crise. A Elsevier, por exemplo, desenvolveu indicadores para identificar artigos que necessitam de avaliação humana mais rigorosa. O grupo Nature proíbe imagens geradas por IA e orienta revisores a não submeter manuscritos a sistemas de IA. O arXiv suspende pesquisadores que apresentam referências bibliográficas inventadas.
Especialistas defendem o uso de “research-grade AI” (IA voltada à pesquisa científica), que visa garantir que o pesquisador mantenha o controle do trabalho. A supervisão humana é considerada crucial, pois os agentes de IA ainda são imperfeitos e a intuição humana é essencial para reconhecer descobertas inesperadas que poderiam ser descartadas como anomalias pela máquina. A descoberta da penicilina, da radioatividade e dos pulsares são exemplos de como a observação humana de resultados anômalos levou a avanços científicos monumentais.
Apesar dos desafios, a IA oferece caminhos promissores. A pesquisa de Andrea Pauli sobre a penetração do espermatozoide no óvulo, auxiliada pela IA, demonstra que a tecnologia pode ser uma aliada poderosa quando utilizada de forma responsável. A história de Oliver Vince, cofundador da Basecamp Research, que busca usar IA para encontrar curas para o câncer após sua própria batalha contra a doença, ilustra o potencial humano de aproveitar essa tecnologia para o bem. A questão fundamental permanece: a IA será uma ferramenta para impulsionar a ciência ou uma força silenciosa a minar seus alicerces de confiança e integridade?
As informações foram reunidas a partir de reportagens da BBC News Brasil.
