Debates / Ciência e sociedade
A inteligência artificial pode fazer ciência?
Do AlphaFold aos modelos de linguagem que escrevem artigos: a IA vai acelerar a ciência ou encher a literatura de erros?
Em 2024, o Nobel de Química premiou o AlphaFold, sistema de IA que prevê a estrutura de proteínas. Ao mesmo tempo, modelos de linguagem inventam referências e artigos gerados por IA aparecem em revistas. A IA é ferramenta, cientista ou ameaça à ciência?
Antes de ler: para que lado você pende?
Os lados
A IA vai transformar a ciência
- Já resolveu problemas antes intratáveis, como o enovelamento de proteínas.
- Pode analisar volumes de dados impossíveis para humanos.
- Pode gerar hipóteses e planejar experimentos, acelerando descobertas.
A IA traz riscos sérios à ciência
- Modelos que preveem sem explicar podem gerar conhecimento opaco, difícil de criticar.
- Modelos de linguagem inventam fatos e referências com aparência confiável.
- Fábricas de artigos falsos com IA ameaçam a revisão por pares.
- Vieses dos dados de treinamento se reproduzem nos resultados.
Posições gerais. Muita gente concorda em parte com cada lado.
O que as correntes tendem a dizer
| Instrumentalismo | Ficaria satisfeito com previsões corretas, mesmo sem explicação. |
|---|---|
| Realismo científico | Insistiria que a ciência busca entender como o mundo é, não só prever. |
| Confiabilismo | Perguntaria se o processo da IA é confiável, isto é, se acerta na maioria dos casos verificáveis. |
Por que é complexo
- Prever e explicar são virtudes diferentes, e a IA pode ser ótima numa e fraca na outra.
- A confiabilidade da IA varia muito entre tarefas.
- Questões de autoria, responsabilidade e transparência ainda estão em aberto.
Para onde a evidência aponta
A IA já produziu contribuições científicas reais, como o AlphaFold, e também riscos concretos à integridade da literatura. Se ela pode “fazer ciência” no sentido pleno, com explicação e crítica, e como integrá-la com segurança, são questões em aberto.
Avaliação do site, sujeita a críticas. Evidências e argumentos novos podem mudá-la.
E agora, depois de ler?
Perguntas para pensar
- Qual parte da discussão é sobre fatos, e qual é sobre valores?
- Que evidência faria cada lado mudar de ideia?
- Quem ganha e quem perde com cada resposta?
- O que me faria mudar de ideia?
Lições relacionadas: O que é uma explicação científica?, Realismo e antirrealismo científico, A crise de replicação.
No mesmo tema
A ciência é neutra?
Entre “a ciência é pura objetividade” e “a ciência é só ideologia”, onde está a verdade?
Um lado tem mais apoio, com ressalvas“Seguir a ciência” na política: até onde?
Na pandemia e no clima, “siga a ciência” virou slogan. Mas a ciência diz o que fazer, ou só o que acontece se fizermos?
Um lado tem mais apoio, com ressalvasPesquisa financiada pela indústria merece confiança?
Boa parte da pesquisa em saúde, alimentação e energia é paga por quem vende o produto. Quando isso distorce os resultados, como distorce, e o que protege a ciência sem jogar fora o dinheiro privado.