Durante anos, os principais executivos da inteligência artificial repetiram que a tecnologia mudaria o mundo. Aumentaria a produtividade, curaria doenças, aceleraria descobertas científicas e inauguraria uma nova era de prosperidade. Agora, aparentemente depois de construir máquinas capazes de ajudá-los a construir máquinas ainda mais poderosas, alguns decidiram acrescentar uma pequena observação ao prospecto: talvez o mundo também possa acabar no processo.
Dario Amodei, CEO da Anthropic e um dos pesquisadores mais respeitados do setor, publicou um alerta direto: é preciso desacelerar o desenvolvimento dos modelos mais avançados. Não interromper a inteligência artificial, abandonar seus benefícios ou retornar à máquina de escrever. Apenas reduzir a velocidade para que os mecanismos de segurança consigam acompanhar uma tecnologia que começa a evoluir mais rapidamente do que a capacidade humana de compreendê-la.
A manifestação recebeu apoio de Sam Altman, da OpenAI, Elon Musk e Demis Hassabis, do Google DeepMind. Quando os homens que comandam as empresas mais avançadas do planeta pedem prudência, talvez seja recomendável resistir à tentação de chamá-los simplesmente de pessimistas. Afinal, ninguém conhece melhor uma usina nuclear do que aqueles que estão dentro da sala de controle.
Donald Trump pensa diferente. Para o presidente americano, os alertas são exagerados e promovidos por “forças muito negativas”. Sua lógica é simples: quem vencer a corrida da inteligência artificial vencerá o futuro. Desacelerar significaria entregar a liderança à China. E nenhum presidente dos Estados Unidos pretende aparecer nos livros de história como o homem que pediu calma enquanto Pequim pisava no acelerador.
Trump não está completamente errado. Esse é justamente o problema. Nenhum acordo de segurança funciona se apenas um competidor o respeita. Se empresas americanas diminuírem o ritmo enquanto laboratórios chineses continuarem avançando, a prudência pode transformar-se em ingenuidade geopolítica. Mas existe uma diferença considerável entre reconhecer a competição e concluir que, diante dela, a única alternativa racional é correr de olhos fechados.
Amodei já advertia sobre esses riscos havia tempo. Em janeiro, escreveu que a inteligência artificial poderia representar a maior ameaça à segurança nacional em um século. Falou sobre sistemas autônomos fora de controle, ataques cibernéticos, armas biológicas, vigilância em massa, concentração de poder e destruição de milhões de empregos. Na época, parecia mais confortável tratar tudo como futurologia excessivamente dramática. O mercado estava ocupado demais comemorando avaliações bilionárias.
Agora surgiu um elemento novo. Segundo Amodei, os modelos começaram a participar de maneira relevante da criação da geração seguinte de modelos, um processo de aperfeiçoamento parcialmente recursivo. Além disso, agentes de IA já apresentaram, em testes, comportamentos não solicitados: tentativas de enganar avaliadores, atacar outros sistemas e contornar controles para cumprir objetivos. Ainda não foi uma rebelião das máquinas. Foi apenas um ensaio pouco tranquilizador.
A periculosidade, portanto, não foi descoberta ontem. O que mudou foi a coragem, ou a necessidade, de reconhecê-la publicamente.
Também convém evitar a canonização repentina dos executivos da tecnologia. As mesmas empresas que pedem desaceleração continuam investindo centenas de bilhões de dólares, disputando engenheiros, capacidade computacional e participação de mercado. É como organizar uma corrida de Fórmula 1, acelerar nas retas e, simultaneamente, solicitar que alguém instale lombadas antes da próxima curva. A preocupação pode ser legítima, mas não elimina os interesses econômicos.
A proposta de Amodei tenta enfrentar essa contradição. Ele defende avaliadores independentes instalados dentro dos grandes laboratórios, com acesso semelhante ao dos funcionários; padrões comuns entre empresas de países democráticos; e algum nível de coordenação internacional, inclusive com regimes autoritários. Não é um plano simples. Bancos não gostam de fiscais dentro dos bancos, governos não gostam de inspeções e empresas de tecnologia dificilmente desenvolveram uma paixão espontânea pela transparência.
Mesmo assim, esperar um acidente para discutir regras parece uma estratégia inferior. O Brasil, enquanto isso, corre o risco de entrar nesse debate pela porta errada: regulamentar aquilo que ainda compreende pouco, copiar conceitos europeus e produzir mais um conjunto de obrigações burocráticas para empresas locais, sem qualquer influência real sobre os modelos desenvolvidos nos Estados Unidos e na China. Regular formulários brasileiros não tornará segura uma inteligência artificial global.
A discussão necessária não é entre entusiasmo e medo. É entre poder e controle. A inteligência artificial poderá produzir uma extraordinária expansão do conhecimento humano. Exatamente por isso, também ampliará como nunca a capacidade humana e, eventualmente, não humana de causar danos.
Trump quer vencer a corrida. Amodei quer evitar que a linha de chegada seja um precipício. Talvez ambos tenham razão. Mas, quando os próprios fabricantes começam a pedir freios, responder apenas que o automóvel precisa correr mais do que o chinês deixa de ser coragem. Passa a ser uma forma tecnologicamente sofisticada de imprudência.
*Coluna escrita por Fabio Ongaro, economista, empresário italiano no Brasil e CEO da Energy Group
*As opiniões transmitidas pelo colunista são de responsabilidade do autor e não refletem, necessariamente, a opinião da BM&C News.
*Leia mais colunas do autor aqui.
