O perigo da inteligência artificial segundo quem a constrói

Em março de 2023, mais de 30 mil pessoas assinaram uma carta a pedir uma pausa de seis meses. Em maio, uma frase comparou o risco da IA ao das pandemias. Os líderes dos laboratórios assinaram a segunda e não a primeira — e é essa diferença que explica o resto.

Quando alguém diz que a inteligência artificial é perigosa, a reação habitual é arrumar a pessoa numa gaveta: ou é alarmista, ou não percebe do assunto.

O problema dessa arrumação é que os avisos mais duros vieram de dentro. Vieram dos investigadores que criaram as bases desta tecnologia e dos executivos que dirigem os laboratórios que a constroem e vendem. São documentos públicos, assinados, com data.

E há um pormenor que quase nunca é contado: houve dois documentos, e nem toda a gente assinou os dois. A diferença entre eles diz mais sobre o assunto do que qualquer um deles isolado.

Março de 2023: parem durante seis meses

O primeiro documento é uma carta aberta do Future of Life Institute, publicada em março de 2023, intitulada Pause Giant AI Experiments. Pedia que todos os laboratórios suspendessem imediatamente, durante pelo menos seis meses, o treino de sistemas mais poderosos do que o GPT-4.

Os riscos invocados eram concretos: propaganda gerada por máquinas, automação extrema do trabalho, obsolescência humana e perda de controlo à escala da sociedade. A carta recolheu mais de 30 mil assinaturas, incluindo mais de 1.800 executivos e mais de 1.500 professores universitários.

Entre os signatários estavam Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak e Yuval Noah Harari.

Maio de 2023: uma frase de vinte e duas palavras

Dois meses depois, a 30 de maio de 2023, o Center for AI Safety publicou um documento de natureza diferente. Não pedia nada a ninguém. Era uma frase:

«Mitigar o risco de extinção causado pela IA deve ser uma prioridade global, a par de outros riscos à escala da sociedade, como as pandemias e a guerra nuclear.»

A brevidade era deliberada. Uma frase curta é difícil de assinar em parte, e não obriga a concordar com nenhuma medida concreta. Isso permitiu que a assinassem pessoas que não assinariam a carta anterior.

Quem assinou o quê — e por que a diferença importa

Aqui está o ponto que quase toda a cobertura perdeu.

A declaração de maio foi assinada por Geoffrey Hinton e Yoshua Bengio — dois dos criadores das redes neuronais modernas, ambos vencedores do Prémio Turing — e, ao contrário da carta de março, também pelos líderes dos principais laboratórios: Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) e Dario Amodei (Anthropic).

Ou seja: os responsáveis pelas empresas aceitaram assinar que a sua tecnologia representa um risco comparável a uma pandemia — mas não tinham assinado o pedido para parar de a desenvolver durante seis meses.

Não é hipocrisia automática, e vale a pena perceber a lógica: a posição implícita é «isto é perigoso, por isso é importante que sejamos nós a fazê-lo, com cuidado, e não outros sem cuidado nenhum». É uma posição defensável e também é, convenientemente, a que permite continuar.

O que aconteceu a seguir

A pausa de seis meses nunca aconteceu. Nenhum laboratório suspendeu treino. O ritmo de lançamentos acelerou nos anos seguintes.

E há um episódio que ilustra bem a distância entre assinar e agir: Elon Musk, um dos rostos da carta de março de 2023 que pedia a pausa, anunciou poucos meses depois, ainda em julho desse ano, a criação da sua própria empresa de inteligência artificial.

Isto não invalida os avisos. Mas ensina alguma coisa sobre o valor de compromissos voluntários numa corrida competitiva: quando parar significa ficar para trás, praticamente ninguém para. É por isso que a conversa se deslocou das cartas abertas para a legislação.

Como a lei traduziu isto em categorias

O Regulamento europeu de inteligência artificial fez o que as cartas não conseguiram: em vez de pedir moderação, classificou usos e atribuiu obrigações. O sistema assenta em níveis de risco:

• Risco inaceitável — proibido. Inclui técnicas subliminares ou manipulativas, policiamento preditivo com base no perfil de indivíduos e pontuação social. Em vigor desde 2 de fevereiro de 2025;
• Alto risco — permitido, com obrigações estritas de documentação, supervisão humana e qualidade dos dados. Aplica-se aos sistemas do Anexo III a partir de 2 de dezembro de 2027;
• Risco limitado — obrigações de transparência, como informar que se está a interagir com uma máquina ou que um conteúdo foi gerado por IA. Em vigor desde agosto de 2026;
• Risco mínimo — sem obrigações específicas. É a esmagadora maioria dos usos.

Repare na inversão. As cartas falavam de extinção; a lei fala de contratação, crédito, educação, justiça e saúde. O legislador europeu escolheu regular o risco que já existe em vez do risco hipotético — e essa escolha é, ela própria, uma resposta ao debate.

O que mudou entre 2023 e hoje

Passaram três anos sobre os dois documentos. Vale a pena comparar o que foi pedido com o que efetivamente aconteceu, porque a diferença é instrutiva.

• O que foi pedido e não aconteceu — a pausa de seis meses. Nenhum laboratório parou, e a capacidade dos modelos aumentou continuamente desde então;
• O que não foi pedido e aconteceu — legislação vinculativa. O regulamento europeu entrou em vigor a 1 de agosto de 2024 e começou a aplicar-se por fases a partir de fevereiro de 2025, com proibições, obrigações de transparência e um dever de literacia em IA para quem põe pessoas a trabalhar com estes sistemas;
• O que aconteceu sem barulho — a adoção massiva. Enquanto se discutia a pausa, estes sistemas entraram em escolas, hospitais, bancos e serviços públicos, muitas vezes sem que o utilizador final soubesse que estava a lidar com um.

O terceiro ponto é o mais importante e o menos noticiado. O risco concreto não chegou por um salto tecnológico dramático: chegou pela normalização silenciosa, decisão administrativa a decisão administrativa.

Setembro de 2026: «que os concorrentes corrijam o teste»

O capítulo mais recente desta história tem três semanas, e é o mais estranho de todos: desta vez, quem está a pedir travões são as mesmas pessoas que estão a construir o acelerador — e não conseguem pôr-se de acordo.

Começou com um ensaio de Dario Amodei, presidente executivo da Anthropic, a pedir à indústria que abrande o desenvolvimento de capacidades. Recebeu apoio de dois sítios improváveis ao mesmo tempo: Elon Musk e Sam Altman, da OpenAI. Pelo meio, um investigador que passou pela Anthropic e pela OpenAI, Jacob Coxon, demitiu-se dizendo que os laboratórios estão a «apostar com as nossas vidas».

A proposta que ninguém aceitou

A 15 de setembro de 2026, no All-In Summit em Los Angeles, Musk avançou com uma ideia concreta. Chamou-lhe test harness: um conjunto partilhado de testes de segurança que as empresas rivais correriam umas contra os modelos das outras, antes do lançamento.

Nomeou quem deveria entrar: a xAI, a OpenAI, a Anthropic, a Google, a Meta e três ou quatro das maiores empresas chinesas de IA. O argumento cabe numa frase dele: em vez de cada um corrigir o seu próprio teste, seriam os concorrentes a corrigi-lo — e a dar o alarme se vissem algo preocupante.

É uma ideia simples e, à partida, difícil de rebater. Quem testa o próprio produto tem todos os incentivos para não encontrar problemas. Um concorrente tem exatamente o incentivo contrário.

Até hoje, nenhuma das empresas nomeadas aceitou. O próprio Musk admitiu que não tinha acordo de ninguém, e disse que o sistema também não resolveria tudo — apenas aumentaria a hipótese de encontrar problemas antes do lançamento.

O que isto acrescenta ao resto do texto

Repare no padrão, porque é o mesmo de 2023 e é o que dá sentido a este artigo todo.

Em março de 2023 pediu-se uma pausa de seis meses: ninguém parou. Em setembro de 2026 propôs-se auditoria cruzada entre concorrentes: ninguém aceitou. O que falha não é o diagnóstico, é a coordenação. Cada laboratório concorda que o risco existe e nenhum quer ser o primeiro a abrandar sozinho, porque abrandar sozinho significa perder para quem não abrandou.

E é precisamente por isso que a parte que funcionou até agora não veio de acordos voluntários — veio da lei. O regulamento europeu não pediu licença a ninguém, e é hoje a única coisa desta história com força vinculativa.

A crítica que também é preciso ouvir

Nem toda a gente aceita esta narrativa, e a objeção mais forte merece ser apresentada a sério.

Há investigadores que argumentam que falar de extinção é conveniente para quem vende IA: transforma o produto em algo poderosíssimo, desvia a atenção dos danos concretos que já existem — discriminação algorítmica, vigilância, precarização, trabalho de anotação mal pago — e sugere que só quem constrói estes sistemas tem competência para os regular.

É uma crítica séria, e não se resolve escolhendo lado. Mas há uma coisa que os dois campos concordam, e que é o que interessa a quem lê: a supervisão não pode ficar dependente da boa vontade de quem lucra. Um lado quer supervisão por causa do risco futuro, o outro por causa do dano presente. O pedido prático acaba por ser o mesmo.

O que fazer com isto

• Quando ler que «os especialistas avisam», verifique qual documento e quem assinou. Os dois textos citados aqui estão em acesso livre e demoram dois minutos a ler;
• Desconfie tanto de quem diz que é o fim do mundo como de quem diz que não há nada a ver. Nenhuma das duas posições está sustentada nos documentos;
• Interesse-se mais pelas categorias de risco do que pelos cenários de ficção. É nas primeiras que está o que lhe pode acontecer este ano — numa candidatura, num pedido de crédito, numa avaliação;
• Quando um sistema automatizado decidir algo sobre si, pergunte se há supervisão humana. Nos usos de alto risco, ter essa supervisão passou a ser exigência legal na Europa.

Perguntas frequentes

Que carta pediu uma pausa no desenvolvimento da IA?

A carta aberta Pause Giant AI Experiments, do Future of Life Institute, publicada em março de 2023. Pedia a suspensão imediata, por pelo menos seis meses, do treino de sistemas mais poderosos do que o GPT-4. Recolheu mais de 30 mil assinaturas, incluindo mais de 1.800 executivos e mais de 1.500 professores universitários.

Quem assinou a carta da pausa?

Entre os signatários estavam Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak e Yuval Noah Harari. Os líderes dos principais laboratórios de IA não assinaram este documento.

O que diz a declaração sobre risco de extinção?

Publicada pelo Center for AI Safety a 30 de maio de 2023, é uma frase única: mitigar o risco de extinção causado pela IA deve ser uma prioridade global, a par de outros riscos à escala da sociedade, como as pandemias e a guerra nuclear.

Os criadores da IA assinaram essa declaração?

Sim. Ao contrário da carta de março, a declaração de maio foi assinada também por Sam Altman, da OpenAI, Demis Hassabis, da Google DeepMind, e Dario Amodei, da Anthropic, além de Geoffrey Hinton e Yoshua Bengio.

Por que assinaram uma e não a outra?

A declaração de maio reconhece o risco sem pedir qualquer medida concreta, enquanto a carta de março pedia a suspensão do desenvolvimento. A posição implícita dos laboratórios é que, sendo a tecnologia perigosa, é preferível que seja desenvolvida por quem tem cuidado — o que também permite continuar.

A pausa de seis meses chegou a acontecer?

Não. Nenhum laboratório suspendeu o treino dos seus modelos e o ritmo de lançamentos acelerou nos anos seguintes. Elon Musk, um dos rostos da carta, anunciou a criação da sua própria empresa de inteligência artificial poucos meses depois, ainda em julho de 2023.

Como é que a lei europeia classifica o risco da IA?

Em quatro níveis: risco inaceitável, que é proibido desde 2 de fevereiro de 2025; alto risco, permitido com obrigações estritas, aplicáveis aos sistemas do Anexo III a partir de 2 de dezembro de 2027; risco limitado, com deveres de transparência em vigor desde agosto de 2026; e risco mínimo, sem obrigações específicas.

Há quem critique o discurso do risco de extinção?

Sim. Vários investigadores argumentam que falar de extinção beneficia quem vende IA, por engrandecer o produto e desviar a atenção de danos já existentes, como discriminação algorítmica, vigilância e trabalho de anotação mal pago. Os dois campos convergem, porém, num ponto: a supervisão não deve depender da boa vontade de quem lucra.

Leia também

• A IA vai dominar o mundo? A resposta com números, não com opiniões
• Há uma data em dezembro de 2026 que muda as regras da IA — e quase ninguém reparou
• As profissões que acabam até 2030 — e as que a IA não consegue tocar
• Cyber Resilience Act: o que muda a 11 de setembro para quem publica software
• Chip no cérebro: o que a Neuralink já faz e em quem
• IA da OpenAI invadiu site do governo da Austrália
• A OpenAI é sem fins lucrativos? Sim, e também não
• Deepfake é crime no Brasil? E o que a Europa proíbe a 2 de dezembro
• ChatGPT: quanto custa, que limites tem e o que muda
• o que são agentes de IA e para que servem
• quanto custa um robô humanoide e onde comprar