Anthropic propõe freio geral no avanço tecnológico de IA para evitar riscos.

A disputa entre países e companhias para dominar a inteligência artificial ganhou contornos de urgência. A startup Anthropic, fundada por ex-pesquisadores da OpenAI, defende que seja criado um mecanismo internacional capaz de decidir quando desacelerar projetos considerados perigosos.

Protocolo global

A ideia é simples no papel e complexa na prática: reunir governos e desenvolvedores em torno de um acordo que permita pausar coletivamente o avanço da IA. A empresa compara o modelo ao tratado de armas nucleares, em que rivais se comprometem a limitar o poder bélico em nome da sobrevivência comum.

Risco de substituição

Segundo Jack Clark e Marina Favaro, líderes da Anthropic, a tecnologia já se aproxima de um ponto em que pode multiplicar a eficiência do trabalho humano ou até eliminá-lo. O temor é que sistemas autônomos passem a se aprimorar sozinhos, criando sucessores cada vez mais potentes e reduzindo o papel das pessoas.

Obstáculo político

Convencer países e empresas a abrir mão da vantagem competitiva é o maior desafio. Em 2023, a própria Anthropic havia prometido interromper pesquisas arriscadas, mas recuou meses depois, alegando que não poderia parar se isso significasse perder terreno para concorrentes.

Segurança em segundo plano

A startup reconhece que o ambiente político mudou: governos passaram a priorizar crescimento econômico e liderança tecnológica em vez de segurança. A empresa agora tenta recolocar o tema na mesa, anunciando encontros com formuladores de políticas públicas e rivais do setor.

Comparação nuclear

No texto publicado em seu blog, a Anthropic afirma que treinar modelos de IA é muito mais fácil de esconder do que silos de mísseis. Por isso, qualquer pausa coletiva exigiria fiscalização rigorosa, talvez até por laboratórios concorrentes.

Vozes do passado

A proposta não é inédita. Em 2023, o Future of Life Institute pediu suspensão de seis meses para que fossem criadas salvaguardas. O bilionário Elon Musk e mais de mil pesquisadores assinaram a carta. Críticos, porém, alertaram que a medida poderia sufocar a inovação e favorecer quem ignorasse o acordo.

Modelos avançados

Apesar do discurso cauteloso, a Anthropic segue lançando ferramentas poderosas. Entre elas, o Claude e o Mythos, capazes de detectar falhas de cibersegurança com rapidez inédita. A empresa também prepara sua entrada na bolsa de valores, movimento que pode ampliar ainda mais sua influência.

Futuro incerto

Para Clark e Favaro, o risco maior está na colisão entre inteligências artificiais cada vez mais autônomas e o mundo humano, com suas regras sociais e políticas frágeis. “Esse futuro não conseguimos prever”, escreveram.

A proposta da Anthropic expõe o dilema central da era digital: como equilibrar inovação e segurança quando a tecnologia avança mais rápido do que a capacidade de governá-la.

Recomendados

União Europeia é segundo maior mercado da carne brasileira

A região representa R$ 9,31 bilhões em negócios anuais, segundo informa o Ministério da Agricultura

União Europeia oficializa veto a carnes do Brasil a partir de setembro

Bloco exclui país de lista por falta de dados sobre controle de antimicrobianos

Fachin vai fazer “checklist” contra supersalários na magistratura nacional

Comissão terá 180 dias para propor regras e expor distorções que permitem juízes receberem acima do teto constitucional