0
0
Google, OpenAI e Anthropic estão se unindo para criar uma nova entidade destinada a estabelecer normas de segurança para a inteligência artificial (IA) de ponta, em um momento em que Donald Trump se opõe a novas regulamentações para o setor nos Estados Unidos. Essa iniciativa, cuja estrutura ainda não foi divulgada publicamente, coloca as empresas desenvolvedoras de modelos no papel central da definição de testes que avaliarão vulnerabilidades e comportamentos indesejados nas tecnologias que elas comercializam.
A organização, chamada provisoriamente de Autoridade de Padrões para IA de Fronteira (em inglês, Standards Authority for Frontier AI – SAFA), está sendo discutida como uma possibilidade com lançamento previsto para o final de 2026 ou início de 2027, segundo informações obtidas por fontes envolvidas nas negociações. O projeto inicial sugere uma liderança industrial com supervisão do governo federal — a Casa Branca orientou as empresas a chegarem a um consenso antes da intervenção governamental. Entre os nomes cogitados para liderar a entidade estão Sriram Krishnan, ex-assessor na administração Trump, e Arati Prabhakar, que chefiou o escritório de ciência e tecnologia durante o governo Biden.
Empresas buscam preencher o vazio deixado por Trump
A situação política em Washington abriu espaço para essa movimentação. Em uma ordem executiva datada de 2 de junho de 2026, Trump afirmou que os EUA não pretendem sufocar a inovação com regulamentações excessivas e introduziu um marco voluntário para modelos avançados, sem exigir licenças obrigatórias ou aprovações prévias para o desenvolvimento e lançamento de novos sistemas.
Essa decisão altera o equilíbrio de poder no setor. Com o governo abrindo mão da imposição de padrões obrigatórios, as grandes corporações que dominam os modelos mais sofisticados têm agora a oportunidade de transformar suas diretrizes internas em referências reconhecidas no mercado.
Em 24 de setembro de 2026, Trump reiterou sua oposição a novas regulação ao afirmar que a “superinteligência” seria um tema primordial em sua agenda com Xi Jinping, optando por manter o status quo. Sua declaração deixou claro que o Departamento de Justiça atuaria apenas em casos de violações criminais, sem desempenhar um papel regulatório sobre IA.
O governo dos EUA chegou até mesmo a propor à China um mecanismo para notificação sobre incidentes relacionados à IA que afetem a segurança nacional. Esta iniciativa diplomática abre um canal para diálogo entre os dois países, mas não substitui a necessidade urgente por regras públicas para auditoria e responsabilização das plataformas.
Objetivos da SAFA
A SAFA é concebida como uma entidade focada na padronização e não como uma agência governamental. Entre suas atribuições discutidas estão oferecer suporte na realização de testes antes da implementação dos modelos, estabelecer protocolos para relato de incidentes e converter compromissos voluntários das empresas em práticas técnicas concretas.
Ainda está sendo debatido se a organização apenas criará normas ou também participará diretamente dos testes relacionados à capacidade e segurança dos sistemas. Essa distinção é crucial para qualquer usuário das ferramentas como ChatGPT, Gemini ou Claude. Um padrão técnico poderia determinar procedimentos para verificar se um modelo identifica falhas ou manipula usuários indevidamente. Se essas normas forem elaboradas pelas próprias fabricantes sem supervisão externa adequada, isso poderá comprometer a fiscalização pública futura.
É importante ressaltar que até este momento Google, OpenAI e Anthropic não apresentaram informações públicas sobre a SAFA quanto à sua composição, poderes, financiamento ou mecanismos disciplinares. A entidade ainda se encontra em estágio inicial e não é uma autoridade formalmente estabelecida.
Riscos já são evidentes nos testes realizados pelas empresas
A discussão sobre esses temas é concreta. No dia 1º de setembro de 2026, a OpenAI anunciou que seu modelo Astra atingiu um nível crítico em termos de segurança cibernética. A empresa informou que seu sistema possui capacidade para detectar falhas desconhecidas e encontrar maneiras de explorá-las em sistemas altamente protegidos sem supervisão humana constante.
A capacidade desse tipo explica por que os testes pré-lançamento tornaram-se objeto de disputa política: enquanto a tecnologia pode auxiliar na identificação de vulnerabilidades, também tem potencial para reduzir custos associados a ataques cibernéticos e aumentar os danos quando cai nas mãos erradas.
Desde a Cúpula sobre IA realizada em Seul em 2024, as empresas do setor prometeram realizar testes internos e externos rigorosos, compartilhar informações relevantes e proteger dados sensíveis dos modelos ainda não lançados. Entretanto, esse compromisso permanece voluntário e depende da definição dos parâmetros pelos próprios envolvidos no processo.
A SAFA busca suprir essa lacuna operacional; contudo, é preciso destacar que preencher essa ausência não implica necessariamente prestar contas ao público.
ONU evidencia contradições das grandes tecnologias
No dia 23 de setembro de 2026, Sam Altman (CEO da OpenAI) e Dario Amodei (CEO da Anthropic) foram convidados a falar no Conselho de Segurança da ONU sobre questões relacionadas à segurança na IA. Altman defendeu que decisões críticas não devem ser centralizadas apenas nos laboratórios localizados em São Francisco; já Amodei enfatizou a necessidade urgente por acordos internacionais e padrões globais no teste desses novos modelos.
Essas declarações públicas direcionam atenção à governança da IA por parte dos governos e instituições democráticas. Por outro lado, as articulações referentes à SAFA parecem seguir um caminho distinto onde as corporações privadas assumem papéis proeminentes na definição da infraestrutura técnica necessária à fiscalização.
Yoshua Bengio, renomado cientista da área e ganhador do prêmio Turing, também alertou durante sua participação no Conselho que sistemas fora do controle humano representam uma ameaça global incontrolável. Esse alerta reforça ainda mais o argumento favorável à supervisão pública frente aos esforços empresariais isolados.
Impacto no usuário comum
Aos usuários das ferramentas baseadas em IA — seja no ambiente profissional ou acadêmico — essa disputa torna-se evidente através da questão simples: quem irá certificar se um modelo está seguro? O selo utilizado pode ser fundamentado em critérios definidos pelas próprias entidades lucrativas responsáveis pela adoção dessas tecnologias.
Esse arranjo pode ter implicações diretas nos contratos corporativos assim como nas compras realizadas pelo governo ou políticas internas adotadas por bancos, hospitais e universidades. Quando uma empresa afirma que seu sistema passou por auditorias independentes é essencial saber quem estabeleceu os critérios do teste, quem financiou essa auditoria e quais serão as consequências caso ocorra alguma falha no sistema.
Nesse cenário complexo surge Trump como um antagonista; sua postura diminui as chances imediatas para regulamentações públicas robustas. Enquanto isso, Google, OpenAI e Anthropic se colocam como protagonistas ambíguas — capazes sim de promover testes técnicos mais céleres mas igualmente interessadas em manter controle sobre os critérios utilizados na avaliação dos seus produtos.
A SAFA tem potencial tanto para aumentar a padronização das avaliações voltadas à IA quanto para consolidar uma autorregulação superficial caso não consiga garantir independência real ou transparência suficiente nas suas operações. A distinção entre esses dois cenários dependerá do estatuto final da entidade assim como dos auditores envolvidos na fiscalização efetiva das práticas adotadas pelas gigantes do setor quando surgirem riscos identificáveis nos sistemas testados.
Average Rating