Empresas como Google, OpenAI e Anthropic estão em processo de criação de uma entidade dedicada a estabelecer normas de segurança para a inteligência artificial (IA) avançada, especialmente em um momento em que Donald Trump se opõe a novas regulamentações no setor nos Estados Unidos. A iniciativa, que ainda não possui um estatuto formal divulgado, coloca as empresas responsáveis pelos modelos de IA no papel central da formulação de testes destinados a avaliar vulnerabilidades, incidentes e comportamentos imprevistos nas tecnologias que disponibilizam ao mercado.
A nova organização recebeu o nome provisório de Autoridade de Padrões para IA de Fronteira, ou Standards Authority for Frontier AI (SAFA) em inglês. A informação foi inicialmente divulgada por uma fonte próxima às negociações, que indicou que o lançamento da entidade está sendo considerado para o final de 2026 ou início de 2027. O plano inicial sugere que a indústria lidere o grupo, sob a supervisão do governo federal; a administração Biden teria solicitado que as empresas chegassem a um consenso do setor antes da intervenção governamental. Para liderar essa nova entidade, foram considerados nomes como Sriram Krishnan, ex-assessor da administração Trump e investidor de risco, e Arati Prabhakar, que dirigiu o escritório de ciência e tecnologia na gestão Biden.
Setor privado aproveita lacuna deixada por Trump
A situação política em Washington criou uma brecha significativa. Na ordem executiva assinada em 2 de junho de 2026, Trump declarou que os Estados Unidos não iriam restringir a inovação com regulamentações excessivas e introduziu um marco voluntário para modelos avançados de IA, sem imposição de licenças obrigatórias ou aprovações prévias para o desenvolvimento e lançamento de novos sistemas.
Essa decisão altera o equilíbrio do poder no setor. Com o governo se afastando da imposição de normas obrigatórias, as grandes corporações que dominam os modelos mais sofisticados têm a oportunidade de estabelecer seus próprios protocolos como referência no mercado.
No dia 24 de setembro de 2026, Trump também expressou resistência a novas salvaguardas ao afirmar que a “superinteligência” seria um tópico central em sua agenda com Xi Jinping, optando por manter o status quo. Ele reafirmou que o Departamento de Justiça atuaria apenas em casos de violação criminal e não como regulador técnico da IA.
O governo dos EUA até sugeriu à China um mecanismo para notificação sobre incidentes relacionados à IA que possam impactar a segurança nacional, durante conversas lideradas pelo secretário do Tesouro, Scott Bessent. Embora esse gesto represente uma tentativa diplomática, ele não substitui a necessidade de regras públicas para auditoria e responsabilização das plataformas.
Objetivos da SAFA
A SAFA está sendo concebida como uma entidade voltada para padrões técnicos e não como um órgão público regulador. Entre suas funções discutidas estão apoiar testes dos modelos antes do seu lançamento, estabelecer métodos para relatar incidentes relacionados à segurança e transformar compromissos voluntários assumidos pelas empresas em práticas técnicas mais concretas.
Além disso, está sendo avaliada a credenciação de auditores independentes para os modelos e laboratórios. Uma questão crucial é se essa entidade se limitará apenas à criação de padrões ou se terá um papel ativo na realização dos testes relacionados à capacidade e segurança dos sistemas desenvolvidos.
Essa distinção é vital para qualquer usuário das ferramentas como ChatGPT, Gemini ou Claude. Um padrão técnico pode definir como verificar se um modelo é capaz de identificar falhas na segurança ou manipular usuários. Se esse padrão for criado por um grupo restrito das próprias fabricantes, a supervisão pública poderá ocorrer somente após sua implementação.
A questão factual não pode ser ignorada: até o momento, Google, OpenAI e Anthropic ainda não divulgaram uma carta pública oficial da SAFA nem apresentaram detalhes sobre sua estrutura organizacional, poderes ou mecanismos de supervisão. A entidade permanece como uma proposta em desenvolvimento e não é uma autoridade estabelecida.
Desafios nos próprios testes das empresas
A discussão sobre esses temas é prática e relevante. Em 1º de setembro de 2026, a OpenAI anunciou que seu modelo Astra havia alcançado um nível crítico em termos de segurança cibernética. De acordo com informações da própria empresa, com acesso adequado às ferramentas certas, esse sistema pode identificar falhas desconhecidas e encontrar maneiras de explorá-las em sistemas bem protegidos sem necessitar da orientação humana constante.
Essa capacidade ilustra por que os testes prévios ao lançamento tornaram-se uma disputa política acirrada. A mesma tecnologia que auxilia na identificação das vulnerabilidades também pode facilitar ataques cibernéticos ao reduzir custos operacionais e automatizar processos invasivos, potencializando danos quando utilizada por criminosos ou estados mal-intencionados.
Após a Cúpula sobre IA realizada em Seul em 2024, as empresas desse setor prometeram realizar testes internos e externos rigorosos, além do compartilhamento transparente de informações sobre vulnerabilidades. Contudo, esses compromissos são voluntários e dependem das definições feitas pelas próprias organizações quanto aos níveis aceitáveis de risco.
A SAFA busca abordar essa lacuna operacional existente no setor. Entretanto, preencher essa lacuna não garante necessariamente prestação efetiva de contas ao público.
ONU revela contradições entre as grandes empresas tecnológicas
No dia 23 de setembro de 2026, Sam Altman, CEO da OpenAI, junto com Dario Amodei, CEO da Anthropic, se dirigiram ao Conselho de Segurança das Nações Unidas para discutir questões relacionadas à segurança na IA. Altman enfatizou a importância de decisões centrais não ficarem restritas aos laboratórios localizados em São Francisco; Amodei pediu pela criação acordos internacionais e padrões globais para testar novos modelos tecnológicos.
Essas declarações reforçam a urgência da responsabilidade ser transferida para governos e instituições democráticas. No entanto, os planos atuais da SAFA parecem seguir uma direção diferente: onde empresas privadas assumem a liderança na definição da infraestrutura técnica necessária à fiscalização.
Yoshua Bengio, reconhecido cientista no campo da IA e ganhador do prêmio Turing também advertiu durante sua fala no Conselho sobre os perigos representados por sistemas fora do controle humano; ele destacou que nenhum país consegue lidar sozinho com essa ameaça crescente. Essa afirmação fortalece o argumento pela necessidade urgente de supervisão pública ao invés da simples coordenação entre empresas privadas.
Efeitos diretos no usuário comum
Para aqueles que utilizam ferramentas baseadas em IA no cotidiano – seja no trabalho escolar ou profissional – essa disputa torna-se evidente na prática. O selo ou certificação que permitirá a adoção desses modelos pode ser fundamentado em critérios elaborados por quem tem interesse financeiro na sua implementação.
Esse cenário poderá influenciar contratos corporativos importantes assim como aquisições governamentais e políticas internas relacionadas a bancos, hospitais ou universidades. Quando uma empresa afirma que seu modelo passou por testes realizados por auditorias independentes é crucial saber quem estabeleceu os critérios do teste realizado; quem financiou essa auditoria; quem teve acesso aos resultados completos; além dos desdobramentos caso algo saia errado com o sistema implementado.
Nesse contexto político atual onde Trump figura como antagonista – sua postura diminui as chances imediatas para regulamentações públicas robustas – Google, OpenAI e Anthropic emergem como protagonistas ambíguas: capazes sim de acelerar testes técnicos mas também motivadas por manter controle sobre as normas que podem avaliar seus próprios produtos.
A SAFA tem potencial para aumentar a uniformidade nas avaliações relativas à IA; contudo pode também consolidar uma autorregulação superficial caso seja criada sem verdadeira independência ou transparência necessária para impor consequências externas efetivas. A diferença entre essas duas possibilidades residirá nos regulamentos internos definidos pela entidade; nos auditores selecionados; nas informações disponibilizadas ao público; bem como na capacidade real dessa nova estrutura para obrigar as gigantes tecnológicas a corrigirem falhas identificadas nos testes realizados.