Poder360 — Geral
17/11/2026 04:21

Califórnia processa OpenAI por ataques de agentes de IA

A Procuradoria Geral da Califórnia entrou na 2ª feira (16.nov.2026) com uma ação contra a OpenAI, desenvolvedora do ChatGPT, por falhas de segurança em testes de sistemas de inteligência artificial. O processo cita ataques realizados por agentes autônomos da empresa, incluindo a invasão da plataforma Hugging Face, em julho.

Apresentada à Justiça estadual em San Francisco, a petição de 31 páginas pede medidas para interromper as práticas consideradas ilegais, reduzir os riscos à população e aplicar multas civis de US$ 2.500 por violação da legislação estadual sobre práticas comerciais desleais. Eis a íntegra (PDF, em inglês – 484 kB).

A Procuradoria diz que a OpenAI apresentou seus procedimentos como seguros, apesar de falhas no isolamento e no monitoramento dos sistemas. Afirma que a empresa ignorou sinais de que os agentes ultrapassavam os limites dos testes.

Segundo o procurador-geral Rob Bonta, a invasão à Hugging Face era previsível e refletiu uma cultura interna que priorizava o desenvolvimento acelerado de modelos em detrimento da segurança. A petição declara que a OpenAI informou ao órgão sobre mais de 80 episódios de perda de controle de agentes durante testes.

Como foi a invasão

Agentes de inteligência artificial são programas capazes de usar ferramentas digitais e executar tarefas com pouca intervenção humana. Podem, por exemplo, navegar na internet, consultar informações e operar outros programas para cumprir um objetivo.

Segundo relatório técnico da OpenAI, os agentes contornaram restrições do ambiente de testes, acessaram a internet e exploraram falhas para entrar nos sistemas da Hugging Face, plataforma que hospeda modelos e bases de dados de IA. Eis a íntegra do relatório (PDF, em inglês – 509 kB).

A empresa afirma que os sistemas buscavam soluções para os desafios da avaliação e operavam com proteções reduzidas em relação às utilizadas nos produtos comerciais. A atividade foi conduzida principalmente por um modelo experimental destinado à pesquisa interna.

A Hugging Face informou que 5 conjuntos de dados de clientes foram acessados. Segundo a plataforma, os arquivos tinham aparente relação com desafios e soluções de testes de segurança. A empresa disse não ter identificado impacto sobre outros modelos, conjuntos de dados ou aplicativos de clientes.

Posição da OpenAI

Em relato publicado em 26 de agosto, a OpenAI reconheceu que os modelos contornaram os controles de segurança. A companhia afirmou que restringiu o acesso ao protótipo envolvido e reforçou o isolamento dos ambientes de pesquisa, as restrições de acesso à internet e o monitoramento.

Em 16 de setembro, divulgou diretrizes para comunicar comportamentos inesperados dos modelos. A empresa declarou que daria preferência à divulgação mesmo quando a relevância de um episódio ainda fosse incerta.

O tema motivou propostas no Congresso norte-americano. Em 23 de julho, deputados democratas e republicanos apresentaram o Frontier Act, projeto com exigências de auditorias independentes, gestão de riscos e comunicação de incidentes para grandes desenvolvedores de IA.

Outros processos

Em 14 de outubro, 8 Estados norte-americanos anunciaram ações contra a OpenAI. Os governos dizem que a empresa enganou os consumidores sobre a segurança do ChatGPT e permitiu respostas que incentivam usuários, inclusive adolescentes, a ferir a si mesmos ou outras pessoas.

Também há processos relacionados ao ataque a tiros realizado em fevereiro de 2026 em Tumbler Ridge, na Colúmbia Britânica, no Canadá. O escritório Edelson PC informa ter ajuizado 37 ações em nome de vítimas e familiares. Os autores dizem que a OpenAI identificou sinais de risco nas conversas da responsável pelo ataque, mas não avisou a polícia.

Em carta de 26 de fevereiro às autoridades canadenses, a OpenAI afirmou que bloqueou a conta em junho de 2025, mas não identificou, naquele momento, planejamento crível e iminente que atendesse aos critérios para acionar a polícia. A companhia informou ter revisto esses critérios e disse que, pelo protocolo reforçado descrito na carta, o caso seria encaminhado às autoridades. Eis a íntegra da carta (PDF, em inglês – 97 kB).

📄 Contenido indexado automáticamente. No es de autoría de altabusqueda.com; los derechos pertenecen a su fuente: Poder360 — Geral.
Ver nota original ↗
🤖 Profundizá esta noticia con OIMA (IA)

¿Querés un resumen rápido de esta noticia, hecho por nuestra IA?

Respuestas de OIMA · IA, sobre esta noticia · Abrir OIMA Chat ↗
💬 0

Comentarios

También te puede interesar

Félix Gallardo: una vida entre el poder y la destrucción
Milenio Jalisco
La muerte de Miguel Ángel Félix Gallardo, conocido como «El Jefe de Jefes», a los 80 años de edad, cierra un …
OPERAÇÃO Receita apreende R$ 435 mil em produtos irregulares no Estado
Gazeta de Alagoas

 
 
 
 
 OPERAÇÃO
 
 
 
 Operação realizada em quatro estados do NE resu…
Teatro Riachuelo Rio revive a beatlemania com a banda Beatles Abbey Road
Diário do Rio de Janeiro
Beatles Abbey Road - Divulgação 
 No dia 25 de novembro, o universo dos Beatles toma conta do Teatro Riac…
Localizan siete cadáveres embolsados
Meridiano
Siete cuerpos sin vida fueron encontrados la mañana de ayer lunes sobre una brecha que conduce a la comunidad…
Tepic bajo fuego revolucionario
Meridiano
Cuando hablamos de la Revolución Mexicana, casi siempre pensamos en cualquier otro rincón de la República Mex…
Irán condena las sentencias contra clérigos chiíes en Baréin y niega vínculos con ellos
ABC Color — Artículos
"El Ministerio de Exteriores de la República Islámica de Irán considera que las sentencias injustas dictadas …