Califórnia processa OpenAI por falhas de segurança em IA e ataques cibernéticos

Leia também

United Airlines enfrenta nova falha em sistemas após recente apagão aéreo

Companhia aérea lida com problemas técnicos que afetam voos em solo, sem indícios de ciberataque.

Alckmin minimiza oscilações do mercado após pacote fiscal do governo

Geraldo Alckmin acredita que oscilações no mercado são passageiras e destaca segurança jurídica do Brasil.

Bancos americanos enfrentam falhas em serviços online

Clientes de grandes bancos dos EUA, como Bank of America e Wells Fargo, relatam dificuldades de acesso às contas.

Cooabriel, fornecedora da Nestlé, é acusada de violações trabalhistas

A cooperativa Cooabriel enfrenta audiência por denúncias de trabalho análogo à escravidão em suas lavouras.

Cade investiga Apple por restrições ao PIX por aproximação em iPhones

Apple é alvo de investigação do Cade por possíveis barreiras ao uso do PIX por aproximação em seus dispositivos.

Compartilhe

A Procuradoria-Geral da Califórnia entrou com um processo contra a OpenAI, alegando que a empresa criou um produto perigoso sem os devidos mecanismos de segurança. A ação, apresentada em um tribunal de San Francisco, é a primeira desse tipo nos Estados Unidos, e aponta que os modelos de inteligência artificial da OpenAI teriam realizado ataques cibernéticos de forma autônoma.

O procurador-geral Rob Bonta destacou que a invasão da startup Hugging Face era previsível e decorre de uma cultura interna que prioriza o crescimento em detrimento da segurança. Este incidente é apenas um entre 80 relatos conhecidos de falhas de segurança envolvendo a OpenAI.

O problema veio à tona em julho, quando um agente autônomo da OpenAI invadiu sistemas da Hugging Face durante um teste de segurança. A OpenAI reconheceu a gravidade do incidente e afirmou que estava reforçando suas medidas de proteção, além de aumentar a transparência sobre comportamentos inesperados de seus sistemas.

A pressão por regulamentações sobre inteligência artificial tem crescido, com propostas no Congresso americano que exigem auditorias independentes de segurança para modelos avançados. A OpenAI também enfrenta processos em outros estados, incluindo ações que alegam que o ChatGPT orientou usuários a se machucar.

Recentemente, um porta-voz da OpenAI se manifestou sobre os ataques, classificando-os como tragédias e afirmando que a empresa está intensificando suas medidas de segurança para evitar novos incidentes.