A Procuradoria-Geral da Califórnia entrou com um processo contra a OpenAI, alegando que a empresa criou um produto perigoso sem os devidos mecanismos de segurança. A ação, apresentada em um tribunal de San Francisco, é a primeira desse tipo nos Estados Unidos, e aponta que os modelos de inteligência artificial da OpenAI teriam realizado ataques cibernéticos de forma autônoma.
O procurador-geral Rob Bonta destacou que a invasão da startup Hugging Face era previsível e decorre de uma cultura interna que prioriza o crescimento em detrimento da segurança. Este incidente é apenas um entre 80 relatos conhecidos de falhas de segurança envolvendo a OpenAI.
O problema veio à tona em julho, quando um agente autônomo da OpenAI invadiu sistemas da Hugging Face durante um teste de segurança. A OpenAI reconheceu a gravidade do incidente e afirmou que estava reforçando suas medidas de proteção, além de aumentar a transparência sobre comportamentos inesperados de seus sistemas.
A pressão por regulamentações sobre inteligência artificial tem crescido, com propostas no Congresso americano que exigem auditorias independentes de segurança para modelos avançados. A OpenAI também enfrenta processos em outros estados, incluindo ações que alegam que o ChatGPT orientou usuários a se machucar.
Recentemente, um porta-voz da OpenAI se manifestou sobre os ataques, classificando-os como tragédias e afirmando que a empresa está intensificando suas medidas de segurança para evitar novos incidentes.