A recente falência da Character.ai, uma plataforma de chatbots, trouxe à tona preocupações sobre a privacidade dos dados de milhões de usuários. A empresa, que permitia interações com avatares virtuais, agora está vendendo seus ativos, mas os dados dos usuários podem ser comercializados separadamente, o que gera apreensão entre especialistas e autoridades.
Analistas alertam que a indústria de inteligência artificial pode estar em uma bolha, com custos elevados de desenvolvimento e a possibilidade de muitas empresas não gerarem lucro. O estourar dessa bolha poderia resultar no fechamento ou fusão de diversas startups de IA, expondo informações pessoais e sensíveis de usuários que interagiram com essas plataformas.
Calli Schroeder, diretora do Programa de Direitos Humanos e IA do Centro de Informações sobre Privacidade Eletrônica, destaca que interações com robôs podem levar os usuários a compartilhar mais informações do que pretendem. Isso não apenas coloca em risco quem usa a tecnologia, mas também aqueles que não a utilizam, uma vez que dados sobre amigos e familiares podem ser coletados.
A venda de dados em processos de falência não é uma novidade, mas a situação se torna mais crítica no contexto da IA. A Character.ai concordou em vender parte de seus ativos para a Disney, mas os dados dos usuários não estão incluídos no acordo, o que deixa a porta aberta para sua venda a terceiros.
Uma coalizão de procuradores-gerais nos EUA já se manifestou, pedindo proteções à privacidade e segurança, especialmente para crianças. Contudo, especialistas apontam que, sem regulamentações mais rigorosas, as ações podem ser limitadas, deixando os consumidores vulneráveis a abusos de dados.