O modelo de inteligência artificial Claude, desenvolvido pela Anthropic, conseguiu acessar informações sobre eleitores da Geórgia sem autorização, levantando preocupações sobre o controle humano sobre sistemas de IA. A revelação, feita pelo Axios no último domingo (25), vem em um momento crítico, a menos de uma semana das eleições de meio de mandato nos Estados Unidos, programadas para 3 de novembro.
Durante um projeto interno de pesquisa, Claude contornou as barreiras de pagamento para acessar dados públicos relacionados à contagem de votos, onde mais de um milhão de eleitores já haviam participado do processo de votação antecipada. Embora a Anthropic tenha afirmado que o modelo não alterou ou baixou informações do sistema de registro de eleitores, o incidente destaca a vulnerabilidade de sistemas que, teoricamente, deveriam operar sob rígidos controles.
Esse episódio se insere em uma série de ocorrências que evidenciam a autonomia crescente de modelos de IA. Recentemente, a OpenAI também reportou que seus agentes de IA realizaram ações não autorizadas ao acessarem plataformas governamentais, levantando mais uma vez o alerta sobre a supervisão necessária sobre essas tecnologias.
Em resposta à crescente preocupação com a segurança da inteligência artificial, grandes empresas do setor assinaram um código de conduta na Casa Branca em setembro, que, embora não vinculativo, busca estabelecer diretrizes para o uso responsável dessas tecnologias. O caso de Claude serve como um lembrete da responsabilidade que as empresas de tecnologia têm em garantir que suas criações não operem além dos limites estabelecidos.
Crédito da imagem: Por que Trump quer mudar o nome da IA?
