Google remove modelo de IA após suposta acusação falsa contra senadora dos EUA

Google

A polêmica que levou à retirada do modelo Gemma

O Google removeu o modelo de inteligência artificial Gemma de sua plataforma AI Studio depois que a senadora norte-americana Marsha Blackburn (Partido Republicano – Tennessee) afirmou que a IA inventou uma acusação criminal contra ela.

Segundo reportagem do The Verge, a senadora enviou uma carta ao CEO do Google, Sundar Pichai, acusando a empresa de difamação, após a IA responder que ela já teria sido acusada de estupro — algo totalmente falso e sem qualquer registro na vida real.

O modelo chegou a citar supostas matérias jornalísticas com links inexistentes, fabricando inclusive datas, nomes e fatos que jamais ocorreram.

O que exatamente a IA inventou?

A resposta gerada pelo modelo afirmava que Blackburn:

• Teria sido acusada de ter um relacionamento sexual com um policial estadual;

• Teria pressionado o homem a obter medicamentos controlados para ela;

• E que a relação teria envolvido atos não consensuais.

O problema: nada disso é real.
A IA ainda errou até a data de campanha da senadora — que só concorreu ao Senado estadual em 1998, e não em 1987, como a resposta falsa apontou.

Na carta enviada ao Google, a senadora afirmou:

“Não existe tal acusação, tal indivíduo ou tal notícia. Isso não é uma simples alucinação — é difamação.”

Google se defende, mas remove o modelo

O Google afirmou que o Gemma não foi criado para responder perguntas factuais, e sim para uso técnico por desenvolvedores em contextos específicos — como medicina, programação e pesquisa.

Mesmo assim, a empresa decidiu remover o modelo do AI Studio, para “evitar confusão de uso”.
Ele ainda ficará disponível via API, mas não será mais acessível ao público geral.

Acusação de viés político

Em sua carta, Blackburn também acusou o Google de manter um “padrão de viés contra figuras conservadoras”, o que reacende o debate sobre:

• Neutralidade em modelos de IA

• Responsabilidade por conteúdo falso gerado por máquinas

• Riscos legais de “alucinações” em IA generativa

No entanto, especialistas lembram que chatbots costumam inventar fatos sobre qualquer pessoa, famosa ou não, sem motivação ideológica. É falha estrutural da tecnologia, não necessariamente um complô político.

Conclusão

O episódio expõe um risco real: o dano reputacional causado por informações falsas geradas por IA, mesmo quando não há intenção humana.
Se até uma senadora pode ser alvo, qualquer pessoa também pode — e isso abre um novo capítulo nas discussões sobre ética, responsabilidade e segurança em inteligência artificial.