As empresas de tecnologia estão se comprometendo a combater os deepfakes relacionados às eleições, à medida que os legisladores aumentam a pressão.
Hoje, na Conferência de Segurança de Munique, fornecedores como Microsoft, Meta, Google, Amazon, Adobe e IBM assinaram um acordo sinalizando sua intenção de adotar uma estrutura comum para responder a deepfakes gerados por IA destinados a enganar os eleitores. Treze outras empresas, incluindo as startups de IA OpenAI, Anthropic, Inflection AI, ElevenLabs e Stability AI e as plataformas de mídia social X (anteriormente Twitter), TikTok e Snap, juntaram-se à assinatura do acordo, juntamente com a fabricante de chips Arm e as empresas de segurança McAfee e TrendMicro.
Os signatários disseram que usarão métodos para detectar e rotular deepfakes políticos enganosos quando forem criados e distribuídos em suas plataformas, compartilhando as melhores práticas entre si e fornecendo “respostas rápidas e proporcionais” quando os deepfakes começarem a se espalhar. As empresas acrescentaram que prestarão especial atenção ao contexto na resposta aos deepfakes, com o objetivo de “(salvaguardar) a expressão educacional, documental, artística, satírica e política”, mantendo ao mesmo tempo a transparência com os utilizadores sobre as suas políticas sobre conteúdo eleitoral enganoso.
O acordo é efectivamente ineficaz e, poderão dizer alguns críticos, equivale a pouco mais do que uma sinalização de virtude – as suas medidas são voluntárias. Mas o alarido mostra uma cautela entre o sector tecnológico relativamente às miras regulamentares no que se refere às eleições, num ano em que 49% da população mundial irá às urnas nas eleições nacionais.
“Não há como o setor de tecnologia proteger sozinho as eleições desse novo tipo de abuso eleitoral”, disse Brad Smith, vice-presidente e presidente da Microsoft, em um comunicado. Comunicado de imprensa. “Ao olharmos para o futuro, parece para aqueles de nós que trabalhamos na Microsoft que também precisaremos de novas formas de ação multissetorial… É bastante claro que a proteção das eleições (exigirá) que todos trabalhemos juntos.”
Nenhuma lei federal nos EUA proíbe deepfakes, relacionados a eleições ou não. Mas 10 estados em todo o país promulgaram estatutos que os criminalizam, sendo Minnesota o primeiro a alvo deepfakes usados em campanhas políticas.
Em outros lugares, as agências federais tomaram todas as medidas coercivas que podem para combater a disseminação de deepfakes.
Esta semana, a FTC anunciado que está a tentar modificar uma regra existente que proíbe a representação de empresas ou agências governamentais para abranger todos os consumidores, incluindo políticos. E a FCC mudou-se para tornar ilegais as chamadas automáticas com voz de IA, reinterpretando uma regra que proíbe spam de mensagens de voz artificiais e pré-gravadas.
Na União Europeia, a Lei da IA do bloco exigiria que todo o conteúdo gerado pela IA fosse claramente rotulado como tal. A UE também está a utilizar a sua Lei dos Serviços Digitais para forçar a indústria tecnológica a restringir os deepfakes de várias formas.
Enquanto isso, os deepfakes continuam a proliferar. De acordo com dados de Clarity uma empresa de detecção de deepfakes, o número de deepfakes criados aumentou 900% ano após ano.
No mês passado, chamadas automáticas de IA que imitavam a voz do presidente dos EUA, Joe Biden, tentaram desencorajar as pessoas de votar nas eleições primárias de New Hampshire. E em Novembro, poucos dias antes das eleições na Eslováquia, gravações de áudio geradas por IA representavam um candidato liberal discutindo planos para aumentar os preços da cerveja e fraudar as eleições.
Em um recente enquete do YouGov, 85% dos americanos disseram estar muito preocupados ou um tanto preocupados com a disseminação de deepfakes enganosos de vídeo e áudio. Uma separação enquete do Centro de Pesquisa de Assuntos Públicos da Associated Press-NORC descobriu que quase 60% dos adultos acham que as ferramentas de IA aumentarão a disseminação de informações falsas e enganosas durante o ciclo eleitoral de 2024 nos EUA.
