O que os atores Amitabh Bachchan, Anushka Sharma e Shilpa Shetty, o jogador de críquete Sachin Tendulkar, o diretor executivo e CEO da National Stock Exchange (NSE) Ashishkumar Chauhan e os industriais indianos Ratan Tata e Mukesh Ambani têm em comum? Todos eles foram alvos de vídeos deepfake que usaram suas personas para vender remédios para perda de peso e medicamentos para diabetes, e promover esquemas fraudulentos de ganhar dinheiro nas redes sociais.
Os rápidos avanços em inteligência artificial (IA) inauguraram uma nova era de ruptura tecnológica, com os deepfakes surgindo como um desafio particularmente preocupante para a integridade das informações e o discurso público da Índia.
Contents
Desinformação política
Na preparação para as recentes eleições para a Lok Sabha, um número significativo de pessoas na Índia já havia sido alvo de deepfakes de áudio e audiovisual, embora essas fossem principalmente tentativas de enganá-las de várias maneiras. Em torno das eleições para a Lok Sabha, também houve temores iniciais de que deepfakes políticos pudessem ser usados para tentar influenciar os eleitores.
Esses medos só foram justificados quando a campanha eleitoral começou. Clipes falsos mostrando os atores de Bollywood Aamir Khan e Ranveer Singh criticando o primeiro-ministro Narendra Modi foram amplamente divulgados. No entanto, no final das contas, pode-se dizer que, embora tenha havido casos de deepfakes sendo usados para difamação, ataques políticos direcionados e até mesmo para espalhar informações erradas sobre pesquisas de boca de urna, os partidos usaram a tecnologia principalmente para seu próprio alcance e engajamento de eleitores e para superar barreiras linguísticas.
Deepfakes também foram usados por partidos para “ressuscitar” seus líderes mortos para aumentar a conexão emocional com os eleitores. Em Tamil Nadu, uma mensagem de voz gerada por IA do ex-ministro-chefe J. Jayalalithaa, que morreu em 2016, foi divulgada para criticar o atual partido governante, o Dravida Munnetra Kazhagam (DMK). O DMK, por sua vez, usou vídeos gerados por IA de seu próprio líder falecido, M. Karunanidhi, para elogiar seu filho e atual ministro-chefe, MK Stalin.
Cheapfakes vs Deepfakes
Embora o risco representado pelo conteúdo gerado por IA durante as eleições não tenha sido tão profundo quanto o esperado, até mesmo vídeos editados foram frequentemente atribuídos erroneamente como conteúdo gerado por IA ou “deepfake”. Por exemplo, um vídeo editado do Ministro do Interior da União, Amit Shah, que foi divulgado antes das eleições, alegou falsamente que ele prometeu eliminar as reservas para Castas Programadas (SC), Tribos Programadas (ST) e Outras Classes Atrasadas (OBC) se eleito. Embora o clipe tenha sido editado usando ferramentas simples de edição de vídeo, o Bharatiya Janata Party (BJP) e várias organizações de mídia tradicionais o rotularam erroneamente como um “deepfake”.
É importante lembrar que deepfakes são mídias geradas por IA criadas usando algoritmos de aprendizado de máquina que podem mapear o rosto de uma pessoa no corpo de outra e até mesmo alterar sua fala. Criar tais mídias requer poder computacional significativo. Em contraste, ‘cheapfakes’ são mídias manipuladas criadas usando ferramentas de edição relativamente simples. Elas são menos sofisticadas que deepfakes, mas ainda podem efetivamente espalhar desinformação. Elas continuam a ser amplamente utilizadas na Índia.
O que a Índia deveria fazer
De algoritmos de detecção de deepfakes à educação midiática para cheapfakes, a Índia pode e deve desenvolver contramedidas mais direcionadas para os vários tipos de mídia manipulada.
A criação de deepfakes, que antes era um processo complexo e demorado, tornou-se cada vez mais acessível. O tempo de resposta foi reduzido de dias para minutos, até mesmo segundos.
Essa rápida evolução na tecnologia representa um desafio significativo para verificadores de fatos e moderadores de conteúdo, que lutam para acompanhar o ritmo da desinformação. Os verificadores de fatos na Índia descobriram que é uma batalha árdua desmascarar conteúdo deepfake quando ele é espalhado em velocidade e escala ou durante atividades intensas, como temporadas eleitorais. A disparidade na velocidade de disseminação de informações ressalta a necessidade urgente de processos de verificação mais eficientes e simplificados. Uma abordagem multifacetada é necessária para salvaguardar a integridade de seus processos democráticos. Essa abordagem deve abranger avanços tecnológicos, estruturas regulatórias e uma mudança nas mentalidades sociais.
O Caminho a Seguir
Embora os deepfakes tenham se tornado cada vez mais difíceis de detectar, desenvolver ferramentas com tecnologia de IA para identificar e combater esse conteúdo manipulado é promissor. Gigantes da tecnologia como Google, Meta e OpenAI se comprometeram a trabalhar em estreita colaboração com o governo indiano e os eleitores para proteger o acesso a informações verdadeiras. No entanto, a eficácia das medidas propostas atualmente, como rotulagem e marca d’água, ainda precisa ser vista.
Inovação e colaboração contínuas neste domínio são primordiais. Ao alavancar ferramentas alimentadas por IA, verificadores de fatos e moderadores de conteúdo podem acelerar o tempo que leva para descobrir falsas alegações, preveni-las antes que causem danos e, com o tempo, até mesmo automatizar a detecção de deepfake, liberando recursos humanos valiosos para se concentrar em análises mais detalhadas e contextuais. Essa mudança de mentalidade, de ver a IA como o verificador final para entender seu papel no suporte à verificação humana, pode levar a estratégias mais eficientes e eficazes para combater a desinformação motivada por deepfake.
A iniciativa Deepfakes Analysis Unit (DAU), uma colaboração inédita entre acadêmicos, pesquisadores, startups, plataformas tecnológicas e verificadores de fatos, é um exemplo de esforços notáveis nessa área.
Promover uma população alfabetizada em mídia também é crucial para combater deepfakes. Educar o público sobre os riscos e a necessidade de verificar informações pode capacitá-los a navegar pelo conteúdo digital com ceticismo e resiliência.
Aprendendo com os outros
Enquanto isso, a relutância inicial do governo indiano em regulamentar a IA parece estar diminuindo à medida que o potencial de uso indevido da tecnologia se torna mais claro. Recentemente, após uma controvérsia sobre o chatbot Gemini do Google, o governo emitiu um aviso que lembrou os intermediários de tomarem medidas contra o conteúdo gerado pela IA que viola as disposições das Regras de Tecnologia da Informação (TI), que incluem a disseminação de informações patentemente falsas ou inverídicas. O aviso também afirma que, quando o software permite a criação de deepfakes, ele também deve rotular ou incorporar o conteúdo com dados de identificação exclusivos que podem ser usados para determinar como o conteúdo foi criado e por qual usuário.
O desafio do deepfake não é exclusivo da Índia; é um fenômeno global que requer uma resposta internacional coordenada. A União Europeia buscará regular sistemas de IA de alto risco por meio de sua Lei de Inteligência Artificial. O Reino Unido também encarregou seus reguladores de desenvolver regras para vários setores e casos de uso. O Departamento de Comércio dos EUA também pode emitir orientações sobre rotulagem e marca d’água de deep fakes e desenvolver padrões para modelos de IA de red-teaming, que podem ter vários usos.
A Índia deve desenvolver uma estrutura única que se adapte ao seu ambiente de informação. Isso pode não apenas combater efetivamente o uso de deepfakes prejudiciais, mas também proteger a liberdade de expressão e a inovação útil (como desenvolver ferramentas de IA generativas que podem ajudar a lidar com barreiras linguísticas).
Não baixe a guarda
Cerca de 86% dos indianos entrevistados recentemente disseram que acreditam que desinformação e deepfakes impactarão eleições futuras e que os candidatos devem ser impedidos de usar IA generativa em seu conteúdo promocional. Embora o risco não tenha se tornado tão pronunciado por enquanto, a proliferação constante de vídeos deepfake de celebridades, industriais e âncoras de notícias promovendo falsas soluções médicas e financeiras mostra o potencial da tecnologia para perpetuar fraudes financeiras. Em meio a isso, a exploração de cidadãos comuns continua sendo uma preocupação primária.
Para navegar neste desafio, a Índia deve abraçar o potencial da IA para agilizar o processo de verificação. Ao aprender com as melhores práticas globais, a Índia pode salvaguardar as bases democráticas de suas eleições e capacitar seus cidadãos a navegar no cenário digital com confiança.
(Jaskirat Singh Bawa lidera as operações editoriais na Logically Facts, uma organização independente de verificação de fatos credenciada pela IFCN que opera em 12 países e 16 idiomas globalmente. É uma subsidiária da empresa de IA Logically.)
Aviso Legal: Estas são as opiniões pessoais do autor