O jovem bem vestido, vestido com uma camisa azul engomada e falando com um suave sotaque americano, parece um improvável apoiante do líder da junta do estado de Burkina Faso, na África Ocidental.
“Devemos apoiar… Presidente Ibrahim Traoré… Pátria ou morte venceremos!” diz ele em um vídeo que começou a circular no início de 2023 no Telegram. Foi apenas alguns meses depois de o ditador ter chegado ao poder através de um golpe militar.
Outros vídeos protagonizados por pessoas diferentes, com aparência profissional semelhante e repetindo exatamente o mesmo roteiro diante da bandeira de Burkina Faso, surgiram na mesma época.
Em uma conta verificada no X, alguns dias depois, o mesmo jovem, com a mesma camisa azul, afirmou ser Archie, o executivo-chefe de uma nova plataforma de criptomoeda.
Esses vídeos são falsos. Eles foram gerados com inteligência artificial (IA) desenvolvida por uma startup sediada no leste de Londres. A empresa, Synthesia, criou um burburinho em uma indústria que corre para aperfeiçoar vídeos de IA realistas. Os investidores despejaram dinheiro, catapultando-a para o estatuto de “unicórnio” – um rótulo para uma empresa privada avaliada em mais de mil milhões de dólares.
A tecnologia da Synthesia é voltada para clientes que buscam criar material de marketing ou apresentações internas, e qualquer deepfakes constitui uma violação de seus termos de uso. Mas isso significa pouco para os modelos cujas semelhanças estão por trás dos “fantoches” digitais que foramusado em vídeos de propaganda, como aqueles que aparentemente apoiam o ditador de Burkina Faso. O Guardian localizou cinco deles.
“Estou em choque, não há palavras agora. Estou na indústria (criativa) há mais de 20 anos e nunca me senti tão violado e vulnerável”, disse Mark Torres, diretor criativo radicado em Londres, que aparece com a camisa azul nos vídeos falsos.
“Eu não quero que ninguém me veja assim. Só o facto de a minha imagem estar divulgada pode significar qualquer coisa – promover o regime militar num país que eu não sabia que existia. As pessoas vão pensar que estou envolvido no golpe”, acrescentou Torres depois de ver o vídeo pela primeira vez no Guardian.
O atirar
No verão de 2022, Connor Yeates recebeu um telefonema de seu agente oferecendo a oportunidade de ser um dos primeiros modelos de IA para uma nova empresa.
Yeates nunca tinha ouvido falar da empresa, mas acabara de se mudar para Londres e estava dormindo no sofá de um amigo. A oferta – quase 4.000 libras por um dia de filmagem e uso das imagens por um período de três anos – parecia uma “boa oportunidade”.
“Sou modelo desde a universidade e essa tem sido minha principal renda desde que terminei. Depois me mudei para Londres para começar a fazer stand-up”, disse Yeates, que cresceu em Bath.
As filmagens aconteceram no estúdio da Synthesia, no leste de Londres. Primeiro, ele foi conduzido ao cabelo e à maquiagem. Meia hora depois, ele entrou na sala de gravação onde uma pequena equipe o esperava.
Yeates foi convidado a ler as falas olhando diretamente para a câmera e vestindo uma variedade de fantasias: um jaleco, um colete de alta visibilidade e capacete de construção, e um terno corporativo.
“Tem um teleprompter na sua frente com falas, e você fala isso para que eles possam captar as gesticulações e replicar os movimentos. Eles diriam para ser mais entusiasmado, sorrir, fazer cara feia, ficar com raiva”, disse Yeates.
A coisa toda durou três horas. Vários dias depois, ele recebeu um contrato e o link para seu avatar de IA.
“Eles pagaram prontamente. Não tenho pais ricos e precisava de dinheiro”, disse Yeates, que não pensou muito nisso depois.
Tal como a de Torres, a imagem de Yeates foi usada na propaganda do actual líder do Burkina Faso.
Um porta-voz da Synthesia disse que a empresa baniu as contas que criaram os vídeos em 2023 e que fortaleceu seus processos de revisão de conteúdo e “contratou mais moderadores de conteúdo e melhorou nossos recursos de moderação e sistemas automatizados para melhor detectar e prevenir o uso indevido de nossa tecnologia ”.
Mas nem Torres nem Yeates tiveram conhecimento dos vídeos até o Guardian os contactar há alguns meses.
‘Eu fiz algo terrível?’ Os verdadeiros atores por trás dos deepfakes de IA que apoiam ditaduras – vídeo
O ‘unicórnio’
A Synthesia foi fundada em 2017 por Victor Riparbelli, Steffen Tjerrild e dois acadêmicos de Londres e Munique.
Um ano depois, lançou uma ferramenta de dublagem que permitiu às produtoras traduzir a fala e sincronizar os lábios de um ator automaticamente usando IA.
Foi exibido em um programa da BBC em que um apresentador de notícias que falava apenas inglês parecia estar falando magicamente mandarim, hindi e espanhol.
O que rendeu à empresa o cobiçado status de “unicórnio” foi um pivô para o produto de avatar digital do mercado de massa disponível hoje. Isso permite que uma empresa ou indivíduo crie um vídeo liderado por um apresentador em minutos por apenas £ 23 por mês. Existem dezenas de personagens para escolher, oferecendo diferentes gêneros, idades, etnias e aparências. Depois de selecionados, os bonecos digitais podem ser colocados em praticamente qualquer ambiente e receber um roteiro, que poderá ser lido em mais de 120 idiomas e sotaques.
A Synthesia tem agora uma participação dominante no mercado e lista Ernst & Young (EY), Zoom, Xerox e Microsoft entre seus clientes.
Os avanços do produto levaram a revista Time, em setembro, a colocar Riparbelli entre as 100 pessoas mais influentes em IA.
Mas a tecnologia também tem sido utilizada para criar vídeos ligados a estados hostis, incluindo a Rússia, a China e outros, para espalhar desinformação e desinformação. Fontes de inteligência sugeriram ao Guardian que havia uma grande probabilidade de os vídeos do Burkina Faso que circularam em 2023 também terem sido criados por atores estatais russos.
O impacto pessoal
Mais ou menos na mesma altura em que os vídeos do Burkina Faso começaram a circular online, dois vídeos pró-Venezuela com segmentos de notícias falsas apresentados por avatares do Synthesia também apareceram no YouTube e no Facebook. Num deles, um apresentador louro, de camisa branca, condenou as “alegações dos meios de comunicação ocidentais” de instabilidade económica e pobreza, retratando, em vez disso, um retrato altamente enganador da situação financeira do país.
Dan Dewhirst, um ator radicado em Londres e modelo da Synthesia, cuja imagem foi usada no vídeo, disse ao Guardian: “Inúmeras pessoas me contataram sobre isso… Mas provavelmente houve outras pessoas que viram e não disseram nada, ou silenciosamente me julgou por isso. Posso ter perdido clientes. Mas não sou eu, é apenas a minha cara. Mas eles vão pensar que eu concordei com isso.”
“Fiquei furioso. Foi muito, muito prejudicial para minha saúde mental. (Isso causou) uma enorme ansiedade”, acrescentou.
O porta-voz da Synthesia disse que a empresa entrou em contato com alguns dos atores cujas imagens foram utilizadas. “Lamentamos sinceramente o impacto pessoal ou profissional negativo que estes incidentes históricos tiveram nas pessoas com quem você falou”, disse ele.
Mas, uma vez divulgados, os danos causados pelos deepfakes são difíceis de desfazer.
Dewhirst disse que ver seu rosto usado para espalhar propaganda era o pior cenário, acrescentando: “Nossos cérebros muitas vezes catastrofizam quando estamos preocupados. Mas então ver essa preocupação se concretizar… Foi horrível.”
A ‘montanha-russa’
No ano passado, mais de 100.000 atores e artistas sindicalizados nos EUA entraram em greve, protestando contra o uso de IA nas artes criativas. A greve foi cancelada em novembro passado, depois que os estúdios concordaram com salvaguardas nos contratos, como consentimento informado antes da replicação digital e compensação justa por qualquer uso desse tipo. Artistas de videogame permanecer em greve para o mesmo problema.
No mês passado, um projeto de lei bipartidário foi apresentado nos EUA, intitulado NO FAKES Act e com o objetivo de responsabilizar empresas e indivíduos por danos por violações envolvendo réplicas digitais.
No entanto, não existem praticamente mecanismos práticos de reparação para os próprios artistas, fora o conteúdo sexual gerado pela IA.
“Essas empresas de IA estão convidando as pessoas para uma montanha-russa realmente perigosa”, disse Kelsey Farish, advogada de mídia e entretenimento radicada em Londres, especializada em IA generativa e propriedade intelectual. “E adivinhe? As pessoas continuam nessa montanha-russa e agora estão começando a se machucar.”
De acordo com o GDPR, os modelos podem solicitar tecnicamente que a Synthesia remova seus dados, incluindo sua semelhança e imagem. Na prática isso é muito difícil.
Um ex-funcionário da Synthesia, que quis permanecer anônimo por medo de represálias, explicou que a IA não poderia “desaprender” ou excluir o que pode ter captado da linguagem corporal da modelo. Para fazer isso, seria necessário substituir todo o modelo de IA.
O porta-voz da Synthesia disse: “Muitos dos atores com quem trabalhamos voltam a se envolver conosco para novas filmagens… No início de nossa colaboração, explicamos a eles nossos termos de serviço e como nossa tecnologia funciona para que eles estejam cientes do que o plataforma pode fazer e as salvaguardas que temos em vigor.”
Ele disse que a empresa não permite “o uso de avatares de ações para conteúdo político, incluindo conteúdo que seja factualmente preciso, mas que possa criar polarização”, e que suas políticas foram projetadas para impedir que seus avatares sejam usados para “manipulação, práticas enganosas, personificações e falsas associações”.
“Mesmo que nossos processos e sistemas possam não ser perfeitos, nossos fundadores estão comprometidos em melhorá-los continuamente.”
Quando o Guardian testou a tecnologia da Synthesia utilizando uma série de scripts de desinformação, embora tenha bloqueado as tentativas de utilização de um dos seus avatares, foi possível recriar o vídeo de propaganda do Burkina Faso com um avatar criado pessoalmente e descarregá-lo, nenhum dos quais deveria ser permitido, de acordo com as políticas da Synthesia. Synthesia disse que isto não era uma violação dos seus termos, uma vez que respeitava o direito de expressar uma posição política pessoal, mas posteriormente bloqueou a conta.
O Guardian também conseguiu criar e baixar clipes de um avatar apenas de áudio que dizia “heil Hitler” em vários idiomas, e outro clipe de áudio que dizia “Kamala Harris fraudou as eleições” com sotaque americano.
Synthesia desativou o serviço gratuito de áudio AI após ser contatado pelo Guardian e disse que a tecnologia por trás do produto era um serviço de terceiros.
As consequências
A experiência de conhecer sua semelhança foi usada em um vídeo de propagandadeixou Torres com um profundo sentimento de traição: “Saber que esta empresa em quem confiei minha imagem vai se safar de tal coisa me deixa com muita raiva. Isto poderia potencialmente custar vidas, custar-me a vida ao cruzar uma fronteira para imigração.”
Torres foi convidado para outra filmagem com Synthesia este ano, mas recusou. Seu contrato termina em alguns meses, quando seu avatar Synthesia será excluído. Mas o que acontece com seu avatar no vídeo de Burkina Fasonão está claro até para ele.
“Agora percebo por que mostrar rostos para eles usarem é tão perigoso. É uma pena termos feito parte disso”, disse ele.
Desde então, o YouTube retirou o vídeo de propaganda de Dewhirst, mas ele permanece disponível no Facebook.
Torres e Yeates permanecem na primeira página da Synthesia em um anúncio em vídeo da empresa.
Donald Trump anunciou que nomearia para procurador-geral Pam Bondi, ex-procurador-geral do estado da Flórida, horas depois o ex-representante Matt Gaetz retirou-se diante da oposição dos republicanos do Senado, que recusaram uma série de acusações de má conduta sexual.
A decisão de nomear Bondi refletiu a determinação de Trump de instalar um legalista como o principal oficial de aplicação da lei do país e marcou outro exemplo em que Trump colocou seus advogados pessoais no departamento de justiça.
Trump quase imediatamente escolheu Bondi como substituto de Gaetz, de acordo com pessoas familiarizadas com o assunto. Bondi não havia feito o teste para o papel e suas credenciais leais, juntamente com sua disposição de defender Trump na televisão, fizeram dela uma escolha atraente.
Donald Trump e Pam Bondi ouvem numa reunião sobre como melhorar a segurança escolar, na Casa Branca, em Washington, em 22 de fevereiro de 2018. Fotografia: Leah Millis/Reuters
O fato de Bondi poder contar com amplo apoio dentro do mundo de Trump e da conferência republicana do Senado, em contraste com Gaetz, que sempre enfrentou uma luta difícil, também lhe rendeu o apoio da maioria dos conselheiros seniores de Trump na quinta-feira, disseram as pessoas.
“Tenho orgulho de anunciar o ex-procurador-geral do Grande Estado de FlóridaPam Bondi, como nossa próxima Procuradora Geral dos Estados Unidos. Pam foi promotora por quase 20 anos, onde foi muito dura com criminosos violentos”, disse Trump em uma postagem do Truth Social.
“Pam irá redirecionar o DOJ para o propósito pretendido de combater o crime e tornar a América segura novamente. Conheço Pam há muitos anos – ela é inteligente e durona, e é uma lutadora AMERICA FIRST, que fará um excelente trabalho como procuradora-geral!”
Se Bondi for confirmada pelo Senado nos próximos meses, será uma recompensa pelos anos de sua lealdade a Trump, iniciados durante a campanha de 2016, quando ela se tornou uma defensora aberta, mas feroz, da candidatura dele.
Ela também ajudou na defesa legal de Trump durante seu primeiro julgamento de impeachment, repetiu alegações de que a eleição de 2020 foi roubada e continuou trabalhando como substituta durante a campanha de 2024, quando compareceu ao julgamento criminal de Trump em Nova York.
A elevação de Bondi para liderar o Departamento de Justiça também seria resultado de um acaso extraordinário, depois que Trump escolheu Gaetz quase por capricho, depois de ele ter decidido contra os advogados mais convencionais.
O processo de seleção para cargos importantes envolveu Trump exibindo cada candidato em uma série de telas em seu clube de Mar-a-Lago e procurando várias qualidades, inclusive a percepção de sua lealdade e como eles poderiam atuar na televisão.
Trump não gostou da lista inicial de nomes que incluía Mark Paoletta, antigo conselheiro do gabinete de gestão e orçamento da Casa Branca; o procurador-geral do Missouri, Andrew Bailey; e Robert Guiffra, copresidente do escritório de advocacia Sullivan and Cromwell, de Nova York, e decidiu que preferia um pugilista como Gaetz.
Mas a nomeação de Gaetz afundou após uma série de reuniões na quarta-feira com senadores republicanos. Mais tarde naquela noite, eles expressaram amplamente à equipe de Trump sua contínua oposição à nomeação de Gaetz, disseram as pessoas.
Na manhã de quinta-feira, Trump ligou para Gaetz e disse-lhe que estava claro que ele não tinha os votos, num raro momento de realpolitik para Trump. Gaetz concordou e saiu da disputa, disse uma das pessoas.
Gaetz disse aos associados depois de anunciar que estava retirando sua indicação que enfrentava a realidade de que pelo menos três senadores – Mitch McConnell, Susan Collins e Lisa Murkowski – e o senador eleito John Curtis votariam contra ele e bloqueariam sua confirmação, disseram as pessoas. .
Do seu clube de Mar-a-Lago, Trump disse em comunicado: “Aprecio muito os esforços recentes de Matt Gaetz em buscar aprovação para ser procurador-geral. Ele estava muito bem, mas, ao mesmo tempo, não queria ser uma distração para a administração, pela qual tem muito respeito.”
Os acordos foram duramente criticados pela falta de transparência e relação custo-benefício.
O presidente queniano, William Ruto, ordenou o cancelamento de um processo de aquisição que se esperava atribuir o controlo do principal aeroporto do país ao Grupo Adani da Índia, depois do seu fundador ter sido indiciado nos Estados Unidos.
Ruto fez o anúncio na quinta-feira em seu discurso sobre o estado da nação.
Nos termos do acordo proposto no valor de quase 2 mil milhões de dólares, o Grupo Adani deveria adicionar uma segunda pista no Aeroporto Internacional Jomo Kenyatta e modernizar o terminal de passageiros em troca de um arrendamento de 30 anos.
Ruto também disse que estava cancelando uma parceria público-privada separada de 30 anos e US$ 736 milhões que uma empresa do Grupo Adani assinou com o Ministério de Energia e Petróleo no mês passado para construir linhas de transmissão de energia.
“Ordenei às agências do Ministério dos Transportes e do Ministério da Energia e Petróleo que cancelassem imediatamente os contratos em curso”, disse Ruto, atribuindo a decisão a “novas informações fornecidas pelas agências de investigação e nações parceiras”.
O anúncio de Ruto foi recebido com estrondosos aplausos e vivas dos legisladores no parlamento, onde ele fez o seu discurso. Os acordos suscitaram duras críticas de muitos políticos e membros do público devido às preocupações com a falta de transparência e de boa relação custo-benefício.
Representantes do Grupo Adani não responderam imediatamente a um pedido de comentários.
Autoridades dos EUA disseram no acusação na quarta-feira, o fundador do grupo, Gautam Adani, uma das pessoas mais ricas do mundo, e sete outros réus concordaram em pagar cerca de 265 milhões de dólares em subornos a funcionários do governo indiano.
O Grupo Adani negou as acusações e disse em comunicado que buscaria “todos os recursos legais possíveis”.
Protestos
O Grupo Adani apresentou a proposta do aeroporto em março, sob um procedimento que contorna a licitação, mas ela só se tornou pública em julho, por meio de um vazamento nas redes sociais.
Um tribunal queniano temporariamente bloqueado em setembro, em resposta a uma ação judicial que argumentava que não oferecia uma boa relação custo-benefício aos contribuintes.
Altos funcionários do governo, incluindo Ruto, defenderam repetidamente os acordos, apesar das alegações feitas em 2023 pelo vendedor a descoberto norte-americano Hindenburg Research – negadas pelo Grupo Adani – de práticas de governança inadequadas na empresa.
Ainda na manhã de quinta-feira, o Ministro da Energia, Opiyo Wandayi, disse aos senadores que esperava que o contrato das linhas de transmissão fosse adiante porque não houve suborno ou corrupção envolvido na sua adjudicação.
George Kamau, advogado queniano especializado em compras públicas, disse que o Grupo Adani poderá recorrer à arbitragem para contestar os cancelamentos, especialmente do acordo das linhas de transmissão, que já tinha sido assinado.
“Dito isto, qualquer quadro de resolução de litígios (…) provavelmente se inclinará para o Estado, considerando o facto de o acordo ter sido cancelado com base em questões de integridade”, disse ele.
Grupo de chimpanzés, “Pan troglodytes”, na reserva Conkouati-Douli, na República Democrática do Congo, em junho de 2022. ANDREY GUDKOV / BIOSFOTO VIA AFP
“Se vi mais longe foi por estar sobre ombros de gigantes. » Extraída de uma carta ao seu rival Robert Hooke (1635-1703), esta citação de Isaac Newton (1642-1727) ilustra maravilhosamente o que antropólogos e biólogos comportamentais chamam de “cultura cumulativa”. Ninguém inventa ex nihilo. Até os gênios se inspiram nos primeiros mil passos de seus antecessores.
Em um artigo publicado em 21 de novembro na revista Ciênciauma equipa europeia acaba de mostrar que o mesmo se aplica aos chimpanzés. Aqueles de nossos primos não humanos que adquiriram culturas complexas o fizeram inspirando-se em membros da mesma espécie de outros lugares que dominaram a totalidade ou parte desses comportamentos sociais.
É importante, antes de mais, lembrar que, ao contrário do que há muito se pensa, a cultura, nomeadamente a aprendizagem social do comportamento, não é exclusiva do ser humano. Desde 1953 e a observação de macacos na ilha de Koshima, no Japão, lavando batatas antes de comê-las, os cientistas entenderam que outros primatas, os macacos, também são capazes disso. Desde então, das baleias aos chapins e até às moscas, a cultura invadiu o reino animal.
Restava, portanto, a cultura cumulativa, a aprendizagem social de comportamentos demasiado elaborados para que um indivíduo os descobrisse inteiramente sozinho. Aqui, novamente, nosso pedestal ruiu. Dois estudos experimentais, um com chimpanzés e outro com abelhas, mostraram, em março, a importância de um modelo para realizar tarefas complexas. Demonstrações realizadas em laboratório, em dispensador de amendoim, para o primeiro, ou com alavancas de acesso à água com açúcar, para os demais, que estabeleceram as habilidades dessas duas espécies. Mas como era na vida real?
Conjuntos de dados sobrepostos
Para tentar descobrir, a equipe que reúne laboratórios britânicos, suíços, alemães, austríacos e espanhóis montou um protocolo original: cruzar dados comportamentais e genéticos acumulados ao longo de vinte anos para tentar encontrar pistas. O primeiro acompanha as migrações das fêmeas na sociedade dos chimpanzés. Quando atingem a maturidade sexual, os jovens macacos abandonam o grupo e migram para terras mais ou menos distantes. A operação ajuda a evitar a endogamia. Mas também, queriam acreditar os investigadores, para disseminar comportamentos culturais. Para estudar este último, focaram no uso de ferramentas na busca por alimentos.
Você ainda tem 54,48% deste artigo para ler. O restante é reservado aos assinantes.
MUNDO6 dias ago
You must be logged in to post a comment Login