'Necromancia digital': como a IA está recriando pessoas mortas e dividindo opiniões

Morre o ator britânico e neozelandês Sam Neill, aos 78 anos
A morte de Sam Neill, nesta segunda-feira (13), voltou a inundar a internet com imagens e vídeos criados por inteligência artificial para retratar o ator após a morte.
Conhecido por interpretar o paleontólogo Alan Grant na franquia “Jurassic Park”, o ator foi “recriado” como um fantasma entre dinossauros ou chegando aos portões do parque em meio às nuvens.
Imagem de IA cria o ator Sam Neill ao “chegar no céu” com o portão do Jurassic Park
Reprodução/ X
O mesmo aconteceu em maio, após a morte do fisiculturista Gabriel Ganley, aos 22 anos. Entre os vídeos criados por IA, um mostra sua “chegada ao céu” em uma “academia nas nuvens”.
As “homenagens” reacenderam o debate sobre a manipulação da imagem de pessoas mortas e os limites do uso da IA. O fenômeno tem um nome: “necromancia digital”.
IA cria academia no céu em homenagem da morte de Gabriel Ganley
Reprodução/ Internet
🔎 A “necromancia” é popularmente conhecida como a prática de se comunicar com os mortos ou invocar seus espíritos. A versão digital descreve o ato de manipular vozes, imagens e traços de personalidade de pessoas falecidas para gerar conteúdos produzidos com IA.
A tendência é cercada de controvérsias, pois o conteúdo feito por IA pode transformar o luto em um produto e criar “fantoches digitais” de pessoas que não podem mais se defender.
É o que explica Elaine Kasket, professora de psicologia da Universidade de Bath, no Reino Unido, e autora do livro “All the Ghosts in the Machine: The Digital Afterlife of Your Personal Data” (“Todos os fantasmas na máquina: a vida após a morte digital dos seus dados pessoais”, em tradução livre).
Não é de hoje
A grande novidade é que a criação dos avatares deixou de depender de pessoas com conhecimento técnico avançado. Hoje em dia, a criação dos chamados “grief bots”, ou “robôs de luto”, tornou-se mais comum com a popularização das ferramentas de IA.
Plataformas como ChatGPT e Claude, por exemplo, podem ser usadas para transformar os “restos digitais” — mensagens, áudios e vídeos de uma pessoa falecida — em avatares.
Esse uso indiscriminado de ferramentas para “reviver” personalidades também pode distorcer a memória dessas pessoas. Essa é a reclamação de Flávia Christina, filha de Pelé. Recentemente, ela criticou vídeos desse tipo e afirmou ficar desconfortável com imagens do pai: “não são atitudes normais dele”.
O assunto talvez chamasse menos atenção quando era usado com mais parcimônia ou quando não havia alternativa. Em Hollywood, dublês e computação gráfica foram usados para concluir as cenas do ator Paul Walker em Velozes e Furiosos 7, lançado em 2015.
No ano seguinte, a franquia Star Wars também recriou digitalmente o ator Peter Cushing em Rogue One: Uma História Star Wars.
Maria Rita e Elis Regina cantam “Como Nossos Pais” em publicidade
Divulgação/Volkswagen
No Brasil, o caso de maior repercussão ocorreu em 2023, quando a Volkswagen usou IA para criar um dueto entre a cantora Elis Regina, morta há 44 anos, e sua filha, Maria Rita. A montadora utilizou tecnologia de deepfake para recriar Elis na campanha.
Na internet, as reações se dividiram, e órgãos reguladores passaram a analisar o caso.
O Conar chegou a abrir uma investigação para apurar se a campanha violava o Código Brasileiro de Autorregulamentação Publicitária. Além disso, um projeto do senador Rodrigo Cunha (Podemos-AL) propunha estabelecer diretrizes para o uso de imagens e áudios de pessoas falecidas por meio de IA. Ambos acabaram arquivados.
Segundo Kasket, a regulamentação não avança com rapidez suficiente para reduzir os riscos do uso inadequado da IA após a morte, e figuras influentes podem se tornar alvo de interesses políticos ou comerciais.
“Qualquer pessoa pode usar restos digitais para manipular os mortos como fantoches”, afirma a professora.
Ela observa ainda que alguns governos são fortemente influenciados por empresas de tecnologia, o que pode ainda comprometer a proteção da privacidade dos cidadãos.
Como solução, a especialista defende a criação de um modelo de direitos da personalidade que se estenda além da morte física e limite legalmente o uso de restos digitais para replicação ou personificação.
Pessoalmente, Kasket já tomou precauções: “Coloquei uma cláusula de ‘não me transforme em bot’ no meu testamento, embora isso ainda não seja legalmente aplicável no Reino Unido”.
Mercado do luto
Além da vulnerabilidade de quem morreu, especialistas também apontam a exploração dos familiares. No setor conhecido como “grief tech”, ou “tecnologia do luto”, empresas passaram a criar versões virtuais de pessoas falecidas para que amigos e parentes possam interagir com esses clones digitais.
Essa prática também ganhou espaço entre pessoas comuns com a popularização dos “grief bots”, ou “robôs do luto”. Como qualquer pessoa pode criar clones digitais, também pode oferecer esse tipo de serviço a famílias enlutadas.
Foi nesse contexto que surgiram casos polêmicos. No ano passado, o jornalista Jim Acosta, ex-âncora da CNN nos Estados Unidos, entrevistou um avatar criado por inteligência artificial de Joaquin Oliver, jovem de 17 anos morto no massacre em uma escola de Parkland, na Flórida, em 2018.
“A família de Jennifer Ann Crecente pouco pôde fazer quando alguém utilizou o Character.AI para representar a jovem assassinada. Chegou-se a comentar que um autor que cria um personagem fictício tem mais controle sobre a forma como outras pessoas representam esse personagem do que os familiares de uma pessoa falecida têm sobre a imagem de seu ente querido”, disse Elaine Kasket.
A professora ressalta que o luto é uma experiência individual. Por isso, é impossível prever o efeito que uma inovação tecnológica terá sobre quem enfrenta uma perda. “O que uma pessoa experimenta como algo bem-vindo ou útil pode ser inútil ou até traumático para outra”, afirma.
A maior preocupação, segundo a especialista, é a tentativa da indústria de tecnologia de tratar o luto como um “problema” que precisa ser resolvido. Para ela, o luto não é uma patologia, mas uma parte fundamental da experiência humana.
“A ideia de ‘resolver’ experiências humanas como o luto mostra a extensão em que ele está sendo plataformizado”, explica, acrescentando que usar robôs para isso pode ser prejudicial ao processo natural de perda.



Source link