Inteligência Artificial cria "fantasmas" digitais

Quando sentimos a falta de um ente querido que já faleceu, podemos olhar para fotografias antigas ou ouvir mensagens de voz antigas. Porém, através da tecnologia de Inteligência Artificial, também é possível falar com um avatar feito para se parecer e soar exatamente como eles.

De acordo com um estudo avançado pelo Science News, com a atual tecnologia de IA generativa, é possível utilizar os dados de um alguém já falecido e criar uma espécie de avatar interativo.

Os investigadores utilizaram uma técnica de investigação chamada design fictício para concetualizar esta visão disruptiva da sociedade e explorar as suas potenciais questões éticas.

Especialistas alertam para a necessidade de salvaguardas à medida que a indústria da vida após a morte digital cresce

As empresas Silicon Intelligence e Super Brain já oferecem este serviço. Ambas baseiam-se em IA generativa, incluindo grandes modelos linguísticos que analisam fragmentos de texto, fotografias, gravações áudio, vídeos e outros dados e, utilizam esta informação para criar "fantasmas" digitais dos mortos que visitam os vivos.

Segundo Katarzyna Nowaczyk-Basińska, investigadora do Centro Leverhulme para o Futuro da Inteligência da Universidade de Cambridge, que estuda a forma como a tecnologia molda as experiências de morte, perda e luto das pessoas, afirma que estas réplicas digitais do falecido criam a ilusão de que uma pessoa morta ainda está viva e pode interagir com o mundo como se nada tivesse acontecido, como se a morte não tivesse ocorrido.

Mas poderá a tecnologia da IA estar a ultrapassar o respeito pela dignidade humana?

Nowaczyk-Basińska e o colega Tomasz Hollanek, um especialista em ética tecnológica da mesma universidade, exploraram recentemente os riscos da tecnologia que permite um tipo de "imortalidade digital" num artigo publicado na revista Philosophy & Technology.

Este artigo apresenta três cenários imaginários, mas problemáticos, que podem surgir com estes avatares.

Num destes cenários é apresentada uma mulher com uma doença terminal que deixa um avatar para ajudar o seu filho de oito anos no processo de luto.

Utilizam este exemplo porque pensam que expor as crianças a esta tecnologia pode ser muito arriscado.

Vão ainda mais longe e utilizam este avatar para ocultar a uma criança o facto da morte de um dos pais ou de outro familiar importante. E, atualmente, sabe-se muito, muito pouco sobre a forma como estas tecnologias podem influenciar as crianças.

Os autores do estudo defendem que, se não podemos provar que esta tecnologia não será prejudicial, devem ser tomadas todas as medidas possíveis para proteger os mais vulneráveis. E, neste caso, isso significaria restringir o acesso a estas tecnologias em função da idade.

Medidas de proteção são importantes

Estas empresas devem‐se certificar de que o utilizador está consciente de que está a interagir com a IA.

A tecnologia pode simular padrões de linguagem e traços de personalidade com base no processamento de grandes quantidades de dados pessoais. Mas não é definitivamente uma entidade consciente.

Os autores deste estudo também defendem o desenvolvimento de procedimentos sensíveis para retirar ou apagar os avatares. Nowaczyk-Basińska pretende ainda estudar a forma como as diferentes culturas lidam com a morte.

Os temas da morte, do luto e da imortalidade são extremamente sensíveis do ponto de vista cultural. E as soluções que podem ser adoptadas com entusiasmo num contexto cultural e podem ser completamente rejeitadas noutro.

Este ano, iniciou um novo projeto de investigação em que pretende explorar as diferentes perceções da simulação da morte com recurso à IA em três nações orientais diferentes, incluindo a Polónia, a Índia e, provavelmente, a China.

Referência do artigo:

T. Hollanek and K. Nowaczyk-Basińska, "Griefbots, deadbots, postmortem avatars: on responsible applications of generative AI in the digital afterlife industry." (2024)