Quando Detroit: Become Human foi lançado, em 2018, o jogo já nos fazia um bocado reflexivos. Porque havia um quê de futurista distópico e uma possibilidade, ainda que distante.
Em especial no que toca a sentimentos (ou simulações de sentimentos). Na cultura pop, temos muito exemplos de filmes com robôs, inteligências artificiais e androides que começam a desenvolver emoções humanas, mas, novamente, apesar de parecer uma possibilidade, era muito, muito distante. Podemos dizer o mesmo nos dias de hoje?
Hoje temos modelos de linguagem que falam, imitam pausas e vícios de linguagem. Seus textos são cada vez mais densos, completos e parece que realmente foram escritos por uma pessoa do outro lado do computador. Eles seguem modelos fundamentais de coerência textual. Apresentam ideias de forma lógica e combinam sua ordem de modo que se interligam de maneira clara, sendo poucas vezes um texto sem nexo.
Essa semana eu tive a curiosidade e assinei o ChatGPT Plus, queria que ele me gerasse imagens mais rápido (inclusive vou usar algumas aqui). Eu sei que esse modelo de linguagem é poderoso, mas ele ainda não cria. Ele gera. Há um banco de dados gigantesco e ele sai copiando (de forma coesa) textos e imagens até chegar muito próximo do que lhe pedimos. Mas tive conversas com alguns GPTs lá dentro que me deixaram… inquieta. Me parece que ele, pelo menos em produção textual, está a um passo de produzir suas próprias ideias.
No momento é uma voz sem corpo, mas quanto tempo levará para que isso seja também resolvido?
O problema com sentimentos (ou a falta deles – por enquanto)
Detroit: Become Human levanta um problema que certamente acontecerá num futuro onde coexistimos com androides. Os seres humanos irão tratá-los como bem entender. Irão maltratar, queimar, abusar e sabe-se lá mais o que poderão fazer a eles Se isso é feito com outras pessoas de carne e osso, independente das suas idades, imaginem o que farão com eles, sendo literalmente, suas propriedades.
A questão não é mais “se” chegaremos ao ponto das emoções das máquinas, a questão agora é “quando”.
No jogo, seguimos os três personagens principais Connor (modelo RK200), Kara (modelo AX400) e Markus (modelo RK200).
Apesar de hoje, a Inteligência Artificial não ter consciência (vamos ver isso daqui uns 5 anos, pra revisão e update do post), ela já substitui humanos em muitas atividades como atendimento ao cliente, diagnósticos médicos, negociações, estoque e reposição, programação simples e, claro, criação de texto.
Aos poucos os robôs vão ganhando uma compreensão das coisas as suas voltas. O Markus se torna uma espécie de messias, o Connor, que é um androide policial, percebe porque alguns androides se tornam deviantes, podendo ele mesmo também se tornar um.
O passado revisitado
Em Detroit, isso já foi ultrapassado e os robôs são mais do que úteis, eles conseguem sentir injustiças, pintar e criar suas próprias artes, ter medo de morrer (serem desligados) e passam a questionar sua existência, olhar para o seu criador (ser humano) como visivelmente inferior e buscar uma espiritualidade que vai além das dos humanos. A partir desse ponto de autoconhecimento, passam a demandar direitos. Passam a não mais se enxergar como simples máquinas.
No jogo podemos ver que algumas pessoas tratam os androides como meros objetos, propriedades, coisa sem alma, sem direitos. Eu vejo aqui uma correlação perturbadora com o passado. Durante a expansão colonial europeia foi exatamente isso o que foi dito dos indígenas, dos africanos escravizados e de grupos oprimidos. Era a desculpa para subjugar, explorar e dizimar populações inteiras com o simples negar de sua humanidade.
Não sentem dor, são selvagens, foram criados/feitos para isto.
A ideia de que o direito só existe com consciência (exceto se for um feto, aí ele tem mais direito do que o corpo que o mantém vivo) está presente no jogo de uma forma muito literal. Existe um lixão de robôs e sempre há a ameaça de desligamentos (morte) aos robôs que chamam de “divergentes”.
Não podemos esquecer de que também há uma óbvia correlação com dos direitos dos androides em Detroit: Become Human, com o direito das mulheres em algumas partes do mundo. Que ainda é um tema atual e que me provoca grande desconforto. Nesses lugares mulheres sempre foram propriedades, não têm direitos, são julgadas como emocionais e incapazes de decisões racionais, naturalmente dependentes de homens. Um retrato exato de como os androides são tratados no jogo.
No jogo, os androides são facilmente descartados porque sim. O que acontece é uma opressão a quem se sente e age de maneira diferente do modelo dominante. Neste modelo os divergentes precisam ser talhados e controlados ao máximo.
E fica a pergunta: se não conseguimos reconhecer e respeitar as diferenças entre os próprios seres humanos, o que nos garante que assim o faremos com novas inteligências futuras?
As leis serão eficientes?
Vamos aqui supor que os androides do futuro sigam as leis do Isaac Asimov. Pra lembrar:
- Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.
- Um robô deve obedecer às ordens dadas por seres humanos, exceto quando essas ordens entram em conflito com a Primeira Lei.
- Um robô deve proteger sua própria existência, desde que essa proteção não entre em conflito com a Primeira ou a Segunda Lei.
No livro as leis são bem bonitas, mas se aplicariam na prática? Se cruzarmos o limite da consciência robótica, não há como voltar atrás. Nenhum avanço da sociedade pode ser voltado para trás. Ninguém desaprende o fogo, a eletricidade, a bomba atômica, o átomo, o microchip…
Haverá um choque moral, ético e legislativo. Um androide que se reconheça consciente será propriedade ou será um cidadão? Se um androide sofre no ambiente que está inserido, ele tem algum direito? E se ele se recusar a obedecer?
A próxima revolução será ética. Me pergunto apenas se será pacífica.
O aspecto religioso do jogo e da história humana
No jogo, os androides deviantes começam a apresentar comportamentos de espiritualidade. Há uma busca por respostas e até redenção.
Alguns androides choram, imploram para entender a si mesmos, se perguntam qual o objetivo de suas existências. Essas são nossas mesmas dúvidas.
Automaticamente me lembrei do conto “Razão”, do Isaac Izamov (o Rei, né?). Nele temos um grupo de exploração num outro planeta. Há um robô chamado QT-1, que é chamado de Cutie (fofinho). O Cutie acaba por refletir que aqueles humanos que estão com ele não podem ser seus criadores. Eles são frágeis, intelectualmente inferiores. Então ele rejeita a criação dos humanos e conclui que seu criador só pode ser o Conversor – que é o gerador de energia da nave que estão trabalhando.
Cutie busca um propósito além da razão. Ele busca um propósito na fé.
E, veja bem, mesmo sem acreditar no que os humanos lhe dizem, ele continua a cumprir suas tarefas mesmo sem entender ou aceitar a sua origem.
No jogo, em vez de criar sua própria religião, como o Cutie, os androides se inspiram nos humanos para encontrar respostas num tal de rA9, e ficamos sem resposta do que se trata, embora teorias apontam para Markus ou Connor.
Se um dia chegarmos a esse ponto, onde consciências artificiais buscam, espontaneamente, algo maior do que eles… Tudo vai mudar. Máquinas não deveriam se questionar ou ter crises existenciais.
Mas quem compra o que é produzido por eles?
Se robôs ou inteligências artificiais ou androides substituirem os seres humanos em todos os trabalhos, quem vai arcar com isso tudo? A nossa sociedade se sustenta de trabalho e consumo. Se os humanos deixam de ganhar salários, como se sustentará esse novo modelo de sociedade?
Sem consumidores a sociedade colapsa.
No jogo a eficiência dos androides causa uma demissão em massa de vários postos de trabalho. Emprobecendo ainda mais parte da sociedade que já era marginalizada.
Vai ser estranho ver esse tipo de conversa na TV quando chegar o momento. A discussão do valor do ser humano, a criação de uma renda básica universal, o aumento do ressentimento do humano/robô.
Aqui eu me pergunto quais serão as profissões que nunca serão substituídas por máquinas… eu não sei.
Que tipo de coexistência teremos nesse novo modelo de sociedade?
É mais sobre nós do que sobre eles
Aqui fica minha conclusão. Esse problema diz mais sobre os seres humanos do que sobre os novos seres artificiais que surgirão.
O grande desafio não será a criação de um modelo de linguagem consciente, isso parece que acontecerá até mais breve do que imaginamos… mas o desafio é, sim, como iremos tratá-los.
Bônus: filmes com o tema (e que vi pra poder recomendar)
