Sou fascinada pelo tema da Tecnologia e não é de hoje que penso sobre como vamos lidar com os avanços anunciados e quais seriam suas prováveis consequências sociais e filosóficas. Aqui, propus organizar parte dessas percepções e construir uma chave de interpretação possível capaz de explicar: por que nós, reles mortais, diante dos acontecimentos recentes no mundo da inovação tecnológica, começarmos a temer ainda mais nosso futuro ao invés de celebrá-lo?

Essa vai ser a pergunta que norteará esse texto e já adianto que ela não é retórica! Tem resposta, e vem antes do final do post, juro!

Não focarei na certeza de que teremos catástrofes ambientais cada vez mais recorrentes ou no provável e cruel acirramento das opressões raciais, de gênero e de classe, já sentidas ontem, hoje e que, infelizmente, podem continuar se perpetuando amanhã – e depois de amanhã. Sugiro uma reflexão em tons mais abstratos, usando exemplos da cultura pop (outra paixão), e que servem quase como uma tradução dos “novos” efeitos desse porvir bastante duvidoso.

Primeiro é importante ressaltar que ter uma visão trágica do futuro não é nenhuma novidade. As chamadas ficções distópicas – ou o conceito de distopia em um sentido mais amplo – já davam conta, nas décadas de 1970 e 1980, de retratar nossa realidade futurística assim: um mundo controlado por grandes corporações, em que a maioria esmagadora das pessoas é subjugada aos interesses privados de pequenos grupos econômicos (e políticos) poderosos, produzindo uma tecnologia muito aquém de servir plenamente a humanidade. Nas obras surrealistas como Laranja Mecânica (1971), as apocalípticas como Mad Max (1979) ou nos cenários cyberpunks de Blade Runner (1982) e O Exterminador do Futuro (1984), a ideia de um futuro “temível” já estava posto em prática. Pensar acerca das enormes fusões entre empresas de tecnologia hoje seria como assistir de perto ao nascimento da Skynet, e não à toa essa foi a referência que pensamos, mesmo que de forma jocosa, quando a Microsoft anunciou, em 2011, a compra da Skype por US$8,5 bilhões.

A fusão entre os logos das empresas Skype e da Microsoft faz referência à inteligência artificial fictícia Skynet da franquia de filmes “O Exterminador do Futuro”. Na série, a Skynet foi responsável por acionar o holocausto nuclear conhecido como “Dia do Julgamento” e enviar um exército de Exterminadores contra a humanidade

Portanto, já de início argumento que uma explicação através do “receio quanto ao (provável) crescimento e monopólio de grandes corporações” não seria suficiente para dar conta da alteração atual na expectativa sobre o futuro que percebo. Na realidade, explanar o conceito de distopia quase invalidaria minha pergunta. Se pensamos de forma no mínimo suspeita (pra não dizer “morrendo de medo do que vai acontecer”) sobre o futuro desde as décadas de 1970 e 1980, então não haveria nenhuma “mudança”, certo? Estaríamos simplesmente dando continuidade a um movimento histórico relativamente recente, até… Mas permita-me continuar o raciocínio.

Capa do desenho “Os Jetsons”

As distopias, de um modo geral, travam um contraponto a um modelo de futuro harmonioso (e utópico) no qual o desenvolvimento tecnológico promoveria benefícios nos transportes, no modo de trabalho, na distribuição dos recursos, etc. Tal previsão otimista foi apresentada de forma icônica em Os Jetsons, desenho produzido pelo estúdio Hanna-Barbera no início dos anos 1960. Nesta animação, a família Jetson reside na cidade futurística de Orbit City, e vive seu cotidiano entre carros voadores, esteiras automáticas e o convívio com a robô Rosie, uma assistente doméstica metálica que usa uniforme e espanador naquilo que seria sua mão. O cartoon não faz menção às desigualdades sociais, a um desenvolvimento tecnológico nocivo aos cidadãos ou a manutenção de certas configurações familiares tradicionais como as que mantém presente a figura de uma auxiliar doméstica de nome feminino; a única hostilidade de fato retratada é entre George Jetson, o pai, e seu patrão, o Senhor Spacely.

O ponto é que a criação de universos distópicos como uma resposta, digo, mais realista, ou ainda, mais implicada com as estruturas sociais de poder – fundamentalmente as específicas do sistema capitalista – teve, enquanto pano de fundo, um contexto social complexo, envolvendo tanto os movimentos de contracultura e seus derivados (como no caso do movimento punk que inspirou cenários cyberpunks já citados) como os conflitos políticos, sociais, simbólicos e tecnológicos da Guerra Fria. Não é difícil perceber a influência desses fatores nas obras que encarnam uma versão não tão entusiasmada do futuro da humanidade. O perigo de uma guerra nuclear apocalíptica, por exemplo, era bem mais real naquela época.

Mas afinal, onde eu quero chegar com isso tudo?

A reflexão que proponho sobre essa suposta “mudança” de perspectiva não está no fato de, diante das últimas inovações tecnológicas, prevermos, hoje, um futuro distópico em contraponto ao mundo harmonioso de Os Jetsons. Nem em temermos a unificação de grandes corporações, o que culminaria no pesadelo de perdermos por completo nossa liberdade (mesmo que ela tenha sido, desde sempre, limitada). Isso, nós já fazemos há anos. Muitos anos. A centralidade deste texto está em sugerir o que atualizou os nossos anseios, ou melhor, nossos medos. E eles se atualizam o tempo todo… rs

 A pergunta complementar do começo seria: o que poderia nos fazer repensar, nos dias atuais, o impacto social da tecnologia no futuro e diminuir drasticamente nosso entusiasmo com as inovações de serviços e produtos tecnológicos? Em outras palavras, qual seria o contexto específico de nossa época que transformou, mais uma vez, nossa relação com o futuro?

E eu proponho, finalmente, uma resposta. Eu disse que ela viria antes do final, não disse?

Arrisco dizer que estamos lidando, hoje, com a ameaça concreta de perdermos, nesse futuro projetado, a nossa tão famigerada singularidade humana. Temeríamos, então, um mundo no qual não saberemos mais o que nos torna e o que nos reconhece como humanos – e somente a nós. Estaríamos lidando com o gradativo escancaramento da imprecisão quanto o que, afinal de contas, nos distingue de outros seres vivos, sejam eles orgânicos ou não; o que nos tornaria singulares, únicos, dentre tudo e todos.

Um bom exemplo dessa mudança de perspectiva aconteceu com a franquia japonesa Ghost in the shell. Não vou me ater aos seriados televisivos ou aos OVAs do início dos anos 2000 (até porque eu nem assisti todos eles). Vou eleger aqui três obras centrais: o mangá original de 1989, o anime célebre de 1995 e o filme live action mais recente, de 2017 – traduzido no Brasil para “A Vigilante do Amanhã”. Live action é o termo usado para caracterizar as obras cinematográficas que utilizam atores reais, ao contrário das animações ou animes (animações oriundas do Japão).

Resumindo de maneira bem breve, Ghost in the shell é uma ficção cyberpunk distópica que retrata uma cidade oriental futurística – o ano é 2029 – quando já é possível unir, de forma funcional e precisa, ser humano e máquina, fabricando, assim, indivíduos tecnologicamente aperfeiçoados e capazes de interagir com extensas redes de informações virtuais através de cérebros ciberneticamente alterados. A história se desdobra em torno da personagem principal, a agente de elite Motoko Kusanagi, mais conhecida como Major, que trabalha para o Setor 9, unidade pública de segurança com caráter policialesco responsável por coibir crimes – ou terrorismo, como queira chamar – cibernéticos. Major, como outros personagens, é um ser híbrido. Seu hibridismo, porém, é radical e não tão comum. Enquanto a maior parte das modificações tecnológicas retratadas se estendem em corpos fisiológicos, substituindo olhos, membros ou dedos, a adaptação de Major consiste na implantação de seu cérebro humano-orgânico em um corpo-robô, altamente complexo e repleto de funcionalidades, desenhado especificamente para a função de agente especial. O procedimento de transferência de cérebro não é exclusivo da personagem, embora integre parte fundamental da trama. Afinal, ser uma androide consciente talvez não seja tão simples assim, concordam?

A agente de elite e líder do Setor 9, Major Motoko Kusanagi, na capa do anime “Ghost in the shell” de 1995

Major já “nasce” tendo que lidar com a condição fronteiriça de existir enquanto uma forma mecânica (shell) que comporta uma vida, ou alma, orgânica e humana (na série chamada de ghost). O único resquício fisiológico da androide é seu cérebro, também alterado. Um parêntese legal: a representação da alma humana via presença cerebral é interessantíssima, mas infelizmente não vou me estender nesse tema aqui. #ficadica

No mangá, no qual a história de Ghost é contada pela primeira vez em 1989, a personagem de Major soa mais púbere e inconsequente. A revista como um todo assume o estilo infanto-juvenil típico, intercalando humor às cenas de ação cinematográficas. Desenvolve-se a trama principal – a caça ao ciberterrorista denominado Mestre dos Fantoches – e as tramas paralelas, como o caso dos tanques militares em formato de aranha que adquirem autoconsciência e resolvem não obedecer mais as ordens dos comandantes.

O enredo de toda a série japonesa é esse: trata-se de prever as consequências da interação humano-máquina. Major, com o tempo, busca compreender como sua natureza se difere e se assemelha dos humanos e dos computadores, revelando limites e grandes possibilidades de ação. Em comparação ao mangá, a narrativa animada de 1995 muda o sentido da história. Desculpem, não é exatamente o sentido que muda, mas o tom. Como escreveu Daniel John Furuno neste artigo aqui:

“Sem o senso de humor do mangá, o anime é muito mais sombrio e, de certo modo, pessimista. O apelo erótico — que aqui se resume ao figurino (ou à falta de um) da Major — é frio e um tanto deslocado. Aliás, a própria personagem parece outra: a jovem do mangá, que muitas vezes se comporta como uma adolescente pirracenta, mas que apresenta um nítido amadurecimento ao longo da trama, não existe; em seu lugar, a versão animada coloca uma mulher séria e ensimesmada, extremamente consciente dos dilemas filosóficos resultantes de sua condição, e que só sofre uma transformação significativa após os eventos do final da história.”

De modo geral, o anime termina por contar uma outra versão da história retratada no mangá, assim como o filme de 2017 reconta a história do anime também de uma forma diferente. E veremos que o ponto principal para ilustrar a mudança de perspectiva sobre o futuro que busco traçar neste texto é justamente o fato de que a franquia assumiu, ao longo dos anos, essas três versões.

Na contramão dos cenários de catástrofes nucleares e ou das grandes corporações imaginados nos anos de 1970 e 1980, desde o início, Ghost in the shell se ocupou em destrinchar a subjetividade humana em meio aos avanços tecnológicos iminentes. E por isso é um ícone: talvez tenha sido, junto com o livro Androides Sonham com Ovelhas Elétricas? (1968), um marco de toda esta discussão filosófica no mundo do entretenimento pop, inspirando grandes filmes como Matrix (1999) e antecipando conceitos e estéticas importantes para a literatura futurística cyberpunk. “Se humano e máquina estão cada vez mais próximos, qual é a fronteira que os separa?”

Ps.: Importante salientar que não há, nessas obras citadas, uma discussão mais acurada sobre as questões envolvendo raça, gênero, classe, orientação sexual entre outros marcadores sociais da diferença. O que é do “humano” é tratado como “universal”, frente ao conflito com a “máquina”. Essa construção é, em si, bastante problemática… Não me prolongarei nesse ponto, porém fica a ressalva e mais uma dica para próximos textos! ;)

Voltando…

No anime de 1995 (um dos meus filmes favoritos de todos os tempos) a história conta “apenas” com a perseguição, por parte de todo o Setor 9, ao Mestre dos Fantoches. Transbordando reflexões filosóficas, a protagonista Major lidera a caçada ao ciberterrorista. Conforme se aproxima do suposto inimigo, a agente de elite encara seus questionamentos mais profundos e que representam alguns dos maiores anseios de toda a série até então. As possibilidades infinitas que o aperfeiçoamento tecnológico pode proporcionar ao indivíduo altera sua consciência sobre si mesmo? As memórias, a personalidade e as características próprias de cada corpo ou cérebro alterado são autênticas ou são fabricadas? Os seres cibernéticos serão capazes de produzir novos seres, mais complexos e autônomos?

Início da zona de SPOILER — aconselho que assistam aos filmes antes de continuar

Ao final da trama de 1995, conhecemos o Mestre dos Fantoches. Trata-se de um acidente de percurso. Uma entidade autoconsciente desencadeada a partir da enorme rede de tecnologias militares internacionais que visava produzir um androide espião capaz de solucionar, por meio da aquisição de informações estrangeiras vitais, importantes embates diplomáticos. O Mestre de Fantoches “cria vida”, ou seja, torna-se consciente, com o processamento dos dados do projeto 2501 – iniciativa norte-americana para construir tal agente cibernético – rebelando-se e recusando-se a “servir” aos propósitos para os quais fora “produzido”. Como parte de seu plano, o Mestre “encarna” em uma androide e é capturada por agentes do Setor 9.

Na cena do anime de 1995, o Mestre dos Fantoches, ou Projeto 2501, “encarnado” em um corpo cibernético. Livre tradução: Eu sou uma entidade viva e pensante, que foi criada em um oceano de informação.

O que assistimos, então, é uma consciência virtual que se transfere para um corpo robótico fabricado, tornando-se uma entidade viva capaz de raciocinar e ter sentimentos de forma autônoma e que excluiu completamente qualquer elemento orgânico ou fisiológico de sua composição. Porém, ainda resta uma limitação final. Assim como Major, o Mestre dos Fantoches compreende sua incapacidade de se reproduzir. Como seria possível evoluir e perpetuar se não é possível gerar novos seres e, com eles, uma cultura própria?

E o que difere de modo crucial esta segunda versão da terceira, o live action de 2017, é justamente a forma como ambas terminam.

Cena do diálogo final entre o Mestre dos Fantoches e a Major Motoko Kusanagi

No anime de 1995, ser capturado pelo Setor 9 foi o jeito que o Mestre dos Fantoches encontrou para se aproximar de Major e fundir-se a ela no plano virtual para dar origem a um terceiro ser. No epílogo dos dois personagens, o Mestre convence a androide sobre sua participação imprescindível na construção de algo maior que eles mesmos e por fim conseguem, através de uma simbiose de informações (popularmente conhecida como “a gente faz amor / por telepatia”), criar um descendente, abrindo a possibilidade de perpetuação da nova consciência virtual e rompendo com uma das únicas fronteiras restantes entre o que é próprio da condição humana e o que pode ser produzido pelas máquinas:  a capacidade de se constituir enquanto uma espécie consciente capaz de evoluir e se relacionar. Major, ao mesmo tempo que abandona sua parte humana ao abrigar em seu cérebro a nova consciência, consegue realizar um de seus maiores anseios, o de ser capaz de originar um novo ente vivo, e neste caso, completamente virtual, cibernético e autônomo.

De certo modo, o Ghost in the shell de 1995, apesar de contemplar a discussão acerca da tal da singularidade humana, não teme perdê-la. E isto é fundamental.

A protagonista do anime escolhe dar continuidade à uma consciência virtual ao invés de manter sua “humanidade cerebral”, seu próprio ghost. No fim, a reflexão proposta pelo anime sugere não uma ameaça de superação do ethos humano, e sim um percurso inevitável de superação desse ethos, tendo a personagem o centro de poder, abrindo uma infinidade de rumos possíveis para nós e para eles, inorgânicos. Ok, uma consequência não intencional, eu diria, mas sem dúvidas essa versão da história, altamente filosófica, agrega complexidade às previsões sobre nosso futuro tecnológico. Entretanto, ainda não serve a questão inicial deste texto. Sigamos…

Em A Vigilante do Amanhã, título em português da versão live action, assistimos uma produção fotográfica linda, baseada nas cenas do anime, entretanto, com menos de 1/3 de toda a “pegada filosófica” das obras anteriores. A despeito de ser dirigido e distribuído por Hollywood e de ter sofrido whitewashing, escalando atores brancos para interpretar papéis de orientais, o que por si só já são enormes problemas, o filme de 2017 fica muito aquém da história que o inspira e revela, no final, uma perspectiva muito diferente sobre o destino de nosso ethos humano.

Diferente da de 1995, nesta trama, concomitante à perseguição ao ciberterrorista que anda chacinando cientistas importantes, a personagem Major busca, ao longo do filme inteiro, recuperar sua memória e descobrir o que aconteceu antes do procedimento de transferência do seu cérebro orgânico para seu corpo cibernético. Os diálogos reflexivos do anime foram cortados, transformando os anseios filosóficos de Major em uma “simples” busca por sua identidade pessoal, pré-intervenção. Um eterno retorno à Motoko humana.

Ao término do filme, descobrimos que ela e o ciberterrorista em questão – que, saliento, não é o Mestre dos Fantoches! – quando mais jovens, eram um par amoroso que faziam parte de um grupo rebelde antidesenvolvimento tecnológico, perseguidos pelo governo. Após capturados, ambos são submetidos à transferência cerebral. Enquanto o ciberterrorista retoma sua memória e se rebela contra quem o fabricou, assassinando-os, a Major continua com seu trabalho no Setor 9, até entrar em contato com ele novamente e também recuperar as suas memórias. Já no epílogo final, o diálogo dos dois se reproduz como no anime de 1995 e retoma a ideia original: o “vilão” conversa com a Major sobre a possibilidade de, juntos, sacrificarem seus ghosts para criarem um novo ser autônomo e com consciência virtual; um descendente evolutivo.

Mas qual não foi minha surpresa? A Major se recusa a abrir mão de sua humanidade e abandona o ex-companheiro que morre alvejado pelos helicópteros do governo que os perseguiam. A personagem, no filme de 2017, termina a história dizendo que “encontrou as suas respostas”! Na cena final vemos Major e a mãe da adolescente Motoko Kusanagi, a jovem rebelde levada pelo governo, em frente ao túmulo de Motoko. Major decide seguir com a mãe do seu cérebro ou do seu ghost ou da sua parte humana, dando a entender que ela continuaria a vida “interrompida” pelo processo tecnológico que transformou seu corpo em um aparato cibernético.

Cena do live action, quando o ciberterrorista revela que Major tinha uma “vida antes disso tudo acontecer”.

Optar por retomar sua biografia “natural” é, no sentido que tentei organizar aqui, reforçar a ideia de que, na dúvida, deve-se optar por uma saída para sua humanidade. Major, em 2017, resiste à “coerção” da entidade autoconsciente e se nega a perder a única coisa que a reconhecia como indivíduo, como pessoa, seu ghost. O filme sugere uma solução bem antropocêntrica dos conflitos, elegendo os pretensos laços da subjetividade humana – a relação com a mãe de Motoko que ela acabou de conhecer, por exemplo – como superiores ao ímpeto ou desejo de criação e perpetuação de novos seres, em novas potenciais culturas. No fim do dia, Major conseguiu “salvar” seu lado humano de um “impiedoso” avanço tecnológico, rejeitando a proposta de fundir-se por completo a uma nova forma de vida, virtual e inorgânica.

Fim da zona de SPOILER

A mudança de final do live action de 2017 em relação ao final do anime de 1995 é radical. E, pra mim, representativo desta “atualização dos medos sobre o futuro” que proponho perceber, tanto na realidade como nas obras de ficção. Crer em um desenvolvimento tecnológico sem abrir mão de “nossa humanidade” parece ser, hoje, uma das maiores tensões com as quais temos que lidar. E eu me questiono o porquê. Se antes temíamos as guerras nucleares ou a repressão dos grandes monopólios tecnológicos, agora (além disso) nos preocupamos em salvaguardar isso que identificamos como singularidade humana, reconhecendo e reforçando as fronteiras entre nós e eles: máquinas, robôs, androides, inteligências artificiais, algoritmos virtuais, Siri…

Veja bem. Não estou falando aqui sobre robôs ou máquinas fazendo coisas no lugar de pessoas e só. Isso é uma problemática mais antiga ainda, principalmente quando pensamos nas relações de trabalho. Tempos Modernos, filme de Charlie Chaplin, tá aí desde 1936 (!) pra não me deixar mentir. O que percebo não é um caso de substituição ou de sujeição (como no caso de O Exterminador do Futuro, por exemplo). É um caso de superação, ou melhor, de uma adaptação tal que a máquina ou robô ou androide seja capaz de produzir e apreender valores, reproduzindo-os de forma semelhante ou até mais competente. Uma espécie de Teste de Turing perfeito… O Teste de Turing, pra quem não sabe, testa a capacidade de uma máquina exibir comportamento inteligente equivalente a um ser humano, ou indistinguível deste (Wikipédia).

E a partir de então, o que seremos nós diante deles?

Cena do filme “Ex-Machina” que narra os conflitos entre Ava, uma inteligência artificial, seu criador Nathan Bateman e o programador Caleb Smith, escolhido para aplicar o Teste de Turing na androide

Talvez aí resida um dos motivos de temermos (de uma forma diferente) o futuro altamente tecnológico que nos aguarda, com o desenvolvimento de seres não biológicos eficiente até para cuidar de nossas crianças ou demonstrar empatia e compaixão. Nos tornaremos descartáveis? Nos tornaremos previsíveis? Nos tornarmos nada além de um construto orgânico capaz de fazer umas contas, escrever uns livros, pintar uns quadros ou abraçar uns desconhecidos? Se daqui a alguns anos até nossa habilidade de fazer julgamentos críticos e contextuais puder ser copiado ou aprendido reconfigurado por uma consciência virtual, nos restará ser alguma coisa de fato… singular?

Afora as respostas religiosas – que particularmente não me interessam – as saídas para esse imbróglio antropotecnológico ainda são desconhecidas. Até lá, nos contentamos em pensar sobre esses dilemas e perder um bom tempo criando e lendo textos na internet.

Pode confessar, isso é muito Black Mirror…