CYBERPUNK E AS IAs
Com a popularização do Chat GPT, o tema 'Inteligências Artificiais' ganhou foco nas discussões, em todos os ambientes, e com todas as conotações possíveis. Porém, o cyberpunk sempre foi um terreno fértil para explorar e criticar as relações entre tecnologia, homem, poder e sociedade. Quando se trata das inteligências artificiais, o cyberpunk pode ser uma poderosa ferramenta para questionar o impacto das IAs no futuro da humanidade, destacando, principalmente, os perigos que elas podem representar para as pessoas. Nesse contexto, temas como desumanização, ética, vício em tecnologia e privacidade surgem como alguns dos pontos mais debatidos.
Ética com as IAs
O cyberpunk também explora as questões éticas relacionadas ao uso de IAs e ao avanço das tecnologias. Em muitos casos, tanto na ficção quanto na realidade o uso indiscriminado dos sistemas inteligentes gera reflexões com diversos focos, desde a origem das informações até o uso errado das redes e consumo de conteúdos prejudiciais, agressivos ou até preconceituosos.
Com a globalização e a rápida disseminação de informações por todo o mundo, somadas à desumanização dos usuários, surgem novas questões éticas. O influenciador digital Maicon Douglas comenta que se deparou com uma situação perturbadora. "Eu estava vendo a notícia lá da Guerra do Oriente Médio, e eu reparei uma coisa que eu também havia visto em notícias do furacão Milton. Algumas pessoas estavam comentando 'Ah, tá muito tranquilo', 'Achei que tinha destruído mais' ou até mesmo 'Queria que explodisse mais'. As pessoas precisam lembrar que isso não é um filme. Há pessoas sofrendo do outro lado", desabafa Maicon
Ele comenta que chegou a se deparar com diversas transmissões ao vivo dos bombardeios. Muitas pessoas parecem se distanciar emocionalmente da realidade das tragédias, tratando esses eventos como se estivessem assistindo a uma série. "É importante pensar que é uma coisa que são coisas que acontecem de verdade. Mas tem muito isso com a globalização. Parece que é algo que está muito longe e por isso as pessoas não enxergam como realidade. Eu duvido que quem estivesse em uma cidade que estava sendo bombardeada ou com algum familiar lá fosse gostar de ver uma live dessas", acrescenta.
A questão ética relacionada ao tipo de conteúdo que os algoritmos sugerem nas redes sociais não é a única problemática envolvida com as inteligências artificiais. Outra discussão que vem ganhando espaço está relacionada com a origem das informações e conteúdos gerados por IA.
A especialista em geração beat, Ariane Santana, comenta que as informações geradas por esses sistemas inteligentes nunca são neutras e reproduzem as informações com as quais os seres humanos as alimentam. "Você vê, por exemplo, inteligência artificial sendo utilizada para mapeamento facial que reconhece pessoas negras como criminosas muito mais facilmente. Isso é porque a nossa sociedade é racista e, portanto, ela aprendeu a ser racista. Não sei se você lembra, mas alguns anos atrás o Google criou uma IA que ia basicamente mapear a internet e criar um robozinho pra conversar com as pessoas. E, em um dia o robô começou a falar coisas nazistas. E isso é porque é o que existe na internet. O que não quer dizer que só exista coisa ruim na internet. Mas, assim, você não precisa procurar muito pra achar fascismo na internet, sabe?", explica ela.
A estudante de design, Bruna Oliveira, mostra uma grande preocupação em relação à origem dos conteúdos gerados por IA. "No fim você não tem consciência do quanto daquilo é pesquisa e do que é um trabalho que foi roubado. A máquina não tem discernimento do que é certo ou errado. E quando a gente traz essa questão para a escrita e outros tipos de arte o problema é um pouquinho maior", aponta ela.
"No final das contas o robô pode gerar, mas ele é um simulacro humano, ele vai emular os símbolos que os seres humanos emulam mas ele não tem como sentir", é o que explica o estudante de jornalismo Daniel Pais. Ele acredita que independente do estágio de evolução das máquinas, não é possível que elas criem algo independente das criações humanas. Para ele, sempre existirá a possibilidade de diferenciar o trabalho de uma pessoa com o de uma inteligência artificial.
Essa é uma opinião que muitos compartilham atualmente. Daniel Kristensen, Supervisor de Serviço ao Cliente do MetroRio compartilha a ideia de que as IAs nunca vão conseguir se comparar à produção humana. "A arte é muito humana, sabe? A inteligência artificial, vai saber reproduzir, e talvez até criar, mas as referências são nossas, né? É uma coisa que já é relatada nos filmes. As máquinas tomam poder e tal, mas elas brigam porque elas não sentem, né?", explica.
"Eu acho que independente de quanto você aprimore, você sempre vai conseguir ver essa diferença. Então, a gente acaba entrando muito nesse 'vale da estranheza', porque esse conteúdo não é exatamente feito com conteúdo humano, mas uma réplica dele", afirma Pais.
"Porque a arte é uma coisa muito humana. Ela depende muito das pessoas. É uma epifania, uma catarse. A arte é uma expressão que depende única e exclusivamente daquilo que tá dentro, né? A máquina não tem nada dentro dela, só o que a gente coloca, mas ainda sim não é dela, entende?", finaliza Daniel.
Desumanização
Nas narrativas cyberpunk, as inteligências artificiais costumam ser retratadas como uma força que desumaniza e é capaz de alienar os indivíduos e reduzir sua sensibilidade. Esses cenários distópicos mostram como os sistemas inteligentes, em vez de melhorar a vida das pessoas, acabam fortalecendo desigualdades e precarizando as condições de existência.
Essas representações servem como uma crítica à forma como as IAs, principalmente aplicadas em algoritmos de redes sociais, podem ser utilizadas para reforçar estruturas de poder desiguais, alertando para os riscos de uma sociedade em que a vida das pessoas é moldada por sistemas frios e impessoais.
Apesar de muitas pessoas acreditarem que as inteligências artificiais são as culpadas pela desumanização das pessoas, essa visão está equivocada. Edson Santos, que trabalha há 20 anos na área de desenvolvimento de software, esclarece que as IAs, por sua natureza, são neutras e não possuem intenções ou valores próprios. "É o que todo mundo hoje em dia tem alimentado essa ideia e eu discordo. Não é a máquina que traz esses problemas. É o comportamento humano que sempre esteve presente. Só que hoje nós temos outras ferramentas para demonstrar isso", desabafa ele.
Ele argumenta que o verdadeiro problema está na forma como essas tecnologias são desenvolvidas e utilizadas. Por exemplo, se uma pessoa consome conteúdos de pessoas com falas preconceituosas e conservadoras, os algoritmos de recomendação das plataformas digitais entendem que devem sugerir mais conteúdos semelhantes. Isso não significa que a IA seja preconceituosa, mas a forma com ela é usada favorece a disseminação de discursos tóxicos.
Em um ambiente que não só permite, mas, em alguns casos, incentiva a propagação do ódio, as pessoas acabam se tornando cada vez mais insensíveis, especialmente em situações extremas. O influenciador Maicon Douglas afirma que a crescente banalização de discursos de ódio nas redes sociais tem levado muitos indivíduos a reagir de forma fria e indiferente diante de situações que antes despertariam compaixão ou indignação.
"O cyberpunk, por exemplo, debate bastante se um sintético ou replicante, como em Blade Runner, pode ser considerado humano, já que teoricamente eles não têm sentimentos. Mas, olhando do nosso lado, na vida real, é na internet que começa a desumanização das pessoas. Porque é fácil acreditar que estamos imunes a qualquer coisa. Na rede, posso falar o que quiser, esquecendo que do outro lado existem pessoas reais. Parece que todo mundo fica meio frio, né?", explica Maicon.
O quadrinista, designer, professor e editor dos HQs do Universo Gambiarra, Rapha Pinheiro, aponta que essa lógica dos algoritmos das redes sociais é muito baseada em emoções. "Elas querem que você sinta essas emoções porque isso leva você a compartilhar, a comentar e engajar. Mas coloca tudo que você vê ali dentro como se fosse um teatro. Então são coisas que você está assistindo na televisão, parece que é de mentira. Tá dentro da telinha só, não é de verdade", comenta.
Ele ainda destaca que essa distância criada pelas telas garante uma maior sensação de impunidade. "Eu já tive uma situação na internet de uma pessoa me xingar num vídeo que eu postei, falando que se me encontrasse na rua ia me encher de porrada. E quando eu encontrei com essa pessoa ela falou 'Oi, Rafa, tudo bem? Sou seu fã.' Porque as pessoas não têm a coragem na vida real que ela tem na internet", desabafa.
"A sensação que a internet te passa é que as suas ações não têm consequências. Que você está protegido pelo anonimato, mas elas têm e são consequências muito reais. Especialmente para as pessoas a quem você causa o mal", argumenta Rapha.
Ele ainda reforça que o Universo Gambiarra está produzindo um longa que critica a comercialização do espetáculo. "É sobre um reality show onde as pessoas enfrentam provas, algo como 'Jogos Mortais', mas com uma pegada tecnológica. Os espectadores só querem ver as pessoas sofrendo", explica.
"Existe uma dessensibilização das pessoas no mundo que a gente vive, que acaba sendo muito cyberpunk, onde a gente tá tão preocupado com a nossa vida e com a correria que a gente não tem mais tempo para perceber que o outro tá sofrendo e a gente só quer se entreter", diz Rapha.
Vício nas tecnologias
O cyberpunk oferece um espaço fértil para questionar o papel da IA no futuro da sociedade, usando seu universo sombrio para refletir sobre os perigos do uso descontrolado e incorreto das tecnologias e seus impactos na sociedade. É comum ver personagens em becos escuros, usando óculos de realidade virtual em cenas que remetem ao uso de drogas alucinógenas, uma metáfora para o vício em tecnologia.
No entanto, essas imagens representam um estágio avançado desse vício, que começa de forma sutil. O processo pode se iniciar com a mecanização de tarefas simples ou repetitivas. Isso tudo pode começar com a mecanização de tarefas chatas ou simples. "Hoje há uma grande mecanização de processos. Infelizmente as pessoas não conseguem mais ler um parágrafo. Até na área da tecnologia isso tem ocorrido. A gente percebe que no nosso ambiente de trabalho existem processos que serão mecanizados. Mas a gente tem que sempre procurar raciocinar antes de dar o clique", explica Edson Santos, que trabalha há 20 anos na área de desenvolvimento de software.
Atualmente, devido à lógica de consumo de conteúdos das redes sociais e dos algoritmos presentes nelas, essa mecanização de trabalho e relações acaba sendo um reflexo, e até uma consequência, do consumo exacerbado de informações.
O autor da distopia cyberpunk Zona Livre, André de Carvalho, explica que, com a popularização dos vídeos curtos, o consumo excessivo das redes sociais e a normalização de recompensas a curto prazo, o vício em tecnologias tem aumentado, o que representa um grande perigo. "A gente se apegou muito às recompensas de curto prazo, o que é péssimo para o desenvolvimento da cultura e do pensamento intelectual. Também ficamos mais propensos a sermos manipulados dessa forma, nós estamos, mas a gente fica cada vez mais propenso a isso. O Zona Livre trata muito disso. As coisas ali acontecem muito rápido, isso diz um pouco sobre o nosso tempo ali", afirma ele.
Controle dos usuários e vigilância
No mundo cyberpunk, é comum que corporações consigam controlar uma grande parte da população por meio de modelos de IAs aplicadas em algoritmos, usando-as para vigilância e manipulação da sociedade.
Um exemplo disso ocorre no livro Zona Livre, de André de Carvalho, onde o governo se alia a uma das megacorporações responsáveis pela criação e implantação de chips neurais, buscando utilizar os dados fornecidos pela empresa para manipular a população. Situações como essa geram reflexões sobre questões como privacidade, livre-arbítrio e a concentração de poder nas mãos de poucas entidades.
Embora os chips neurais ainda estejam em desenvolvimento na sociedade atual, já existe um mapeamento de dados realizado pelos algoritmos das redes sociais. "Essa questão dos algoritmos é interessante, porque, muitas vezes, eles nos conhecem melhor do que alguns amigos nossos. Eles fazem recomendações certeiras. Às vezes, você nem clica, mas o que você colocou já leva a algo aleatório que, sozinho, dificilmente você descobriria", explica André.
Outro exemplo que utiliza a hipérbole para criticar a vigilância e o controle de forma cômica é o Universo Gambiarra. Gustavo Colombo, diretor e roteirista do projeto, explica: "O algoritmo dos óculos da Mão de Deus, que é uma das narrativas do universo, funciona dessa forma. Ele é uma tecnologia que vai 'desnormalizando' as pessoas. Por exemplo, as pessoas ficam viciadas a ponto de buscar pontos na igreja, como se estivessem 'gamificando' a fé."
No universo de Gambiarra, a frente religiosa "Mão de Deus" utiliza óculos de realidade virtual para controlar o que os fiéis veem, ouvem e fazem, empregando uma dinâmica de acúmulo de pontos para aproximá-los de Deus. "Enquanto essas poderiam ser ferramentas de emancipação, acabam sendo ferramentas de opressão. A tendência é a gente chegar ou uma sociedade utópica e em algum momento resolver isso. Ou ir para um cenário Mad Max", finaliza Gustavo.