Seg, 11 de maio de 2020, 14:45

Onisciência: Ficção ou realidade?
Geovânia Nunes de Carvalho

Sem entrar nos detalhes de Onisciente, série disponível na plataforma Netflix, pois aconselho ao leitor assistir a série, farei uma breve análise de seu enredo ficcional a partir de considerações de Maffesoli (2005), Trivinho (2007), Rüdiger (2008), Gerd Leonard (2016), Morin (2016), Harari (2018) e Schneider (2019 e 2020).

Seguindo a linha distópica de Black Mirror, Better Than Us e outras produções inspiradas nos impactos da tecnologia e do uso cada vez mais presente e sofisticado das inteligências artificias no cotidiano social, a série brasileira Onisciente, sob a direção de Pedro Aguilera, é uma mistura de ficção e realidade. Bom lembrar que este cenário distópico fora apresentado nos clássicos do gênero em Admirável mundo novo de Aldous Huxley e 1984, de George Orwell. Ali, por força de um estado ditador e agressivamente controlador temos, de um lado, uma legião de comportamento padronizado, conforme os requisitos determinados e exigidos para a vida em sociedade modelar; são os padrões de docilidade, obediência, servidão ao estado; e, de outro, uma pequena amostra resistente do que deve ser corrigido, voluntariamente ou pela força.

Onisciente se passa na cidade de São Paulo na época atual e apresenta o cenário totalmente influenciado pela cultura vintage e com excelente trilha sonora. São Paulo, uma cidade tutelada pelo sistema que dá nome a série. Ali, os indivíduos são controlados através da intervenção tecnocientífica com clara pretensão do estabelecimento da ordem social, cujo meio, é a vigilância permanente disfarçada de segurança. A onisciência suportada pela tecnociência realiza o sonho humano da experiência divina de tudo saber, porque tudo vê.

A ordem rigorosa da cidade ficcional, nos permite aproximar a noção de “domesticação dos costumes” de Maffesoli, um esforço individual permanente para conter os desejos, paixões e desvios, por força dos padrões culturais de cada época. A contensão é a negação dos instintos, ou seja, a negação de si. Todavia, por mais que os padrões comportamentais tentem amputá-los, o desejo, embora negado, sobrevive na tentativa de burlar os padrões para se realizar. Esse desejo comparece em todos os personagens de Onisciente, em graus e constâncias diferenciadas, ainda que sejam vigiados initerruptamente por minúsculos drones do sistema Onisciente.

Aqui fazemos uma observação que nos parece ser uma tendência para as futuras gerações tecnocientíficas: a administração corporatocrática ou da corporocracia, cujo modelo se dá pela presença mínima do Estado, ao delegar poderes legais e irrestritos às grandes empresas particulares para promover, via tecnologia, o controle da sociedade.

Para Rüdiger, essa tendência encaminha a sociedade para o aparecimento do “indivíduo experimental” (p.155), donde sua identidade cultural e biológica são passíveis da intervenção técnica e maquinística, cuja pretensão de suplantar as capacidades humanas não se limita à promoção da técnica, mas também, ao seu uso para negar o homem. Fato presente no decorrer de toda a série.

A cidade ficcional controlada pelo sistema Onisciente é o espelho da corporatocracia com o recurso de inteligência artificial (IA) de percepção. Schneider (2020) explica que esta IA pertence a terceira onda de inteligência artificial, sendo caracterizada pela capacidade de não somente coletar dados, mas de significá-los por meio de análises semânticas complexas, uma vez que outra característica dessa IA é o aprendizado profundo. A IA de percepção se estende ao ambiente, digitalizando as informações mundanas “através da proliferação de sensores dispositivos inteligentes”. O objetivo da IA de percepção é coletar dados, significá-los e estabelecer um padrão que foge da compreensão ordinária para a mente humana.

Esta dificuldade da mente humana pode ser explicada pela noção da tríade indissociável de ordem, desordem (contingências, acidentes, acasos, irregularidades, inesperados, incertezas) e organização do pensamento complexo de Morin. Sua tese é a de que, toda organização, neste caso específico, a complexidade do sistema onisciente suportado pela IA da percepção, estabelece padrões a partir de dados coletados, aparentemente independentes e posteriormente analisados. Por isso, o pensamento humano forjado pelo paradigma simplificador, ou seja, inapto para compreender o universo de informações, não alcança a compreensão dos dados para interpretá-los, estabelecer relações dependes, posicioná-los no contexto complexo e significá-los. Dito de outra forma, de estabelecer um novo padrão, onde a desordem considerada um obstáculo para o conhecimento, comparece, nesse novo cenário, organizada, onde se é possível estabelecer um novo padrão.

A estrutura da organização social da cidade fictícia é modelada pelos sistemas informáticos Onisciente. A população jovem nasceu e cresce sob essa vigília permanente, sem questionar a força do sistema; ele é um ser superior, metafisico e real. Seu slogan e missão se resume em: “Viva sem medo! Não é privacidade vs segurança, é privacidade e segurança”, na qual o sistema Onisciente não disponibiliza nenhum dado, sob qualquer hipótese, a um humano. Este projeto, retomando Rüdiger, traduz a substituição e a negação do fator humano no contexto da cultura tecnocientífica e maquinística, no qual, o humano é visto como um ser sob suspeita (intelectual e emocional). Portanto, decisões de toda ordem são resultados das análises da IA de percepção, levando-se em consideração única e dissociada das relações motivadoras, o perfil padrão de cada indivíduo, cabendo ao humano, apenas, a comunicação destas decisões. Caso o indivíduo questione a decisão, a resposta será sempre a mesma: “foi o sistema que analisou e o sistema não falha”. A justificava é que o sistema obedece a um rigor técnico cientifico complexo, sofisticado, inteligente, autônomo, autocorrigível e, portanto, indubitável.

Harari defende a tese de que, brevemente, vai ocorrer uma revolução decorrente da fusão entre a biotecnologia e a tecnologia da informação, levando a sociedade e a ciência a um novo estado de comportamento, por força da produção de algoritmos de big data capazes de controlar e compreender os sentimentos humano melhor do que eles próprios. Essa possibilidade real, para Harari, vai desintegrar a noção de livre-arbítrio, de liberdade, de consciência ou de uma ética baseada em valores universais. O que se espera é que essa mudança radical ateste o status universal do paradigma técnico-científico, deslocando o antropocentrismo do centro das discussões humanas.

Esse autor destaca que o uso de algoritmos big data já está em uso na medicina e que em poucas décadas, serão alimentados pelo fluxo contínuo de dados biométricos de onde se pretende monitorar a saúde do indivíduo por toda a sua vida, 24h diárias. A questão subjacente que ecoa nas ciências sociais, especialmente para a filosofia, se dirige ao estabelecimento de uma nova ética que possa garantir a liberdade humana, no tocante ao fornecimento de seus dados para serem controlados por uma corporocracia. Outra questão, é definir a quem pertencem seus dados: ao Estado, a uma empresa particular ou ao próprio indivíduo? E como pertencer ao indivíduo se o Estado, sob a égide da tecnociência, monitora seus dados? Podemos lembrar ao leitor, para melhor exposição desta questão, o caso da Cambridge Analytica e Facebook quando na eleição de Trump.

A medida que a biotecnologia se empenha em mapear como os indivíduos decidem, paralelamente, a engenharia da informação faz uma mimese aperfeiçoada desse processo. A intenção final se encaminha para dois dobramentos: 1- as decisões humanas se mostraram menos confiáveis e 2- as decisões dos algoritmos serão mais confiáveis e demonstrarão que os humanos não decidem bem.

Harari faz previsão deste cenário até 2050, e permitirá aos governos e corporações hakear nosso sistema funcional completo, prevendo e manipulando, com precisão, sentimentos, afetos, relacionamentos como casamento, decisões, estado de saúde e tudo o mais o que se possa pensar de possibilidade de ações para o ser humano.

Se este panorama se confirmar, teremos um mundo que salta da ficção para a realidade povoada por uma humanidade que se distingue da espécie sapiens, pois se comporta como uma espécie de seres autômatos e experimentais. É possível, segundo Harari e como visto na série Onisciente, “perceber o universo inteiro como um fluxo de dados, considerar organismos pouco mais que algoritmos bioquímicos e acreditar que a vocação cósmica da humanidade é criar um sistema universal de processamento de dados – e depois fundir-se nele” (p.83).

Neste mesmo viés interpretativo, Leonard cita as megamudanças resultantes do exponencial da convergência entre as tecnologias: digitalização, mobilização/ubiquidade, automação, robotização, internet das coisas, inteligência artificial, dependência digital associada ao aprendizado de máquinas, especialmente medicina e ética digital.

As megamudanças acontecerão como consequência de uma virada simultânea combinatória entre as tecnologias disruptivas caracterizadas pela: 1- exponenciação, operando em curvas que se assemelham à Lei de Moore; 2- combinação, tendo em vista que as tecnologias se combinam entre si, acelerando o progresso e tornando obsoletos produtos recém-chegados no mercado, e 3- recorrência, refere-se ao aprendizado de máquinas que, por sua vez, coloca os humanos em estado de obsoletismo ou irrelevância.

Essa constatação de “sentimento de irrelevância” também comparece em Harari ao se referir ao mundo do trabalho nas próximas décadas. Sua observação se dirige sobre a possibilidade da substituição do trabalho humano por um cyborg ou uma IA, ressaltando que “a ameaça de perda de emprego não resulta apenas da ascensão da tecnologia da informação, mas de sua confluência com a biotecnologia” (p. 43).

Nesse contexto, poder-se-ia acrescentar às três características da convergência entre as tecnologias disruptivas apresentadas por Leonhard, a “conectividade e a atualização”. Em consonância com esta associação, Harari, anuncia o surgimento de uma nova classe social, os “inúteis” (p. 53) em decorrência da possível ameaça e substituição do trabalho humano pela IA. Soma-se a essa análise, o surgimento da nova subclasse social, os “dromoinapatos” definida por Trivinho. Nesta classe, a violência da velocidade (dromos) é a “nova estigmatização” (p.107) da sociedade. Em oposição aos dromoaptos - possuidores das senhas infotécnicas que lhes permitem trafegar e garantir sua visibilidade na sociedade dromocrática - estão os dromoinaptos, os “zumbis” (SCHNEIDER, 2019) cujos desconhecimentos e acessos das senhas infotécnicas, lhes conferem uma morte simbólica, confinados a viverem à margem daquela sociedade. O imperativo da sociedade dromocrática, explica esse autor, é o de ser veloz, em atendimento às exigências da imposição tecnológica.

Com estas breves observações, tentei elaborar um plano analítico sobre a série Onisciente, o qual me encaminho para as considerações derradeiras e provisórias, dividindo-as em dois momentos.

Primeiramente, de acordo com os autores nos quais me apoiei e na percepção que tenho do cenário atual, notadamente, sobre a tecnociência, penso que estamos vivendo um momento de ruptura paradigmática. Acredito que diante do novo panorama que se anuncia à política global, em destaque a democracia, a organização social que envolve trabalho, educação, economia e ética precisam ser revistos face à realidade que se aproxima. Isso não significa nos desfazer de princípios universais éticos e dos direitos humanos conquistados, pelo contrário, precisamos encontrar um ponto de equilíbrio entre os fins e meios da humanidade e fins e meios da tecnociência com vista as suas dinâmicas, nas quais prevaleça o indivíduo enquanto gerenciador de seus atos.

Em segundo lugar, focalizo o perfil geral dos personagens da série Onisciente no tocante ao comparecimento de seus desejos de transgredir o sistema para atender suas vontades e desvios. O desejo de transgressão não se resume à desobediência ao sistema ou a fuga de uma cultura personalizada e vigiada, mas é a chance de reencantar a vida, de buscar-se como humano em sua plenitude, na qual, a contensão não destrói o desejo pulsante, não elimina aquilo que é exilado ou se submete ao controle do sistema.

Ao ser testada, a Onisciente demonstrou sua imperfectibilidade. Nas fissuras de seu rigoroso sistema, o humano se restabelece, reafirmando que a tecnociência não é capaz (ainda) de suplantar e negar o humano. Pelas mesmas brechas por onde foi expulso, ele retorna para se apresentar com toda a sua humanidade, confirmando que a força dionisíaca é tão forte e necessária quanto a prometeica e que ambas lhes pertencem.

Geovânia Nunes de Carvalho é pedagoga no CECH/UFS e membro do Grupo de Estudos e Pesquisa em Informática na
Educação/GEPIED/UFS/CNPq.


Atualizado em: Seg, 11 de maio de 2020, 15:02
Notícias UFS