A Revolução Tecnológica é geralmente percebida como neutra e emancipatória. A narrativa cultural dominante sobre a tecnologia, em muito influenciada – se não criada – pelo Vale do Silício, a considera uma fonte de liberdade, produtividade e democratização do conhecimento. Essa narrativa inspira a ideia de que a tecnologia é objetiva e neutra, livre de ideologias, e que novas tecnologias são implementadas sempre com a finalidade de aumentar a eficiência de determinados processos, trazendo, portanto, maior liberdade ao ser humano.  

O estudo da neutralidade tecnológica – por seus defensores e opositores – é tomado por diversas teorias que tentam explicar como e, porque a tecnologia pode, ou não, ser neutra.  No entanto, defende-se aqui que as tecnologias e seus usos são moldados pelo sistema econômico, social e político em que se inserem e, sendo assim, não podem se ver livres de vieses e ideologias, em maior ou menor grau.

Para além de discussões mais aprofundadas que discorrem sobre a possibilidade de esses vieses serem intrínsecos ou extrínsecos ao artefato, fato é que a tecnologia não pode ser considerada neutra por apresentar propriedades políticas.

Começando a pensar no mito da neutralidade tecnológica devemos pensar no monopólio intelectual das Big Tech – grandes empresas de tecnologia, como Google ou Facebook – que dominam o pensamento coletivo sobre o papel da tecnologia na sociedade enquanto exercem a mediação digital de tudo por meio do extrativismo de dados massificados. Tal conjunto de empresas realiza a modulação de comportamentos por meio da coleta massiva de dados e da criação de algoritmos para identificação e classificação de pessoas em perfis específicos que servem para impulsionar comportamentos, criando valor e capital. Nesse sentido, o principal modelo de negócios dessas corporações – e os algoritmos utilizados para esse fim – está longe de ser neutro.

O algoritmo do Facebook responsável por organizar o feed de postagens e notícias atua de modo a selecionar quem receberá quais postagens a partir da análise dos dados coletados e dos comportamentos dos usuários na rede social, sendo os critérios dessa seleção desconhecidos. Isso cria uma bolha informacional, em que um individuo só receberá aquilo que já demonstrou interesse anteriormente, acabando com a liberdade de escolha sobre o que se quer saber, bem como com a capacidade de pensamento crítico, já que não o usuário das redes sociais dificilmente entra em contato com aquilo que não concorda.  Esse modelo de negócio serve à lógica de acumulação do capitalismo, na medida em que mais dados significam maior controle sobre o comportamento humano e, logo, maiores receitas e controle de mercado

No mesmo sentido, existem tecnologias que são inerentemente perigosas, pois são criadas para aumentar o poder de quem as controla sobre outras pessoas, produzindo efeitos próprios de governos autoritários, como é o caso das tecnologias de reconhecimento facial de câmeras instaladas em locais públicos, bem como outros tipos de reconhecimento biométrico, o quais possuem a capacidade de identificar, seguir, selecionar e rastrear os cidadãos onde quer que eles estejam, minando direitos humanos e liberdades civis e políticas, como o direito à privacidade, à liberdade de reunião e de associação, à liberdade de expressão e os direitos à igualdade e à não discriminação.

O reconhecimento facial e biométrico remoto são tecnologias inerentemente contrárias aos direitos e liberdades fundamentais, são tecnologias autoritárias by design, que, entre outros riscos, agravam o encarceramento em massa de jovens negros das periferias, como mostra pesquisa da Rede de Observatórios de Segurança, realizada em 2019[1]. De acordo com a pesquisa, 90,5% das pessoas presas em virtude das câmeras com reconhecimento facial eram negras, o que sugere que a tecnologia de certa forma automatizou o racismo estrutural do sistema de justiça criminal brasileiro, possuindo fortes vieses raciais.

A realidade mostra, portanto, que as tecnologias que estão sendo implementadas hoje, em sua maioria, servem a um propósito político e/ou econômico maior que a simples ideia de eficiência e liberdade promovida por quem as cria. Elas servem aos propósitos de quem as criam e as controlam, sendo um desses propósitos o desejo por poder, autoridade e privilégio de umas pessoas sobre as outras. Assim, quem possui o domínio das tecnologias dita suas finalidades. Esse é o ponto central: quem possui o domínio das tecnologias hoje?

Em uma sociedade governada por tecnologias que são dominadas por corporações, a narrativa da neutralidade tecnológica torna-se perigosa, não só por inspirar a normalização de tecnologias que tem o potencial de ferir direitos, mas por inspirar a busca da solução de problemas em mais tecnologias, sem refletir sobre seus potenciais riscos. A necessidade de mudar a narrativa da neutralidade tecnológica é urgente.

[1] NUNES, Pablo. Levantamento revela que 90,5% dos presos por monitoramento facial no Brasil são negros.  CESeC, 21 nov. 2019. Disponível em: https://cesecseguranca.com.br/artigo/levantamento-revela-que-905-dos-presos-por-monitoramento-facial-no-brasil-sao-negros/. Acesso em: 29 jun. 2021.

Sabiá

revista o sabiá é uma revista independente, digital e sem fins lucrativos. Surgimos com o propósito de democratizar o acesso à informação de qualidade para a juventude brasileira, seja ela a informação acadêmica, jornalística, científica ou cultural.

Acreditamos que tanto o jornalismo como a comunicação possuem o potencial de mudar o mundo, sendo necessário reaver a sua função social. Ao longo da história moderna, o senso comum costuma lembrar do lado negativo que a imprensa ao contribuir ou participar de narrativas políticas polêmicas. Nós, pelo contrário, gostamos de pensar que a imprensa teve um papel essencial em eventos como o Maio de 1968, a Primavera Árabe e muitos outros.