ONU: é urgente uma ação sobre os riscos da inteligência artificial para os direitos humanos


Segundo um novo relatório, países e empresas muitas vezes correram para incorporar aplicativos de inteligência artificial, deixando de realizar a devida diligência.


A ONU está preocupada com a inteligência artificial. O Chefe de Direitos Humanos das Nações Unidas pediu uma moratória sobre o uso de inteligência artificial que poderia representar um risco substancial para os direitos humanos, incluindo sistemas de reconhecimento facial que podem rastreá-lo em público. O relatório inicial também afirma que, se as nações não começarem a desenvolver salvaguardas eficazes agora, o lançamento de aplicativos de inteligência artificial na vida diária pode rapidamente se tornar mais prejudicial do que benéfico para a condição humana.

Países e empresas têm se esforçado para implantar a inteligência artificial

A Alta Comissária das Nações Unidas para os Direitos Humanos, Michelle Bachelet, também afirmou que os países devem proibir explicitamente todos os aplicativos de inteligência artificial que vão contra a lei de direitos humanos, enfatizando que os aplicativos de “pontuação social” não devem ser aplicados pelos governos, citando que esses sistemas prejudiciais dividem as populações humanas com base na etnia ou gênero. Enquanto ela afirma o valor de uso muito real das tecnologias de inteligência artificial na melhoria da condição humana, Bachelet advertiu que elas também podem “ter efeitos negativos, até mesmo catastróficos, se forem usadas sem considerar como afetam os direitos humanos das pessoas”, conforme a declaração.

Os comentários de Bachelet ocorreram em meio a um novo relatório das Nações Unidas que refletiu sobre como os países e empresas têm se esforçado para implementar sistemas de inteligência artificial que afetam drasticamente as vidas e meios de subsistência dos cidadãos comuns antes de garantir o estabelecimento de salvaguardas capazes de prevenir a discriminação de forma significativa, o que pode excluir pessoas de lares, empregos, cuidados de saúde e a dignidade básica dos direitos humanos. “Não se trata de não ter IA”, disse a diretora do Escritório de Direitos Humanos, Peggy Hicks, sobre o envolvimento temático durante uma apresentação em Genebra. “Trata-se de reconhecer que, se a IA for usada nessas áreas de funções de direitos humanos — muito críticas, isso deve ser feito da maneira certa”.

Segundo o relatório, países e empresas muitas vezes correram para incorporar aplicativos de inteligência artificial, deixando de realizar a devida diligência. Ele afirma que tem havido vários casos de pessoas sendo tratadas injustamente devido ao uso indevido de inteligência artificial, como não receberem benefícios da previdência social por causa de ferramentas de IA defeituosas ou presas por causa de software de reconhecimento facial defeituoso.

Outra solução cada vez mais procurada por Estados, organizações internacionais e empresas de tecnologia são as tecnologias biométricas, que, segundo o relatório, são uma área “em que mais orientações sobre direitos humanos são urgentemente necessárias”. Essas tecnologias, que incluem o reconhecimento facial, são cada vez mais utilizadas para identificar pessoas em tempo real e à distância, permitindo potencialmente o rastreamento ilimitado de indivíduos.

“E simplesmente ainda não implementamos uma estrutura que garanta que isso aconteça.” Bachelet não defendeu o banimento de toda tecnologia de reconhecimento facial, mas ela enfatizou que os governos precisam parar de escanear os recursos das pessoas em tempo real até que essas nações possam provar que a tecnologia é precisa, é livre de discriminação e atende privacidade e dados específicos protocolos de proteção.

O relatório reitera os apelos por uma moratória sobre seu uso em espaços públicos, pelo menos até que as autoridades possam demonstrar não haver problemas significativos com precisão ou impactos discriminatórios e que esses sistemas de IA cumprem com robustos padrões de privacidade e proteção de dados. Os autores do relatório das Nações Unidas decidiram não citar quais países, já que isso poderia ser contraproducente e causar reações que poderiam representar risco para os direitos humanos.

Vários processos judiciais na Austrália e nos Estados Unidos foram suficientes para revelar a implementação antiética da inteligência artificial. O escândalo do spyware Pegasus, revelado por um consórcio internacional de jornalistas em julho, demonstrou como tecnologias destrutivas atuam de forma caótica — no caso do Pegasus, espionando políticos, jornalistas e ativistas a mando de clientes da empresa privada israelense fabricante do programa; os clientes variaram de pessoas físicas, a entidades privadas a governos autoritários.

Mas o relatório das Nações Unidas também fala com cautela sobre as ferramentas projetadas para deduzir os estados mentais ou emocionais das pessoas por meio da avaliação das expressões faciais, ou movimentos corporais, uma vez que essas tecnologias são extremamente suscetíveis a preconceitos e são interpretações errôneas sem qualquer embasamento científico subjacente.

O documento também destaca a necessidade de uma transparência muito maior por parte das empresas e dos Estados em como estão desenvolvendo e usando a inteligência artificial. “A complexidade do ambiente de dados, algoritmos e modelos subjacentes ao desenvolvimento e operação de sistemas de IA, bem como o sigilo intencional do governo e atores privados são fatores que minam formas significativas para o público entender os efeitos dos sistemas de IA nos direitos humanos e na sociedade”, afirma o relatório.


Tem uma pauta?
Estamos aqui

Toda ideia tem o potencial de ser uma boa ideia. Gostamos de ouvir ideias de pauta, denúncias ou sugestões de nossos leitores. Se quiser compartilhar, conte conosco — e olha, pode ser totalmente anônimo, tá?


  • Após infiltração, grupos bolsonaristas no Telegram reforçam moderação

    Após infiltração, grupos bolsonaristas no Telegram reforçam moderação

    ,

    Dois dias após o primeiro turno das eleições, usuários de esquerda passaram a infiltrar grupos bolsonaristas no Telegram. O resultado foi o reforço da moderação por parte dos administradores, e a aposta em teorias conspiratórias.

  • Todo fascista é corno

    Todo fascista é corno

    ,

    Não é difícil entender que a vontade de escrever é nula, assim como a vontade de acordar, sair da cama e realizar que esse bando de corno não tem mais medo de cantar aos quatro ventos: “sou fascista na avenida e minha escola é a mais querida dos reaça nacional!”.

  • No Telegram, bolsonaristas espalham fake news sobre eleitores mortos votando no Nordeste

    No Telegram, bolsonaristas espalham fake news sobre eleitores mortos votando no Nordeste

    ,

    Grupos bolsonaristas no Telegram reforçam táticas xenofóbicas e criam fake news sobre eleitores mortos votando no Nordeste.

  • Anunciando um novo modelo: notas

    Anunciando um novo modelo: notas

    Anunciamos as notas, reportagens curtas sobre temas relacionados às eleições de segundo turno.

  • A falta da política externa

    A falta da política externa

    , ,

    Às vésperas da eleição mais importante desde a redemocratização, e ainda sob efeito da ressaca moral que assola o país após o clássico debate presidencial da Rede Globo, a ausência da política externa como pauta de discussão demonstra o enorme apequenamento do Brasil.

  • Pesquisa aponta que norte-americanos desaprovam  apoio militar na Ucrânia

    Pesquisa aponta que norte-americanos desaprovam apoio militar na Ucrânia

    , , ,

    Muitos americanos pensam que Biden deveria se apressar e encontrar um acordo diplomático. Mas para os apoiadores da Ucrânia, seja à esquerda ou à direita, a resposta é que Biden se apresse e vença, dando à Ucrânia mais ajuda militar e aceitando mais riscos.

Seja notificado de novas publicações, assine.

Ao se inscrever, o WordPress te atualiza gratuitamente toda vez que publicamos algo novo. Assim, você pode acompanhar nossa redação! Não se esqueça de nós seguir nas redes sociais.

A revista o sabiá é um veículo de mídia independente e sem fins lucrativos criado e equipado por jovens. Buscamos usar o jornalismo e a comunicação como um mecanismo de mudança do futuro das novas gerações.