Seminario etica dos dados

trabalho comum da faculdade postado aqui

ASPECTOS IDEOLÓGICOS DO USO DE DADOS

 

 

 

 

 

 

 

 

 

 

 

 

JOINVILLE

2022

DASLAN MATEUS ALVES DE MESQUITA

RAFAEL GUSTAVO REINERT

RICHARD BIDIN SANTOS

 

 

 

 

 

 

 

 

 

 

 

 

ASPECTOS IDEOLÓGICOS DO USO DE DADOS

 

Trabalho acadêmico apresentado à disciplina de Ética e legislação na computação do Curso Engenharia de Software da Universidade Univille.

 

 

 

 

 

 

 

 

 

 

 

 

JOINVILLE

2022

SUMÁRIO

 

1.	INTRODUÇÃO
2.	USO INDEVIDO DE DADOS
2.1	VIES NO DESENVOLVIMENTO
2.2	O QUE ESTÁ SENDO FEITO PARA REDUZIR O PROBLEMA
3.	CONSIDERACOES FINAIS

1.         INTRODUÇÃO

A partir da criação da internet, a sociedade em geral, seja ela uma organização, grupo ou individuo, sofreram grandes transformações, que impactam seu modo de pensar e agir. Isso ficou mais evidente nos últimos anos com grandes escândalos envolvendo gigantes da tecnologia. O uso excessivo de dados coletados de usuários da rede de forma não consensual é uma ferramenta poderosa e manipuladora, usada por grandes corporações para mapear seus perfis ideológicos e padrões de consumo, com isso, conseguem fazer anúncios personalizados e direcionados gerando muito lucro.

É inevitável disponibilizarmos nossos dados, informações pessoais na internet, haja vista que, tudo necessita de cadastro e login para ser acessado na rede. Muitas plataformas obrigam o usuário a fazer um cadastro, necessitando informar nome completo, endereço, CPF e muitos outros dados que rompem a barreira da privacidade. Com isso, para poder desfrutar de todos os recursos que os sites disponibilizam, o usuário acaba aceitando os termos de privacidade, e quase nunca os lê, autorizando o uso e manipulação de seus dados por terceiros.

 

2.         Uso Indevido DE DADOS

O uso indevido dos dados para fins ideológicos impacta no poder de decisão do indivíduo, criando bolhas sociais que excluem qualquer outra forma de pensamento, gerando um ambiente hostil e perigoso para uma democracia. Esse cenário corrobora cada vez mais para criar indivíduos alienados e inseridos como produtos no modelo de negócio das empresas responsáveis por gerenciar tais plataformas.

Abaixo vamos ler um trecho retirado da entrevista de David Lyon com o celebre Zygmunt Bauman sobre a vigilância contemporânea, reiterando que existe uma sedução dos consumidores, criadas não apenas pelo Estado, gerando novos negócios e capital, confira:

Sempre que entro no site da Amazon, sou agora recebido por uma série de títulos “selecionados especialmente para você, Zygmunt”. Dado o registro de minhas compras de livros anteriores, é alta a probabilidade de que eu fique tentado. E em geral o sou! Obviamente, graças à minha cooperação diligente, ainda que involuntária, os   servidores da Amazon agora conhecem meus hobbies ou preferências melhores do que eu. (BAUMAN, 2014, p. 85)

A Google possui um mecanismo de pesquisa que se molda conforme múltiplas variáveis, como: local, histórico, seguidores, conta, entre outras. Notou-se que diferentes pessoas realizando uma mesma pesquisa gera diferentes resultados. Por exemplo, caso alguém realize uma pesquisa em um local onde pessoas geralmente não acreditam no aquecimento global. Ao pesquisar sobre o tema, os resultados tendem a negar o fato comprovado cientificamente, e vice-versa. Esse mecanismo induz um viés nos usuários dessas plataformas, que acabam sendo manipulados conforme suas pesquisas. Se antes o usuário era influenciado apenas em conversas feitas pessoalmente, atualmente não é mais necessário, basta estar em um ambiente cuja maioria das pessoas acreditem em algo, e a tecnologia com seus algoritmos farão o resto.

Partindo de um exemplo hipotético, um grupo de hackers sabendo como funciona o algoritmo do Google de pesquisa resolve realizar um processo que consiste em usar bots que interagem exibindo o viés de alguma opinião. Por exemplo, de que o desarmamento é algo positivo. Esses bots poderiam então, acessar sites de forma a perturbar o algoritmo do Google para que mais pessoas sejam influenciadas digitalmente a acreditar que armar a população é a solução.

Vale ressaltar que a manipulação ideológica não é exclusividade da tecnologia com a internet. Antes dela, já havia métodos de manipulação, porém, a internet potencializou, globalizou e padronizou esse feito.

Ainda sobre o Google, ele possui o buscador mais usado mundialmente. Deixando a população extremamente suscetível ao seu funcionamento, já que possui cerca de 5,5 bilhões acessos por dia. Esses algoritmos se baseiam em massas, mas nem sempre as massas estão corretas, por exemplo, a maioria da população brasileira pensa que manga ingerido juntamente com leite faz mal, algo que já foi refutado cientificamente, mas que continua muito presente na cultura brasileira.

Recentemente uma ex-funcionária da empresa Meta (antigo Facebook) Frances Haugen, denunciou a empresa que trabalhava por querer lucrar acima de tudo, sem considerar a privacidade e bem-estar de seus usuários. Ela juntou vários documentos e os expos para a sociedade, vazando vários relatórios que evidenciam o descaso que a empresa tem em combater, por exemplo fake news, tudo isso ficou conhecido como Facebook Papers. Além disso, seus algoritmos causam efeitos negativos em adolescentes, impactando na saúde mental dos jovens, gera manipulações políticas e ideológicas, dividindo opiniões resultando em sérios conflitos, esses são alguns das consequências causadas pelo algoritmo da empresa.

 

2.1         VIES NO DESENVOLVIMENTO

Máquinas não possuem acesso a verdade, ou seja, a elas apenas executam programas da forma que foram programadas. Elas não possuem a capacidade de verificar ou definir por conta própria, a não ser que foram desenvolvidas para executar esse processamento.

Todos os dados possuem vieses ideológicos, não existe banco de dados neutro, logo, mesmo que as instruções dadas ao computador sejam neutras, por trabalhar com dados a saída será enviesada, tais vieses potencializam outros, gerando as famosas bolhas. No caso em questão, o viés é aplicado a ferramenta de pesquisa do google, com o autopreenchimento tendo a tendencia, na qual potencializa a visibilidade de uma informação por determinados usuários.

Outro exemplo famoso ocorre ao se pesquisar sobre a eficácia de Paulo Freire na educação brasileira. Os primeiros resultados tendem a ser sites que defendem seu método, firmando serem bons, já os últimos resultados tendem a ser sites que negam a eficácia do método Paulo freire, afirmando ser o responsável pela ineficiência da educação Brasileira.

É possível pagar a buscadores para que seu site suba no ranking de pesquisas, sendo assim, sites enviesados com donos afortunados podem pagar para que seu site apareça nos primeiros lugares nas pesquisas. Considerando que as pessoas tendem a acessar mais apenas os sites acima nos resultados, esses buscadores dão a seus clientes pagantes, o poder de influenciar determinados assuntos como queiram.

Um artigo chamado “The search engine manipulation effect (SEME) and its possible impact on the outcomes of elections” analisou as consequências do fato das pessoas preferirem acessar os primeiros resultados de uma pesquisa. E concluiu que as pessoas lembram com maior facilidade do conteúdo das primeiras páginas, pois pensam que são mais importantes e por isso estão nos primeiros lugares. Também associa o design de lista com um experimento psicológico na qual se tende a lembrar facilmente do último e primeiro item da lista.

Utilizando mecanismos de busca simulados, candidatos receberam assuntos para pesquisar. Cada buscador possuía um viés de tendencia para com algum candidato. E em 3 experimentos distintos, concluiu-se que houve uma possível manipulação principalmente em pessoas indecisas. Essa informação reflete o quão grave isso pode ser. Visto que em diversos casos, eleições são decididas pela minoria indecisa.

Em situações em que as pessoas notaram o enviesamento elas se defenderam psicologicamente, mas em situações mais sutis não houve defesa psicológica adequada.

2.2         o que está sendo feito para reduzir o problema

A pandemia teve papel muito forte e positivo no combate a manipulação por fake news. Durante a pandemia do COVID 19 que deu início em 2019, a internet incorporou métodos que reduziram a propagação de notícias falsas, que entre outras espalhavam por exemplo que o vírus era uma conspiração mundial e que não passava de uma simples gripe que poderia ser tratada como qualquer outra.

Tal mecanismo se aplicou também ao usuário não-conspiracionista, pois a internet não silenciou a teoria da conspiração, ainda era possível pesquisar sobre a covid e achar as conspirações e as não conspirações, ou seja, não houve enviesamento ideológico sério, mas não foi totalmente ausente, pois a tecnologia forçava as pessoas a negarem a conspiração.

Empresas que fazem parte desse poder de espalhar notícias falsas tomaram algumas decisões em seus produtos que ajudaram e ajudam até hoje a evitar a disseminação de notícias falsas.

O Whatsapp por exemplo, passou a ter uma funcionalidade onde, se uma mensagem é compartilhada um certo número de vezes, ela terá uma etiqueta informando que compartilhamentos múltiplos ocorreram. Dando uma sensação de dúvida para quem as lê.

Outro exemplo é o Instagram e o Youtube, que com a ajuda de inteligência artificial, consegue identificar falsas notícias sendo divulgadas em postagem e vídeos de suas plataformas. Essas então, são ou removidas automaticamente, ou caso o algoritmo não consiga definir uma precisão mínima definida pelas empresas, a postagem é exibida com uma etiqueta de que o assunto foi considerado errôneo, pedindo para que quem as lê, pesquise sobre o assunto.

Para que tais efeitos manipulatórios sejam contrabalanceados, a área de TI deverá desenvolver algoritmos que deem uma “segunda visão” ao usuário. Por exemplo, caso o usuário seja acredite na conspiração da terra plana, deixar que a pesquisa mostre contra-argumentos a ideias como essa.

 

 

 

3.         CONSIDERACOES FINAIS

Um mecanismo de busca deve ser imparcial, pois a função de levar alguém a votar é do site do político, não do sistema que leva a este site. O mesmo deve acontecer com as redes sociais. Para se ter um maior engajamento na causa, é essencial a participação direta dos profissionais de TI, com o objetivo de fomentar debates na esfera pública e privada, com intuito de informar e conscientizar os usuários de como seus dados são tratados pelos fornecedores de tecnologia. Isso também gera uma pressão em cima das empresas que comercializam e manipulam os dados de seus clientes. Com isso, a longo prazo, espera-se criar uma transparência por partes das grandes corporações tecnológicas, como Google, Meta, Amazon etc. Além disso cabe aos governos endurecer as leis que regem o setor, punindo de forma severa quem não as cumpre de maneira correta, obrigando todas as empresas a se adequarem as regras do país em questão.

REFERENCIAS

Robert Epstein, Ronald E Robertson. The search engine manipulation effect (SEME) and its possible impact on the outcomes of elections. PNES, 4 Agosto. 2015. Disponível em: https://www.pnas.org/doi/full/10.1073/pnas.1419828112. Acesso em: 15 setembro. 2022.

 

Marcos Pędłowski. A democracia do Google, Facebook e YouTube? Apontamentos sobre o viés ideológico dos motores de busca. Fevereiro 23 2018. Disponível em: https://blogdopedlowski.com/2018/02/23/a-democracia-do-google-facebook-e-youtube-apontamentos-sobre-o-vies-ideologico-dos-motores-de-busca. Acesso em: 14 Setembro 2022.

 

Susan L Gerhat. Do web searches engines suprees controvery? Peer-Reviewed journal on the internet .5 Janeiro 2004. Disponível em: https://journals.uic.edu/ojs/index.php/fm/article/view/1111/1031. Acesso em: 16 setembro 2022.

 

Alveni Lisboa, Douglas Ciriaco. O que é Facebook Papers e porque você deveria se importar com isso. 12 novembro 2021. Disponível em: https://canaltech.com.br/redes-sociais/o-que-e-facebook-papers-201573. Acesso em: 17:09/2022