Seus dispositivos estão classificando você. Comporte-se de acordo.

Uma ilustração de um medidor. Polegares para cima de um lado, polegares para baixo do outro.


Provavelmente, você já viu “Nosedive”, o famoso episódio do Black Mirror que descreve um mundo em que as pessoas comuns se classificam com base em suas interações sociais. No programa popular – que visa a natureza difundida da tecnologia em nossas vidas e mostra uma imagem distópica do futuro -, essas classificações retornam a um algoritmo abrangente, calculando as pontuações individuais de crédito social que determinam o status socioeconômico.

Nesse mundo fictício, ter uma pontuação baixa o impede de seguir sua vida cotidiana. Você não pode alugar um carro, reservar um hotel ou pagar voos.

Mas essa história chega assustadoramente perto de casa para aqueles sujeitos ao sistema de crédito social em evolução da China. Construído para replicar o modelo ocidental de pontuação de crédito financeiro, o sistema chinês funciona de maneira semelhante, exceto por recompensar o bom comportamento (e punir o mal), além de pagamentos pontuais de dívidas..

É fácil admoestar um estado por exercer grande influência sobre o comportamento de seus cidadãos. Mas isso estaria faltando um ponto-chave. A força mais ampla que possibilita esse modelo único de crédito social é a proliferação de scanners faciais, dispositivos digitais, algoritmos de aprendizado de máquina e modelos de big data. Eles estão aqui para ficar e se tornar mais inteligentes ao longo do tempo.

A vigilância é uma força sombria e misteriosa

A tecnologia tem a capacidade de transformar fundamentalmente nossos contratos sociais e pode, talvez, levar à eliminação do estado-nação em sua forma atual.

Se você está lendo isso, é provável que não seja fã de vigilância. Você valoriza sua privacidade e prefere que o governo não saiba o que está fazendo 24 horas por dia, 7 dias por semana. Mas é porque temos a opção (pelo menos alguns de nós) de viver em um mundo em que nossos direitos, até certo ponto, sejam respeitados.

Como nosso comportamento mudaria se vivêssemos dentro de um panóptico? Nascido dos escritos do filósofo britânico Jeremy Bentham, um panóptico refere-se a um edifício com uma torre de observação no centro de um círculo de celas.

Um panóptico deve levar em consideração a percepção de que suas ações podem ser monitoradas a qualquer momento. Todo prisioneiro que olha pela cela é capaz de ver a torre de observação central. Não há como saber com segurança se um guarda está olhando para eles no mesmo instante, mas também não há como evitar..

Bentham acreditava na noção de que o poder deveria ser visível, mas sombrio e misterioso. Ele argumentou que o relacionamento de um indivíduo com a sociedade dependia disso: por meio da vigilância, seríamos forçados a obedecer às normas da sociedade em termos de ética, moral e atitudes em relação ao trabalho.

Os créditos sociais já estão aqui

Bentham morreu no início do século 19, mas seu trabalho e idéias continuam vivos. E, embora o panóptico como modelo de imposição de comportamento não tenha realmente decolado, certamente podemos argumentar que são apenas as ferramentas que são diferentes.

Vamos dar as classificações do Uber, por exemplo. A empresa confirmou no início deste ano que começaria a proibir ciclistas com baixas classificações. Motoristas com classificações baixas enfrentam repercussões semelhantes: eles não podem dirigir para o Uber Black em alguns estados e podem receber menos solicitações de viagem.

A mensagem aqui é simples, mas direta: seja educado, amigável ou seja cortado. Se isso não é controle de comportamento, não sei o que é.

E isso está longe de ser a única manifestação da tecnologia que altera nossas escolhas de estilo de vida. As companhias de seguros desejam seus dados Fitbit para que possam verificar como você está saudável e, potencialmente, ajustar seus prêmios. As escovas de dentes inteligentes estão transmitindo dados de volta para o seu dentista; portanto, se você não escovar os dentes com frequência, prepare-se para gastar mais dinheiro.

Também passamos a confiar nesses modelos. Você compraria um produto de um vendedor do eBay com uma classificação baixa? Com que frequência você lê comentários on-line antes de tentar um novo serviço?

Obviamente, cada um desses exemplos reflete apenas uma pequena área de monitoramento, não o amplo golpe dado por um sistema de crédito social administrado pelo governo. Mas essa restrição aparente existe, em grande parte, porque as empresas de tecnologia têm operado dentro de seus escopos limitados. Se todos esses pontos de dados fossem soldados juntos, poderia alimentar um sistema de monitoramento de amplo alcance semelhante.

É um dilema moral. Nosso vício em tecnologia e os pontos de dados que estamos dispostos a desistir tornam os algoritmos mais inteligentes e as empresas de tecnologia mais ricas. Embora seja fácil reclamar por falta de privacidade, o fato é que a tecnologia só nos servirá melhor quando souber mais sobre nós. É um ciclo virtuoso ou vicioso, dependendo de como você o vê.

Há um termo para isso também: capitalismo de vigilância, cunhado por Shoshana Zuboff, da Harvard Business School.

A privacidade é uma vítima inevitável da tecnologia?

Como os sistemas de crédito social proliferam por toda a sociedade, qual é a utilidade do estado? Forças centralizadas para defender a liberdade e garantir direitos fundamentais são essenciais para as sociedades – ou são? Se soubermos que os dispositivos em nossos bolsos são capazes de registrar ações cotidianas, isso não levaria automaticamente a mudanças comportamentais?

O anarquismo é o próximo grande movimento social? É certamente possível, de acordo com o professor Andreas Wittel, que argumenta que “as tecnologias digitais podem abrir novas possibilidades para formas de organização anarquista em larga escala”.

Muitos de nós estão cientes dos riscos de privacidade associados à tecnologia. No entanto, pedimos à Alexa para nos comprar coisas e à Siri para verificar as rotas de carro. Tocamos nossa música no Spotify, pedimos comida através do Uber Eats e dividimos nossos cheques via Venmo.

A tecnologia chegou para ficar e as preocupações com a privacidade não a apagam do mapa. A questão com a qual devemos lidar é se continuará a nos servir ou, eventualmente, será o contrário.?

Kim Martin Administrator
Sorry! The Author has not filled his profile.
follow me
    Like this post? Please share to your friends:
    Adblock
    detector
    map