Ваши уређаји вас оцењују. Поступите према томе.

Илустрација метра. Палац горе на једном крају, палац на другом.


Вероватно сте видели „Носедиве“, злогласну епизоду Црног огледала која приказује свет у којем обични људи оцењују једни друге на основу својих друштвених интеракција. На популарној емисији – која има за циљ раширену природу технологије у нашим животима и слика дистопијску слику будућности – ове оцене се враћају у свеобухватни алгоритам рачунајући појединачне оцене социјалних кредита које одређују социоекономски статус.

У овом измишљеном свету, низак резултат спречава вас да се бавите свакодневницом. Не можете унајмити аутомобил, резервисати хотел или платити летове.

Али ова прича делује алармантно близу куће за оне који су подложни развоју кинеског система социјалних кредита. Изграђен да реплицира западни модел резултата финансијских кредита, кинески систем делује на сличан начин осим што награђује добро понашање (и кажњава лоше) осим правовремене отплате дуга.

Лако је опоменути државу због великог утицаја на понашање својих грађана. Али то би недостајало кључна поента. Шира сила која омогућава овај јединствени модел друштвеног кредитирања на првом месту је ширење скенера за лице, дигиталних уређаја, алгоритама машинског учења и великих података. Они су ту да остану и временом постану интелигентнији.

Надзор је мрачна и мистериозна сила

Технологија има способност фундаменталне трансформације наших друштвених уговора и можда би могла довести до елиминације националне државе у њеном тренутном облику.

Ако ово читате, велике су шансе да нисте љубитељ надзора. Цените своју приватност и радије бисте да влада не зна шта радите 24/7. Али то је зато што имамо избор (барем неки од нас) да живимо у свету у којем се наша права, у одређеној мери, поштују.

Како би се наше понашање променило да живимо у паноптикону? Рођен из радова британског филозофа Јеремија Бентхама, паноптикон се односи на зграду која садржи осматрачнички торањ у центру круга затворских ћелија.

Паноптицон би требао да покрене код куће перцепцију да би ваше радње могли да се надгледају у било ком тренутку. Сваки затвореник који гледа из своје затворске ћелије може видети централни осматрачки торањ. Не може се поуздано знати да ли их стражар гледа истог тренутка, али ни начин да се то избегне.

Бентхам је веровао у идеју да моћ треба бити видљива мрачна и тајанствена. Тврдио је да однос појединца према друштву зависи од тога: Кроз надзор бисмо били приморани да се придржавамо друштвених норми у погледу етике, морала и става према раду..

Социјални кредити су већ овде

Бентхам је умро у раном 19. веку, али његов рад и идеје живе даље. И док паноптикон као модел примене понашања није заиста сишао са тла, сигурно можемо да тврдимо да су то само алати који су различити.

Узмимо, на пример, Убер оцене Компанија је раније ове године потврдила да ће почети забрањивати возаче са ниским рејтингом. Возачи с ниским оцјенама суочавају се са сличним посљедицама: У неким државама не могу возити за Убер Блацк и могли би примити мањи број захтјева за вожњу.

Порука је овде једноставна, али директна: Будите пристојни, пријатељски расположени или се одсеците. Ако то није контрола понашања, не знам шта је.

А то је далеко од једине манифестације технологије која мијења наш избор начина живота. Осигуравајуће компаније желе ваше Фитбит податке како би провјериле колико сте здрави и потенцијално прилагодили премије. Паметне четкице за зубе шаљу податке вашем стоматолошком даватељу, тако да ако не перете зубе довољно често, спремите се да искашљате више новца.

Дошли смо и да се ослонимо на ове моделе. Да ли бисте икад купили производ од продавца са еБаи-а са ниском оценом? Колико често читате рецензије на мрежи пре него што испробате нову услугу?

Наравно, сваки од ових примера одражава само малу област праћења, а не широки удар система социјалних кредита који управља влада. Али ово наизглед суздржаност постоји, већим делом, због тога што технолошке компаније послују у оквиру својих ограничених опсега. Ако би све ове тачке података били спојени заједно, то би могло потицати слично широко надгледани систем праћења.

То је морална неприлика. Наша зависност о технологији и тачкама података којих смо се спремни одрећи чине алгоритме паметнијима и технолошким компанијама богатијима. Иако се лако жалити на недостатак приватности, чињеница је да ће нам технологија боље служити само кад о нама сазна више. То је крепостан или зачаран циклус, зависно од тога како посматрате.

За то постоји и термин: надзорни капитализам, сковао га је Схосхана Зубофф из Харвард Бусинесс Сцхоол.

Да ли је приватност неизбежна жртва технологије?

Како се системи социјалног кредитирања шире у читавом друштву, чему користи држава? Централизоване снаге за подржавање слободе и гарантовање основних права су од суштинског значаја за друштва – или јесу? Да знамо да су уређаји у нашим џеповима способни да бележе свакодневне радње, не би то аутоматски довело до промена у понашању?

Да ли је анархизам следећи велики друштвени покрет? То је сигурно могуће, каже професор Андреас Виттел, који тврди да би „дигиталне технологије могле отворити нове могућности за велике облике анархистичке организације“.

Многи од нас су свесни ризика приватности повезаних са технологијом. Ипак тражимо од Алека да нам купи ствари, а Сири да провери руте за вожњу. Ми пуштамо нашу музику на Спотифи-у, наручујемо храну путем Убер Еатс-а и делимо чекове преко Венмо-а.

Технологија је ту да остане и брига о приватности неће је избрисати са мапе. Питање са којим бисмо се требали суочити је да ли ће нас и даље служити или ће на крају бити обрнуто?

Kim Martin Administrator
Sorry! The Author has not filled his profile.
follow me
    Like this post? Please share to your friends:
    Adblock
    detector
    map