Peranti anda menilai anda. Berlakunya dengan sewajarnya.

Satu ilustrasi satu meter. Thumbs up pada satu hujung, ibu jari ke bawah yang lain.

Kemungkinan anda telah melihat “Nosedive,” episod Mirror Black terkenal yang menggambarkan dunia di mana orang biasa menilai satu sama lain berdasarkan interaksi sosial mereka. Pada pameran popular – yang mensasarkan sifat-sifat teknologi yang meluas dalam kehidupan kita dan cat gambar dystopian masa depan-penilaian ini memberi kembali algoritma komprehensif, mengira skor kredit sosial individu yang menentukan status sosioekonomi.

Dalam dunia fiktif ini, mempunyai skor rendah menghalang anda daripada menjalani kehidupan seharian anda. Anda tidak boleh menyewa kereta, menempah hotel, atau membayar penerbangan.

Tetapi cerita ini menjejaskan dekat dengan rumah bagi mereka yang tertakluk kepada sistem kredit sosial China yang berkembang. Dibina untuk meniru model kredit kewangan negara Barat, sistem Cina berfungsi dengan cara yang sama kecuali ia memberi tingkah laku yang baik (dan menghukum yang buruk) di luar pembayaran balik hutang tepat pada masanya.

Adalah mudah untuk memberi penekanan kepada negara untuk menggunakan pengaruh yang luar biasa terhadap tingkah laku warganya. Tetapi itu akan menjadi titik penting. Gaya yang lebih luas yang menjadikan model kredit sosial yang unik ini mungkin di tempat pertama adalah percambahan scanner muka, peranti digital, algoritma pembelajaran komputer, dan model data besar. Mereka berada di sini untuk kekal dan menjadi pintar dari masa ke masa.

Pengawasan adalah kuasa gelap dan misteri

Teknologi mempunyai keupayaan untuk mengubah kontrak sosial secara asasnya dan boleh, mungkin, membawa kepada penghapusan negara dalam bentuk semasa.

Sekiranya anda membaca ini, kemungkinan anda bukan penggemar pengawasan. Anda menghargai privasi anda dan anda lebih suka kerajaan tidak tahu apa yang anda lakukan 24/7. Tetapi itu kerana kita mempunyai pilihan (sesetengah daripada kita, sekurang-kurangnya) untuk hidup di dunia di mana hak kita, untuk beberapa darjah, dihormati.

Bagaimanakah perubahan tingkah laku kita jika kita hidup di dalam panopticon? Dilahirkan dari penulis falsafah British, Jeremy Bentham, sebuah panopticon merujuk kepada sebuah bangunan yang memaparkan menara pemerhatian di tengah-tengah lingkaran sel-sel penjara.

Panopticon sepatutnya memandu pulang persepsi bahawa tindakan anda boleh dipantau pada bila-bila masa. Setiap tahanan yang melihat keluar dari penjara mereka dapat melihat menara pemerhatian pusat. Tidak ada cara untuk mengetahui sama ada seorang pengawal melihatnya pada masa yang sama, tetapi tidak ada cara untuk mengelakkannya sama ada.

Bentham percaya pada tanggapan bahawa kuasa harus kelihatan lagi gelap dan misterius. Beliau berhujah bahawa hubungan individu dengan masyarakat bergantung kepadanya: Melalui pengawasan, kita akan dipaksa untuk mematuhi norma masyarakat dari segi etika, moral, dan sikap ke arah kerja.

Kredit sosial sudah ada di sini

Bentham meninggal pada awal abad ke-19, tetapi kerja dan ideanya hidup. Dan sementara panopticon sebagai model penguatkuasaan tingkah laku tidak benar-benar melepaskan tanah, kita pasti boleh membantah bahawa ia hanya alat yang berbeza.

Sebagai contoh, ambil penilaian Uber. Syarikat itu mengesahkan awal tahun ini bahawa ia akan mula mengharamkan penunggang dengan penarafan yang rendah. Pemandu dengan penilaian rendah menghadapi kesan yang sama: Mereka tidak boleh memandu untuk Uber Black di beberapa negeri, dan mereka boleh menerima lebih sedikit permintaan menunggang.

Mesej di sini mudah tetapi langsung: Jadilah sopan, ramah, atau dipotong. Jika itu bukan kawalan tingkah laku, saya tidak tahu apa itu.

Dan ini jauh dari satu-satunya manifestasi teknologi yang mengubah pilihan gaya hidup kita. Syarikat insurans ingin data Fitbit anda supaya mereka dapat memeriksa seberapa sihat anda dan, berpotensi, menyesuaikan premium anda. Sikat gigi pintar memancarkan data kembali kepada pembekal pergigian anda, jadi jika anda tidak mencuci gigi anda cukup kerap, bersiaplah untuk batuk lebih banyak wang tunai.

Kami juga bergantung kepada model-model ini. Adakah anda akan membeli produk dari penjual eBay dengan penarafan yang rendah? Berapa kerap anda membaca ulasan secara dalam talian sebelum mencuba perkhidmatan baru?

Sudah tentu, setiap contoh ini hanya mencerminkan kawasan pemantauan yang kecil, bukannya strok luas yang diambil oleh sistem kredit sosial yang dikendalikan oleh kerajaan. Tetapi ini wujud kekangan yang wujud, sebahagian besarnya, kerana syarikat-syarikat teknologi telah beroperasi dalam skop terhad mereka. Jika semua titik data ini dikimpal bersama, ia boleh memacu sistem pemantauan yang sama luas.

Ia adalah kebencian moral. Kecanduan kita kepada teknologi dan titik data yang kita bersedia menyerah membuat algoritma syarikat pintar dan teknologi lebih kaya. Walaupun mudah merungut tentang kekurangan privasi, hakikatnya teknologi hanya akan memberi kita lebih baik apabila ia tahu lebih banyak tentang kami. Ia adalah kitaran yang baik atau kejam, bergantung kepada cara anda melihatnya.

Terdapat istilah untuknya juga: kapitalisme pengawasan, dicipta oleh Shoshana Zuboff dari Harvard Business School.

Adakah privasi merupakan kecederaan teknologi yang tidak dapat dielakkan?

Apabila sistem kredit sosial berkembang di seluruh masyarakat, apakah penggunaan negara? Angkatan terpusat untuk menegakkan kebebasan dan menjamin hak asasi penting bagi masyarakat-atau mereka? Jika kita tahu bahawa peranti di dalam saku kita mampu merakam tindakan harian, tidak akan secara automatik membawa kepada perubahan tingkah laku?

Adakah anarkisme pergerakan sosial utama seterusnya? Pastinya mungkin, menurut profesor Andreas Wittel, yang berpendapat bahawa “teknologi digital mungkin membuka kemungkinan baru untuk bentuk organisasi anarkis besar-besaran.”

Ramai di antara kita mengetahui risiko privasi yang berkaitan dengan teknologi. Namun kami meminta Alexa untuk membeli barangan dan Siri untuk memeriksa laluan memandu. Kami memainkan muzik kami di Spotify, memesan makanan kami melalui Uber Eats, dan membahagikan cek kami melalui Venmo.

Teknologi di sini untuk kekal dan kebimbangan privasi tidak akan menghapusnya dari peta. Persoalan yang perlu kita perjuangkan ialah sama ada ia akan terus melayani kita, atau akhirnya ia akan menjadi sebaliknya?

Kim Martin
Kim Martin Administrator
Sorry! The Author has not filled his profile.
follow me