Perhatian ekonomi Big Tech dapat direformasi. Begini caranya.

Minggu ini massa yang kejam melancarkan serangan terbesar di Capitol, tempat kedudukan demokrasi Amerika, dalam lebih dari 200 tahun, didorong oleh keyakinan yang salah bahwa pemilihan presiden telah dicuri. Penulis utama klaim itu adalah Presiden Donald Trump, tetapi kesiapan massa untuk percaya bahwa itu sebagian besar adalah produk dari ekonomi perhatian yang diciptakan oleh teknologi modern. Umpan berita di Facebook atau Twitter beroperasi pada model bisnis yang mengkomodifikasi perhatian miliaran orang per hari, menyortir tweet, kiriman, dan grup untuk menentukan mana yang paling banyak mendapat keterlibatan (klik, tampilan, dan berbagi) —apa yang paling emosional reaksi. Platform perhatian yang mengkomodifikasi ini telah membelokkan jiwa kolektif. Mereka telah mengarah ke pandangan dunia yang lebih sempit dan lebih gila. Algoritme rekomendasi YouTube, yang menentukan 70% waktu tonton harian untuk miliaran orang, "menyarankan" apa yang dimaksudkan sebagai video serupa, tetapi sebenarnya mendorong penonton ke konten yang lebih ekstrem, lebih negatif, atau lebih konspiratorial karena itulah yang membuat mereka tetap di layar lebih lama. Selama bertahun-tahun, YouTube merekomendasikan "inspirasi" —video yang mempromosikan anoreksia — kepada gadis remaja yang menonton video tentang "diet". Dan ketika orang-orang menonton video sains tentang pendaratan di bulan oleh NASA, YouTube merekomendasikan video tentang teori konspirasi Bumi datar. Itu terjadi ratusan juta kali. Umpan berita dan sistem rekomendasi seperti ini telah menciptakan spiral negatif dan paranoia yang menurun, perlahan-lahan memisahkan miliaran persepsi orang tentang realitas dari kenyataan itu sendiri. Melihat kenyataan dengan jelas dan jujur ​​merupakan dasar dari kemampuan kita untuk melakukan apapun. Dengan menguangkan dan mengkomodifikasi perhatian, kita telah menjual kemampuan kita untuk melihat masalah dan memberlakukan solusi kolektif. Ini bukanlah hal baru. Hampir setiap kali kita membiarkan sistem pendukung kehidupan planet atau masyarakat kita dikomodifikasi, hal itu mendorong kerusakan lainnya. Saat Anda mengkomodifikasi politik dengan iklan bertarget mikro yang dioptimalkan oleh AI, Anda menghilangkan integritas dari politik. Ketika Anda mengkomodifikasi makanan, Anda kehilangan kontak dengan siklus hidup yang membuat pertanian berkelanjutan. Saat Anda mengkomodifikasi pendidikan menjadi umpan konten digital, Anda kehilangan keterkaitan antara pengembangan manusia, kepercayaan, perhatian, dan otoritas guru. Saat Anda mengkomodifikasi cinta dengan mengubah orang menjadi kartu remi di Tinder, Anda memutuskan tarian kompleks yang terlibat dalam menjalin hubungan baru. Dan saat Anda mengkomodifikasi komunikasi menjadi potongan postingan dan utas komentar di Facebook, Anda menghapus konteks, nuansa, dan rasa hormat. Dalam semua kasus ini, sistem ekstraktif perlahan-lahan mengikis fondasi masyarakat yang sehat dan planet yang sehat.

Menggeser sistem untuk melindungi perhatian

EO Wilson, ahli biologi terkenal, mengusulkan agar manusia hanya menjalankan separuh Bumi, dan sisanya harus dibiarkan sendiri. Bayangkan sesuatu yang serupa untuk ekonomi perhatian. Kami dapat dan harus mengatakan bahwa kami ingin melindungi perhatian manusia, meskipun itu mengorbankan sebagian dari keuntungan Apple, Google, Facebook, dan perusahaan teknologi besar lainnya. Pemblokir iklan di perangkat digital adalah contoh menarik tentang apa yang bisa menjadi perubahan struktural di dunia digital. Apakah pemblokir iklan adalah hak asasi manusia? Jika setiap orang dapat memblokir iklan di Facebook, Google, dan situs web, internet tidak akan dapat mendanai dirinya sendiri, dan ekonomi periklanan akan kehilangan pendapatan dalam jumlah besar. Apakah hasil itu meniadakan hak? Apakah perhatian Anda benar? Apakah Anda memilikinya? Haruskah kita memberi harga untuk itu? Menjual organ manusia atau memperbudak orang dapat memenuhi permintaan dan menghasilkan keuntungan, tetapi kami mengatakan barang-barang ini tidak termasuk di pasar. Seperti halnya manusia dan organnya, haruskah perhatian manusia menjadi sesuatu yang tidak dapat dibeli dengan uang?

Apakah perhatian Anda benar? Apakah Anda memilikinya? Haruskah kita memberi harga untuk itu? Seperti halnya manusia dan organnya, haruskah perhatian manusia menjadi sesuatu yang tidak dapat dibeli dengan uang?

Pandemi Covid-19, gerakan Black Lives Matter, dan perubahan iklim serta krisis ekologi lainnya telah membuat semakin banyak orang sadar betapa rusaknya sistem ekonomi dan sosial kita. Tapi kita tidak sampai ke akar dari krisis yang saling berhubungan ini. Kami jatuh untuk intervensi yang terasa seperti jawaban yang benar tetapi sebaliknya adalah jebakan yang secara diam-diam mempertahankan status quo. Praktik polisi dan kamera tubuh yang sedikit lebih baik tidak mencegah kesalahan polisi. Membeli Prius atau Tesla tidak cukup untuk benar-benar menurunkan kadar karbon di atmosfer. Mengganti sedotan plastik dengan yang dapat terurai secara hayati tidak akan menyelamatkan lautan. Langkah Instagram untuk menyembunyikan jumlah "suka" tidak mengubah masalah kesehatan mental remaja, ketika layanan tersebut didasarkan pada perbandingan sosial yang konstan dan pembajakan sistemik dari dorongan manusia untuk berhubungan. Kami membutuhkan reformasi sistemik yang lebih dalam. Kita perlu menggeser institusi untuk melayani kepentingan publik dengan cara yang sesuai dengan sifat dan skala tantangan yang kita hadapi. Di Center for Humane Technology, satu hal yang kami lakukan adalah meyakinkan Apple, Google, dan Facebook untuk mengadopsi — setidaknya sebagian — misi "Menghabiskan Waktu dengan Baik" bahkan jika itu bertentangan dengan kepentingan ekonomi mereka. Ini adalah gerakan yang kami luncurkan melalui kampanye dan advokasi kesadaran media publik yang luas, dan ini mendapatkan kepercayaan dari para perancang teknologi, orang tua yang peduli, dan siswa. Ini menyerukan untuk mengubah insentif dunia digital dari perlombaan untuk "waktu yang dihabiskan" di layar dan aplikasi menjadi "perlombaan ke puncak" untuk membantu orang menghabiskan waktu dengan baik. Ini telah menyebabkan perubahan nyata bagi miliaran orang. Apple, misalnya, memperkenalkan fitur "Durasi Layar" pada Mei 2018 yang kini dikirimkan dengan semua iPhone, iPad, dan perangkat lainnya. Selain menunjukkan kepada semua pengguna berapa banyak waktu yang mereka habiskan di ponsel mereka, Waktu Layar menawarkan dasbor kontrol orang tua dan batas waktu aplikasi yang menunjukkan kepada orang tua berapa banyak waktu yang dihabiskan anak-anak mereka untuk online (dan apa yang mereka lakukan). Google meluncurkan inisiatif serupa Kesejahteraan Digital sekitar waktu yang sama. Ini mencakup fitur lebih lanjut yang kami sarankan, seperti memudahkan mencabut sebelum tidur dan membatasi pemberitahuan. Sejalan dengan itu, YouTube memperkenalkan pemberitahuan "Istirahat". Perubahan ini menunjukkan bahwa perusahaan rela berkorban, bahkan dalam ranah miliaran dolar. Meskipun demikian, kami belum mengubah logika inti dari perusahaan-perusahaan ini. Bagi perusahaan, melakukan sesuatu yang bertentangan dengan kepentingan ekonominya adalah satu hal; melakukan sesuatu yang bertentangan dengan DNA dari tujuan dan tujuannya adalah hal yang berbeda sama sekali.

Bekerja menuju tindakan kolektif

Kita membutuhkan reformasi yang mendalam dan sistemik yang akan menggeser perusahaan teknologi untuk melayani kepentingan publik terlebih dahulu dan terutama. Kita harus berpikir lebih besar tentang seberapa besar kemungkinan perubahan sistemik, dan bagaimana memanfaatkan kemauan kolektif masyarakat. Baru-baru ini di Center for Humane Technology, kami mewawancarai Christiana Figueres, mantan sekretaris eksekutif Konvensi PBB tentang Perubahan Iklim (2010-2016) , untuk podcast kami Your Undivided Attention. Dia bertanggung jawab atas "diplomasi kolaboratif" yang mengarah pada Perjanjian Paris, dan kami belajar bagaimana dia bisa melakukan ini — untuk membuat 195 negara berbeda, melawan segala rintangan, untuk membuat resolusi bersama dengan niat baik untuk mengatasi perubahan iklim. Figueres awalnya tidak percaya bahwa banyak negara dapat menyetujui, tetapi dia menyadari bahwa dengan sukses menjadi tuan rumah Konvensi Paris berarti dia sendiri harus berubah. Dia harus benar-benar percaya bahwa mungkin saja negara-negara tersebut berkomitmen untuk aksi iklim. Begitulah cara dia kemudian bisa fokus untuk membuat negara-negara peserta percaya pada kemungkinan mengatasi perubahan iklim juga. Ketika negosiasi iklim internasional sebelumnya gagal, upaya Figueres menyatukan negara-negara untuk menyepakati pembiayaan, teknologi baru, dan alat lain untuk menjaga kenaikan suhu global di bawah 2 atau, bahkan lebih baik, 1,5 ° C. Dalam kasus industri teknologi, kami memiliki permulaan yang tidak perlu meyakinkan ratusan negara atau jutaan orang. Kurang dari 10 orang menjalankan infrastruktur digital paling kuat di abad ke-21 — yang disebut perusahaan FAANG, yang terdiri dari Facebook, Amazon, Apple, Netflix, dan Alphabet (sebelumnya Google). Jika orang-orang itu berkumpul dan sepakat bahwa memaksimalkan keuntungan pemegang saham bukan lagi tujuan bersama, infrastruktur digital bisa berbeda. Jika Christiana Figueres dapat mewujudkan konsensus antara 195 negara, kami dapat mempertimbangkan kemungkinan melakukannya dengan 10 CEO teknologi.

Ekonomi baru teknologi manusiawi

Beberapa prinsip ekonomi perlu diubah agar teknologi dapat sejalan dengan umat manusia dan planet ini. Salah satunya adalah paradigma pertumbuhan. Anda tidak bisa begitu saja menjalankan logika pertumbuhan tak terbatas pada substrat berhingga. Dorongan untuk pertumbuhan ekonomi yang tak terbatas mengarah pada krisis ekologi planet. Bagi perusahaan teknologi, mengejar pertumbuhan tak terbatas dari perhatian manusia yang diekstraksi akan mengarah pada krisis kesadaran global dan kesejahteraan sosial yang serupa. Kita perlu beralih ke ekonomi perhatian pasca-pertumbuhan yang menempatkan kesehatan mental dan kesejahteraan di pusat hasil yang kita inginkan.

Beberapa prinsip ekonomi perlu diubah agar teknologi selaras dengan umat manusia dan planet ini.

Sedikit petunjuk dari pergeseran ini terjadi di negara-negara termasuk Selandia Baru dan Skotlandia, di mana organisasi seperti Wellbeing Economy Alliance bekerja untuk beralih dari ekonomi yang mempromosikan produk domestik bruto (PDB) ke ekonomi dengan prioritas alternatif ini. Para pemimpin bertanya bagaimana kesejahteraan dapat menginformasikan pemahaman publik tentang kebijakan dan pilihan politik, memandu keputusan, dan menjadi landasan baru untuk pemikiran dan praktik ekonomi. Pergeseran lain menuju teknologi yang lebih manusiawi membutuhkan pemangku kepentingan yang lebih luas yang dapat menciptakan akuntabilitas untuk dampak sosial jangka panjang dari tindakan kita. Saat ini, perusahaan teknologi besar dapat menghasilkan uang dengan menjual potongan perhatian "palsu" yang lebih tipis dan lebih tipis — menjual klik palsu dari sumber berita palsu kepada pengiklan palsu. Perusahaan-perusahaan ini menghasilkan uang bahkan jika tautan atau artikel mengarah ke sangat salah dan menyebarkan informasi yang salah. Oportunisme ini merendahkan ekologi informasi dengan menghancurkan kapasitas kita untuk mempercayai sumber pengetahuan atau berbagi keyakinan tentang apa yang benar, yang pada gilirannya menghancurkan kapasitas kita untuk membuat keputusan yang baik. Hasilnya adalah polarisasi, misinformasi, dan rusaknya kewarganegaraan demokratis. Kita perlu membuat mekanisme yang mendorong peserta di dunia digital untuk mempertimbangkan kerangka waktu yang lebih lama dan dampak yang lebih luas dari tindakan mereka terhadap masyarakat. Kehendak manusia memainkan peran penting di sini. Bagaimana jika para pemimpin di balik model distribusi pendapatan App Store Apple — yang bertindak sebagai bank sentral atau Federal Reserve dari ekonomi perhatian — hanya memilih untuk mendistribusikan pendapatan kepada pembuat aplikasi berdasarkan bukan pada pengguna siapa yang paling banyak membeli barang virtual atau menghabiskan sebagian besar waktu menggunakan aplikasi, tetapi siapa di antara pembuat aplikasi yang paling baik bekerja sama dengan aplikasi lain di telepon untuk membantu semua anggota masyarakat hidup lebih berdasarkan nilai-nilai mereka? Pada akhirnya hal itu tergantung pada penetapan aturan yang tepat. Sulit bagi satu aktor untuk mengoptimalkan kesejahteraan dan keselarasan dengan nilai-nilai masyarakat ketika pemain lain masih bersaing untuk mendapatkan sumber daya dan kekuasaan yang terbatas. Tanpa aturan dan pagar pembatas, aktor paling kejam menang. Oleh karena itu, diperlukan undang-undang dan kebijakan, bersama dengan kemauan kolektif masyarakat untuk memberlakukannya. Meta-krisis yang lebih besar adalah bahwa proses demokrasi untuk membuat pagar pembatas beroperasi pada kecepatan yang jauh lebih lambat daripada kecepatan perkembangan teknologi yang diperlukan untuk membuat perbedaan. Teknologi akan terus berkembang lebih cepat daripada bahaya yang dapat dipahami dengan baik oleh lembaga demokrasi abad ke-20. Sektor teknologi itu sendiri perlu bersatu, kolaboratif, dan menemukan cara untuk beroperasi sehingga tujuan masyarakat bersama ditempatkan di atas persaingan ketat dan memaksimalkan keuntungan. Terakhir, kita perlu mengenali kekuatan asimetris yang sangat besar yang dimiliki perusahaan teknologi terhadap individu dan masyarakat. Mereka mengenal kita lebih baik daripada kita mengenal diri kita sendiri. Setiap struktur kekuasaan asimetris harus mengikuti model fidusia atau "kewajiban perawatan" yang dicontohkan oleh guru, terapis, dokter, atau pekerja perawatan yang baik — artinya, struktur itu harus bekerja untuk melayani mereka yang memiliki kekuasaan lebih kecil. Itu tidak boleh beroperasi dengan model bisnis yang didasarkan pada ekstraksi. Model bisnis yang ditingkatkan untuk teknologi perlu generatif: mereka perlu ulangi kami sebagai pelanggan dan bukan produk, dan selaras dengan nilai-nilai dan kemanusiaan kami yang paling dalam.

Menuju menjadi manusia

EO Wilson pernah berkata, "Masalah dengan umat manusia adalah kita memiliki emosi Paleolitik, institusi abad pertengahan, dan teknologi seperti dewa." Kita perlu merangkul emosi paleolitik kita dalam semua kelemahan dan kerentanan tetap mereka. Kita perlu meningkatkan institusi kita untuk memasukkan lebih banyak kebijaksanaan, kehati-hatian, dan cinta. Dan kita perlu memperlambat pengembangan teknologi seperti dewa yang kekuatannya melampaui kapasitas kita untuk mengarahkan arah kapal tempat kita semua berada. Dunia tentang apa yang mungkin terus berkembang, tetapi hal itu muncul bersamaan dengan masalah global yang menantang secara eksponensial yang membutuhkan informasi, kepemimpinan, dan tindakan yang lebih baik. Daripada menerima perlombaan ke bawah yang menurunkan dan memecah belah kita, kita dapat bersama-sama menciptakan lanskap teknologi yang memungkinkan perlombaan menuju puncak — yang mendukung interkoneksi, kesopanan, dan kecemerlangan kita yang dalam. Saya yakin, perubahan itu mungkin secara manusiawi. Tristan Harris adalah salah satu pendiri dan presiden Center for Humane Technology. Esai ini adalah kutipan yang diadaptasi dari Kemungkinan Baru: Visi Dunia Kita Melampaui Krisis , akan diterbitkan pada 26 Januari 2021, oleh Cascade Books.