Setahun yang lalu, tidak ada yang lebih bijak tentang apa yang akan dibawa tahun 2020, saya
merefleksikan pada momen penting di mana komunitas AI berada. Tahun sebelumnya, 2018, telah melihat serangkaian otomatis profil tinggi kegagalan, seperti
kecelakaan mobil yang mengemudi sendiri dan
alat perekrutan diskriminatif . Pada tahun 2019, bidang ini merespons dengan lebih banyak pembicaraan tentang etika AI daripada sebelumnya. Tapi bicara, kataku, tidak cukup. Kami perlu mengambil tindakan nyata. Dua bulan kemudian, virus korona mematikan dunia. Dalam realitas baru kita yang berjarak secara sosial, segala sesuatu yang jauh, percakapan tentang bahaya algoritmik ini tiba-tiba muncul di kepala. Sistem yang berada di pinggiran, seperti
algoritme pemindaian wajah HireVue dan
alat pengawasan tempat kerja , akan berjalan arus utama. Lainnya, seperti alat untuk
memantau dan mengevaluasi siswa , berputar secara real time. Pada bulan Agustus, setelah
kegagalan spektakuler pemerintah Inggris untuk mengganti ujian tatap muka dengan algoritme untuk penerimaan universitas, ratusan siswa berkumpul di London untuk bernyanyi, "Persetan dengan algoritmanya." "Ini menjadi seruan perang tahun 2020,"
tweeted peneliti akuntabilitas AI Deb Raji, ketika seorang pengunjuk rasa Stanford meneriakkannya lagi sebagai tanggapan
bencana yang berbeda beberapa bulan kemudian. Di saat yang sama, memang ada lebih banyak aksi. Dalam satu kemenangan besar, Amazon, Microsoft, dan IBM melarang atau menangguhkan penjualan pengenalan wajah mereka kepada penegak hukum, setelah pembunuhan George Floyd memicu protes global melawan kebrutalan polisi. Itu adalah puncak dari
dua tahun pertempuran oleh para peneliti dan aktivis hak-hak sipil untuk menunjukkan efek tidak efektif dan diskriminatif dari teknologi perusahaan. Perubahan lain kecil namun penting: untuk pertama kalinya, NeurIPS, salah satu konferensi penelitian AI yang paling terkemuka, mengharuskan peneliti untuk
mengirimkan pernyataan etika dengan kertas mereka. Jadi di sini kita berada di awal 2021, dengan lebih banyak perhatian publik dan regulasi terhadap pengaruh AI daripada sebelumnya. Resolusi Tahun Baru saya: Mari kita hitung. Berikut adalah lima harapan yang saya miliki untuk AI di tahun mendatang.
Mengurangi pengaruh perusahaan dalam penelitian
Raksasa teknologi memiliki kendali yang tidak proporsional atas arah penelitian AI. Ini telah menggeser arah bidang secara keseluruhan ke arah semakin besar data dan model besar, dengan beberapa konsekuensi. Ini meledakkan dampak iklim dari kemajuan AI, mengunci laboratorium yang terbatas sumber daya untuk berpartisipasi di lapangan, dan menyebabkan penyelidikan ilmiah yang lebih lambat dengan mengabaikan berbagai pendekatan lain yang memungkinkan. Seperti yang diungkapkan Google
atas Timnit Gebru , raksasa teknologi akan dengan mudah membatasi kemampuan untuk menyelidiki konsekuensi lain juga. Tetapi sebagian besar pengaruh perusahaan bermuara pada uang dan kurangnya pendanaan alternatif. Seperti yang saya tulis tahun lalu di
profil OpenAI saya , lab awalnya hanya mengandalkan donor independen dan kaya. . Taruhan itu terbukti tidak berkelanjutan, dan empat tahun kemudian, OpenAI menandatangani kesepakatan investasi dengan Microsoft. Harapan saya adalah kita akan melihat lebih banyak pemerintah melangkah ke dalam kekosongan ini untuk menyediakan opsi pendanaan yang tidak terkait dengan pertahanan bagi para peneliti. Ini tidak akan menjadi solusi yang sempurna, tetapi ini akan menjadi permulaan. Pemerintah terikat pada publik, bukan pada intinya.
Fokus kembali pada pemahaman akal sehat
Perhatian yang luar biasa pada model yang lebih besar dan lebih buruk telah menutupi salah satu tujuan utama penelitian AI: untuk
membuat mesin cerdas yang tidak hanya mencocokkan pola tetapi benar-benar memahami makna. Meskipun pengaruh perusahaan merupakan kontributor utama tren ini, ada juga penyebab lainnya. Konferensi penelitian dan publikasi peer-review sangat menekankan pada pencapaian hasil "state of the art". Tapi yang mutakhir adalah
sering diukur dengan buruk oleh tes yang dapat dikalahkan dengan lebih banyak data dan lebih besar model. Bukan berarti model skala besar tidak pernah bisa mencapai pemahaman yang masuk akal. Itu masih pertanyaan terbuka. Tetapi ada cara lain untuk penelitian yang membutuhkan investasi lebih besar. Beberapa ahli telah bertaruh pada
neurosymbolic AI , yang menggabungkan pembelajaran mendalam dengan sistem pengetahuan simbolik. Yang lain bereksperimen dengan
teknik yang lebih probabilistik yang menggunakan lebih sedikit data, terinspirasi oleh kemampuan anak manusia untuk belajar dari sedikit contoh. Pada tahun 2021, saya berharap bidang ini akan menyesuaikan kembali insentifnya untuk memprioritaskan pemahaman daripada prediksi. Hal ini tidak hanya dapat mengarah pada sistem yang lebih kuat secara teknis, tetapi peningkatan tersebut juga memiliki implikasi sosial yang besar. Kerentanan sistem pembelajaran dalam saat ini untuk dibodohi, misalnya, merusak keamanan
mobil tanpa pengemudi dan menimbulkan kemungkinan berbahaya untuk
senjata otonom . Ketidakmampuan sistem untuk membedakan antara korelasi dan sebab akibat juga merupakan akar dari diskriminasi algoritmik
.
Memberdayakan peneliti yang terpinggirkan
Jika algoritme mengkodifikasi nilai dan perspektif penciptanya, banyak orang harus hadir di meja ketika algoritme dikembangkan. Saya tidak melihat bukti yang lebih baik dari ini selain pada Desember 2019, ketika saya menghadiri NeurIPS. Tahun itu, dengan catatan jumlah perempuan dan pembicara minoritas serta peserta, saya bisa merasakan tenor dari prosesnya
bergeser secara nyata . Ada lebih banyak pembicaraan daripada sebelumnya yang bergulat dengan pengaruh AI di masyarakat. Saat itu saya memuji masyarakat atas kemajuannya. Tapi
Perlakuan Google terhadap Gebru , salah satu dari sedikit wanita kulit hitam terkemuka di industri, menunjukkan seberapa jauh yang harus dilakukan. Keragaman dalam jumlah tidak ada artinya jika individu-individu tersebut tidak diberdayakan untuk membawa pengalaman hidup mereka ke dalam pekerjaan mereka. Saya optimis, bagaimanapun, gelombang sedang berubah. Titik nyala yang ditandai dengan penembakan Gebru berubah menjadi momen refleksi kritis bagi industri. Saya berharap momentum ini mengarah pada perubahan sistemik yang tahan lama.
Pusatkan perspektif komunitas yang terkena dampak
Ada juga kelompok lain untuk dibawa ke meja. Salah satu tren paling menarik dari tahun lalu adalah kemunculan
pembelajaran mesin partisipatif . Ini adalah provokasi untuk menemukan kembali proses pengembangan AI untuk memasukkan mereka yang pada akhirnya menjadi subjek algoritme. Pada bulan Juli, lokakarya konferensi pertama
yang didedikasikan untuk pendekatan ini mengumpulkan a berbagai ide tentang seperti apa bentuknya. Saran termasuk prosedur tata kelola baru untuk meminta umpan balik masyarakat; metode audit model baru untuk menginformasikan dan melibatkan publik; dan desain ulang sistem AI yang diusulkan untuk memberi pengguna lebih banyak kendali atas pengaturan mereka. Harapan saya di tahun 2021 adalah melihat lebih banyak ide-ide ini dieksplorasi dan diadopsi dengan sungguh-sungguh. Facebook sudah memulai: jika menindaklanjuti dengan mengizinkan dewan pengawas eksternal untuk membuat perubahan yang mengikat pada kebijakan moderasi konten platform, struktur tata kelola dapat menjadi mekanisme umpan balik yang layak untuk ditiru.
Menyusun rel pengaman ke dalam peraturan
Sejauh ini, upaya akar rumput telah memimpin gerakan untuk mengurangi kerusakan algoritmik dan meminta pertanggungjawaban raksasa teknologi. Tapi itu akan terserah pada regulator nasional dan internasional untuk mendirikan rel penjaga yang lebih permanen. Kabar baiknya adalah anggota parlemen di seluruh dunia telah menonton dan sedang merancang undang-undang. Di AS, anggota Kongres telah memperkenalkan tagihan ke mengatasi pengenalan wajah, bias AI, dan deepfakes. Beberapa dari mereka juga
mengirim surat ke Google pada bulan Desember mengungkapkan niat mereka untuk terus mengejar peraturan ini. Jadi harapan terakhir saya untuk tahun 2021 adalah kita melihat beberapa dari tagihan ini berlalu. Saatnya kita menyusun apa yang telah kita pelajari selama beberapa tahun terakhir, dan menjauh dari fiksi swa-regulasi.
Komentar
Posting Komentar