Ada masalah toksisitas dalam komunitas pembelajaran mesin

Keracunan ada di mana-mana.



Pertama , proses peer review telah terganggu. Seperempat makalah dari konferensi NeurIPS diunggah ke arXiv. DeepMind memiliki peneliti yang secara terbuka melecehkan pengulas yang mengkritik pengajuan ICLR mereka. Selain itu, artikel dari lembaga terkenal dengan arXiv diterima di konferensi terkemuka, bahkan jika pengulas memutuskan untuk menolak karya tersebut. Sebaliknya, beberapa artikel dengan ulasan paling positif ditolak (Saya tidak ingin menyebutkannya, cukup lihat halaman openreview ICRL tahun ini).



Kedua , ada krisis reproduksibilitas . Rupanya, menyetel hyperparameter pada set tes telah menjadi praktik standar saat ini. Artikel yang tidak mengungguli metode terbaik saat ini memiliki peluang nol diterima di konferensi yang baik. Akibatnya, hyperparameters di-tweak untuk mencapai keuntungan kinerja di mana tidak ada yang tersedia.



Ketiga , ada masalah ibadah. Setiap artikel yang terkait dengan Stanford atau DeepMind dipuji sebagai terobosan. Misalnya, BERT memiliki kutipan tujuh kali lebih banyak daripada ULMfit. Milik Google memberi artikel banyak kredibilitas dan visibilitas. Pada setiap konferensi ICML, kerumunan orang berdiri di depan setiap poster DeepMind, terlepas dari konten karya tersebut. Ini adalah cerita yang sama dengan pertemuan Zoom di konferensi virtual ICLR 2020. Selain itu, NeurIPS 2020 menerima aplikasi dua kali lebih banyak dari ICML, meskipun kedua konferensi berada pada level tertinggi. Mengapa? Mengapa kata "saraf" begitu dipuji? Selanjutnya, Bengio, Hinton dan LeCune [pemenang Turing Award 2018 untuk Penelitian AI - sekitar. Memang memang pelopor pembelajaran mendalam, tetapi menyebut mereka "para ayah baptis AI" itu gila. Ini sudah menjadi kultus.



keempatYang LeCun agak lunak tentang tema bias dan keadilan. Namun, sebagai respons, toksisitas yang diterima sepenuhnya tidak memadai dan reaksi negatif. Menyingkirkan LeCoon dan membungkam orang itu bukanlah solusi.



Kelima , pembelajaran mesin dan ilmu komputer pada umumnya memiliki masalah ketimpangan yang sangat besar(perbedaan). Di fakultas CS kami, hanya 30% dari siswa dan 15% dari profesor adalah wanita. Mengambil cuti orang tua selama studi pascasarjana atau doktoral biasanya berarti akhir karier akademis. Namun, ketidaksetaraan ini sering disalahgunakan sebagai alasan untuk melindungi beberapa orang dari segala bentuk kritik. Mengurangi setiap komentar negatif dalam diskusi ilmiah tentang ras dan gender menciptakan lingkungan yang beracun. Orang takut untuk berpartisipasi dalam diskusi kalau-kalau mereka dicap rasis atau seksis, yang pada gilirannya memperburuk masalah ketidaksetaraan.



Keenam , moralitas dan etika diatur secara sewenang-wenang. Dalam setiap diskusi, politik domestik AS mendominasi. Pada saat ini, ribuan orang Uyghur dikirim ke kamp konsentrasi berdasarkan algoritma visi komputer yang ditemukan oleh komunitas ini, dan tampaknya tidak ada yang peduli sama sekali. Menambahkan bagian "Dampak Lebih Luas" di akhir setiap makalah tidak akan menyelesaikan masalah ini. Tumpukan omong kosong diangkat ketika beberapa peneliti tidak disebutkan dalam sebuah artikel. Sementara itu, benua Afrika, dengan populasi 1 miliar, hampir dikecualikan dari setiap diskusi yang bermakna tentang ML (terlepas dari beberapa lokakarya Indaba).



Ketujuh , mentalitas tersebar luasketik "terbitkan atau mati". Jika Anda tidak mempublikasikan 5+ artikel setahun di konferensi NeurIPS / ICML, Anda gagal. Tim peneliti telah tumbuh sangat besar sehingga penyelia bahkan tidak ingat nama-nama semua mahasiswa pascasarjana. Beberapa mengirimkan lebih dari 50 entri ke NeurIPS per tahun. Satu-satunya tujuan artikel ini adalah untuk menambahkan artikel NeurIPS lain ke resume. Kualitasnya adalah sekunder; tujuan utamanya adalah melalui tahap pratinjau.



Akhirnya , diskusi menjadi tidak sopan. Jurgen Schmidhuber, Pemenang Hadiah Helmholtz dari International Society of Neural Networks, menyebut Royal Society of London Jeffrey Hinton sebagai pencuri, Timnit Gebra, warga Ethiopia-Amerika, dan co-director dari Ethical Artificial Intelligence Team di Google, menyebut "bapak baptis AI" Jan LeCun, direktur penelitian I Caltech, sebagai direktur supernatural kulit putih. di Nvidia, Anima Anandkumar menyebut Geometric Intelligence CEO dan penulis buku Gary Markus seksis. Semua orang diserang, tetapi tidak ada yang lebih baik.



Albert Einstein menentang mekanika kuantum . Bisakah kita berhenti menjelekkan mereka yang tidak sependapat dengan pandangan kita? Mari kita biarkan orang tidak setuju dengan tidak memotong leher mereka.



Saat kita diam orang karena pendapat mereka, kemajuan ilmiah dan sosial mati begitu saja.