DeepMind Ontol: Sumber Daya AI Paling Bermanfaat di Dunia

gambar




Para ilmuwan dari DeepMind telah menyusun Daftar Sumber Daya yang Dikuratori dari materi pendidikan bagi mereka yang ingin menghubungkan kehidupan mereka dengan AI dan pembelajaran mesin. Saya menyebut koleksi ini "ontol" - daftar hal-hal yang membentuk gambaran dunia pada masalah tertentu, diberi peringkat berdasarkan kepentingan dan disusun oleh orang yang masih hidup, seorang spesialis yang secara reputasi bertanggung jawab atas daftar ini (sehingga tidak ada pemasaran dan omong kosong yang bias di dalamnya).



Seperti yang direncanakan, jika sepuluh perusahaan teratas di bidang AI meminta spesialis terkemuka mereka (masing-masing) untuk membuat pilihan bahan terbaik yang membentuk mereka sebagai spesialis, maka kita akan mendapatkan berbagai koleksi (daftar sumber daya 10/100 teratas + nama penyusun) dan berdasarkan ini, akan menarik kesimpulan menarik (a) pada kualitas bahan, yang harus diajarkan pertama-tama b) pada kualitas spesialis yang dapat menyoroti hal utama c) sesuatu yang lain). Inilah cara kami akan "menandai" semua teks / video terbuka di bidang AI. Kemudian kita akan membahas topik-topik lain: makanan, kepercayaan, pekerjaan hidup, keluarga, kerja sama, distorsi kognitif, dan sebagainya - apa yang membentuk gambaran dunia.



Uji prototipe beta.ontol.org dan berlangganan ke saluran @Ontol



Daftar Isi





Safety



Neuroscience

Natural Language Processing

Machine Learning

Deep Learning

Reinforcement Learning

Unsupervised Learning and Generative Models







21 Definisi Keadilan dan Politik Mereka (video) - Arvind Narayanan membahas berbagai definisi keadilan dan kompromi mereka yang mereka wakili kepada masyarakat.



Fairness and Machine Learning Book (buku, video) - Tinjauan keadilan dalam topik yang terkait dengan pembelajaran mesin.



Kursus Keadilan Universitas Harvard (video) - Kuliah yang mendalam dan menarik tentang keadilan dan filsafat moral ( Terjemahan ).



NeurIPS 2017 Tutorial tentang Keadilan dalam Pembelajaran Mesin (video) - Solon Barokaz dan Moritz Hardt membahas secara rinci elemen-elemen keadilan sosioteknik dalam pembelajaran mesin.



Masalah dengan Bias - NeurIPS 2017 (video) - Keith Crawford membahas implikasi etnik bias dalam sistem kecerdasan buatan.



Keamanan



Tinjauan Literatur Keselamatan AGI (Publikasi) - Tinjauan yang sangat baik dari literatur keselamatan AI umum sebelum 2018 dengan ratusan referensi untuk studi lebih lanjut.



Newsletter Alignment AI oleh Rohin Shah - Newsletter mingguan yang merangkum karya terbaru tentang keamanan AI.



Keamanan AI Saluran YouTube oleh Robert MIles (video) - Video mendidik dan menghibur yang memperkenalkan pemirsa konsep-konsep kunci untuk keamanan kecerdasan buatan umum.



Masalah-masalah nyata dalam keamanan AI (publikasi) - Tinjauan yang bermanfaat tentang keamanan kecerdasan buatan, asli dan artikelnya telah menjadi klasik di bidang keamanan AI.



Kompatibel dengan Manusia: Kecerdasan Buatan dan Masalah Kontrol oleh Stuart Russell (buku) - Buku yang harus dibaca tentang keamanan AI oleh AI asli.



Teori dan konsep dasar



3Blue1Brown Youtube channel (video) - Seri tutorial yang sangat baik. Video dari awal pada aljabar linier dan jaringan saraf sangat berguna.



Visi Aljabar Linier 2020 (Gilbert Strang, MIT) (video) - Meringkas secara singkat seluruh kursus tentang aljabar linier dengan detail teknis: bagaimana aljabar linier diterapkan dalam kehidupan nyata, dan khususnya di bidang pembelajaran mesin.



Kursus Pembelajaran Mesin Andrew Ng ( kursus online) - Kursus pembelajaran mesin yang sangat praktis dan ekstensif. Karena kursus ada di Coursera, tugas Anda dapat dinilai dan asisten dan pelajar lain dapat membantu Anda dengan materi pelajaran.



Inferensial Kausal dalam Statistik: A Primer(pracetak online) - Pengantar kesimpulan kausal yang bagus. Ini adalah cetakan dari versi lengkap dari buku terbaru.



Inferensial Kausal: Bagaimana Jika (buku online) - Sebuah buku baru tentang kesimpulan sebab akibat.



David MacKay, video kursus teori informasi (video) - Meliputi berbagai bidang identitas korporat McKay.



Kursus David MacKay tentang Teori Informasi, Pengenalan Pola, dan Jaringan Saraf Tiruan (video) - Kursus David MacKay yang legendaris tentang Teori Informasi, Deteksi Pola Data, dan Jaringan Saraf Tiruan.



Fondasi teoritik-keputusan untuk kausalitas statistik (artikel online) - Cara alternatif untuk merumuskan operasi derivasi kausal.



Kuliah musim panas di Deep Bayes dan bahan-bahan lab(video) - Kuliah dan tugas praktis tentang pemodelan probabilistik dan pelatihan Bayesian.



Elemen Inferensial Kausal: Yayasan dan Algoritma Pembelajaran (buku online) - Buku ini memperkenalkan pembaca pada kesimpulan sebab-akibat dengan cara yang sederhana dan terjangkau.



Essence of Linear Algebra (3blue1brown) (video) - Memberikan pemahaman yang sangat baik tentang ide-ide kunci dalam aljabar linier tanpa masuk ke rincian teknis. Menemani buku pelajaran aljabar linear tradisional atau kursus perguruan tinggi.



Blog Francis Bach - Petunjuk dan kiat bermanfaat, analisis mendalam tentang berbagai konsep pembelajaran mesin.



Kursus perusahaan intelijen manusia (materi kursus ) - Sejarah kecerdasan manusia.



Apakah Matematika Topologi Abstrak Berlaku untuk Dunia Nyata? (video) - Pendahuluan adalah deskripsi yang sangat baik tentang dasar-dasar topologi. Lokakarya secara meyakinkan menjelaskan aplikasi spesifik.



Kursus KhanAcademy (video) - Pengantar yang sangat baik untuk pemula dalam statistik, teori probabilitas, matematika, yang diperlukan untuk memahami pembelajaran mesin.



Belajar dari Kursus data - Caltech (video) - Pengantar pembelajaran mesin yang rapi. Penjelasan topik yang sangat jelas.



Catatan Kuliah di Monte Carlo (catatan kursus) - Penjelasan singkat tentang metode Monte Carlo.



Matematika untuk Pembelajaran Mesin (buku) - Buku yang luar biasa yang mencakup konsep matematika dasar yang diperlukan untuk pembelajaran mesin.



Kursus Pembelajaran Mesin MIT ( kursus online) - Kursus 2006 yang luar biasa tentang dasar-dasar (dan sekarang sejarah) pembelajaran mesin sebelum pembelajaran yang mendalam dan banyak tingkatan abstraksi menjadi arus utama.



Kursus Nando de Freitas tentang Pembelajaran Mesin (video) - Kursus yang berguna dan presentasi tentang pembelajaran mesin.



Princeton Companion to Mathematics (book) - Mungkin sumber matematika paling mencolok dari semuanya. Buku ini memberikan ikhtisar terperinci dari konsep-konsep paling penting dalam matematika modern, tanpa latar belakang dalam format cerita pengantar tidur yang diproklamirkan sendiri - menyenangkan, mudah dimengerti, dan intuitif.



Penguasa proyek(Komunitas Pemecahan Masalah) - Serangkaian masalah matematika dan ilmu komputer yang menantang untuk memberi energi pada otak. Mereka sangat menarik untuk dipecahkan, dan pengetahuan yang diperoleh akan membantu Anda dalam karier Anda di bidang pembelajaran yang mendalam.



Kursus Teori Pembelajaran Statistik ( kursus online) - Kursus dasar pembelajaran mesin gratis yang ditargetkan untuk orang-orang dengan latar belakang matematika diajarkan oleh profesor Hasti dan Tibshirani.



Mencekik Semua Ide Kunci Aljabar Linier dalam 1 Pelajaran (video) - Laconic, komprehensif.



The Book of Why (bab-bab dari buku ini) - Pengantar yang mudah untuk inferensi kausal dan penyimpangan sejarah ke dalam perkembangannya.



Ilmu saraf



Brain Podcast Terinspirasi (podcast) - Podcast yang menggabungkan neuroscience dan kecerdasan buatan.



Center for Brains Minds + Machines Summer School Lectures (video) - Ceramah dari Woods Hole Summer School tentang Komputasi * Kognitif * Neurobiologi (lebih lanjut tentang kognisi, perilaku, dan hubungan tingkat tinggi dengan pembelajaran mesin).



Computational Cognitive Modeling @ NYU (slide dan teks) - Tinjauan umum pendekatan komputasi untuk memodelkan kognisi manusia, terkait erat dengan kecerdasan buatan dan pembelajaran mesin.



Model komputasi neokorteks (Catatan kelas) - Interdisipliner dan canggih.



Kuliah dari Metode di Sekolah Lubang Musim Panas Hutan Neuroscience Komputasi(video) - Ceramah dari yang terkenal Woods Hole Summer School pada sistem * komputasi * neurobiologi (lebih pada siklus dan properti sistem otak)



Tingkat Marr Analisis (Visi 1982, Bab 1) (bab dari buku) - Sempurna menjelaskan dengan contoh-contoh menggunakan contoh-contoh algoritma yang bermanfaat seperti EM. Berfungsi sebagai tambahan yang bagus untuk buku Bishop.



Kursus Musim Panas Otak, Pikiran, dan Mesin MIT (video) - Kursus kelulusan di persimpangan ilmu kognitif, neurobiologi, dan kecerdasan buatan.



Model Probabilistic of Cognition (tutorial interaktif) - Tutorial interaktif yang menjelaskan penggunaan model probabilistik untuk membuat dan memodelkan perilaku yang menyerupai manusia.



Tantangan memahami otak: di mana kita berdiri pada 2015(publikasi) - Tinjauan yang baik tentang ilmu saraf dari perspektif biologi.



Theoretical Neuroscience (buku online) - Pengantar populer untuk neurobiologi teoretis.



Pemrosesan bahasa alami



Pengenalan Kode-pertama untuk Pemrosesan Bahasa Alami (video) - Pengantar pemrosesan bahasa alami untuk orang-orang dengan latar belakang teknis.



A Primer pada Model Jaringan Neural untuk Pemrosesan Bahasa Alami (publikasi) - Tinjauan yang jelas tentang bagaimana jaringan saraf digunakan dalam pemrosesan bahasa alami.



CS224n: Pemrosesan Bahasa Alami dengan Pembelajaran Jauh (video) - Kursus Stanford tentang Pemrosesan Bahasa Alam Modern.



Kemajuan NLP (daftar dataset dan hasil) - Situs web berbasis komunitas yang mencantumkan sejumlah besar tugas, kumpulan data, dan hasil pemrosesan bahasa alami modern.



Kursus Oxford / DM NLP 2017(kuliah kuliah) - Kursus kuliah lanjutan tentang pemrosesan bahasa alami, dibaca di Oxford oleh DeepMinder.



Pidato dan Pemrosesan Bahasa (buku) - Referensi otoritatif untuk pemrosesan bahasa alami - sekarang dalam 3D dan tersedia online.



The Annotated Transformer (posting blog) - Pengantar yang bagus untuk model dominan dari pemrosesan bahasa alami.



Pembelajaran mesin



Amimi Coursera Machine Learning: Algoritma di Dunia Nyata Spesialisasi (kursus online) - Tinjauan yang sangat baik tentang pembentukan dan identifikasi masalah pembelajaran mesin dan solusi mereka.



Bayesian Reasoning and Machine Learning (buku online) - Dasar-dasar Penalaran dan Pemodelan Probabilistik.



David MacKay, Dasar-Dasar Proses Gaussian (video) - Pengantar paling mudah diakses dan intuitif untuk proses Gaussian.



Buku David MacKay "Teori Informasi, Inferensi, dan Algoritma Pembelajaran" (buku) - David MacKay menyajikan perspektif unik tentang hubungan antara teori informasi, inferensi, dan pembelajaran. Gaya tulisannya unik, seperti humor dalam buku.



Masuk ke pembelajaran mesin (blog) - Sebuah blog untuk mereka yang ingin melakukan pembelajaran mesin.



Catatan kuliah tentang Pembelajaran Mesin (ringkasan) - Sinopsis dari kuliah Herbert Jager tentang pembelajaran mesin. Jelaskan banyak dasar dan standar topik pembelajaran mesin. Ditulis dengan sangat baik (hampir seperti buku).



Machine Learning di UBC 2012 (video) - 2012 kursus pembelajaran mesin dari University of British Columbia.



Pembelajaran Mesin, Probabilitas dan Model Grafis (Sam Roweis) (video) - Penjelasan hebat model grafis oleh Sam Roweis yang legendaris.



Peringkat kursus online ML (daftar sumber daya) - Tinjauan yang cukup komprehensif dari kursus pembelajaran mesin online teratas.



Kursus Pembelajaran Mesin Stanford (video) - Pengantar kursus pembelajaran mesin.



Klasik Minggu(daftar sumber daya) - Kumpulan karya klasik tentang semua topik dalam pembelajaran mesin, ilmu kognitif, statistik, teori informasi, neurobiologi, kecerdasan buatan, pemrosesan sinyal, penelitian operasi, ekonometrik, dll.



WEKA: meja kerja untuk pembelajaran mesin (sumber daya online) - Seperangkat besar perangkat lunak bebas untuk pengenalan data, visualisasi data, klasifikasi, regresi, pemilihan fitur, dan dasar ilmu data. Saya terus menggunakan sumber daya ini untuk mengajar orang lain untuk melihat pola dalam data dan menghargai seberapa banyak sistem dapat melihat dan menggunakan pola ini dan pola yang lebih kompleks.



David MacKay, semua videolectures (video) - Nama David McKay terkenal di lapangan, terutama dalam statistik dan pembelajaran mesin probabilistik.



Pembelajaran yang mendalam



Andrej Karpathy blog / panduan hacker (posting blog) - Pengantar yang sangat mudah diakses untuk jaringan saraf. Dia juga dapat menemukan tips praktis seumur hidup di blog-nya.



Tinjauan umum algoritma optimasi gradient descent (posting blog) - Sebuah posting lengkap yang mengeksplorasi opsi utama untuk gradient descent yang digunakan untuk mengoptimalkan jaringan saraf.



Blog Chris Olah (blog) dan elemen) dalam pembelajaran mesin di tingkat yang dalam. Chris sangat menyukai pendidikan dan penulisan yang bagus.



Crash Course AI (video) - Seri pengantar yang siap dan siap membantu. Ini mungkin yang terbaik untuk siswa dan pemula.



CS231: Jaringan Syaraf Tiruan Konvolusional untuk Pengakuan Visual (Stanford) (video) - Catatan hebat di tautan: cs231n.github.io Kelanjutan yang baik dari kursus Andrew Eun, yang menjerumuskan kita jauh lebih dalam ke dalam jaringan saraf konvolusional (ini secara singkat disebutkan pada akhir kursus sebelumnya) dan mewakili konsep yang lebih maju, seperti model generatif, penguatan yang dalam.



CS231n: Jaringan Neural Konvolusional untuk Pengakuan Visual (kuliah CNN legendaris Stanford) (video) - Tinjauan yang sangat baik dari karya klasik dan awal pada jaringan saraf convolutional yang membentuk dasar bagi sebagian besar pekerjaan dengan data visual



Deep Learning at Oxford 2005 (video ) - 2015 Oxford Course in Deep Learning.



Buku Pembelajaran Mendalam - Pengantar yang luas tentang dasar-dasar pembelajaran mendalam oleh beberapa perintis di lapangan.



Deep Learning Indaba Practicals (Colabs) - Ada tutorial yang telah dikembangkan dan diuji pada manusia selama bertahun-tahun untuk mengajarkan pembelajaran mendalam dari dasar-dasar ke topik-topik lanjutan seperti membangun kerangka kerja diferensiasi otomatis atau mempelajari jaringan permusuhan generatif.



Dive into Deep Learning (book) - Format hebat yang membuat konsep pembelajaran mesin kunci menjadi pengalaman yang menyenangkan dan interaktif.



Kursus DL + RL dengan UCL(video) - Kursus ini membahas banyak topik yang berkaitan dengan pembelajaran yang mendalam dan pembelajaran penguatan. Ini terdiri dari dua, sebagian besar terpisah, jalan: satu dalam pembelajaran yang mendalam dan satu dalam pembelajaran penguatan, yang dapat dipelajari secara terpisah.



EEML ( edisi pertama / kedua ) Bahan Lab (Colab) - Kuliah dan lokakarya tentang pemodelan probabilistik dan pembelajaran Bayesian.



EEML slide dari kuliah (slide) - Slide untuk kuliah EEML tahun lalu (sayangnya, tidak ada entri). Mereka mencakup berbagai bahan dari pengantar presentasi yang lebih kompleks.



Full Stack Deep Learning(kursus online) - Model pembelajaran dalam tidak ada dalam ruang hampa. Kursus ini mencakup aspek-aspek praktis dari pembelajaran mendalam seperti model implementasi, infrastruktur, debugging, dan bahkan persiapan untuk wawancara pembelajaran mendalam.



Pendahuluan tentang pembicaraan pembelajaran mesin di lokakarya Lviv ( satu , dua ) (kuliah) - Pengantar pembelajaran mesin. Ini memperkenalkan teori untuk membangun mesin pembelajaran yang mendalam.



Video dan praktikum Khipu + github (video + slide) - Materi dari Khipu - video dan praktik bagi siswa untuk lulus.



Blog Lilian Weng(blog) - Blog Lilian berisi posting tentang berbagai topik, mulai dengan pengajaran kurikulum, pembelajaran berbasis pemantauan mandiri, pembelajaran meta, dll. Posting itu sendiri tidak terlalu rinci, kadang-kadang terlalu jauh ke dalam spesialisasi, tetapi cukup sering mereka diperbarui dengan informasi baru yang muncul setelah rilis posting asli.



MIT 6.S191 Pengantar Pembelajaran Jauh (video dan tutorial) - Kursus pengantar Institut Teknologi Massachusetts dalam pembelajaran mendalam dan sistem informasi.



Jurnal online (jurnal) - Jurnal online yang ditinjau oleh rekan sejawat yang memungkinkan Anda membuat visualisasi dan kode informatif, termasuk untuk memfasilitasi pemahaman makalah penelitian dan meningkatkan transparansi dan reproduksibilitas.



Pemrosesan Terdistribusi Paralel(buku online) - Klasik untuk siapa saja yang ingin memahami akar pembelajaran mendalam ketika itu adalah "connectionism".



Pembelajaran Mendalam Praktis untuk Coders (Kursus Online) - Direkomendasikan oleh teman-teman spesialisasi teknis lainnya (seperti fisika dan matematika) sebagai pengantar yang bagus untuk pembelajaran mendalam.



NLP Stanford dengan Kursus Pembelajaran Jauh (kursus online) - Berguna bagi siapa saja yang ingin mulai belajar pemrosesan bahasa alami.



Sutton and Barto Reinforcement Learning (tutorial) - Ini adalah tutorial dari semua tutorial Reinforcement Learning . Ini dibangun dari hal-hal yang sangat mendasar hingga topik lanjutan. Menemani kuliah oleh David Silver.



Pembelajaran penguatan



Alberta RL Spesialisasi 4-kursus (kursus online) - Empat kursus pelatihan penguatan berturut-turut, dimulai dengan Bandit dan berakhir dengan Function Approximation (NNs), metode gradien, dan hadiah rata-rata.



CS330: Metalearning dan Multitask (video) - Memberikan ikhtisar pekerjaan terbaru di bidang meta-training dan multitasking. Video yang inspiratif dan sangat berguna untuk mengimbangi ide-ide saat ini di lapangan.



David Silver, Pengantar Penguatan Pembelajaran (video) - Baik untuk mengambil ide dari buku teks Sutton & Barto: Mengapa Kita Harus Memikirkan Masalah Ini? Bagaimana kaitan gagasan yang telah kita diskusikan? dll.



Kursus RL David Silver dari UCL(video) - Berguna bagi siapa pun yang ingin belajar tentang penguatan pembelajaran.



Kursus Emma Brunskill RL (Video) - Video Kuliah tentang Penguatan Pembelajaran dari Kursus Stanford Emma Brunskill.



Blog OpenAI - Presentasi yang tersedia tentang algoritma pembelajaran penguatan dasar dan lanjutan.



Penguatan Pembelajaran: Pengantar (edisi 2018) (buku) - Ini adalah buku pengantar yang sama tentang pembelajaran penguatan. Kaya sangat bagus dalam menjelaskan konsep-konsep dasar pembelajaran penguatan, dan juga membimbing pembaca sampai pada masalah penelitian terbuka yang canggih.



UofA / Amii Coursera RL Specilization oleh White and White(kursus online) - Proyek Universitas Alberta - Pusat Penelitian Pembelajaran Penguatan Adam White dikaitkan dengan Deep Mind; Serangkaian kursus holistik dan dirancang dengan baik yang menyediakan fondasi paling penting untuk pembelajaran penguatan.



Spinning Up in Deep RL (code) - Sumber daya pendidikan yang dibuat oleh OpenAI yang membuatnya mudah untuk belajar pembelajaran penguatan yang mendalam.



Model Pembelajaran dan Generatif Tanpa Pengawasan



Kursus model grafis Ermon di Stanford (sinopsis) - Meliputi berbagai metode probabilistik.



Cara Menggunakan t-SNE Secara Efektif (tutorial interaktif) - Menyediakan perjalanan interaktif dan mendalam ke semua perangkap menggunakan tSNE, dan telah menjadi salah satu lampiran data ukuran rendah yang paling banyak digunakan.



Mathematicalmonk Youtube video (video) - Penjelasan mengagumkan menggunakan contoh-contoh algoritma yang berguna seperti EM. Tambahan yang bagus untuk buku Bishop.



Estimasi Gradien Monte Carlo dalam Pembelajaran Mesin (publikasi) - Berguna bagi mereka yang terlibat dalam pembelajaran yang diperkuat atau pemodelan generatif.



Mereproduksi ruang kernel Hilbert di Machine Learning(materi kursus) - Cocok untuk mereka yang tertarik dalam pemodelan generatif dan tidak hanya.



Variational inference feview for statisticians oleh David Blei (post) - Penjelasan terbaik dari metode variasional dalam konteks pemodelan generatif.



Lain



Metaobuchenie

the Chelsea dari Multi-the Task Finn dan Meta-the Learning Course (Video) - Video ceramah untuk multitasking dan meta-learning.



The

Goodman Philosophy (1955). Teka-teki Baru tentang Induksi. (bab dari buku) Tempat filosofis bias induktif dan mengapa sulit untuk menarik kesimpulan dan pengantar. Podcast AI



Science

Lex Fridman (video) - Percakapan dengan pembicara tamu yang beragam dan mengesankan.



Seri kuliah Fisika Stanford oleh Leonard Susskind (video) - Sumber yang bagus untuk menjelajahi banyak bidang penting fisika modern, termasuk klasik, statistik, dan mekanika kuantum. Kuliah-kuliah ini tidak melibatkan banyak latar belakang pengetahuan, Leonard dapat memperkenalkan dan menjelaskan ide-ide kompleks dengan cara yang mudah diakses dan menarik.



Ilmu Komputer

visualisasi interaktif Mike Bostock - Visualisasi interaktif Mike Bostock.



Probabilitas dalam dimensi tinggi - Buku yang dapat dimengerti tentang "gagasan di persimpangan teori probabilitas, analisis, dan geometri yang muncul dalam berbagai masalah modern di berbagai bidang".



Robotics

Strogatz kursus dinamika nonlinier (video) - Kursus video tentang dinamika nonlinier.



Terima kasih Ale Blankmer untuk bantuan terjemahannya.



gambar



Pelajari detail cara mendapatkan profesi yang dicari dari awal atau Tingkatkan keterampilan dan gaji dengan menyelesaikan kursus online berbayar SkillFactory:











All Articles