Neurodigest: Sorotan Pembelajaran Mesin Maret 2021

Di bulan Maret, ada banyak berita tentang penggunaan pembelajaran mandiri untuk tugas-tugas computer vision. Masalah utama yang coba dipecahkan oleh model pembelajaran mandiri adalah melakukan tugas tanpa bergantung pada kumpulan data yang dipilih dan diberi label dengan cermat. FAIR dan Microsoft mempresentasikan beberapa studi tentang topik ini sekaligus.





PERAMAL

Aksesibilitas: postingan / artikel blog





Facebook SEER (SElf-supERvised), 1.3 . Instagram 84.2% Imagenet.





SwAV - , RegNet VISSL- PyTorch. 60 self-supervised , . 





Learning from videos

:





Facebook , , . Instagram Reels, , . , 20%. 





Time-Space Transformer

Peta panas menunjukkan bagaimana perhatian model didistribusikan - di baris bawah, area yang dianggap kurang penting diarsir.  Dengan cara ini, TimeSformer belajar memperhatikan area penting dalam video untuk membuat penilaian ruang-waktu yang kompleks.
, — , . , TimeSformer , - .

: /





TimeSformer . self-attention NLP. 3D , . - . self-attention , . , , , , .  





Swin Transformer

: /





Microsoft , . , , . , , . , PyTorch





LightningDOT

Hasil untuk query "biplan biru dan kuning terbang bersebelahan", gambar di frame merah adalah gambar yang valid
«- ,  », —

: /





. - .





Microsoft , . . SOTA- Flickr30K COCO.





Involution

: /  





self-attention . Involution — , .





TagMe

:





, . . GPS- , . , . , . 





PF-AFN

Pipeline pelatihan PF-AFN
PF-AFN

: /





, GAN- . . , , . , , .





Latent Composition

: / / /





GAN , . MIT , . GAN , . . 





Infinite Images

:





MIT , «» . , . , , . , Infinite nature, , . 





GANsformer

: /  





StyleGAN , . , . , , .  





FaceBlit

: /





GAN . , . , , - , .





CLIP

Interpretasi dari neuron yang bertanggung jawab atas konsep abstrak seperti "Natal"
,   «»

: /





, CLIP Open AI , iPod .

Open AI « » .





, CLIP , , , — , . , Open AI — , , .





, , , «» , , .   , CLIP . . , , . , , , .







P.S.



, - , .





, :





  • kode sumber dan kolaborasi proyek Infinite Nature dari pemilihan bulan Januari ;





  • demo interaktif untuk Monster Mash dari edisi September ;





  • GPT-Neo , implementasi tidak resmi dari 2,7 miliar parameter GPT-3 dari Eleuther.ai.





Komunitas open source terus bergembira, dan di bulan Maret bahkan muncul layanan di mana Anda dapat mengajukan keluhan tentang hasil penelitian yang tidak dapat direproduksi.   



Sekian terima kasih atas perhatiannya dan sampai jumpa bulan depan!








All Articles