Melatih model kecerdasan buatan yang lebih atau kurang canggih sering kali membutuhkan sumber daya yang signifikan. Model kompleks berarti jutaan dolar dalam infrastruktur. IBM telah menciptakan teknologi untuk mengurangi biaya dan waktu pelatihan. Dan, tentu saja, menghemat uang.
Korporasi mempresentasikan prototipe koprosesor AI 7nm yang hemat energi. Penggunaan chip dapat meningkatkan efisiensi sistem pelatihan lebih dari 7 kali lipat. Mobil self-driving, text-to-speech, machine vision, pengembangan obat, pengiriman drone - aplikasi AI tidak terbatas saat ini. Untuk melaksanakan proyek skala besar ini, diperlukan teknologi seperti itu.
Di sebagian besar inti komputasi, prosesor, dan SoC, yang diasah untuk pembelajaran mesin, mode bit rendah paling sering digunakan: FP16 dan INT8. Presisi 8-bit hanya berlebihan dalam kasus ini. IBM telah mengembangkan prototipe chip AI baru untuk sistem periferal ini.
Apa yang menarik dari koprosesor?
Chip 4-inti.
Chip sumber dirancang menggunakan teknologi proses 7nm. Skenario berbeda untuk menggunakan chip dimungkinkan:
- Dalam mode 4-bit untuk tugas umum. Teknologi ini memungkinkan Anda mencapai hasil yang sebanding dengan mode 8-bit.
- Dalam mode 2-bit untuk tugas inferensi. Dalam hal ini, terkadang keakuratannya turun beberapa persen, tetapi kinerjanya 4 kali lebih tinggi dibandingkan dengan mode 8-bit.
- Mode hibrid untuk berbagai jenis tugas.
Karakteristik utama chip:
- Teknologi proses 7nm berdasarkan EUV;
- penggunaan format hybrid FP8 dengan HFP8;
- Manajemen daya AI untuk akselerator perangkat keras;
- adaptasi terhadap beban tinggi secara permanen, yang memastikan kinerja aplikasi yang tinggi.
Sumber
Lingkup penerapan kebaruan:
- melatih model skala besar di cloud;
- meningkatkan keamanan dan privasi;
- meningkatkan daya komputasi di lingkungan hybrid tanpa menghabiskan terlalu banyak energi.
IBM percaya bahwa koprosesor akan dapat diterapkan dalam visi mesin, sistem pengenalan suara, dan pemrosesan bahasa alami untuk berbagai aplikasi cloud untuk mendeteksi transaksi keuangan yang curang. Selain itu, pengembang kendaraan otonom, sistem pengawasan video, dan ponsel dapat memanfaatkan penggunaan chip tersebut.
