Tentang masalah kemanusiaan dan tanggung jawab programmer

Dalam pemahaman saya yang sederhana, masalah terbesar umat manusia bukanlah kelaparan, perang dan penyakit, tetapi kurangnya otak yang cukup untuk memecahkan masalah teknis. Atau organisasi.

Beberapa contoh. Sumber energi murah adalah fusi termonuklir atau panel surya murah. Pikiran terbaik umat manusia sedang mengerjakan tugas-tugas ini, tetapi semuanya berjalan agak lambat.

Merawat orang tua. Dari sudut pandang mekanik, Anda bisa membuat robot yang bisa melayani orang tua sekaligus perawat yang masih hidup. Tetapi komputer di dalam (atau di awan) tidak akan dapat menyelesaikan bahkan tugas-tugas dasar seperti pergi ke dapur untuk membuat kopi. Mengapa kita (pemrogram) tidak dapat menulis program untuk robot semacam itu - sekali lagi tidak ada cukup otak. 

Ada ribuan contoh seperti itu. Mobil self-driving. Obat kanker dan korona. Bagaimana mengatur proses dalam tim saya sehingga tiket ditutup tepat waktu. Keabadian biologis, bagaimanapun juga.

Kami (kemanusiaan) bertumpu pada kemampuan otak kami. Tidak cukup ilmuwan, pemrogram, ilmuwan kencan.

Dan langkah logisnya adalah menulis program yang menggantikan otak biologis kita. Saya menghindari kata-kata kecerdasan buatan di sini, tetapi sebenarnya hanya tentang itu.

Sayangnya, penciptaan kecerdasan buatan, katakanlah, variasi yang kuat, sekali lagi melampaui kemampuan otak biologis kita.

Dan saya yakin bahwa kecerdasan buatan akan ditulis, jika tidak pada tahun 2045, maka di abad berikutnya pasti.

Tapi masalahnya setiap hari 150 ribu orang meninggal karena usia tua, penyakit dan alasan lainnya. Obat kanker akan menghemat seperempat. Jantung buatan adalah sepertiga lainnya. Dan setiap hari kita hidup tanpa kecerdasan buatan adalah kematian ekstra. Kematian yang bisa dihindari jika kita sedikit lebih pintar, atau sedikit lebih gigih.

Ya, ada kemungkinan kecerdasan buatan akan berubah menjadi tidak bersahabat dan akan membunuh kita semua. Ini adalah masalah yang diketahui, mudah-mudahan ini akan diselesaikan.

, , . , , .

- , OpenAI. . - . JavaScript. , . - .

- . , - . . , . 

Oleh karena itu, sebagai semacam permintaan tarik, saya mempostingnya di sini. Tolong beritahu saya bahwa saya salah, saya harus berhenti mengganggu diri saya sendiri dengan hal-hal yang tidak saya mengerti dan kembali ke Tetris untuk ESP32 saya.

Terima kasih!




All Articles