Nick Bostrom: Are We Living in a Computer Simulation (2001)

Saya mengumpulkan semua teks terpenting sepanjang masa dan bangsa, mempengaruhi pandangan dunia dan pembentukan gambaran dunia ( "Ontol" ). Dan di sini saya berpikir dan berpikir serta mengajukan hipotesis berani bahwa teks ini lebih revolusioner dan penting dalam pemahaman kita tentang struktur dunia daripada revolusi Copernican dan karya Kant. Di Runet, teks ini (versi lengkap) berada dalam keadaan yang mengerikan, saya menyisirnya sedikit dan, dengan izin penerjemah, menerbitkannya untuk diskusi.

"Apakah Anda tinggal dalam simulasi komputer?"

oleh Nick Bostrom [Diterbitkan dalam Philosophical Quarterly (2003) Vol. 53, Tidak. 211, hal. 243-255. (Versi pertama: 2001)]



Artikel ini menyatakan bahwa setidaknya satu dari tiga asumsi berikut ini benar:

• (1) sangat mungkin bahwa umat manusia akan mati sebelum mencapai fase "posthuman";
• (2) setiap peradaban pasca-manusia sangat tidak mungkin menjalankan sejumlah besar simulasi sejarah evolusinya (atau variannya), dan
• (3) kita hampir pasti hidup dalam simulasi komputer .

Oleh karena itu, kemungkinan berada dalam fase peradaban posthuman yang dapat menjalankan simulasi pendahulunya adalah nol, kecuali kita menerima kasus bahwa kita sudah hidup dalam simulasi sebagai benar. Konsekuensi lain dari hasil ini juga dibahas.

1. Perkenalan

Banyak karya fiksi ilmiah, serta prediksi para futuris dan peneliti teknologi yang serius, meramalkan bahwa sejumlah besar daya komputasi akan tersedia di masa depan. Anggaplah prediksi ini benar. Misalnya, generasi mendatang dengan komputer yang sangat kuat akan dapat menjalankan simulasi mendetail dari pendahulunya atau orang-orang seperti pendahulunya. Karena komputer mereka akan sangat kuat, mereka dapat menjalankan banyak simulasi seperti ini.Misalkan orang yang disimulasikan ini memiliki kesadaran (dan mereka akan memilikinya jika simulasi sangat akurat dan jika konsep kesadaran tertentu yang diterima secara luas dalam filsafat benar). Oleh karena itu, jumlah pikiran terbesar seperti kita bukanlah milik ras asli, melainkan milik orang-orang yang disimulasikan oleh keturunan maju dari ras asli. Berdasarkan hal ini, dapat dikatakan bahwa masuk akal untuk mengharapkan bahwa kita berada di antara pikiran biologis alami yang disimulasikan, dan bukan di antara yang asli. Jadi, jika kita tidak percaya bahwa kita sekarang hidup dalam simulasi komputer, maka kita tidak boleh berasumsi bahwa keturunan kita akan menjalankan banyak simulasi nenek moyang mereka. Ini adalah ide utamanya. Dalam sisa pekerjaan ini, kami akan melihatnya lebih detail.



Selain minat yang dapat diwakili oleh tesis ini bagi mereka yang terlibat dalam diskusi futuristik, ada juga minat teoretis murni di sini. Bukti ini merupakan pendorong bagi perumusan beberapa masalah metodologis dan metafisik, dan ini juga menawarkan beberapa analogi alami dengan konsep agama tradisional, dan analogi ini mungkin tampak mengejutkan atau sugestif.



Struktur artikel ini adalah sebagai berikut: pada awalnya, kami akan merumuskan asumsi tertentu yang perlu kami impor dari filosofi pikiran agar bukti ini berfungsi. Kami kemudian melihat beberapa alasan empiris untuk meyakini bahwa menjalankan serangkaian besar simulasi pikiran manusia akan tersedia untuk peradaban masa depan yang akan mengembangkan banyak teknologi yang telah diperjelas agar konsisten dengan hukum fisika dan kendala teknik yang diketahui.



Bagian ini tidak perlu dari sudut pandang filosofis, namun tetap mendorong untuk memperhatikan gagasan utama artikel. Ini diikuti dengan presentasi bukti pada intinya, menggunakan beberapa aplikasi sederhana teori probabilitas, dan bagian yang membenarkan prinsip kesetaraan lemah yang digunakan bukti ini. Pada akhirnya kita akan membahas beberapa interpretasi dari alternatif yang disebutkan di awal, dan ini akan menjadi kesimpulan dari pembuktian masalah simulasi.

2. Asumsi kemerdekaan pembawa

Asumsi umum dalam filosofi pikiran adalah asumsi kemerdekaan pembawa. Idenya adalah bahwa kondisi mental dapat muncul dalam media apa pun dari kelas pembawa fisik yang luas. Asalkan rangkaian struktur dan proses komputasi yang benar diwujudkan dalam sistem, pengalaman sadar dapat muncul di dalamnya. Properti intrinsik bukanlah bahwa proses intrakranial diwujudkan dalam jaringan saraf biologis berbasis karbon: prosesor berbasis silikon di dalam komputer dapat melakukan trik yang persis sama. Argumen yang mendukung tesis ini telah dikemukakan dalam literatur yang ada, dan meskipun tidak sepenuhnya konsisten, kami akan menerima begitu saja di sini.



Namun, bukti yang kami tawarkan di sini tidak bergantung pada versi fungsionalisme atau komputasi yang sangat kuat. Misalnya, kita tidak boleh menerima bahwa tesis kemandirian dari pembawa itu harus benar (baik dalam arti analitis maupun metafisik) - kita hanya boleh menerima bahwa, pada kenyataannya, komputer di bawah kendali program yang sesuai dapat memiliki kesadaran ... Selain itu, kita tidak boleh berasumsi bahwa untuk menciptakan kesadaran di komputer, kita harus memprogramnya sedemikian rupa sehingga berperilaku seperti manusia dalam semua kasus, lulus uji Turing, dll. Kita hanya membutuhkan yang lebih lemah asumsi bahwa itu cukup untuk menciptakan pengalaman subjektifsehingga proses komputasi di otak manusia akan disalin secara struktural dalam detail presisi tinggi yang sesuai, misalnya, pada tingkat sinapsis individu. Versi kemandirian media yang halus ini diterima secara luas.



Neurotransmiter, faktor pertumbuhan saraf, dan bahan kimia lain yang lebih kecil dari sinapsis jelas berperan dalam kognisi dan pembelajaran manusia. Tesis independensi media bukanlah bahwa efek bahan kimia ini kecil atau dapat diabaikan, tetapi hanya memengaruhi pengalaman subjektif melalui dampak langsung atau tidak langsung pada aktivitas komputasi. Misalnya, jika tidak ada perbedaan subyektif tanpa ada juga perbedaan dalam pelepasan sinaptik, maka detail simulasi yang diperlukan ada di tingkat sinaptik (atau lebih tinggi).

3 batas teknologi komputasi

Pada tingkat perkembangan teknologi saat ini, kita tidak memiliki peralatan yang cukup kuat atau perangkat lunak yang sesuai untuk menciptakan pikiran sadar di komputer. Namun, argumen kuat telah dikemukakan bahwa jika kemajuan teknologi terus berlanjut tanpa henti, maka keterbatasan ini pada akhirnya akan teratasi. Beberapa penulis berpendapat bahwa fase ini akan datang hanya dalam beberapa dekade. Namun, untuk tujuan diskusi kita, tidak diperlukan asumsi garis waktu. Bukti simulasi bekerja dengan baik bagi mereka yang percaya bahwa dibutuhkan ratusan ribu tahun untuk mencapai fase perkembangan "posthuman", ketika umat manusia akan memperoleh sebagian besar kemampuan teknologi yang sekarang dapat dibuktikan.konsisten dengan hukum fisika dan batasan material dan energi.



Fase matang dari perkembangan teknologi akan memungkinkan untuk mengubah planet dan sumber daya astronomi lainnya menjadi komputer dengan kekuatan kolosal. Saat ini, sulit untuk memastikan tentang batas akhir daya komputasi yang akan tersedia untuk peradaban pasca-manusia. Karena kita masih belum memiliki "teori tentang segalanya", kita tidak dapat mengesampingkan kemungkinan bahwa fenomena fisik baru, yang dilarang oleh teori fisika modern, dapat digunakan untuk mengatasi keterbatasan yang, menurut pemahaman kita saat ini, memberikan batasan teoritis pada pemrosesan informasi di dalamnya. sepotong materi tertentu. Dengan tingkat keandalan yang jauh lebih besar, kita dapat menetapkan batas bawah komputasi posthuman, dengan asumsi penerapan hanya mekanisme yang sudah dipahami. Misalnya,Eric Drexler memberikan sketsa sistem, ukuran kubus gula (tidak termasuk pendingin dan catu daya), yang bisa melakukan 10²¹ operasi per detik. Penulis lain memberikan perkiraan kasar 10 ⁴² operasi per detik untuk komputer berukuran planet. (Jika kita mempelajari cara membuat komputer kuantum, atau mempelajari cara membuat komputer dari materi nuklir atau plasma, kita dapat mendekati batas teoretis. Seth Lloyd menghitung batas atas untuk komputer 1 kg dalam 5 * 10 ⁵⁰ operasi logis per detik yang dilakukan pada 10 ³¹ bit. Namun, untuk tujuan kami, cukup menggunakan perkiraan yang lebih konservatif, yang hanya menyiratkan prinsip operasi yang diketahui saat ini.)



Jumlah daya komputer yang dibutuhkan untuk meniru otak manusia cocok dengan perkiraan kasar yang sama. Satu perkiraan berdasarkan seberapa mahal secara komputasi untuk menyalin fungsi sepotong jaringan saraf yang telah kita pahami dan yang fungsinya telah disalin dalam silikon (yaitu, sistem peningkatan kontras di retina disalin) memberikan perkiraan sekitar 10 ¹⁴ operasi per detik. Perkiraan alternatif yang didasarkan pada jumlah sinapsis di otak dan frekuensi penembakan mereka memberikan nilai 10 ¹⁶ -10 ¹⁷operasi per detik. Dengan demikian, daya komputasi yang lebih besar mungkin diperlukan jika kita ingin mensimulasikan secara rinci cara kerja bagian dalam sinapsis dan cabang dendrit. Namun, sangat mungkin bahwa sistem saraf pusat manusia memiliki ukuran redundansi tertentu pada tingkat mikro untuk mengkompensasi komponen saraf yang tidak dapat diandalkan dan berisik. Akibatnya, orang akan mengharapkan keuntungan yang signifikan dalam efisiensi saat menggunakan prosesor non-biologis yang lebih andal dan fleksibel.



Memori tidak lebih merupakan batasan dari kekuatan pemrosesan. Selain itu, karena aliran maksimum data sensorik manusia berada di urutan 10 ⁸bit per detik, kemudian simulasi semua peristiwa sensorik akan membutuhkan biaya yang dapat diabaikan dibandingkan dengan simulasi aktivitas kortikal. Dengan cara ini, kita dapat menggunakan kekuatan pemrosesan yang diperlukan untuk mensimulasikan sistem saraf pusat sebagai perkiraan dari total biaya komputasi untuk simulasi pikiran manusia.



Jika lingkungan disertakan dalam simulasi, maka akan membutuhkan daya komputer tambahan - yang besarnya bergantung pada ukuran dan detail simulasi. Mensimulasikan seluruh alam semesta hingga ke level kuantum jelas tidak mungkin, kecuali jika beberapa fisika baru ditemukan. Tetapi dibutuhkan lebih sedikit untuk mendapatkan simulasi realistis dari pengalaman manusia - sama seperti yang diperlukan untuk memastikan bahwa simulasi orang yang berinteraksi dengan cara manusia normal dengan lingkungan simulasi tidak akan melihat perbedaan apapun. Struktur mikroskopis interior bumi dapat dengan mudah dihilangkan. Objek astronomi yang jauh dapat mengalami kompresi tingkat yang sangat tinggi: kemiripan yang tepat hanya boleh dalam kisaran properti yang sempit,yang dapat kita amati dari planet kita atau dari pesawat ruang angkasa di dalam tata surya. Di permukaan bumi, objek makroskopik di tempat tak berpenghuni harus disimulasikan terus menerus, tetapi fenomena mikroskopis dapat terisi.ad hoc , yaitu sesuai kebutuhan. Apa yang Anda lihat melalui mikroskop elektron seharusnya tampak mencurigakan, tetapi Anda biasanya tidak memiliki cara untuk memeriksa konsistensinya dengan bagian dunia mikro yang tidak dapat diamati. Pengecualian muncul ketika kami dengan sengaja merancang sistem untuk memanfaatkan fenomena mikroskopis yang tidak dapat diamati yang beroperasi sesuai dengan prinsip yang diketahui untuk menghasilkan hasil yang dapat kami verifikasi secara independen. Contoh klasiknya adalah komputer. Simulasi, oleh karena itu, harus mencakup simulasi komputer terus menerus sampai ke tingkat gerbang logika individu. Ini bukan masalah karena daya komputasi kita saat ini dapat diabaikan oleh standar posthuman.



Selain itu, simulator pasca-manusia akan memiliki daya komputasi yang cukup untuk melacak secara detail keadaan pikiran di semua otak manusia setiap saat. Jadi, ketika dia menemukan bahwa seseorang sudah siap untuk melakukan pengamatan tentang mikrokosmos, dia dapat mengisi simulasi dengan tingkat detail yang memadai sebanyak yang diperlukan. Jika terjadi kesalahan, direktur simulasi dapat dengan mudah mengedit status otak mana pun yang mengetahui tentang anomali tersebut sebelum merusak simulasi. Alternatifnya, sutradara dapat memundurkan simulasi beberapa detik ke belakang dan memulai ulang sedemikian rupa untuk menghindari masalah.



Oleh karena itu, biaya yang paling mahal dalam membuat simulasi yang tidak dapat dibedakan dari realitas fisik bagi pikiran manusia adalah membuat simulasi otak organik hingga ke tingkat saraf atau subneural. Meskipun tidak mungkin untuk memberikan perkiraan yang sangat akurat dari biaya simulasi realistis dari sejarah manusia, kita dapat menggunakan estimasi 10 ³³ -10 ³⁶ operasi sebagai perkiraan kasar.



Saat kami mendapatkan lebih banyak pengalaman dalam membuat realitas virtual, kami akan mendapatkan pemahaman yang lebih baik tentang persyaratan komputasi yang diperlukan untuk membuat dunia tersebut tampak realistis bagi pengunjungnya. Tetapi bahkan jika perkiraan kami salah dengan beberapa kali lipat, itu tidak terlalu penting untuk pembuktian kami. Kami mencatat bahwa perkiraan kasar daya komputasi komputer berukuran planet adalah 10 ⁴²operasi per detik, dan ini hanya memperhitungkan desain nanoteknologi yang sudah dikenal, yang mungkin jauh dari optimal. Satu komputer semacam itu dapat mensimulasikan seluruh sejarah mental umat manusia (sebut saja simulasi leluhur) dengan hanya menggunakan sepersejuta sumber dayanya dalam 1 detik. Peradaban pasca-manusia akhirnya dapat membangun sejumlah besar komputer semacam itu. Kita dapat menyimpulkan bahwa peradaban pasca-manusia dapat menjalankan simulasi leluhur dalam jumlah yang sangat besar, bahkan jika ia hanya menghabiskan sebagian kecil dari sumber dayanya. Kami bisa sampai pada kesimpulan ini, bahkan memungkinkan adanya kesalahan yang signifikan dalam semua perkiraan kami.

• , -, .

4.

Ide utama artikel ini dapat diungkapkan sebagai berikut: jika ada kemungkinan besar bahwa peradaban kita suatu hari akan mencapai tahap pasca-manusia dan meluncurkan banyak simulasi leluhur, lalu bagaimana kita dapat membuktikan bahwa kita tidak hidup dalam satu simulasi semacam itu?



Ide ini akan kami kembangkan dalam bentuk pembuktian yang ketat. Mari perkenalkan sebutan berikut:



- bagian dari semua peradaban tingkat manusia yang bertahan hingga tahap posthuman;

N adalah jumlah rata-rata simulasi leluhur yang diluncurkan peradaban pasca-manusia;

H adalah jumlah rata-rata orang yang hidup dalam suatu peradaban sebelum mencapai tahap pasca-manusia.



Maka proporsi sebenarnya dari semua pengamat dengan pengalaman manusia yang tinggal dalam simulasi adalah:







Mari kita tunjukkan sebagai proporsi peradaban posthuman yang tertarik menjalankan simulasi leluhur (atau yang berisi setidaknya sejumlah makhluk individu yang tertarik pada hal ini dan memiliki sumber daya yang signifikan untuk menjalankan sejumlah besar simulasi) dan sebagai jumlah rata-rata simulasi leluhur yang diluncurkan oleh peradaban yang tertarik, kita dapatkan:







Dan karena itu:







Karena kekuatan komputasi kolosal dari peradaban posthuman sangat besar, seperti yang kita lihat di bagian sebelumnya. Melihat rumus (*), kita dapat melihat bahwa setidaknya satu dari tiga asumsi berikut ini benar:

5. Prinsip lunak kesetaraan

Kita dapat melangkah lebih jauh dan menyimpulkan bahwa diberikan (3) benar, Anda hampir pasti dapat yakin bahwa Anda berada dalam simulasi. Secara umum, jika kita mengetahui bahwa pecahan x dari semua pengamat dengan pengalaman tipe manusia hidup dalam simulasi, dan kita tidak memiliki informasi tambahan yang menunjukkan bahwa pengalaman khusus kita lebih atau kurang mungkin diwujudkan dalam mesin, dan bukan in vivo daripada pengalaman manusia lainnya, dalam hal ini keyakinan kita bahwa kita berada dalam simulasi harus x:







Langkah ini dibenarkan oleh prinsip kesetaraan yang sangat lemah. Mari kita pisahkan kedua kasus tersebut. Dalam kasus pertama, yang lebih sederhana, semua pikiran yang diselidiki mirip dengan Anda, dalam arti bahwa pikiran-pikiran itu sama persis dengan pikiran Anda secara kualitatif: mereka memiliki informasi yang sama dan pengalaman yang sama dengan yang Anda miliki. Dalam kasus kedua, pikiran hanya mirip satu sama lain hanya dalam arti luas, menjadi jenis pikiran yang khas manusia, tetapi secara kualitatif berbeda satu sama lain dan masing-masing memiliki rangkaian pengalaman yang berbeda. Saya berpendapat bahwa bahkan ketika pikiran berbeda secara kualitatif, bukti simulasi masih berfungsi, asalkan Anda tidak memiliki informasi yang menjawab pertanyaan tentang pikiran mana yang disimulasikan dan mana yang secara biologis direalisasikan.



Pembuktian yang lebih ketat dari prinsip tersebut, yang mencakup kedua contoh khusus kami sebagai kasus khusus yang sepele, telah diberikan dalam literatur. Kurangnya ruang membuat tidak mungkin memberikan keseluruhan alasan di sini, tetapi kami dapat memberikan salah satu alasan intuitif di sini. Bayangkan bahwa x% populasi memiliki urutan genetik tertentu S dalam bagian tertentu DNA mereka, yang biasanya disebut "DNA sampah". Misalkan, lebih lanjut, bahwa tidak ada manifestasi S (dengan pengecualian yang mungkin muncul dengan pengujian genetik) dan tidak ada korelasi antara kepemilikan S dan manifestasi eksternal. Maka cukup jelas bahwa sebelum DNA Anda diurutkan, adalah rasional untuk mengaitkan keyakinan dalam x% dengan hipotesis bahwa Anda memiliki fragmen S. Dan ini cukup terlepas dari fakta bahwabahwa orang yang memiliki S memiliki pikiran dan pengalaman yang secara kualitatif berbeda dari mereka yang tidak memiliki S. (Mereka berbeda hanya karena semua orang memiliki pengalaman yang berbeda, bukan karena ada hubungan langsung antara S dan jenis pengalaman yang dialami orang tersebut.)



Alasan yang sama berlaku jika S bukan properti yang memiliki urutan genetik tertentu, melainkan fakta berada dalam simulasi, dengan asumsi bahwa kita tidak memiliki informasi yang memungkinkan kita untuk memprediksi perbedaan antara pengalaman pikiran yang disimulasikan dan antara pengalaman biologis asli. pikiran.



Perlu ditekankan bahwa prinsip lunak kesetaraan hanya menekankan kesetaraan antara hipotesis tentang pengamat mana Anda, bila Anda tidak memiliki informasi tentang pengamat mana Anda. Ini umumnya tidak mengatribusikan kesetaraan antara hipotesis ketika Anda tidak memiliki informasi spesifik tentang hipotesis mana yang benar. Tidak seperti Laplace dan prinsip kesetaraan yang lebih kuat lainnya, ia dengan demikian kebal terhadap paradoks Bertrand dan kesulitan serupa lainnya yang memperumit penerapan prinsip kesetaraan yang tidak terbatas.



Pembaca yang akrab dengan bukti argumen Kiamat (DA) (J. Leslie, “Is the End of the World Nigh?” Philosophical Quarterly 40, 158: 65-72 (1990)) mungkin merasa tidak nyaman karena prinsip kesetaraan, digunakan di sini didasarkan pada asumsi yang sama yang bertanggung jawab untuk menjatuhkan tanah keluar dari DA, dan bahwa kontra-intuisi dari beberapa kesimpulan terakhir memberi bayangan pada validitas penalaran tentang simulasi. Ini tidak benar. DA bersandar pada premis yang jauh lebih ketat dan lebih kontroversial bahwa seseorang harus bernalar seolah-olah mereka adalah sampel acak dari seluruh kelompok orang yang pernah hidup dan akan hidup (di masa lalu, sekarang dan masa depan), terlepas dari kenyataan bahwa bahwa kita tahu bahwa kita hidup pada awal abad ke-21, dan bukan di masa depan yang jauh. Prinsip ketidakpastian lunak hanya berlaku untuk kasus-kasus tersebutketika kami tidak memiliki informasi tambahan tentang kelompok orang yang kami ikuti.



Jika taruhan adalah beberapa dasar untuk keyakinan rasional, maka jika semua orang bertaruh apakah mereka dalam simulasi atau tidak, maka jika orang menggunakan prinsip ketidakpastian lunak dan bertaruh bahwa mereka berada dalam simulasi, bergantung pada atas dasar pengetahuan bahwa sebagian besar orang ada di dalamnya, maka hampir semua orang akan memenangkan taruhan mereka. Jika mereka bertaruh tidak dalam simulasi, hampir semua orang akan kalah. Tampaknya lebih bermanfaat untuk mengikuti prinsip kesetaraan lunak. Selanjutnya, dapat dibayangkan urutan situasi yang mungkin terjadi di mana semakin banyak orang yang hidup dalam simulasi: 98%, 99%, 99,9%, 99,9999%, dan seterusnya. Saat kita mendekati batas atas, ketika semua orang hidup dalam simulasi (dari mana seseorang dapat menyimpulkan bahwa semua orang berada dalam simulasi), sepertinya persyaratan yang masuk akal,Sehingga kepastian salah satu atribut untuk berada dalam simulasi dengan lancar dan terus menerus mendekati batas kepastian total.

6. Interpretasi

Kemungkinan yang disebutkan pada poin (1) cukup bisa dimaklumi. Jika (1) benar, maka umat manusia hampir pasti akan gagal mencapai tingkat posthuman; tidak ada spesies pada tingkat perkembangan kita yang menjadi posthuman, dan sulit untuk menemukan pembenaran apapun untuk berpikir bahwa spesies kita sendiri memiliki kelebihan atau perlindungan khusus terhadap bencana di masa depan. Dalam kondisi (1), oleh karena itu, kita harus mengaitkan high surety of Doom (DOOM), yaitu hipotesis bahwa manusia akan menghilang sebelum mencapai tingkat posthuman:







Dapat dibayangkan situasi hipotetis di mana kita memiliki data yang tumpang tindih pengetahuan kita tentang f _p... Misalnya, jika kita menemukan bahwa asteroid raksasa akan menabrak kita, kita dapat berasumsi bahwa kita sangat tidak beruntung. Dalam hal ini, kita dapat menganggap hipotesis Doom lebih pasti daripada perkiraan kita tentang proporsi peradaban tingkat manusia yang tidak akan dapat mencapai pasca-kemanusiaan. Dalam kasus kami, bagaimanapun, kami tampaknya tidak punya alasan untuk berpikir bahwa kami istimewa dalam hal ini, baik atau buruk.



Asumsi (1) tidak dengan sendirinya berarti bahwa kita cenderung mati. Ini menunjukkan bahwa kita tidak mungkin mencapai fase posthuman. Kemungkinan ini bisa berarti, misalnya, bahwa kita akan tetap pada atau sedikit di atas level saat ini untuk waktu yang lama sebelum kita punah. Alasan lain yang mungkin untuk kebenaran dari (1) adalah, kemungkinan besar, peradaban teknologi akan runtuh. Pada saat yang sama, masyarakat manusia primitif akan tetap ada di Bumi.



Ada banyak cara manusia bisa punah sebelum mencapai fase perkembangan pasca-manusia. Penjelasan paling alami (1) adalah bahwa kita akan mati sebagai akibat dari pengembangan beberapa teknologi yang kuat namun berbahaya. Salah satu kandidatnya adalah nanoteknologi molekuler, tahap yang matang akan memungkinkan terciptanya robot nano yang dapat mereplikasi diri sendiri yang dapat memakan kotoran dan bahan organik - sesuatu seperti bakteri mekanis. Robot nano semacam itu, jika direkayasa untuk tujuan jahat, dapat menyebabkan kematian semua kehidupan di planet ini.



Alternatif kedua untuk inferensi penalaran simulasi adalah bahwa proporsi peradaban posthuman yang tertarik menjalankan simulasi leluhur dapat diabaikan. Agar (2) benar, harus ada konvergensi yang ketat antara jalur perkembangan peradaban maju. Jika jumlah simulasi leluhur yang diciptakan oleh peradaban yang tertarik sangat besar, maka kelangkaan dari peradaban semacam itu pasti sangat ekstrim. Hampir tidak ada peradaban posthuman yang memutuskan untuk menggunakan sumber dayanya untuk membuat simulasi leluhur dalam jumlah besar. Selain itu, hampir semua peradaban pasca-manusia kekurangan individu yang memiliki sumber daya dan minat yang sesuai untuk menjalankan simulasi leluhur; atau mereka memiliki hukum yang didukung secara paksa,mencegah perilaku individu sesuai keinginannya.



Kekuatan apa yang dapat menyebabkan konvergensi seperti itu? Seseorang mungkin berpendapat bahwa semua peradaban maju sebagai satu berkembang di sepanjang lintasan yang mengarah pada pengakuan larangan etis menjalankan simulasi leluhur karena penderitaan yang dialami penduduk dari pengalaman simulasi. Akan tetapi, dari sudut pandang kita sekarang, tampaknya tidak jelas bahwa penciptaan umat manusia adalah tidak bermoral. Sebaliknya, kita cenderung memandang keberadaan ras kita sebagai nilai etika yang tinggi. Selain itu, pemusatan hanya pandangan etis tentang amoralitas menjalankan simulasi leluhur saja tidak cukup: itu harus dikombinasikan dengan konvergensi struktur sosial peradaban, yang mengarah pada fakta bahwa kegiatan yang dianggap tidak bermoral secara efektif dilarang.



Kemungkinan lain dari konvergensi adalah bahwa hampir semua individu anumerta di hampir semua peradaban posthuman berkembang ke arah di mana mereka kehilangan keinginan untuk menjalankan simulasi leluhur. Ini akan membutuhkan perubahan signifikan dalam motivasi yang mendorong leluhur posthuman mereka, karena pasti ada banyak orang di luar sana yang ingin menjalankan simulasi leluhur jika mereka punya kesempatan. Tetapi mungkin banyak dari keinginan manusiawi kita akan tampak bodoh bagi siapa pun yang menjadi posthuman. Mungkin nilai ilmiah simulasi leluhur untuk peradaban posthuman dapat diabaikan (yang tampaknya tidak terlalu luar biasa mengingat keunggulan intelektualnya yang luar biasa) dan mungkinPara anumerta menganggap aktivitas rekreasi sebagai cara yang sangat tidak efektif untuk mendapatkan kesenangan - yang dapat diperoleh jauh lebih murah dengan secara langsung merangsang pusat kesenangan otak. Satu kesimpulan yang mengikuti dari (2) adalah bahwa masyarakat posthuman akan sangat berbeda dari masyarakat manusia: mereka tidak akan memiliki agen independen yang relatif kaya yang memiliki berbagai keinginan mirip manusia dan yang bebas untuk bertindak sesuai dengan keinginan tersebut. ...dan yang bebas bertindak sesuai dengan mereka.dan yang bebas bertindak sesuai dengan mereka.



Peluang yang dijelaskan oleh kesimpulan (3) adalah yang paling menarik secara konseptual. Jika kita hidup dalam simulasi, maka ruang yang kita amati hanyalah sebagian kecil dari totalitas keberadaan fisik. Fisika alam semesta tempat komputer berada mungkin atau mungkin tidak menyerupai fisika dunia yang kita amati. Meskipun dunia yang kita amati agak "nyata", ia tidak terletak pada tingkat realitas yang fundamental. Mungkin saja simulasi peradaban menjadi posthuman. Mereka pada gilirannya dapat menjalankan simulasi leluhur pada komputer canggih yang telah mereka bangun di alam semesta simulasi. Komputer semacam itu akan menjadi "mesin virtual", konsep yang sangat umum dalam ilmu komputer. (Aplikasi web yang ditulis dalam skrip Java sepertiberjalan di mesin virtual - komputer simulasi - di laptop Anda.)



Mesin virtual dapat disarangkan satu sama lain: dimungkinkan untuk mensimulasikan mesin virtual yang mensimulasikan mesin lain, dan seterusnya, dengan sejumlah besar langkah yang sewenang-wenang. Jika kita dapat membuat simulasi leluhur kita sendiri, ini akan menjadi bukti kuat terhadap poin (1) dan (2), dan oleh karena itu kita harus menyimpulkan bahwa kita hidup dalam simulasi. Selain itu, kita harus curiga bahwa anumerta yang memulai simulasi kita adalah makhluk tiruan itu sendiri, dan pencipta mereka, pada gilirannya, juga bisa menjadi makhluk simulasi.



Oleh karena itu, realitas dapat mengandung beberapa tingkatan. Bahkan jika hierarki akan berakhir pada tingkat tertentu - status metafisik pernyataan ini cukup tidak jelas - mungkin ada cukup ruang untuk sejumlah besar tingkat realitas, dan jumlah ini dapat meningkat seiring waktu. (Salah satu pertimbangan yang menentang hipotesis berjenjang adalah bahwa biaya komputasi untuk simulator dasar akan sangat tinggi. Mensimulasikan bahkan satu peradaban pasca-manusia bisa sangat mahal. Jika demikian, maka kita harus mengharapkan simulasi kita dimatikan ketika kita lebih dekat ke tingkat posthuman.)



Meskipun semua elemen dari sistem ini naturalistik, bahkan fisik, adalah mungkin untuk menarik beberapa analogi yang longgar dengan konsep religius dunia. Dalam arti tertentu, para anumerta yang meluncurkan simulasi seperti dewa dalam hubungannya dengan manusia dalam simulasi: anumerta menciptakan dunia yang kita lihat; mereka memiliki kecerdasan yang lebih tinggi dari kita; mereka mahakuasa dalam arti bahwa mereka dapat mengganggu cara kerja dunia kita dengan cara yang melanggar hukum fisik, dan mereka mahatahu dalam arti bahwa mereka dapat memantau segala sesuatu yang terjadi. Namun, semua dewa, kecuali mereka yang hidup di tingkat realitas fundamental, tunduk pada tindakan dewa yang lebih kuat yang berdiam di tingkat realitas yang lebih tinggi.



Pengunyahan lebih lanjut pada tema-tema ini dapat diakhiri dengan teogoni naturalistik, yang akan mempelajari struktur hierarki ini dan batasan yang diberlakukan pada penghuninya dengan kemungkinan bahwa tindakan mereka pada level mereka dapat mempengaruhi sikap penghuni pada level realitas yang lebih dalam terhadap mereka. Misalnya, jika tidak ada yang dapat memastikan bahwa mereka berada pada level dasar, maka setiap orang harus mempertimbangkan kemungkinan tindakan mereka akan dihargai atau dihukum, mungkin berdasarkan beberapa kriteria moral, oleh ahli simulasi. Kehidupan setelah kematian akan menjadi kemungkinan yang nyata. Karena ketidakpastian mendasar ini, bahkan peradaban pada tingkat dasar pun akan termotivasi untuk berperilaku etis. Fakta bahwa mereka mempunyai alasan untuk berperilaku moral tentunya akan menjadi alasan yang memaksa orang lain untuk berperilaku secara moral, dan seterusnya,membentuk lingkaran yang bajik. Dengan demikian, Anda bisa mendapatkan sesuatu seperti keharusan etika universal, yang akan menjadi kepentingan pribadi semua orang, dan yang muncul entah dari mana.



Selain simulasi leluhur, dapat dibayangkan kemungkinan simulasi yang lebih selektif yang hanya melibatkan sekelompok kecil orang atau satu individu. Orang-orang lainnya kemudian akan menjadi "zombie" atau "shadow people" - orang-orang yang disimulasikan hanya pada tingkat yang cukup agar orang-orang yang disimulasikan sepenuhnya tidak memperhatikan sesuatu yang mencurigakan.



Tidak jelas seberapa murah mensimulasikan shadow people dibandingkan dengan orang sungguhan. Bahkan tidak jelas apakah mungkin suatu objek berperilaku tidak dapat dibedakan dari orang nyata dan dengan demikian tidak memiliki pengalaman sadar. Bahkan jika simulasi selektif seperti itu ada, Anda tidak harus yakin bahwa Anda berada di dalamnya sebelum Anda yakin bahwa simulasi semacam itu jauh lebih banyak daripada simulasi penuh. Dunia harus memiliki sekitar 100 miliar lebih banyak simulasi diri (simulasi kehidupan hanya satu kesadaran) daripada simulasi leluhur lengkap - agar sebagian besar orang yang disimulasikan berada dalam simulasi diri.



Ada juga kemungkinan bahwa simulator melompati bagian tertentu dari kehidupan mental makhluk yang disimulasikan dan memberi mereka ingatan palsu tentang jenis pengalaman yang mungkin mereka miliki selama periode yang hilang. Jika demikian, orang dapat membayangkan solusi berikut (luas) untuk masalah kejahatan: bahwa pada kenyataannya tidak ada penderitaan di dunia ini dan bahwa semua ingatan tentang penderitaan adalah ilusi. Tentu saja, hipotesis ini hanya dapat dianggap serius pada saat-saat ketika Anda sendiri tidak menderita.



Dengan asumsi kita hidup dalam simulasi, apa implikasinya bagi kita manusia? Bertentangan dengan apa yang telah dikatakan sebelumnya, akibatnya bagi manusia tidak terlalu drastis. Panduan terbaik kami tentang bagaimana pencipta posthuman kami memilih untuk mengatur dunia kita adalah eksplorasi empiris standar alam semesta yang kita lihat. Perubahan pada banyak sistem kepercayaan kita cenderung kecil dan lembut - sebanding dengan kurangnya kepercayaan diri kita pada kemampuan kita untuk memahami sistem pemikiran posthuman.



Pemahaman yang benar tentang kebenaran tesis (3) seharusnya tidak membuat kita "gila" atau memaksa kita untuk keluar dari bisnis kita dan berhenti membuat rencana dan prediksi untuk hari esok. Kepentingan empiris utama dari (3) saat ini tampaknya terletak pada perannya dalam kesimpulan rangkap tiga yang diberikan di atas.



Kita harus berharap bahwa (3) benar karena mengurangi kemungkinan (1), namun, jika kendala komputasi memungkinkan simulator akan mematikan simulasi sebelum mencapai level posthuman, maka harapan terbaik kita adalah (2) benar. ...



Jika kita mempelajari lebih lanjut tentang motivasi posthuman dan kendala sumber daya, mungkin sebagai hasil dari perkembangan kita menuju posthumanity, maka hipotesis yang disimulasikan akan menerima serangkaian aplikasi empiris yang jauh lebih kaya.

7. Kesimpulan

Peradaban pasca-manusia yang matang secara teknologi akan memiliki kekuatan komputasi yang sangat besar. Berdasarkan ini, penalaran tentang simulasi menunjukkan bahwa setidaknya satu dari tesis berikut ini benar:

• (1) , , .
• (2) , , .
• (3) , , .

Jika (1) benar, maka kita hampir pasti akan mati sebelum kita mencapai tingkat posthuman.



Jika (2) benar, maka harus ada konvergensi yang terkoordinasi secara ketat dari jalur perkembangan semua peradaban maju, sehingga tidak satupun dari mereka memiliki individu yang relatif kaya yang ingin menjalankan simulasi leluhur dan akan bebas melakukannya.



Jika (3) benar, maka kita hampir pasti hidup dalam simulasi. Hutan gelap ketidaktahuan kita membuatnya bijaksana untuk mendistribusikan kepercayaan kita hampir merata antara item (1), (2), dan (3).



Kecuali kita sudah hidup dalam simulasi, keturunan kita hampir pasti tidak akan pernah menjalankan simulasi leluhur.

Ucapan Terima Kasih

Saya berterima kasih kepada banyak orang atas komentar mereka, dan terutama Amara Angelica, Robert Bradbury, Milan Cirkovic, Robin Hanson, Hal Finney, Robert A. Freitas Jr., John Leslie, Mitch Porter, Keith DeRose, Mike Treder, Mark Walker, Eliezer Yudkowsky, dan wasit anonim.



Terjemahan: Alexey Turchin





Karya lainnya oleh Alexey Turchin:

• Pesan untuk kecerdasan buatan yang tidak bersahabat
• Kesalahan dalam Matriks: Legenda Perkotaan atau Bukti Simulasi?
• Tipologi Simulasi dan Risiko Penghentian

---

Tentang Ontol

Ontol adalah peta yang memungkinkan Anda memilih rute paling efektif untuk pembentukan pandangan dunia Anda.



Ontol didasarkan pada superposisi penilaian subjektif, refleksi dari teks yang dibaca (idealnya, jutaan / milyaran orang). Setiap orang yang berpartisipasi dalam proyek memutuskan untuk dirinya sendiri apa 10/100 teratas dari yang paling penting, apa yang telah dia baca / tonton tentang aspek kehidupan yang signifikan (pemikiran, kesehatan, keluarga, uang, kepercayaan, dll.) Selama 10 tahun terakhir atau sepanjang hidupnya ... Apa yang bisa dibagikan dalam 1 klik (teks dan video, bukan buku, percakapan, dan acara).



Hasil akhir yang ideal dari Ontola adalah mengakses 10x-100x lebih cepat (daripada analog wikipedia, quora, obrolan, saluran, LJ, mesin pencari) yang ada ke teks dan video yang bermakna yang akan mempengaruhi kehidupan pembaca ("Oh, betapa saya berharap saya baca teks ini sebelumnya! Kemungkinan besar kehidupan akan berjalan berbeda "). Gratis untuk semua penghuni planet ini dan dalam 1 klik.

• Saluran Telegram: t.me/ontol
• Prototipe layanan web: beta.ontol.org
• Tentang Habré:
  
  
  
  
  • DeepMind Ontol: Sumber Daya AI Paling Bermanfaat di Dunia
  • Ontol (= yang paling berguna) tentang pekerjaan jarak jauh [pilihan lebih dari 100 artikel]
  • Ontol: pilihan artikel tentang "burnout" [100+]
  
  
  
• Ontol tentang startup dari Y Combinator: www.ycombinator.com/library