Para ahli dari ANYbotics, Boston Dynamics dan Clearpath Robotics menjawab pertanyaan tentang penggunaan robot mereka yang tidak bertanggung jawab dan tidak etis.
Ilustrasi: iStockphoto / IEEE Spectrum
Produksi komersial robot otonom yang dapat beroperasi di luar lingkungan terstruktur telah meroket selama lima tahun terakhir. Tetapi transisi teknologi robotik yang relatif baru ini dari kategori proyek penelitian ke produk komersial disertai dengan kesulitan tertentu, banyak di antaranya terkait dengan fakta bahwa semakin banyak robot yang muncul di masyarakat.
Robot sering kali menghantui pikiran orang, mungkin karena fungsinya yang tampak atau penggambaran khas dalam budaya populer. Terkadang hal ini mengarah pada hasil yang positif, seperti cara inovatif untuk menggunakannya. Tetapi ada juga situasi di mana hal itu mengarah pada penggunaan yang tidak etis atau tidak bertanggung jawab. Adakah yang bisa dilakukan penjual robot dalam kasus seperti itu? Dan bahkan jika mereka bisa, haruskah mereka?
Robotika percaya bahwa robot pada dasarnya adalah alat. Kami merancangnya, kami memprogramnya, dan bahkan robot otonom hanya mengikuti petunjuk yang telah kami kodekan ke dalamnya. Namun, kelayakan nyata robot, yang membangkitkan minat seperti itu, berarti bahwa orang yang tidak memiliki pengalaman berinteraksi dengan robot nyata mungkin tidak memahami bahwa robot itu sendiri tidak baik dan tidak buruk, itu hanya cerminan dari robot itu sendiri. desainer dan pengguna. ...
Ini dapat membuat perusahaan robotika berada dalam kesulitan. Orang yang membeli robot dari mereka, secara hipotetis, dapat menggunakannya sesuka hatinya. Tentu saja, ini berlaku untuk alat apa pun, tetapi keunikan situasi dengan robot terletak pada otonominya. Otonomi dapat dikatakan menyiratkan hubungan antara robot dan pabrikannya, atau, dalam hal ini, perusahaan yang mengembangkan dan menjualnya. Asosiasi ini mungkin tidak sepenuhnya dapat dibenarkan, tetapi ada, meskipun faktanya, pada akhirnya, pembeli robotlah yang memiliki kendali penuh atas semua tindakannya.
, Spot , .
, Boston Dynamics
Tentu saja, perusahaan robotika memahami hal ini, karena banyak dari mereka dengan cermat memantau kepada siapa mereka menjual produk mereka dan sangat jelas tentang penggunaan robot yang diinginkan. Tapi sejauh mana tanggung jawab ini harus berjalan ketika robot "terbang keluar dari sarang" perusahaan yang membuatnya? Dan bagaimana itu mungkin? Haruskah perusahaan robotika dimintai pertanggungjawaban atas tindakan robot mereka di dunia manusia, atau haruskah diakui bahwa setelah penjualan robot, tanggung jawab untuk itu juga diserahkan kepada pemilik baru? Dan apa yang dapat dilakukan jika ada kasus penggunaan robot yang tidak bertanggung jawab atau tidak etis yang dapat berdampak buruk bagi produsen robotika?
Untuk lebih memahami masalah ini, kami menghubungi karyawan dari tiga perusahaan robotika, yang masing-masing memiliki pengalaman menjual robot seluler unik kepada konsumen komersial. Kami mengajukan lima pertanyaan kepada mereka tentang tanggung jawab perusahaan robotika terhadap robot yang mereka jual, dan inilah yang mereka jawab.
Apakah ada batasan tentang bagaimana manusia dapat menggunakan robot Anda? Jika ya, yang mana, dan jika tidak, mengapa?
Peter Fankhauser , CEO ANYbotics :
Kami bekerja sama dengan klien untuk memastikan produk kami memberikan solusi yang tepat untuk masalah mereka. Dengan demikian, kami langsung memahami mengapa robot ini dibeli dan tidak bekerja sama dengan pelanggan yang ingin menggunakan robot APAPUN kami untuk keperluan lain. Secara khusus, kami dengan tegas tidak mengizinkan militer atau senjata menggunakan robot kami, dan sejak berdirinya ANYbotics kami telah mencoba untuk meningkatkan kondisi kerja orang-orang, membuatnya lebih nyaman, menyenangkan dan aman.
Robert Plater , CEO, Boston Dynamics :
Ya, kami telah memperkenalkan pembatasan penggunaan robot kami, yang diatur dalam persyaratan kontrak penjualan. Semua pembeli kami, tanpa terkecuali, harus mengonfirmasi bahwa Spot tidak akan digunakan untuk menyakiti orang atau hewan, atau untuk mengintimidasi mereka, digunakan sebagai senjata, atau diperlengkapi untuk memegang senjata. Seperti produk lainnya, Spot harus digunakan secara legal.
Ryan Gariepi , CTO, Clearpath Robotics :
Kami memiliki batasan dan proses yang ketat untuk uji tuntas pelanggan yang terutama didasarkan pada peraturan kontrol ekspor Kanada. Mereka bergantung pada jenis peralatan yang dijual serta di mana peralatan itu akan digunakan. Secara umum, kami juga tidak akan menjual atau mendukung robot jika kami mengetahui bahwa robot tersebut akan menimbulkan risiko keamanan yang tidak terkendali, atau jika kami memiliki alasan untuk meyakini bahwa pembeli tidak memenuhi syarat untuk menggunakan produk. Dan, sebagai aturan, kami tidak mendukung penggunaan produk kami untuk pengembangan sistem senjata otonom penuh.
Mengapa pembeli robot harus dibatasi penggunaannya?
Peter Fankhauser, ANYbotics:
Kami melihat robot bukan sebagai benda biasa, melainkan sebagai tenaga kerja buatan. Bagi kami, ini berarti bahwa transfer robot dan penggunaannya terkait erat, dan pelanggan serta pemasok perlu menyetujui tugas apa yang akan dilakukan robot. Pendekatan ini selaras dengan pelanggan kami, yang semakin tertarik pada kemampuan membayar robot sebagai layanan atau per penggunaan.
Robert Plater, Boston Dynamics:
Kami menjual produk dan akan melakukan segala daya kami untuk mencegah penyerang menggunakan teknologi kami untuk membahayakan, tetapi kami tidak dapat mengontrol setiap kasus penggunaan. Namun, kami yakin bahwa dampak terbaik pada bisnis kami akan datang dari penggunaan teknologi untuk tujuan damai - untuk bekerja dengan orang-orang sebagai pembantu yang dapat diandalkan dan melindungi mereka dari bahaya. Kami tidak ingin teknologi kami digunakan untuk merugikan atau mendorong kekerasan. Kami menggunakan batasan yang sama seperti produsen atau perusahaan teknologi lain yang mengambil langkah untuk mengurangi atau menghilangkan penggunaan produk mereka secara kekerasan atau ilegal.
Ryan Gariepi, Clearpath Robotics:
Dengan asumsi entitas pembatas dimiliki secara pribadi dan robot serta perangkat lunaknya dijual daripada disewakan atau dikelola, maka tidak ada alasan hukum yang kuat untuk membatasi penggunaan. Namun, pabrikan juga tidak berkewajiban memberikan dukungan untuk robot atau pelanggan khusus ini di masa mendatang. Namun, mengingat bahwa kami masih di ambang perubahan sosial yang akan dibawa robot, pabrikan dan pengguna berkepentingan untuk secara jujur mengkomunikasikan tujuan mereka satu sama lain. Sekarang Anda berinvestasi tidak hanya dalam pembelian awal dan hubungan dengan produsen, Anda juga berinvestasi dalam janji tentang bagaimana Anda dapat membantu satu sama lain agar berhasil di masa depan.
Jika robot digunakan secara sembrono dari sudut pandang keamanan: campur tangan! Jika Anda dihadapkan pada penggunaan yang tidak etis, jangan diam!
Peter Funkhauser, ANYbotics
Apa yang dapat Anda lakukan secara realistis untuk memastikan bahwa robot yang dibeli digunakan sebagaimana mestinya?
Peter Fankhauser, ANYbotics:
Kami bekerja sama dengan pelanggan untuk memastikan bahwa solusi kami memungkinkan mereka mencapai tujuan mereka. Oleh karena itu, kami telah mengabaikan kemungkinan teknis dari pemblokiran penggunaan produk untuk tujuan lain.
Robert Plater, Boston Dynamics:
Kami dengan cermat memeriksa pelanggan kami dan memastikan bahwa penggunaan yang dimaksudkan cocok dengan fungsionalitas robot Spot dan tidak bertentangan dengan persyaratan kontrak penjualan. Kami menolak untuk menjual kepada pelanggan yang berencana menggunakan robot untuk tugas yang tidak sesuai dengan mereka. Dan jika terjadi penyalahgunaan teknologi kami atau pelanggaran aturan penggunaan, sesuai dengan ketentuan kontrak penjualan, garansi dan kemampuan untuk menerima pembaruan, pemeliharaan, perbaikan, atau penggantian robot dibatalkan. Kita juga bisa menyita robot yang disewa dan tidak dibeli. Terakhir, kami tidak akan menjual kembali robot kepada pelanggan yang melanggar persyaratan kontrak penjualan.
Ryan Gariepi, Clearpath Robotics:
Kami biasanya bekerja dengan pelanggan sebelum penjualan untuk memastikan bahwa harapan mereka memenuhi kenyataan, khususnya dalam masalah seperti keamanan, persyaratan kontrol, dan kegunaan. Lebih baik tidak membuat kesepakatan sama sekali daripada menjual robot yang akan mengumpulkan debu di rak atau, lebih buruk lagi, menyebabkan kerusakan, jadi kami lebih memilih untuk mengurangi risiko situasi seperti itu sebelum kami menerima pesanan atau mengirim robot ke pembeli.
Bagaimana Anda menilai kasus penggunaan garis batas, misalnya jika seseorang ingin menggunakan robot Anda dalam bidang seni atau penelitian yang dapat mendorong batasan dari apa yang menurut Anda bertanggung jawab atau etis secara pribadi?
Peter Fankhauser, ANYbotics:
Yang utama adalah melakukan dialog, mencoba memahami satu sama lain dan mencari alternatif yang sesuai dengan semua pihak yang berkepentingan, dan semakin cepat dialog ini dimulai, semakin baik.
Robert Plater, Boston Dynamics:
Ada garis yang jelas antara mempelajari robot dalam sains dan seni dan menggunakan robot untuk tujuan kekerasan atau ilegal.
Ryan Gariepi, Clearpath Robotics: Sejauh ini
kami telah menjual ribuan robot kepada ratusan pelanggan, dan saya tidak dapat mengingat kapan terakhir kali kami tidak harus berurusan dengan kontrol ekspor dan melakukan penilaian keseluruhan terhadap tujuan dan harapan pelanggan. Saya yakin ini akan berubah karena harga robot terus menurun dan fleksibilitas serta kegunaannya meningkat.
, , .
, Clearpath Robotics
Apa yang harus dilakukan robotika jika mereka melihat robot digunakan dengan cara yang tidak etis atau tidak bertanggung jawab?
Peter Fankhauser, ANYbotics:
Jika robot digunakan secara sembrono dari sudut pandang keamanan, campur tangan! Jika Anda dihadapkan pada penggunaan yang tidak etis, jangan diam!
Robert Plater, Boston Dynamics:
Kami ingin robot bermanfaat bagi umat manusia, yang artinya, antara lain, tidak merugikan manusia. Kami berpikir bahwa industri robotika hanya akan dapat bertahan secara komersial dalam jangka panjang jika manusia melihat robot sebagai alat yang berguna tanpa mengkhawatirkan apakah robot dapat menyebabkan kerusakan.
Ryan Gariepi, Clearpath Robotics:
Jika ini merupakan kasus yang terisolasi, mereka harus mendiskusikan masalah tersebut dengan pengguna, pemasok atau pemasok, media, dan badan pengatur atau pemerintah jika ancaman keamanan yang akan datang muncul. Jika situasi ini berisiko terulang berulang kali dan tidak dianggap serius, robotika harus membahasnya untuk diskusi yang lebih luas di tempat yang sesuai: di konferensi, di grup industri, di badan standar, dll.
Kesimpulan
Karena semakin banyak robot dengan kemampuan berbeda muncul di pasaran, masalah ini mungkin semakin sering muncul. Ketiga perusahaan yang kami ajak bicara tentunya tidak mewakili semua sudut pandang. Tapi saya kira (harapan?) Siapa pun yang terlibat dalam pembuatan robot akan setuju bahwa robot harus digunakan untuk meningkatkan kehidupan manusia. Tapi apa artinya "lebih baik" dalam konteks seni, penelitian, dan bahkan penggunaan robot di militer tidak selalu mudah untuk didefinisikan, dan ketidaksepakatan pasti akan muncul mengenai apa yang etis dan bertanggung jawab dan apa yang tidak.