Siapa yang seharusnya menjadi kompas moral mobil yang bisa mengendalikan diri?

LIHAT SEMUA FOTO DI GALERI

Tidak ada keraguan bahwa mobil self-driving akan menjadi kenyataan suatu hari nanti, dan saya berpendapat bahwa mereka sudah ada di sini dalam beberapa hal. Seperti teknologi terobosan baru lainnya, mobil self-driving tidak hanya akan menimbulkan konsekuensi yang tak terlihat - seperti mungkin mengurangi jumlah donor organ dengan secara drastis mengurangi jumlah kecelakaan fatal - tetapi juga menyebabkan pertentangan hukum dan peraturan.

Apakah orang yang mabuk boleh menggunakan mobil yang bisa menyetir sendiri untuk pulang dari pesta? Dapatkah orang tua mengirim anak-anak mereka ke sekolah setiap hari dengan kendaraan otonom, seperti yang mereka lakukan dengan bus yang dikendalikan manusia? Dan, tentu saja, siapa yang akan bersalah ketika mobil yang dikendarai sendiri mengalami kecelakaan?

Ini semua adalah pertanyaan yang pada akhirnya akan dijawab - dan para sarjana hukum dan lainnya sudah mengerjakannya. Tetapi mobil self-driving juga akan menghadirkan dilema moral seperti "masalah troli, " sebuah pertanyaan filosofis yang telah diperdebatkan selama beberapa dekade dan telah menerima perhatian baru sekarang bahwa mesin seperti mobil self-driving akan diminta untuk membuat keputusan moral. Sederhananya, pertanyaannya adalah apakah mengorbankan hidup seseorang sehingga banyak orang dapat hidup dibenarkan.

Permainan ruang filosofis mendapatkan namanya dari skenario di mana seseorang harus memutuskan apakah akan menarik tuas di persimpangan Y dan mengalihkan troli ke trek di mana satu orang terikat untuk menyelamatkan lima orang yang terikat pada trek lainnya. Dalam kehidupan nyata, ini dapat diterapkan pada pertanyaan-pertanyaan lengket seperti apakah penyiksaan dibenarkan dalam membantu menyelamatkan populasi yang lebih besar dari serangan teroris. Tapi itu mungkin menjadi keadaan sulit bagi tidak hanya produsen mobil dan anggota parlemen yang mengemudi sendiri, tetapi juga penumpang.

LIHAT SEMUA FOTO DI GALERI

Blog robotika Robohub mengambil Masalah Troli dan menerapkannya pada mobil self-driving dalam bentuk Masalah Tunnel. Sebuah mobil otonom di jalan satu jalur gunung akan memasuki sebuah terowongan ketika seorang anak yang menyeberang tepat di dalam pintu masuk jatuh dan jatuh. Apakah mobil terus lurus dan menabrak anak, atau apakah ia membelok dan menabrak kedua sisi pintu masuk terowongan?

Robohub menyurvei pembacanya tidak hanya tentang bagaimana mobil harus bereaksi dalam skenario ini, tetapi juga siapa yang harus memutuskan bagaimana mobil merespons. Sementara jajak pendapat hanya melibatkan 113 peserta (20 perempuan dan 93 laki-laki, dan 43 persen berusia antara 25 dan 34), jawabannya menarik. Dan dalam beberapa kasus mengejutkan.

Sebagian besar peserta (64 persen) memutuskan bahwa mobil harus terus melaju lurus dan menabrak anak, sementara 36 persen mengatakan mobil harus berbelok dan menabrak pintu masuk ke terowongan sebagai gantinya. Dan sementara 24 persen mengatakan itu adalah keputusan yang sulit dan 28 persen mengatakan itu cukup sulit, hampir setengah (48 persen) melihatnya sebagai pilihan yang mudah. Robohub menulis bahwa ini menunjukkan bahwa para responden "cukup percaya diri dalam membuat keputusan tentang ini terlepas dari apakah mereka percaya mobil itu harus" menabrak anak atau dinding terowongan.

Survei itu juga bertanya kepada pembaca yang harus menentukan apa yang dikendarai mobil self-driving dalam Masalah Tunnel: pabrikan, anggota parlemen, atau siapa pun yang ada di dalam mobil pada saat itu. Mayoritas peserta (44 persen) menjawab bahwa penumpang harus membuat keputusan, sementara 33 persen mengatakan bahwa anggota parlemen harus memilih bagaimana mobil merespons skenario seperti itu. Dan hanya 12 persen mengatakan bahwa produsen harus memutuskan (11 persen mengatakan "orang lain").

Walaupun ini adalah contoh opini yang relatif kecil, ini menunjukkan bahwa perusahaan yang membuat mobil self-driving - baik itu mobil atau Google - perlu, tentu saja, terlibat dengan regulator pemerintah, tetapi juga mempertimbangkan opini penumpang ketika berhadapan dengan Tunnel. atau Masalah Troli. Dan mungkin termasuk apa yang disebut Wired sebagai "pengaturan etika" dalam mobil yang bisa mengemudi sendiri.

Mengesampingkan kemungkinan pertanggungjawaban dan kesulitan hukum, apakah Anda ingin mengambil keputusan sebagai penumpang dalam mengemudi sendiri dalam skenario Masalah Tunnel, seperti apakah menabrak SUV di satu sisi atau mobil kompak di sisi lain, jika semi dihentikan di depan Anda? Atau apakah Anda lebih suka produsen kendaraan atau politisi membuatnya untuk Anda?

Mobil-mobil self-driving akan datang, dan begitu juga jawaban untuk pertanyaan seperti itu.

LIHAT SEMUA FOTO DI GALERI