Apakah tes kendaraan otonom merupakan bahaya publik? | doug newcomb

Pada awal Internet, dapatkah orang mengharapkan trolling dan cyberbullying - dan bahwa POTUS di masa depan akan terlibat dengan 140 karakter bangsa pada saat itu? Mungkin sulit untuk mengantisipasi kelemahan dari teknologi baru yang revolusioner.

Di antara potensi kelemahan kendaraan otonom - termasuk kehilangan pekerjaan besar-besaran di antara pengemudi komersial dan bahkan mungkin lebih banyak lalu lintas dari taksi-taksi - adalah apa yang dikenal sebagai "masalah troli." Ini merujuk pada keputusan etis yang harus diambil oleh mobil yang bisa menyetir sendiri ketika dihadapkan pada situasi yang tidak dapat dimenangkan, seperti apakah akan menabrak seseorang yang melesat ke jalurnya di jalan kota yang padat sesak atau berbelok ke kiri dan ke kanan dan masuk ke pejalan kaki di trotoar.

Meskipun profesor filsafat Politeknik Universitas Negeri California Patrick Lin telah melakukan tes dunia nyata pada dilema ini bersama dengan Pusat Penelitian Otomotif di Stanford, dia mengakui bahwa "ada sesuatu yang tidak jujur ​​tentang kepanikan moral atas mobil yang bisa dikendarai sendiri" dan masalah troli karena skenarionya sudah dibuat-buat. Tapi seperti yang ditunjukkan Lin, tidak seperti teknologi lainnya, pengujian kendaraan otonom di jalan umum dapat memiliki dampak negatif langsung pada masyarakat.

Ini Akan Rumit

Lin berpendapat bahwa sementara para pengembang teknologi biasanya menguji beta produk dan fitur baru dengan sedikit pembatasan dan undang-undang, "itu menjadi rumit ketika perangkat lunak mereka berinteraksi langsung dengan dunia fisik yang lebih besar" -dalam hal ini ketika mengendalikan mesin multi-ton di depan umum. Lin berpendapat bahwa dalam kasus pengujian kendaraan otonom di jalan umum, "produk tidak hanya secara langsung mempengaruhi pengguna saja, seperti halnya dengan sebagian besar gadget dan layanan lainnya."

Sebagai contoh, Lin menunjuk ke aplikasi navigasi kerumunan-sumber Waze. Ini "menimbulkan keluhan tentang perilaku 'berkelompok': gerombolan mobil yang dikirim oleh algoritma melalui lingkungan yang tenang tidak dirancang untuk lalu lintas yang padat, " katanya.

Ini "dapat meningkatkan risiko bagi anak-anak bermain di jalan-jalan ini, menurunkan nilai properti jika kebisingan jalan lebih keras, dan menciptakan eksternalitas lain. Ini berarti aplikasi navigasi membuat keputusan risiko yang mungkin tidak disadari pengguna tetapi mungkin harus diperdebatkan."

Mobil-mobil self-driving yang serupa "akan perlu memilih sendiri rute-rute mereka… dan seringkali tidak hanya ada satu cara yang tepat untuk pergi, " tambah Lin. Tetapi dia percaya bahwa masalah yang lebih besar adalah menentukan siapa yang akan dimintai pertanggungjawaban atas dampak negatif pada lalu lintas atau keselamatan publik yang disebabkan oleh aplikasi navigasi seperti penyebab Waze - dan dengan perpanjangan pengujian mobil mandiri di jalan umum.

"Ini adalah tragedi umum: Tidak ada seorang pun di kursi pengemudi tentang bagaimana algoritma navigasi harus diselaraskan dengan masyarakat, " katanya. "Jadi jika ada dampak negatif pada lalu lintas atau keselamatan publik, sulit untuk menentukan tanggung jawab atas efek ini."

Pertanyaan tentang siapa yang akan bertanggung jawab dalam kecelakaan mobil self-driving - pembuat mobil, pengembang perangkat lunak, sensor atau pembuat peta - adalah salah satu masalah yang menghambat adopsi teknologi yang meluas, meskipun solusi sedang dikembangkan. Mengingat bahwa tes mobil self-driving sudah dilakukan di jalan umum, Lin percaya apa yang ia sebut "penelitian subjek manusia" mungkin harus mendapatkan izin terlebih dahulu oleh dewan etika.

Kota-kota mulai merespons dengan menetapkan jalan sebagai zona "tidak melalui lalu lintas" yang hanya dapat diakses oleh penduduk dan mengharuskan Waze untuk menjadikannya sebagai batas bagi pengendara yang melintas. Beberapa warga yang marah dan giat bahkan akan nakal dan meretas aplikasi nav seperti Waze dengan bangkai hantu, untuk mengalihkan lalu lintas jauh dari lingkungan mereka.

Lin menekankan bahwa tujuannya bukan untuk menciptakan "argumen menentang teknologi, tetapi hanya untuk secara serius merefleksikan kekuatan dan implikasinya yang semakin meningkat, ketika kasus-kasus uji bergerak melalui pengadilan hukum dan opini publik" -dan lebih banyak mobil self-driving turun ke jalan umum.