Tahun perhitungan industri etis

Sejak jaringan saraf yang dalam memenangkan kompetisi pengenalan gambar paling penting di dunia pada tahun 2012, semua orang sangat senang tentang apa yang bisa dihasilkan oleh kecerdasan buatan. Tetapi dalam perlombaan untuk mengembangkan teknik dan aplikasi AI baru, dampak negatif yang mungkin terjadi mengambil kursi belakang.

Kami sekarang melihat perubahan menuju kesadaran yang lebih besar tentang etika AI. Pada tahun 2018, pengembang AI menjadi lebih sadar akan kemungkinan hasil kreasi mereka. Banyak insinyur, peneliti, dan pengembang memperjelas bahwa mereka tidak akan membangun teknologi yang membahayakan atau merusak kehidupan orang yang tidak bersalah, dan mereka menahan perusahaan mereka.

Pengenalan Wajah dalam Penegakan Hukum

Di masa lalu, membuat aplikasi pengenalan wajah itu sulit, intensif sumber daya, dan rawan kesalahan. Tetapi dengan kemajuan dalam visi komputer - subset AI yang memungkinkan komputer mengenali konten gambar dan video - membuat aplikasi pengenalan wajah menjadi jauh lebih mudah dan dalam jangkauan semua orang.

Perusahaan teknologi besar seperti Microsoft, Amazon, dan IBM mulai menyediakan layanan berbasis cloud yang memungkinkan setiap pengembang untuk mengintegrasikan teknologi pengenalan wajah ke dalam perangkat lunak mereka. Ini membuka banyak kasus penggunaan baru dan aplikasi di berbagai domain, seperti perlindungan dan otentikasi identitas, keamanan rumah pintar, dan ritel. Tetapi aktivis hak privasi menyuarakan keprihatinan tentang potensi penyalahgunaan.

Pada Mei 2018, Uni Kebebasan Sipil Amerika mengungkapkan bahwa Amazon memasarkan Rekognition, teknologi analitik video waktu-nyata, kepada penegak hukum dan lembaga pemerintah. Menurut ACLU, polisi di setidaknya tiga negara bagian menggunakan Rekognition untuk pengenalan wajah pada umpan video pengawasan.

"Dengan Rekognition, pemerintah sekarang dapat membangun sistem untuk mengotomatiskan identifikasi dan pelacakan siapa pun. Jika kamera badan polisi, misalnya, dilengkapi dengan pengenalan wajah, perangkat yang dimaksudkan untuk transparansi dan akuntabilitas petugas akan lebih jauh berubah menjadi mesin pengintai yang ditujukan pada publik, "ACLU memperingatkan. "Dengan mengotomatiskan pengawasan massa, sistem pengenalan wajah seperti Rekognition mengancam kebebasan ini, menghadirkan ancaman khusus bagi masyarakat yang telah ditargetkan secara tidak adil dalam iklim politik saat ini. Begitu sistem pengawasan yang kuat seperti ini dibangun dan disebarkan, kerusakannya akan sangat sulit untuk diatasi.."

Kekhawatiran ACLU digaungkan oleh karyawan Amazon, yang pada bulan Juni menulis surat kepada Jeff Bezos, CEO perusahaan, dan menuntut agar ia berhenti menjual Rekognition kepada penegak hukum. "Perusahaan kita seharusnya tidak berada dalam bisnis pengawasan; kita seharusnya tidak berada dalam bisnis kepolisian; kita tidak boleh dalam bisnis mendukung mereka yang memantau dan menindas populasi yang terpinggirkan, " bunyi surat itu.

Pada bulan Oktober, seorang staf Amazon anonim mengungkapkan bahwa setidaknya 450 karyawan telah menandatangani surat lain yang meminta Bezos dan eksekutif lainnya untuk berhenti menjual Rekognisi kepada polisi. "Kami tidak dapat mengambil untung dari sekelompok pelanggan yang kuat dengan mengorbankan komunitas kami; kami tidak dapat mengalihkan pandangan dari biaya manusia dari bisnis kami. Kami tidak akan secara diam-diam membangun teknologi untuk menindas dan membunuh orang, baik di negara kami atau di negara lain, " itu berkata.

Kejatuhan Proyek AI Militer Google

Sementara Amazon berurusan dengan reaksi internal ini, Google mengalami pergulatan serupa atas kontrak untuk mengembangkan AI untuk militer AS, yang dijuluki Project Maven.

Google dilaporkan membantu Departemen Pertahanan mengembangkan teknologi visi komputer yang akan memproses rekaman video drone. Jumlah rekaman video yang direkam oleh drone setiap hari terlalu banyak bagi analis manusia untuk ditinjau, dan Pentagon ingin mengotomatiskan bagian dari proses.

Mengakui sifat kontroversial dari tugas tersebut, seorang juru bicara Google menetapkan bahwa itu hanya menyediakan API untuk TensorFlow, platform pembelajaran mesinnya, untuk mendeteksi objek dalam umpan video. Google juga menekankan pihaknya sedang mengembangkan kebijakan dan perlindungan untuk menangani aspek etis teknologinya.

Tetapi Project Maven tidak cocok dengan karyawan Google - 3.000 di antaranya, termasuk puluhan insinyur, segera menandatangani surat terbuka kepada CEO Sundar Pichai yang menyerukan penghentian program.

"Kami percaya bahwa Google tidak boleh dalam bisnis perang, " surat itu berbunyi. Mereka meminta perusahaan "membuat rancangan, mempublikasikan, dan menegakkan kebijakan yang jelas yang menyatakan bahwa Google maupun kontraktornya tidak akan pernah membangun teknologi perang."

Karyawan Google juga memperingatkan bahwa atasan mereka membahayakan reputasinya dan kemampuannya untuk bersaing memperebutkan talenta di masa depan. "Kami tidak dapat mengalihkan tanggung jawab moral dari teknologi kami ke pihak ketiga, " tegas Googler.

Tidak lama kemudian, sebuah petisi yang ditandatangani oleh 90 akademisi dan peneliti meminta para eksekutif top Google untuk menghentikan pekerjaan pada teknologi militer. Para penandatangan memperingatkan bahwa pekerjaan Google akan mengatur panggung untuk "pengenalan target otomatis dan sistem senjata otonom." Mereka juga memperingatkan bahwa seiring perkembangan teknologi, mereka akan berdiri "selangkah lagi dari otorisasi drone otonom untuk membunuh secara otomatis, tanpa pengawasan manusia atau kontrol manusia yang berarti."

Ketika ketegangan meningkat, beberapa karyawan Google mengundurkan diri sebagai protes.

Bagaimana Para Pemimpin Teknologi Menanggapi

Di bawah tekanan, Google menyatakan pada bulan Juni bahwa mereka tidak akan memperpanjang kontraknya dengan Departemen Pertahanan untuk Proyek Maven setelah berakhir pada tahun 2019.

Dalam sebuah posting blog, CEO Sundar Pichai (gambar di bawah) menyatakan seperangkat prinsip etika yang akan mengatur pengembangan dan penjualan teknologi AI perusahaan. Menurut Pichai, perusahaan mulai dari sekarang akan mempertimbangkan proyek-proyek yang untuk kebaikan masyarakat secara keseluruhan dan menghindari pengembangan AI yang memperkuat bias yang tidak adil yang ada atau merusak keselamatan publik.

Pichai juga secara eksplisit menyatakan bahwa perusahaannya tidak akan bekerja pada teknologi yang melanggar norma-norma hak asasi manusia.

Bezos dari Amazon tidak terlalu terganggu oleh kemarahan atas Rekognition. "Kami akan terus mendukung DoD, dan saya pikir kami harus, " kata Bezos pada konferensi teknologi di San Francisco pada Oktober. "Salah satu tugas kepemimpinan senior adalah membuat keputusan yang tepat, bahkan ketika itu tidak populer."

Bezos juga menggarisbawahi perlunya komunitas teknologi untuk mendukung militer. "Jika perusahaan teknologi besar akan mundur dari DoD, negara ini akan berada dalam masalah, " katanya.

Presiden Microsoft Brad Smith, yang perusahaannya menghadapi kritik atas pekerjaannya dengan ICE, menerbitkan posting blog pada bulan Juli di mana ia menyerukan pendekatan terukur dalam menjual teknologi sensitif ke lembaga pemerintah. Sementara Smith tidak mengesampingkan penjualan layanan pengenalan wajah kepada penegak hukum dan militer, dia menekankan perlunya regulasi dan transparansi yang lebih baik di sektor teknologi.

• MIT Habiskan $ 1 Miliar untuk Program Studi Etika AI MIT Habiskan $ 1 Miliar untuk Program Studi Etika AI
• Apakah AI Benar-Benar Berbicara Bahasa Kami? Apakah AI Benar-Benar Berbicara Bahasa Kami?
• Meruntuhkan Pabrik AI Cina yang tak terhentikan Memecah Pabrik AI Cina yang tak terhentikan

"Kami telah memilih perwakilan di Kongres memiliki alat yang diperlukan untuk menilai teknologi baru ini, dengan segala konsekuensinya. Kami mendapat manfaat dari pemeriksaan dan keseimbangan Konstitusi yang telah melihat kami dari zaman lilin hingga era kecerdasan buatan. Seperti pada berkali-kali di masa lalu, kita perlu memastikan bahwa penemuan-penemuan baru melayani kebebasan demokrasi kita sesuai dengan aturan hukum, "tulis Smith.

Pada 2018, ancaman jauh dari robot pembunuh dan pengangguran massal memberi jalan bagi kekhawatiran tentang dampak etis dan sosial AI yang lebih cepat. Dalam banyak hal, perkembangan ini menunjukkan bahwa industri ini semakin matang, karena algoritma AI menjadi lebih menonjol dalam tugas-tugas penting. Tetapi ketika algoritma dan otomasi semakin tertanam dalam kehidupan kita sehari-hari, lebih banyak perdebatan akan muncul.