Microsoft merinci cara menjalankan toko etis itu

Presiden Microsoft Brad Smith mengambil langkah yang tidak biasa dalam mempublikasikan posting blog pada hari Jumat, 13 Juli 2018, di mana ia meminta pemerintah untuk mengatur teknologi yang sedang dikembangkan oleh perusahaannya sendiri. Teknologi itu adalah pengenalan wajah, dan Smith sudah melihat bahaya dalam membiarkan penggunaan kemampuan semacam itu tanpa terkekang, terutama oleh pemerintah. Tetapi Smith juga menunjukkan bahwa penyalahgunaan pengenalan wajah di industri swasta dapat memiliki konsekuensi yang sama mengerikannya.

Beberapa hari kemudian, Asosiasi Mesin Komputasi (ACM) memposting di situs webnya Kode Etik dan Perilaku Profesional ACM, yang merupakan kode perilaku profesional baru yang mengambil sikap yang mirip dengan Microsoft, tetapi yang jauh lebih luas dalam hal ini. cakupan perilaku etis dalam bisnis teknologi informasi (TI). Yang sama-sama dimiliki oleh kedua pos adalah gagasan mempertahankan tingkat tanggung jawab perusahaan yang tinggi. Itu adalah sesuatu yang banyak diabaikan oleh para profesional TI dan diserahkan kepada orang-orang yang lebih tinggi dalam rantai makanan yang dibayar mahal - suatu sikap yang tidak menguntungkan dan juga berbahaya.

Smith, dalam posting blognya, khawatir tentang penyalahgunaan pengenalan wajah. Dia menyadari bahwa, bahkan di kampus-kampus besar yang diselenggarakan di sekitar teknologi saat ini, terutama token keamanan seperti yang dipekerjakan oleh banyak sistem manajemen identitas, adalah mungkin untuk melacak sangat dekat di mana orang berada dan, dari sana, mencari tahu apa yang mereka lakukan. Tetapi dengan pengenalan wajah, dimungkinkan untuk memilih individu dari kerumunan mana pun, dan tidak hanya melacak keberadaan mereka tetapi juga menyimpan catatan di mana mereka telah didasarkan pada data kecil selain dari fitur fisik mereka. Seperti yang ditunjukkan Smith, pelacakan semacam itu sudah terjadi di Cina. Smith meminta komisi untuk mempelajari penggunaan dan konsekuensi dari pengenalan wajah di Amerika Serikat.

Pengenalan Wajah sebagai Bentuk ID yang Andal

Jelas, dalam banyak kasus, pemantauan 24x7 terhadap pergerakan seseorang adalah ilegal di AS, sebagaimana dibuktikan oleh keputusan Mahkamah Agung AS baru-baru ini mengenai penggunaan pelacakan lokasi ponsel dan penggunaan perangkat GPS tanpa surat perintah. Tetapi itu tidak berarti bahwa suatu agensi, di suatu tempat, tidak akan mencoba.

Demikian juga, tidak ada pertanyaan bahwa pengenalan wajah telah berkembang ke titik yang dapat digunakan sebagai bentuk identifikasi (ID) yang dapat diandalkan. Sudah, beberapa maskapai sedang menguji pengenalan wajah untuk melewati jalur keamanan dan untuk digunakan dalam naik pesawat di Bandara Internasional Los Angeles (LAX). Demikian juga, ketika saya kembali ke Washington, DC pada penerbangan dari London bulan lalu, semua yang diperlukan bagi saya untuk masuk ke AS adalah pandangan wajah saya dengan kamera dan pemindaian sidik jari saya saat paspor saya dipindai oleh seorang pembaca.

Pengenalan Wajah: Langkah Selanjutnya

Jadi, pertanyaannya adalah, apa langkah selanjutnya? Sebagai seorang profesional TI, misalkan Anda diminta untuk membuat sistem pengenalan wajah untuk atasan Anda yang akan mengidentifikasi orang-orang yang tidak diinginkan perusahaan di properti atau tempat mereka. Mungkin mereka telah lulus cek buruk, dicurigai mengutil, atau karyawan yang dipecat.

Apa yang akan kamu lakukan? Semua itu adalah alasan bagus untuk tidak mengizinkan seseorang masuk ke toko Anda atau ke properti Anda. Kemungkinannya adalah, Anda tidak akan kesulitan menemukan foto-foto mereka sehingga sistem pengenalan harus dengan mudah dapat mengidentifikasi mereka. Jadi apa selanjutnya?

Ini adalah bagian dari proses pengambilan keputusan Anda, di mana Anda perlu memutuskan bagaimana menggunakan pengenalan wajah, atau data biometrik lainnya, sebagai bagian dari kebijakan keamanan Anda. Ini bukan sebagai cut-and-kering sebagai tanggapan Anda terhadap peringatan malware dari salah satu node perlindungan titik akhir Anda. Respons ini tidak mudah diotomatisasi. Jadi, apakah Anda akan menyalakan alarm? Halaman manajer fasilitas? Peringatan keamanan? Panggil polisi? Jawaban untuk semua ini bisa ya, tetapi bisa juga tidak - dan membuat keputusan yang salah bisa menjadi kesalahan yang mengakhiri karier.

7 Tips Menggunakan Pengenalan Wajah dengan Bijak

Berikut adalah beberapa tips yang mungkin membantu mengurangi kemungkinan masalah sambil tetap melindungi organisasi Anda:

Posting pemberitahuan di mana pengunjung dan karyawan akan melihat mereka, memberi tahu mereka bahwa Anda menggunakan video pengawasan dan pengenalan wajah sebagai bagian dari operasi keamanan Anda. (Pengacara Anda akan dengan senang hati membantu dengan bahasa yang sebenarnya.)

Pastikan ada manusia di loop sebelum tindakan diambil atas dasar jenis ID biometrik. Meskipun semakin baik, pengenalan wajah, seperti biometrik lainnya, tidak dapat diandalkan 100 persen. Sebelum Anda mengambil tindakan, seseorang perlu mengkonfirmasi apa yang dikatakan sistem pengakuan. (Bekerja dengan departemen hukum dan manajemen senior Anda untuk memetakan ini.)

Kenali keterbatasan sistem ID wajah atau biometrik Anda. Sebagai contoh, teknologi pengenalan wajah saat ini bekerja paling baik untuk pria kulit putih tetapi tidak begitu baik dengan wanita non-kulit putih. Anda perlu memastikan Anda tidak melakukan profil rasial secara tidak sengaja. Ingat kesedihan yang menimpa perusahaan, dari CVS ke Starbucks, ketika, sengaja atau tidak, mereka melakukan hal itu. (Semua dalam semua, diskusi yang sangat bagus dengan tim hukum Anda.)

Pastikan ada prosedur "Ups". Anda akan memiliki ID yang salah, jadi Anda harus memastikan mereka tidak mempermalukan orang atau perusahaan. (Sekali lagi, baik pengacara dan manajemen senior perusahaan Anda harus mempertimbangkan di sini.)

Tentukan terlebih dahulu di mana Anda akan membagikan hasil pemeriksaan ID Anda. Anda tidak bisa hanya mengirim semuanya ke berbagai otoritas pemerintah. Anda perlu menentukan apa yang bisa Anda bagikan, apa yang tidak bisa Anda bagikan, dan apa yang membutuhkan surat perintah. Kemudian pastikan prosedur internal Anda kuat sehingga karyawan Anda tidak mencoba menjilat dengan membagikan apa yang tidak boleh dibagikan. (Ini kemungkinan merupakan percakapan yang lebih panjang dengan pengacara Anda, jadi pesanlah pizza.)

Terus uji sistem ID Anda terhadap set data paling terkenal sehingga Anda bisa membuat pengakuan lebih akurat. (Vendor pengenalan wajah Anda harus memiliki set data tersebut, dan seiring waktu, Anda akan dapat membuatnya sendiri.)

• Akhirnya, berhati-hatilah dengan siapa yang Anda targetkan untuk pengakuan. Anggota masyarakat memiliki hak privasi yang kuat, dan pelanggaran Anda terhadap hak-hak itu dapat merugikan organisasi Anda. (Coba tebak? Lebih banyak waktu pengacara.)

Walaupun perusahaan Anda tidak dapat mengendalikan apa yang pemerintah putuskan untuk lakukan mengenai pengenalan wajah, yang mungkin tidak ada artinya karena suasana disfungsional di Washington, DC akhir-akhir ini, Anda dapat mengendalikan apa yang terjadi di tempat Anda sendiri. Bahkan, Anda akan diharapkan jika Anda menemukan diri Anda di depan hakim. Mengikuti prinsip-prinsip etika ACM untuk menjadi jujur ​​dan dapat dipercaya dan mengambil langkah-langkah untuk tidak membeda-bedakan sekaligus melindungi privasi telah menjadi lebih penting dari sebelumnya.