Microsoft, es, dan masalah dengan teknologi 'netral'

Ketika Anda mencari kata-kata untuk menggambarkan IBM, Anda berpikir solid dan tenang, tetapi juga ternoda. Selama Perang Dunia II, di bawah arahan ketua dan CEO Thomas Watson, IBM membantu dalam memekanisasi pekerjaan administratif Reich Ketiga.

Anak perusahaan Jerman, dengan kerja sama dan koordinasi perusahaan induk, mendirikan kamp konsentrasi dengan mesin penyortir kartu sewaan yang dipeliharanya, menyesuaikan aplikasi, dan menyediakan kertas untuk menyimpannya dalam kartu punch. Informasi yang dihasilkan oleh mesin-mesin Hollerith berperan dalam menempatkan orang-orang Yahudi di balik pagar kawat berduri yang jutaan orang tidak akan melarikan diri.

Saat ini, ribuan anak-anak imigran dan pencari suaka berada di kandang rantai mereka sendiri di pusat-pusat penahanan AS, dengan barcode yang melingkari pergelangan tangan mereka. Perusahaan di belakang teknologi yang melacaknya - atau tidak - tidak ingin membual tentang fakta itu.

Pada Januari, Microsoft membicarakan kemitraannya dengan Immigration and Customs Enforcement (ICE), yang menggunakan layanan cloud Azure Government Redmond. Pos itu muncul kembali minggu ini di tengah keributan tentang kebijakan pemisahan anak pemerintah di perbatasan, dan untuk waktu yang singkat, setiap penyebutan ICE dihilangkan darinya. Sumber dengan pengetahuan tentang masalah ini mengatakan kepada PCMag bahwa seorang karyawan menghapusnya setelah melihat komentar di media sosial; itu dipulihkan tidak lama kemudian.

Sumber itu juga mengatakan mereka tidak percaya layanan Azure atau Azure digunakan dalam pemisahan keluarga di perbatasan selatan, sesuatu yang digemakan CEO Satya Nadella dalam sebuah surat yang mengecam kebijakan pemerintah tentang pemisahan keluarga. Dia mengatakan Azure hanya digunakan oleh ICE untuk surat warisan, kalender, pesan, dan beban kerja manajemen dokumen.

Tapi sungguh, dia tidak bisa yakin bagaimana agen menggunakan layanannya. Beberapa karyawan Microsoft tampaknya setuju; mereka menulis surat terbuka meminta perusahaan untuk mengakhiri kontraknya dengan ICE. Pengembang di GitHub, yang baru-baru ini diakuisisi Microsoft, melakukan hal yang sama.

Di sinilah perusahaan teknologi perlu membuat keputusan dengan alasan moral; apakah mereka ingin melakukan bisnis dengan entitas pemerintah yang terlibat dalam pekerjaan yang oleh Komisi Tinggi PBB untuk Hak Asasi Manusia disebut tidak berbudi?

Kontroversi Pengakuan Gambar

Sementara itu memiliki profil yang lebih rendah, Vigilant Solutions menandatangani kontrak dengan ICE untuk program lisensi-plat-recognition (LPR), yang digunakan untuk menemukan dan melacak orang secara real time. "Solusi LPR kami tidak hanya untuk menemukan kendaraan curian. Ini untuk itu dan banyak lagi, " kata situs perusahaan.

Solusi Waspada tidak menanggapi pertanyaan tentang kerjanya dengan ICE. Dan itu bukan satu-satunya perusahaan yang tetap bungkam tentang teknologi pengenalan gambar yang digunakan oleh penegak hukum dan lembaga pemerintah.

Rekognisi Amazon menggunakan pembelajaran mendalam untuk mendeteksi benda mati, orang, dan aktivitas. Ketika ditanya tentang penggunaan legal tetapi mungkin dipertanyakan secara sosial seandainya ICE menjadi pelanggan, juru bicara Amazon mengakui potensi penyalahgunaan, tetapi mengatakan Rekognition tunduk pada Kebijakan Penggunaan Layanan yang Dapat Diterima Amazon Web Services.

Pembacaan kebijakan muncul singkat dengan cara yang akan menghentikan perilaku yang tidak menyenangkan. Bagian yang paling relevan akan melarang "Setiap kegiatan yang ilegal, yang melanggar hak orang lain, atau yang dapat membahayakan orang lain, operasi atau reputasi kita."

Rekognition tidak digunakan oleh ICE, tetapi digunakan oleh beberapa departemen kepolisian, sesuatu yang mengkhawatirkan beberapa pemegang saham Amazon, yang telah meminta perusahaan untuk berhenti menjual Rekognition kepada penegak hukum.

NBC News menemukan rakit perusahaan teknologi yang memiliki kontrak dengan ICE, termasuk HP Enterprise, Dell, dan Motorola. Satu perusahaan yang membantu ICE seharusnya tidak mengejutkan: Palantir. Ini memiliki kesepakatan $ 41 miliar untuk produk Investigative Case Management ICE, yang merupakan "misi-kritis" bagi agensi, menurut dokumen yang diperoleh oleh The Intercept.

Pendiri dan ketua Palantir, Peter Thiel, telah menjadi pendukung tetap Donald Trump sejak kampanyenya. Thiel sendiri belum berbicara tentang situasi di perbatasan, tetapi pada 2008, ia memberikan sumbangan $ 1 juta kepada kelompok anti-imigran, NumbersUSA, yang didedikasikan untuk mengurangi imigrasi legal dan ilegal. Thiel rupanya tidak melihat ironi dalam menjadi warga negara Selandia Baru dengan melewati proses yang biasa.

Kontrak pemerintah sangat menguntungkan, tetapi mengambil untung dari kegiatan yang sangat mirip dengan yang telah menyebabkan beberapa kekejaman terburuk dalam sejarah datang pada harga yang terlalu tinggi. Tanyakan saja kepada Google, yang telah bergulat dengan keberatan terhadap pekerjaannya dengan Pentagon pada program drone yang kontroversial. Modal sosial Silicon Valley telah memperoleh selama bertahun-tahun dan kemampuan dan keterampilannya harus diletakkan untuk menghilangkan kengerian masa lalu kita untuk masa depan yang lebih baik.