Teknologi: inovasi, ai, dan etika

Beberapa sesi favorit saya di konferensi Techonomy awal bulan ini membahas etika, nilai-nilai, inovasi, dan bagaimana kecerdasan buatan berperan dalam bidang-bidang ini.

Nilai Manusia untuk Zaman Teknologis

Pendiri teknologi, David Kirkpatrick, memulai konferensi dengan ceramah tentang fokus pada nilai-nilai kemanusiaan teknologi. Pembicaraan besar pertama adalah tentang "nilai-nilai kemanusiaan" dengan Julie Hanna, Ketua Eksekutif Kiva, yang berbicara tentang teknologi sebagai kekuatan demokratisasi, dan mencatat bahwa sebagian besar dunia hidup dengan kurang dari $ 2 sehari. Dia mengatakan "bentuk keadilan terbesar adalah akses yang adil."

Pdt. Michael C. McFarland, Bendaharawan, Serikat Serikat Yesus Provinsi Northeast AS, berkata bahwa kita harus bertanya kepada diri sendiri di mana keadilan, dalam hal cara teknologi digunakan, dan untuk memikirkan asumsi yang tertanam dalam teknologi. Dia khawatir bahwa teknologi di tempat kerja, yang dapat menghasilkan efisiensi dan produktivitas yang lebih besar, sering digunakan tanpa memikirkan dampaknya terhadap pekerja, yang terkadang mengalami dampak yang menghancurkan. Dia mendesak hadirin untuk mulai dengan memikirkan pengalaman pekerja tersebut.

Erica Kochi, Direktur Eksekutif Inovasi dan salah satu pendiri UNICEF Inovasi, mencatat bahwa tujuh tahun lalu, tidak ada solusi teknologi yang baik yang ditujukan untuk yang termiskin dari yang miskin, dan satu-satunya penyebut yang umum adalah pesan teks. Kelompoknya telah berfokus pada membangun solusi sendiri menggunakan pesan teks, dan mencatat bahwa meskipun ada ponsel Android yang sangat murah, OS ini dibangun untuk orang-orang dengan paket data, bukan untuk mereka yang hidup dengan kurang dari $ 2 sehari. "Jika kita akan membangun produk dan layanan untuk orang-orang yang bukan kita, kita perlu memikirkannya dari sudut pandang mereka, " katanya.

Hanna berbicara tentang "pilihan salah antara tujuan dan keuntungan, antara misi dan produk, " dan mengatakan bahwa budaya yang digerakkan oleh misi adalah tempat yang lebih baik untuk bekerja, menghasilkan kesetiaan yang lebih besar, dan membantu membangun perusahaan yang bertahan lama. Kochi mengatakan Anda dapat melakukan keduanya, dan mengatakan model bisnis inti perlu disatukan dengan tanggung jawab sosial, yang seharusnya tidak menjadi sesuatu yang dilakukan di samping.

McFarland berbicara tentang fokus tidak hanya pada pemegang saham, tetapi pada semua pemangku kepentingan dalam suatu perusahaan, dan digunakan sebagai contoh AT&T's Bell Labs sebelum perusahaan itu bubar. Dia khawatir tentang kegagalan untuk berinvestasi dalam R&D jangka panjang, dan mengatakan "kita harus mengubah budaya tentang bagaimana kita berpikir tentang bisnis dan apa artinya menjadi sukses."

Perpustakaan

Saya terkesan dalam ceramah selanjutnya oleh Tony Marx, Presiden The New York Public Library, yang mengatakan bahwa, berbeda dengan anggapan beberapa orang bahwa perpustakaan sedang pergi, dia melihat teknologi baru sebagai menawarkan peluang terbesar dalam sejarah untuk perpustakaan apa selalu berarti - membantu orang mengakses informasi.

Dia mencatat bahwa di masa lalu, perpustakaan dihambat oleh kendala fisik dan keuangan untuk membawa orang ke koleksi, tetapi mengatakan ini sedang berubah.

Perpustakaan dapat memiliki dampak dalam tiga hal besar, katanya. Yang pertama adalah hanya dengan menghubungkan orang-orang, dan dia mencatat bahwa sepertiga orang Amerika tidak memiliki konektivitas internet di rumah, tetapi perpustakaan juga dapat berfungsi untuk melatih orang bagaimana menggunakan komputer, serta bagaimana cara membuat kode.

Dia mengatakan bahwa sementara mesin pencari saat ini "tidak dapat dipercaya, " mereka memiliki keterbatasan, dan mencatat bahwa banyak informasi kualitas dasar yang dihasilkan oleh upaya ribuan tahun masih belum tersedia. Dia mengatakan visinya adalah untuk menawarkan pelanggan perpustakaan "setiap buku, setiap gambar, setiap dokumen, dan setiap arsip di mana saja di dunia secara gratis."

Itu semua kembali pada gagasan kuno tentang perpustakaan sebagai dasar, kata Marx, dan mendesak kita untuk membayangkan jika semua bakat di dunia memiliki kemampuan untuk belajar, menciptakan, dan berinovasi sesuai pilihan mereka. "Kami memiliki alat untuk membuatnya tak terhentikan, " katanya. "Ayo lakukan."

Gods in Boxes: Algoritma Mahakuasa dan Nilai Tersembunyi

Oren Boiman, Co-founder dan CEO Magisto, yang menggunakan AI untuk mengedit video, mengatakan bahwa "komputer menjadi kotak hitam semakin banyak, " dengan algoritma yang dibuat oleh jaringan saraf mengalahkan algoritma terbaik yang dirancang oleh programmer. Meskipun algoritma ini dapat membuat keputusan yang jauh lebih baik daripada manusia, tidak ada yang mengerti bagaimana mereka melakukannya.

Vivienne Ming, salah satu pendiri dan Ketua Eksekutif Socos, yang menjual perangkat lunak yang membantu anak-anak belajar dengan mengirimkan satu rekomendasi sehari kepada orang tua mereka, berbicara tentang membuat algoritma yang cerdas. Dia mengatakan bahwa banyak pekerjaan dengan jaringan saraf yang dalam tergantung pada set pelatihan, dan berbicara tentang algoritma pengenalan wajah yang tidak mengenali wajah hitam karena bias yang melekat dalam pelatihan. "Komputer itu seperti manusia, " katanya. "Tergantung bagaimana kamu membesarkan mereka."

Kepala Ilmuwan Yahoo, Ron Brachman, mengatakan bahwa meskipun kami menggunakan istilah antropomorfis untuk menggambarkan mesin, masih ada perbedaan mendasar antara manusia dan komputer saat ini. Orang membuat keputusan berdasarkan kebutuhan dan keinginan mereka, yang sangat berbeda dari cara sistem komputasi mengambil keputusan saat ini.

Boiman menjelaskan bagaimana di sebagian besar "kotak hitam" ini semuanya terhubung, dan perubahan kecil pada input dapat membuat perbedaan besar dan kadang-kadang kacau dalam hasil, seperti ketika video menjadi viral. Dia mengatakan ini membuat hal-hal tidak dapat diprediksi, dan sulit untuk melacak hal-hal kembali ke apa yang terjadi pada awalnya. Brachman mencatat sebagaimana kita tidak memiliki cara untuk mengendalikan apa yang dipelajari anak-anak, hal yang sama berlaku untuk mekanisme komputasi.

Mesin Bisnis Cerdas

Diskusi tentang AI dan masalah etika yang muncul berlanjut di panel lain dengan para pemimpin beberapa perusahaan perangkat lunak yang lebih khusus. Babak Hodjat, Co-founder dan Kepala Ilmuwan dari perusahaan pembelajaran mesin Sentient Technologies, mengatakan pertanyaan tentang etika sedikit mengganggu dalam hal AI, dan bahwa etika juga berdampak pada semua jenis teknologi lainnya, mulai dari smartphone hingga skor FICO.

George John, Ketua dan Pendiri perusahaan periklanan terprogram Rocket Fuel, mencatat keunggulan teknologi, dan mengatakan "Jika AI benar-benar berfungsi, orang harus pulang lebih awal." Dia berbicara tentang perlunya keterampilan manajemen baru, dan mengelola orang dan mesin pintar. Dia juga berbicara tentang mencari aplikasi AI yang tidak hanya cocok untuk perusahaan besar, tetapi bisa menguntungkan individu juga.

Jag Duggal, SVP Manajemen Produk untuk perusahaan pengukuran pemirsa Quantcast, mengatakan bahwa ini adalah alat yang dirancang untuk membuat kita lebih produktif, menyelesaikan lebih banyak hal, dan menambah kapasitas kita. Dia mengatakan ada segudang inovasi dan produktivitas yang bisa keluar dari ini, dan mengatakan bahwa meskipun ada kekhawatiran tentang teknologi menjadi terlalu baik, dia jauh lebih peduli tentang batasan teknologi.

Dia sangat peduli tentang insentif, dan apa yang terjadi ketika algoritma pembelajaran mesin akhirnya mengikuti insentif yang salah. Misalnya, ia mencatat bagaimana di pasar penempatan iklan online, vendor e-commerce memberikan kredit kepada iklan terakhir yang dilihat seseorang sebelum melakukan pemesanan. Ini menghasilkan lebih banyak iklan yang ditargetkan setelah seseorang mengunjungi situs ecommerce, dan sering kali setelah seseorang memutuskan untuk membeli; dengan kata lain, saat iklan mungkin terbuang sia-sia. Quantcast sedang mencoba untuk memberikan contoh yang lebih baik, katanya.

Jon Stein, Pendiri dan CEO Betterment, perusahaan investasi berbasis AI, berbicara tentang kebaikan yang dapat dilakukan teknologi, dan setuju bahwa penting untuk menetapkan insentif yang jelas. Dia berbicara tentang mengikuti standar fidusia, seperti bertindak demi kepentingan pelanggan Anda, dan mengatakan transparansi memiliki peran besar, sehingga orang dapat memahami di mana konflik dapat terjadi.

Stein mengatakan teknologi akan mempersulit penjahat dari waktu ke waktu, tetapi Duggal mengatakan dia lebih skeptis, karena penjahat memiliki teknologi juga. Meski begitu, dia terkesan dengan potensi teknologi, dan mengutip contoh proyek dari Google di mana AI dapat mengidentifikasi kanker pada tahi lalat di kulit. Dia mengatakan dia khawatir tentang "kesalahan" masalah oleh penentang teknologi.