Ellen ullman tentang kode, hati nurani, dan museum saya

Untuk episode Fast Forward ini, saya berbicara dengan Ellen Ullman, penulis Life in Code, serangkaian esai yang dimulai pada tahun 1994 ketika dia adalah seorang programmer di Silicon Valley. Dia sekarang mencari nafkah dengan menulis sebagian besar fiksi, tetapi Ullman tetap menjadi pengamat yang tajam di kawasan itu, industri teknologi, dan bagaimana alat yang kita buat mengubah kita setiap hari.

Dan Costa: Akar pemrograman Anda kembali dengan sangat baik. Pada tahun 1978, Anda adalah seorang jurusan bahasa Inggris yang memutuskan untuk beralih ke pemrograman. Kenapa kamu melakukan hal seperti itu?

Ellen Ullman: Ya, saya terlibat dengan grup yang melakukan video, Sony Portapak adalah salah satu mesin seperti PC. Hal-hal yang telah dikendalikan oleh perusahaan raksasa tiba-tiba ada di tangan Anda sendiri. Anda bisa membuat video sendiri, cerita Anda sendiri. Anda bisa berkeliling dan menunjukkannya. Tidak ada batasan. Anda bisa melakukan porno, dll., Dan itu adalah waktu yang sangat menyenangkan. Saya belajar bahwa saya suka bekerja dengan mesin. Kemungkinan bekerja dengan mesin-mesin ini untuk melakukan perubahan sosial dan seni sangat menarik. Akhirnya, saya meninggalkan Ithaca untuk pergi ke San Francisco.

Seseorang harus meninggalkan kota perguruan tinggi atau menjadi menyedihkan. Dan suatu hari, saya sedang berjalan di Market Street dan di sana, di jendela Radio Shack yang diberangkatkan adalah TRS-80 - yang dikenal sebagai Trash-80 - dan saya berpikir, "Oh, apakah ini seperti Portapak? Apa yang bisa Anda lakukan dengan hal ini? Bisakah Anda membuat seni, aktivisme sosial?

Jadi dengan dorongan hati, saya membelinya. Dan kemudian ada masalah pemrograman. Ini sedikit lebih sulit daripada memulai dengan Portapak, tekan tombol. Saya merasa sulit, tetapi yang baik sulit. Saya pikir siapa pun yang ingin masuk ke rekayasa perangkat lunak harus merasakan, "Ya, ini sulit, tetapi juga kesenangan berburu." Jika tidak ada perasaan tergoda untuk menyelesaikan masalah, itu akan menjadi pengalaman yang sangat tidak menyenangkan.

Dan orang-orang saat ini tidak begitu memahami hal itu, ketika Anda membeli TRS-80 di Radio Shack, itu tidak banyak membantu. Anda harus membuatnya melakukan sesuatu. Anda harus belajar cara menggunakannya, dan undangan seperti itulah yang Anda pakai?

Ya, ada layar kosong. Itu sudah menjadi televisi usang pada saat itu. Itu memiliki keyboard, dan Anda merekam program pada kaset reel-to-reel. Dan saya pikir itu mungkin memegang 4K. Itu adalah ukuran maksimum program. Dan itu bahasa BASIC. Dan saya tidak tahu apakah orang tahu perbedaan antara bahasa yang ditafsirkan dan dikompilasi. Diartikan artinya itu hanya mengeksekusi tepat di depan Anda. Jadi Anda, Anda tahu, masukkan dua poin, Anda tahu, dua tambah dua dan itu menunjukkan Anda empat. Itu mudah, menjalankan hal-hal kecil pertama. Melakukan sesuatu yang signifikan sangat sulit, terutama karena BASIC awal memiliki banyak jebakan. Seperti Anda bisa mengatakan "Pergi Ke" tetapi itu tidak secara otomatis Kembali. Jadi Anda bisa tersesat di kusut, dan itu dikenal sebagai kode Geddy. Sekali lagi, itu membuat frustrasi dan menarik.

Ketika saya melihat-lihat buku itu dan Anda berbicara tentang tahun-tahun awal itu, yang mengejutkan saya adalah orang-orang yang bekerja sama dengan Anda. Tampaknya hampir lebih seperti koleksi kain perca seniman daripada insinyur dan programmer hardcore. Bisakah Anda berbicara sedikit tentang esprit de corps, atau orang-orang yang bekerja dengan Anda?

Iya. Jika Anda melihat ke belakang dan - Anda tahu siapa Stewart Brand, Katalog Dosen Whole Earth, The Well - itu adalah salah satu komunitas online pertama. Dan orang-orang tertarik padanya. Anda tahu buku John Markoff, What the Dormouse Said ?

Tentu.

Anda tahu, tukang batu dan orang-orang yang putus sekolah dan orang-orang yang hanya gila, dan ingin bersenang-senang. Suasana itulah yang menarik saya, seperti Portapak. Mereka adalah orang-orang yang bersenang-senang, menjelajah. Dan orang-orang pertama yang bekerja dengan saya ketika saya harus mengambil pekerjaan dan mencari nafkah juga seperti itu. Seorang mantan penari sufi, seorang wanita yang melakukan disertasi dan sejarah seni, beberapa pria dari Perancis yang merokok Gauloises, meskipun merokok tidak diizinkan. Dan dia akan berkata, "Komputer tidak pernah menyuruhku berhenti merokok." Dan ini adalah jenis orang yang bekerja dengan kami.

Di suatu tempat di sekitar '83 ke '86, itu berubah. Ilmu Komputer menjadi gelar umum, Rekayasa Perangkat Lunak. Dan kami bergabung dengan kelompok yang sangat jantan, yang dipilih sendiri yang telah mempelajari Ilmu Komputer sebagai gelar sarjana. Dan suasananya benar-benar berubah. Orang lebih sulit diajak bicara. Dalam pengalaman saya, tidak bulat juga. Itu adalah generalisasi yang sangat luas.

Saya bekerja dengan orang-orang yang berpengetahuan luas. Anda bisa mengutip Shakespeare dengan yang terbaik dari mereka. Tapi seluruh suasana itu berubah. Saya kira itu karena profesi harus kehilangan kepolosannya.

Bagaimana Anda terinspirasi untuk melakukan pengkodean?

Sekali lagi, "Wow, apa ini?" Anda tahu, ketika saya menjalankan program nyata pertama saya, ada kesenangan. "Wow, berhasil. Aku yang melakukannya." Itu berubah dari tidak ada menjadi sesuatu. Dan itu seperti pertama kali saya memperbaiki karburator. Anda tahu, Anda memisahkan beberapa hal. Anda memasangnya kembali dan mobil dinyalakan, kan? Jadi ini adalah kesenangan yang langka, dan sulit untuk mendapatkannya. Setelah saya memiliki perasaan itu, itu sedikit seperti obat, Anda tahu. Anda mendapatkan setinggi itu dan kemudian Anda kehilangannya, dan kemudian Anda mendapatkannya kembali, atau Anda mencoba melakukannya.

Anda banyak bicara tentang ini di buku. Anda berkata, semua orang harus belajar bagaimana kode karena itu sulit. Dan kesulitan itu akhirnya akan menjadi rasa kepuasan yang Anda dapatkan dari itu.

Saya tidak memberitahu semua orang untuk belajar kode. Seperti yang saya katakan, orang perlu terkena itu. Intinya adalah untuk menghilangkan kode. Kami dikelilingi oleh algoritma yang mengendalikan kami, dan ini bukan berita untuk siapa pun yang baru saja diretas oleh Equifax, misalnya. Sepertiga populasi orang dewasa di Amerika Serikat. Jadi, intinya adalah mengetahui cukup bahwa itu ditulis oleh orang-orang dan itu dapat diubah oleh orang-orang.

Ada seorang anggota dewan di Bronx yang mengusulkan tagihan di sana bahwa borough melihat semua algoritme yang mereka gunakan, dan mereka beralih dari tugas polisi ke jadwal penjemputan sampah ke sekolah apa yang dikunjungi anak-anak, dan mencari bias di dalamnya. Ini adalah proses yang saya harapkan, bahwa orang-orang di masyarakat umum mulai melihat bahwa hal-hal ini dapat diubah. Mereka memiliki bias dan bias itu dapat diatasi.

Jadi ini membawa kita ke salah satu poin utama Anda, yaitu bahwa kode itu sendiri mengandung bias dalam konten. Dan saya pikir, dengan algoritma, dibutuhkan ke tingkat yang berbeda. Tetapi tergantung pada siapa yang menulis kode itu, itu akan mencerminkan bias politik tertentu, bias budaya. Bisakah Anda berbicara sedikit tentang bagaimana itu tertanam ke dalam kode itu sendiri?

Nah, insinyur perangkat lunak tidak menentukan kode apa yang akan ditulis. Ini berasal dari atas. Dan orang-orang di atas adalah orang yang sangat kaya, sangat berkulit putih, dan keinginan mereka adalah apa yang mereka anggap hebat untuk masyarakat atau apa tugasnya.

Misalnya, aplikasi pengiriman sederhana memilih kode ZIP. Apa artinya? Bahwa kita tidak dapat menghasilkan uang dengan orang-orang berpenghasilan rendah? Atau kami tidak ingin mengirim mobil ke sana? Ini contoh sederhana. Ini masuk, apakah itu semua belanja? Apakah itu yang orang butuhkan? Pandangan sosial macam apa yang diungkapkannya?

Semuanya tergantung pada algoritma, dan bahkan lebih dalam dari itu. Saya baru saja membaca makalah karya Phillip Rogaway. Dia menyampaikannya pada tahun 2015, dan ini tentang implikasi moral dari kriptografi. Dan dia berbicara tentang kriptografi sebagai kekuatan. Untuk siapa Anda menulisnya? Untuk apa mereka menggunakannya? Jadi Anda dapat melihat dari aplikasi paling sederhana, sampai ke bagian paling bawah dari apa yang dianggap matematika, bias dibangun di dalamnya.

Saya pikir Anda telah meletakkan jari Anda di atasnya ketika Anda berbicara tentang, "Apakah itu semua belanja?" karena itu semua dimotivasi oleh perdagangan sekarang, dan alasan Anda menargetkan kode ZIP tertentu adalah karena Anda dapat menghasilkan uang dalam kode ZIP tersebut. Dan itu membentuk produk dan kemudian menjadi siklus penguat ini. Hal yang sama terjadi pada setiap lembaga. Itulah alasan mengapa Amazon membeli Whole Foods dan tidak Stop & Shop. Itu karena bias demografis itu, dan itu hanya pasar yang sedang bekerja. Tetapi kekuatan pasar itu sangat menentukan perkembangan teknologi juga sekarang.

Saya punya contoh sesuatu yang saya pikir luar biasa. Ada kelompok yang berbicara tentang, "Ini kode dari bawah ke atas." Tidak, orang tidak duduk di ruang tertutup kaca tempat kami bekerja, memutuskan bahwa, "Saya nirlaba dan ini akan bermanfaat bagi masyarakat dan mengubah dunia." Ini adalah kelompok yang bekerja di tanah dengan buruh tak berdokumen.

Sekarang, orang-orang ini berdiri di sudut jalan, dan mereka dijemput dari seseorang dengan truk pickup atau van, dan kemudian mereka diturunkan kemudian, dan beberapa dari mereka tidak dibayar. Jadi mereka bertanya, "Bagaimana kita bisa saling memberi isyarat? Jangan melakukan ini. Ini orang jahat." Ini seperti era depresi. Gelandangan yang dulu memasang tanda-tanda ini dan berkata Anda tahu, "Seorang pria jahat tinggal di sini. Seorang wanita baik hati tinggal di sini."

Maka, mereka mendekati sebuah kelompok. Sekali lagi, itu datang ke coders dari tanah. Dan mereka berkata, "Bisakah kamu membuatkan kami sesuatu?" Sebagian besar dari orang-orang ini memiliki aplikasi seluler - aplikasi menjaga anonimitas, tentu saja - dan, mereka dapat dimasukkan ke dalam plat nomor ini. "Kamu mencari itu dan tidak mengambil pekerjaan itu." Anda bisa bertanya, apakah ada yang menghasilkan uang? Akhirnya, ya, karena orang-orang yang agak putus asa untuk bekerja ini tidak ditipu sebanyak itu.

Ini seperti sistem reputasi. Jenis reputasi yang sama, yang sama dengan yang dibangun di Uber, di mana pengendara mendapat nilai dan pengemudi dinilai, dan idealnya pembalap terbaik dan pembalap terbaik mendapatkan imbalan dalam beberapa cara. Ini adalah contoh yang menarik. Apakah Anda memiliki saran untuk orang yang baru mengenal pengkodean atau ingin menjelajahinya sebagai pilihan karier?

Nasihat orang yang ingin menjelajahinya? Pertama-tama, ada pertemuan di mana-mana. Tidak, saya seharusnya tidak mengatakan di mana-mana. Mereka juga dalam kode ZIP yang dipilih. Ada ribuan dan ribuan orang di Bay Area, tempat Anda dapat mendaftar dan bertemu dengan orang lain yang akan mengajari Anda membuat kode. Ada beberapa untuk wanita khususnya. Itu sangat membantu.

Saya mencari tempat lain di negara ini. Kerbau, New York, Utica, New York. Dan tidak ada apa-apa. Jadi, apa yang kita lakukan dengan itu? Jadi kursus online besar-besaran sepertinya suatu kemungkinan. Dan salah satu hal yang saya tulis, dan apa yang saya lakukan adalah, yah, mendaftar untuk mengauditnya. Dan saya melihat semua bias yang sama pada guru.

Mereka membuat asumsi tentang budaya Amerika. Dan yah, Anda ingin mendapatkan satu miliar dolar. Satu juta tidak akan cukup untukmu. Semua sama. Saya pikir orang dapat mengunduh video ini, membuat grup bersama, Anda tahu. Anda menjulurkan lidah pada orang yang mengatakan omong kosong sosial. Dan saling membantu dan belajar kode.

Ada juga akademi kode yang harganya ribuan dolar, dan mereka sebenarnya sudah tutup. Mereka menjamin orang, Anda akan mendapatkan tiga angka dalam delapan bulan. Saya pikir itu bukan rute yang bagus. Idealnya sekolah akan mengajarkannya. Dan saya tidak bermaksud bahwa pengkodean bergabung dengan humaniora sebagai literasi dasar. Saya berpikir bahwa orang-orang dengan humaniora perlu melihat ke dalam pengkodean untuk membawa pengetahuan orang-orang yang mempelajari Sejarah dan Sosiologi dan Bahasa Asing, bagaimana orang lain hidup di dunia. Bawa itu ke arena pengkodean.

Saya ingin berbicara sedikit tentang media sosial kepada Anda. Kembali pada tahun 1998, Anda menulis sebuah esai berjudul The Museum of Me, dan saya mendengar frasa ini sedang diserukan seolah-olah itu baru. Tetapi Anda pertama kali menulis pada tahun 1998 dan Anda mengatakan bahwa internet akan memungkinkan kami untuk membangun, "Sebuah gelembung pemikiran pribadi, " hanya membaca situs web yang memperkuat keyakinannya, yang persis seperti di mana kita sekarang berada.

Anda menyebutnya, Anda menggambarkan internet secara umum, tetapi media sosial tampaknya baru saja membawa ini ke tingkat yang sama sekali baru. Saya sangat menyesal benar tentang hal itu. Ada hal-hal yang saya lihat terjadi itu, saya kira dalam hati saya berharap akan ada peringatan. Tapi, Anda tahu, saya hanya menulis untuk publikasi kecil saja-

Saya pikir ini mungkin di Harper's . Jadi, entah bagaimana, generasi selfie merindukan artikel Harper itu , sayangnya.

Apa yang mereka baca? Mereka membaca feed, Anda tahu. Jadi, feed memberi tahu mereka apa yang terjadi hari ini. Sangat sulit dengan duduk dan berbicara dengan Anda hari ini tentang teknologi, sehari setelah kami mengalami pembantaian yang mengerikan di Las Vegas. Dan lebih dari 50 orang tewas, dan ratusan lainnya terluka. Kami benar-benar tidak tahu sejauh mana itu.

Dan Anda tahu, senjata adalah teknologi. Desain industri adalah teknologi. Anda tahu, kita cenderung menganggapnya sebagai ponsel dan laptop yang keren dan AI, server, dan algoritma. Tetapi orang-orang merancang alat ini yang memungkinkan senjata menembakkan ratusan peluru dengan satu ledakan. Dan itu benar-benar menghentikan saya. Anda tahu, di hari-hari seperti ini, sulit untuk menjadi ceria. Maksudku, aku adalah wakil dari kesuraman secara umum, tetapi yang satu ini sangat menghentikanku.

Sulit bagi semua orang untuk menjalani hari pada hari-hari seperti ini. Tetapi salah satu poin yang terus Anda kemukakan adalah bahwa semua teknologi memiliki efek implisit ini dan bahwa mereka tidak netral, dan banyak percakapan etis yang melingkupi segala macam perdebatan lain tentang kebijakan, tentang politik, masalah sosial, cenderung tidak terjadi di ruang teknologi, karena insinyur membangunnya, pasar memintanya. Para desainer membangunnya, mereka mengirimkannya, dan kemudian kita hidup dengan konsekuensinya.

Tetapi tampaknya di setiap kesempatan, apakah itu teknologi senjata, kode perangkat lunak, akses ke layanan, kita perlu membicarakan konsekuensinya.

Itu akan menjadi harapan saya. Itu sebabnya saya menulis buku ini, berharap untuk memulai percakapan di berbagai tingkatan, Anda tahu. Bukan apa tujuan masa depan. Masa depan adalah apa yang Anda lakukan sekarang, berbincang. Keinginan manusia mendorong masa depan. Itu adalah hak prerogatif kami. Juga, untuk melihat ke masa lalu. Alasan lain saya ingin kembali ke pertengahan 90-an adalah bahwa kami belajar dari masa lalu.

Melihat ke depan hanya mengajarkan sedikit kepada Anda karena hanya itu fantasi. Tetapi jika kita kembali dan melihat bagaimana kita sampai di tempat kita sekarang, dan tren yang membawa kita ke sini, keberhasilan yang dimiliki orang-orang di masa lalu, hal-hal yang kita pelajari. Ada orang-orang yang hidup sebelum kita, dan mereka telah bekerja pada teknologi komputasi lebih dari kita. Kita akan memasuki 100 tahun, saya kira Anda tahu, pada titik tertentu dimulai dengan ide tentang itu. Jadi saya berharap orang-orang berhenti dan mendidik diri mereka sendiri. Untuk melihat ke belakang, dan mencoba melihat bagaimana mereka sampai di tempat mereka.

Apa pendapat Anda tentang sifat industri teknologi dalam hal ukuran pemimpin? Dengan Google dan Amazon dan Apple dan Microsoft, Anda berbicara tentang empat perusahaan yang benar-benar mendominasi seluruh industri. Industri web, industri ritel, industri hiburan. Apakah perusahaan-perusahaan ini, adakah sesuatu tentang menjadi terlalu besar yang menciptakan masalahnya sendiri?

Itu pertanyaan yang bagus. Ya, mereka terlalu besar. Kita semua harus hidup bersama mereka untuk waktu yang sangat lama. Dan perusahaan seperti Apple menggambarkan dirinya sebagai orang yang progresif secara sosial. Namun, perusahaan-perusahaan ini sangat libertarian. Mereka tidak ingin pemerintah mengendalikan mereka kecuali ketika mereka ingin pemerintah menjadi calo mereka.

Lihat apa yang terjadi dengan semua kota ini yang memohon agar Amazon datang ke tengah-tengah mereka. "Oh, kamu tidak perlu membayar pajak selama 20 tahun." Jadi, pemerintah membantu mereka. Itulah yang diinginkan perusahaan-perusahaan ini. Mereka tidak menginginkan regulasi. Saya tidak melihat dalam suasana politik ini, bagaimana kita akan melakukan itu. Kami tidak memiliki Mahkamah Agung yang akan mengatakan, "Ini adalah monopoli. Kami akan memecahnya."

Ini pertanyaan yang tepat. Ya, mereka terlalu besar. Banyak orang harus membahas apa yang kita lakukan dari sini.

Apa masalahnya dengan mereka? Karena ada perusahaan, saya belum pernah melihat perusahaan swasta yang meminta lebih banyak peraturan. Apa risiko memiliki perusahaan raksasa besar ini? Apakah mereka akan menggunakan kekuatan pasar mereka untuk mengeksploitasi konsumen? Apakah mereka tidak akan berinovasi karena pada dasarnya mereka memiliki monopoli dalam semua industri yang berbeda ini?

Nah, mereka akan mengeksploitasi konsumen. Kami akan memiliki lebih banyak pengawasan. Ada lebih banyak kompetisi. Saya pikir mereka tidak bisa hanya duduk dan berkata, "Saya tidak melakukan R&D. Saya tidak menjangkau." Tapi, saya khawatir banyak dari itu berasal dari membeli perusahaan lain. Startup memiliki ide-ide ini, dan kemudian dibeli. Dan kemudian mereka membubarkan kekuatan mereka yang menarik, jika mereka punya, di perusahaan yang lebih besar ini.

Tetapi perusahaan-perusahaan ini tidak dapat duduk dan tidak melakukan apa-apa. Lihat apa yang terjadi pada Microsoft. Itu benar-benar tertinggal. Lihatlah Intel. Intel dulunya adalah salah satu raksasa. Sekarang di belakang. Orang tidak lagi menggunakan komputer besar dan laptop memiliki chip yang berbeda, dan mereka tidak berkontribusi sama sekali untuk seluler. Jadi mereka harus berinovasi. Saya berharap mereka tidak melakukannya dengan hanya membeli perusahaan orang lain dan kemudian mengencerkan efek dari perusahaan-perusahaan itu, yang tampaknya sedang terjadi.

Anda memiliki esai tentang Bug Milenium, yang harus dimiliki sebagian besar orang ke Google untuk mencari tahu apa itu. Tetapi saya memberi tahu Anda sebelum kami mengudara bahwa saya sebenarnya berada di ruang berita pada Malam Tahun Baru di tahun 1999 dan tidak ada yang tahu apa yang akan terjadi. Kami tahu komputer pribadi mungkin akan baik-baik saja, tetapi semua orang agak khawatir tentang apa yang terjadi di pembangkit listrik dengan komputer di ruang belakang yang tidak diperiksa siapa pun dalam 10 tahun. Tetapi bisakah Anda berbicara sedikit tentang apa yang terjadi pada saat itu, dan kemudian pelajaran apa yang mungkin ada bagi kita hari ini.

Salah satu hal yang luar biasa tentang itu adalah mengapa saya bertemu programmer yang telah menulis kode ini di tahun 60-an yang mengatakan, "Saya tidak pernah berharap kode ini akan hidup selama ini." Perusahaan Texaco adalah satu-satunya perusahaan besar yang bersedia go public untuk mengatakan, "Ini bukan tipuan. Ini yang kami lakukan. Ini adalah masalah yang kami hadapi."

Dan upaya mereka heroik. Dan ada hal-hal kecil lokal yang tidak dipublikasikan. Tetapi saya tahu dalam hati, berbicara dengan para programmer dan pemimpin proyek yang berdedikasi ini, bahwa semuanya akan baik-baik saja karena mereka benar-benar berencana. Pelajaran bagi kita sekarang adalah kita masih menggunakan semua kode lama ini. Kami memiliki ujung depan yang mencolok ini dan kemudian Anda memiliki internet, yang benar-benar dalam tekanan. Dan itu kode yang sangat lama.

Alasan kami mengalami semua peretasan ini adalah karena internet tidak pernah dirancang untuk privasi dan anonimitas. Itu dirancang untuk menjadi kolegial dan terbuka. Tidak ada yang terbangun dengan gagasan bahwa akan ada harta yang menggelegar ini. Jadi kami memiliki kerentanan di sana. Kami kembali ke server melakukan algoritma, yang ada di sistem operasi yang disebut Linux. Linux berjalan jauh kembali.

Jika Anda masuk lebih dalam dan lebih dalam apa yang ada di balik barang-barang cantik, Anda menemukan kode lama, kode lama, kode lama. Dan programmer menulis hal-hal yang mengendarai di atas kode lain, dan tidak selalu - sering kali tidak - memahami detail dari hal-hal yang mereka hadapi. Jadi pelajaran terus berlanjut.

Luar biasa. Saya ingin berbicara sedikit tentang AI kepada Anda. Sepertinya kita berada dalam posisi ini dengan internet, yang memiliki semua konsekuensi yang tidak disengaja ini sehingga kita masih berusaha memilah - dan sekarang kita melahirkan teknologi yang sepenuhnya baru ini, yang memiliki semua implikasi ini. Anda pergi ke banyak perusahaan dan mereka memiliki sistem AI yang sedang berjalan, yang membuat keputusan bisnis dan membuat rekomendasi, dan mereka benar-benar tidak tahu bagaimana mereka sampai di sana. Mereka tidak dapat mengidentifikasi proses yang mencapai kesimpulan. Mereka hanya tahu itu berhasil. Bisakah Anda berbicara sedikit tentang apa artinya itu?

Mereka pikir itu berhasil. Tren saat ini di AI, seluruh gagasan tentang robot humanoid yang tidak dapat kita ketahui dari manusia benar-benar telah berlalu. Ini membuktikan bahwa sangat, sangat, sulit untuk memahami bagaimana manusia berfungsi dengan cara mereka. Sekarang pembelajaran mesin. Idenya adalah Anda menulis sebuah algoritma. Itu melihat hasil dan itu berubah sendiri, dan kemudian melihat hasilnya, dan ia belajar.

Sekarang yang terjadi adalah, orang-orang yang menulis algoritma asli itu benar-benar tidak tahu apa yang terjadi setelah beberapa iterasi. Dan kode bergerak semakin jauh dari orang-orang yang memahaminya. Jadi itu semacam monster, Anda tahu, dalam arti ia beroperasi sendiri. Dan ya itu berhasil, tapi apa yang hilang?

Ia bekerja pada data yang memiliki bias. Itu memiliki bias pertama-tama, di masa lalu. Ada kesalahan. Jadi apa yang dipelajarinya juga bias dan rentan kesalahan. Saya khawatir tentang AI dalam hal itu terutama gagasan mobil self-driving. Dan kita berbicara tentang bahaya manusia yang sebenarnya. Dan saya bisa berbicara terlalu lama tentang itu, jadi saya lebih baik berhenti.

Sebagian besar ramalan mengatakan bahwa mobil yang dikendarai sendiri akan lebih baik daripada pengemudi manusia, yang saya rasa pengemudi manusia adalah bagian besar dari masalah di jalan saat ini.

Pengemudi manusia memiliki sejarah 100 tahun mengendarai mobil. Jadi inilah yang dapat dilakukan manusia - mereka tidak hanya melihat kedekatan di sekitar mereka. Anda tahu ketika Anda sedang mengemudi, bahkan jika Anda lalai, jika Anda memiliki beberapa pengalaman, Anda dapat melihat di depan Anda, seperempat mil, setengah mil ke atas bukit bahwa semuanya padat, dan Anda harus bersiap-siap untuk berhenti.

Anda dapat membaca kepribadian mobil. Seseorang datang di jalur jauh di sana. Anda melihat merek, model, agresivitas pengemudi. Ketika mobil itu bergerak, Anda tahu itu akan memotong Anda. Anda tidak menunggu alarm jarak. Manusia tahu dengan cara itu, dalam sekejap itu, entah aku akan mengalami kecelakaan atau aku akan mengamuk di jalan dengan mobil ini. Atau saya akan berkata, "Oke, silakan."

Sekarang, mari kita pergi ke cara yang bisa menabrak mobil self-driving. Sekali lagi, mereka mengandalkan antarmuka mesin-ke-mesin. Dan akan ada bug dalam kode itu, titik. Jadi mereka akan berkomunikasi melalui internet atau melalui jaringan nirkabel. Kerentanan besar di sana. Kami telah melihat bahwa mobil yang beroperasi di nirkabel telah diretas oleh peretas putih untuk menunjukkan, "Lihat, saya bisa membuat mobil Anda melaju."

Jadi bagaimana itu dilindungi? Dan kemudian ada antarmuka antara berbagai merek dan model. Sekarang, apakah Anda pikir semua orang akan mengendarai Prius? Tidak, manusia menginginkan jenis kinerja yang berbeda. Jadi akan ada kompetisi lagi tentang bagaimana mobil beroperasi, bagaimana pengemudi atau penumpang ingin rasakan ketika mereka berada di jalan.

Akan ada semacam API standar, Antarmuka Aplikasi, yang terkenal rawan kesalahan. Tapi, ada banyak, banyak titik kegagalan yang bisa terjadi di sana. Juga, mereka tidak bisa mengemudi di salju.

Itu dia.

Itu dia. Maksud saya, Anda tahu, Anda tidak akan berguna?

Apakah Anda berpikir bahwa kita akan memiliki mobil self-driving yang hanya akan sangat rawan kesalahan dan risiko keamanan? Atau Anda tidak berpikir bahwa kita sebenarnya dapat membangun mobil self-driving aman dan bahwa teknologi akan memakan waktu lebih lama daripada yang dipikirkan orang?

Saya pikir itu akan terjadi. Saya pikir di jalan raya akses terbatas seperti jalan raya, itu akan bekerja dengan baik. Kecuali salju turun atau hujan deras. Itu harus melihat garis. Dan kemudian harus melihat lampu istirahat dan lampu mobil di sekitarnya. Jadi, dengan sudut pandang terbatas, mereka menambahkan LIDAR lainnya dan sebagainya.

Akhirnya, itu akan berhasil. Ini akan memakan waktu sedikit lebih lama. Saat ini saya pikir ada beberapa kota yang sedang membangun infrastruktur di pusat kota untuk mobil. Tapi, kami di sini di Manhattan dan kami mengalami kesulitan menjaga kereta bawah tanah kami berjalan. Apakah Anda pikir kita akan mengambil miliaran dolar untuk mengubah Manhattan menjadi tempat yang memiliki sensor untuk mobil self-driving? Saya tidak tahu, ratusan tahun dari sekarang, apakah Manhattan belum kebanjiran dari laut yang naik?

Itu akan ada di sana. Tetapi ia berpikir bahwa euforia - dan seperti biasa aku adalah perwakilan yang murung - aku merasa seperti berada di jungkat-jungkit, dan ada orang lain yang benar-benar tahu apa yang mereka lakukan, dan aku seperti kutu yang memantul di sisi lain. akhirnya, mencoba menekan sedikit dan meratakan sudut pandang. Marah harapan. Setiap orang harus tahu kerja keras yang perlu kita lakukan sebelum harapan indah itu dapat dipenuhi.

Saya akan mengajukan beberapa pertanyaan yang saya ajukan kepada semua orang yang datang di acara itu. Dan yang ini harus mudah bagi Anda. Tren teknologi apa yang paling Anda perhatikan? Apakah ada sesuatu yang membuat Anda terjaga di malam hari? Kita bisa melakukan pertunjukan lain secara keseluruhan.

Semua yang di atas. Itu tidak membuat saya terjaga di malam hari. Maksudku, aku menghabiskan cukup banyak waktu memikirkannya di siang hari. Saya tahu, salah satu pertanyaan yang saya pikir Anda ingin tanyakan adalah, Anda tahu, haruskah orang mengambil jeda dari semua ini? Iya.

Hari ini, saya hampir terlempar ke jalan oleh seseorang yang datang dengan skuter.

Dan sebuah telepon?

Dengan earbud dan telepon. Jadi ini benar-benar membuatku khawatir. Orang-orang benar-benar bisa terluka.

Orang-orang terluka setiap hari di New York City karena semua orang melihat telepon mereka dan mereka berjalan.

Ya saya tinggal di daerah South of Market. Saya berbasis di San Francisco di Startup Alley, Second Street. Sekarang, satu hal untuk mengatakan bahwa semua orang sedang melihat ponsel mereka, tetapi ketika Anda mencoba berjalan menyusuri jalan menuju Utara ketika semua orang menuju ke Selatan, dan 100 orang melihat ke ponsel mereka, rasanya seperti, saya merasa seperti saya ' Saya tinggal di dunia yang asing.