Video: Garry Kasparov Says A.I. Can Make us 'More Human' (Oktober 2024)
Garry Kasparov adalah salah satu korban pertama revolusi otomasi AI. Kekalahannya dari Deep Blue milik IBM membuatnya menjadi juara catur manusia pertama yang kalah dalam pertandingan komputer. Tapi Kasparov tidak letih; bukunya, Deep Thinking , mengeksplorasi bagaimana AI dapat benar-benar membantu kita menjadi lebih manusiawi.
Dan Costa: Setelah berkarir bermain catur dan melawan Deep Blue, sejak saat itu Anda menjadi semacam ahli AI catur. Bagaimana Anda ingin orang memahami kecerdasan buatan?
Garry Kasparov: Saya harus mengakui bahwa saya tahu batas ketidaktahuan saya. Itu sebabnya saya senang berbicara tentang hal-hal di mana saya yakin dengan keahlian saya sendiri, dan saya pikir saya memiliki pengetahuan tertentu tentang hubungan manusia-mesin, dan saya bisa berbicara dengan beberapa otoritas tentang hasil di masa depan.
Juga, saya percaya bahwa kita masih pada usia yang sangat dini dari AI, dan kita harus berdebat bahkan beberapa istilah. Ini tentang semantik, ini tentang filsafat, dan saya selalu mengatakan bahwa orang berpikir kita berada di era Windows 10, sementara kita semua masih di MS-DOS.
Pada saat ini, sangat penting untuk benar-benar memahami, "Apa itu AI? Ketika kita mengatakan AI, apa yang kita maksudkan?" Karena jika Anda bertanya kepada 10 ahli tentang AI, saya yakin Anda akan mendapatkan 11 atau 12 jawaban. Masih ada ketidaksepakatan.
Masih ada detail, tapi saya pikir secara umum, kami mengenali baik-baik saja, ada sekelompok orang yang akan kami sebut optimis, menghadapi kerumunan besar doomsayers. Entah bagaimana, publik lebih bersedia menerima skenario kiamat, saya pikir itu adalah naluri kami untuk takut akan masa depan, yang juga menarik karena ketika Anda kembali ke 50-an dan 60-an, sci-fi itu sangat optimis. Itu semua tentang kita, hanya bekerja dengan mesin.
Sekarang, ketika Anda melihat tahun 70an, 80an, 90an, itu bergeser ke visi dystopian. Ini tentang terminator. Ini tentang Matrix, dan sekarang genre sci-fi hampir mati karena lebih tentang fantasi, ini tentang sihir. Orang-orang benar-benar takut membicarakan masa depan karena kami tidak yakin apa yang akan terjadi di sana. Saya pikir kita harus mengakui bahwa AI bukanlah tongkat ajaib, tetapi bukan terminator. Ini bukan pertanda utopia atau distopia. Itu alat. Itu adalah sesuatu yang harus kita temukan cara untuk menghadapinya.
Itu tidak membuka gerbang neraka, tapi itu bukan surga. Itu bukan solusi untuk semuanya. Itu bukan keselamatan. Mari kita lihat masalah-masalah Bumi dan kekhawatiran terbesar saya saat ini bukan tentang robot pembunuh atau semacam realitas virtual yang dapat merusak kesadaran kita akan realitas, tetapi tentang aktor-aktor jahat. Ini tentang teroris. Ini tentang ruang batu menggunakan teknologi ini untuk membahayakan kita. Saya selalu mengatakan bahwa orang… memiliki kejahatan monopoli. Di situlah kita seharusnya, saya pikir berkonsentrasi, tetapi juga harus mengenali AI dapat melakukan begitu banyak hal besar bagi kita karena apa yang akan dikatakan orang, "Oh, AI menciptakan tantangan baru. AI dapat mengambil banyak pekerjaan." Persis. Itulah yang terjadi dengan pekerjaan di pertanian, pekerjaan di bidang manufaktur. Teknologi yang mengganggu selalu menghancurkan industri tetapi pada saat yang sama, menciptakan lapangan kerja baru.
Saya mengatakan bahwa teknologi adalah alasan utama mengapa begitu banyak orang yang masih hidup untuk mengeluh tentang teknologi karena kita tidak mengenali usia rata-rata yang tumbuh, saya pikir 45, 47 awal abad ke-20 hingga sekarang 75, berkat teknologi. Kami menginginkan manfaat, kami menginginkan kenyamanan, dan kami tidak melihat harganya. Orang-orang membeli Alexa, atau mengunduh aplikasi pengenal wajah, dan kemudian mengeluh tentang privasi. Sudah waktunya bagi kita untuk memahami apa yang kita harapkan dari teknologi ini, jadi bagaimana kita ingin menghadapinya? Bagaimana mereka dapat meningkatkan kehidupan kita dan pada saat yang sama mengakui bahwa kita tidak boleh berdebat tentang susu yang tumpah. Itu akan terjadi.
Kita seharusnya tidak bertanya apakah kita menginginkannya atau tidak, itu terjadi. Setiap upaya untuk memperpanjang penderitaan, dan untuk memperlambat proses, saya pikir itu hanya kontraproduktif karena pekerjaan yang ditakdirkan tidak dapat diselamatkan. Tetapi kita harus memikirkan industri baru. Bagaimana kita dapat menciptakan beberapa pekerjaan baru yang akan membantu kita menciptakan… bantalan keuangan untuk merawat mereka yang tertinggal?
Dan Costa: Itulah salah satu poin yang Anda buat dalam Berpikir Jauh . AI memberikan kesempatan bagi kita untuk menjadi lebih manusiawi. Saya pikir kita perlu menyempurnakannya dan membuat orang lain merasakan dan memahami.
Garry Kasparov: Laporan McKinsey tentang pasar kerja AS pada tahun 2016 adalah demonstrasi yang jelas. Seberapa kecil kreativitas yang digunakan?
Banyak pekerjaan yang kita lakukan pekerjaan berulang, pekerjaan mentah. Pekerjaan intelektual juga bisa berulang. Mereka juga dapat dengan mudah dieksekusi oleh mesin jauh lebih efektif. Di sini, Anda sampai pada titik seperti apa yang telah kita pelajari dari permainan… catur, golf, dari game lain, selama kita memiliki kerangka yang diciptakan oleh manusia, dan kita tahu apa yang kita lakukan, mesin akan lebih baik.
Kita harus menyadari bahwa di setiap sistem tertutup, mesin akan lebih unggul. Omong-omong, kita tidak harus mengerti bagaimana mereka melakukan itu. Itu kesalahan lain. Kami ingin penjelasan. Mesin dapat melakukannya dengan cara yang sangat canggung dari standar kami. Pesawat terbang dengan cepat, dan burung itu mengepakkan sayapnya. Itu sebabnya berpikir bahwa mesin akan mengungguli kita bahkan dalam kesalahan kecerdasan, dengan melakukan sesuatu yang Anda pahami salah. Kita harus mencari hasilnya, dan itu masalah lain untuk bisnis karena ada begitu banyak peraturan yang mengharuskan mereka untuk menjelaskan apa yang mereka lakukan, tetapi keterjelasan mungkin tidak ada jika Anda ingin mencari efisiensi dan produktivitas.
Dan Costa: Anda mengemukakan kasus di atas panggung tentang Go, dan hal yang membuat Go AI jauh lebih efektif adalah ketika ia mengajari dirinya sendiri cara bermain game. Itu tidak memiliki aturan yang dipaksakan manusia.
Garry Kasparov: Sama seperti catur sekarang. Sekali lagi, masa depan hubungan misi manusia akan sangat banyak pada manusia sendiri yang bertindak seperti gembala karena kita harus menemukan cara untuk membuat sistem keren ini, bidang kecerdasan sempit, di mana mesin akan melakukan pekerjaan lebih baik daripada manusia mana pun. Kemudian, untuk melihat bagaimana mereka terhubung. Bidang-bidang kecerdasan sempit untuk bidang umum, untuk sistem terbuka. Sekali lagi, kedengarannya mudah, tapi saya pikir itu tantangan besar karena ruang untuk manusia dan hubungan mereka dengan mesin bisa menyusut semakin kecil. Bahkan mungkin beberapa tempat desimal terakhir, tetapi itu tidak masalah. Itu bisa jauh lebih efektif karena ada begitu banyak kekuatan. Penyalurannya atau mengubah arah 0, 1 persen dari derajat sudut ini bisa memiliki perbedaan besar, sangat besar, target satu mil jauhnya.
Dan Costa: Salah satu hal yang membuat saya khawatir tentang AI adalah bahwa sistem AI yang baik didorong oleh banyak dan banyak data dan algoritma yang sangat hebat. Jika Anda melihat siapa yang memiliki sebagian besar data di ruang ini sekarang, ini adalah teknologi besar, itu adalah pemerintah negara bagian. Bagaimana Anda melihat peran individu dalam revolusi AI ini? Karena tampaknya ada beberapa asimetri akses ke teknologi baru ini, dan motivasi yang berbeda.
Garry Kasparov: Ya. Saya sangat setuju. Kami memiliki masalah ini dan saya pikir masyarakat mengakui masalah ini, tetapi masih belum cukup tekanan dari pemerintah untuk benar-benar memberlakukan aturan yang sangat ketat dan tindakan yang sangat menghukum perusahaan yang melanggar privasi.
Salah satu keprihatinan saya sebagai ketua Yayasan Hak Asasi Manusia adalah bahwa peraturan berbeda dari dunia demokratis ke dunia tidak bebas. Saya merasa sangat merepotkan bahwa raksasa multinasional ini - seperti Google, Apple, Microsoft, Facebook - mereka menerapkan aturan yang sangat berbeda untuk pelanggan mereka di Amerika atau Eropa, dan bagi mereka yang tidak begitu beruntung dilahirkan di dunia bebas dan tinggal di China, Rusia, Turki - di mana mengeluarkan data dari kegiatan sosial dapat benar-benar menjadi masalah hidup dan mati. Saya pikir itu langkah nomor satu, tetapi kita juga harus mengenali jika data sedang diproduksi, itu akan dikumpulkan.
Saya yakin ada banyak cara agar pemerintah dapat membatasi penggunaan data ini. Juga, saya pikir ini adalah bonus dari pihak publik karena setelah kesaksian Mark Zuckerberg di Senat AS, yang saya temukan… adalah tampilan ketidaktahuan yang luar biasa oleh para legislator AS. Mereka tidak bisa mengajukan pertanyaan bagus selama lima jam; mereka membawanya di kursi panas dan itu sia-sia. Saya tidak melihat kemarahan publik. Peluang besar seperti itu telah dilewatkan.
Saran sederhana, "Mari kita bagi mereka." Itu bukan minyak standar. Jika Anda baru saja mulai membagi - dan saya membenci monopoli - tetapi kemudian Anda akan memiliki banyak, banyak Google dengan data yang tersebar. Kita harus menemukan cara untuk memberdayakan individu. Saya tidak tahu teknologi blockchain, tetapi mungkin ini adalah cara sebenarnya membantu orang untuk mengontrol data mereka sendiri dan masa depan mereka sendiri. Saya pikir masih ada saat di mana itu adalah konsep asli dari internet, jejaring sosial. Sekarang, tiba-tiba, ini media sosial. Orang tidak tahu. Itu bukan perbedaan semantik.
Dan Costa: Ini menghasilkan uang dengan cara yang sama sekali berbeda.
Garry Kasparov: Ini tentang menghubungkan orang. Ini tentang seluruh ide adalah bagaimana menyatukan kita. Bagaimana menggadaikan individu, untuk mendapatkan akses ke data dan menghasilkan sesuatu yang dapat menguntungkannya dan hanya menjadi bagian dari sistem global ini. Media sosial berbeda, Anda adalah targetnya. Anda sekarang… target untuk perusahaan besar. Bagaimana kita kembali ke konsep jejaring sosial ini? Saya tidak punya solusi, saya mengakui ketidaktahuan saya di sini tentang solusi teknis, tetapi saya tahu bahwa inilah filosofi yang tepat untuk ditanyakan. Saya pikir publik tidak memahami keseriusan tantangan ini.
Dan Costa: Anda adalah warga negara Rusia...
Garry Kasparov: Juga warga negara Kroasia, saya memiliki paspor elektronik, itulah cara saya bepergian.
Dan Costa:… tinggal di Amerika Serikat, tetapi Anda telah menulis banyak tentang propaganda, dan efek serta kekuatannya, dan bagaimana itu digunakan oleh pemerintah Rusia. Di sini, di AS, kami sekarang memiliki Facebook, Twitter, Google media universe yang hampir seperti mesin propaganda pribadi yang dapat diakses oleh pemerintah, oleh masing-masing perusahaan. Sekali lagi, sebagai seseorang yang telah menangani dan memahami masalah-masalah ini, saran apa yang Anda miliki untuk Amerika Serikat? Ketika kita pindah ke sistem ini di mana kita tidak bisa percaya apa yang kita lihat online lagi.
Garry Kasparov: Begini, saya telah menghadapi kebangkitan industri berita palsu dan pabrik-pabrik troll di Rusia Putin sejak awal abad ini. Sekitar tahun 2004-2005, para ahli propaganda Putin, orang-orang KGB, mereka membuat keputusan yang setia untuk tidak mengikuti China oleh firewall. Melainkan, membuat situs internet palsu yang membawa banyak informasi nyata potongan beracun ini. Alih-alih memiliki halaman depan surat kabar yang tepat, kisah yang harus diikuti semua orang, garis pesta, Anda bisa menyebarkannya dalam banyak bagian, dalam puluhan bagian. Masukkan ke dalam paket yang dibungkus dengan banyak kisah nyata.
Tidak sesederhana mengatakan, Garry Kasparov adalah musuh negara. Tidak, seseorang mengatakan Garry Kasparov adalah musuh negara, tetapi kemudian orang lain datang mengatakan tidak, tetapi dia adalah pemain catur yang hebat, tapi mungkin sekarang dia disusupi oleh suara dan propaganda. Seseorang akan berkata, tidak, tidak, tidak, dia orang baik. Jadi seluruh halaman komentar bisa jadi palsu.
Dan Costa: Bot berdebat dengan bot.
Garry Kasparov: Bot dan mereka sangat pandai dalam hal ini, jadi itu sebabnya suatu hari ketika Putin menyerang pemilihan Amerika AS, dia benar-benar memiliki lebih dari 10 tahun pengalaman industri ini. Bekerja di Rusia, di negara-negara tetangga dengan komunitas besar Rusia di Eropa Timur, di Eropa Barat.
Dalam buku saya, Musim Dingin Datang: Mengapa Vladimir Putin dan Musuh-Musuh Dunia Bebas Harus Dihentikan , 2015, saya mengatakan bahwa itu hanya masalah waktu. Bukan jika, tetapi kapan dan di mana dia akan menyerang. Karena sekali lagi, mereka sudah membuat mesin ini dan harganya relatif murah. Itu masih miliaran dolar investasi, tetapi dibandingkan dengan intervensi militer terbuka, konfrontasi… itu relatif murah. Dan juga, itu cocok dengan mentalitas KGB Putin, latar belakang KGB-nya, latar belakang mata-mata. Jadi, alih-alih konfrontasi terbuka, ia selalu mencari peluang untuk menyusup. Itu metode Judo klasik, Anda menggunakan kekuatan lawan Anda melawannya. Bagi Putin itu brilian karena itu adalah teknologi barat dan dunia bebas, dan Anda bisa menggunakannya untuk merusak fondasi dunia bebas.
Dan Costa: Apakah Anda punya saran untuk keluar dari situasi ini? Karena sepertinya itu terjadi, itu belum benar-benar berhenti.
Garry Kasparov: Tidak, dan itu tidak akan berhenti. Bagi siapa pun yang memiliki keahlian tak terbatas, jawabannya jelas. Pertahanan adalah proposisi yang hilang. Dalam keamanan cyber, Anda dapat membangun pertahanan, tetapi pada akhirnya, satu-satunya jawaban adalah pencegahan. Ini seperti Perang Dingin, suka atau tidak suka, ini adalah Perang Dingin siber. Kami terus-menerus diserang oleh Putin atau musuh dunia bebas. Baik itu negara seperti Iran, atau Korea Utara, atau Cina, atau organisasi negara semu yang juga menggunakan metode yang sama.
Hanya pencegahan yang bisa menghentikan serangan ini, atau membatasi mereka. Karena mereka akan memahami konsekuensi menjadi terlalu agresif. Mencoba melindungi titik-titik lemah kita di sana-sini, penting bagi kita untuk membangun beberapa pertahanan. Penting bagi kita untuk meningkatkan kesadaran masyarakat tentang ancaman, tetapi itu tidak akan berhasil. Adapun industri berita palsu, ada banyak tantangan dalam masyarakat bebas kita, yang memungkinkan industri berita palsu. Ini tentang rasa takut akan keberpihakan, ini tentang tidak adanya dialog antara orang-orang dengan pandangan ideologis yang berbeda yang membantu Putin, dan musuh-musuh lain dari dunia bebas, untuk menggunakan berita palsu untuk menelan celah ini.
Dan Costa: Jadi, Anda bekerja dengan Avast sekarang, sebuah perusahaan yang pembaca PCMag sangat akrab dengannya. Apa saran yang Anda berikan kepada konsumen tentang cara meningkatkan tingkat pertahanan mereka?
Garry Kasparov: Adapun tingkat pertahanan individu, itu sangat mudah. Pesan pertama adalah kepada pemilik rumah pintar. Saya sedikit terkejut karena bahkan di Selatan oleh Southwest ini, saya berbicara dengan banyak orang, orang-orang dengan keahlian yang baik tidak mengerti betapa rapuhnya rumah pintar saat ini.
Rumah tangga Amerika, 39 juta memiliki setidaknya satu perangkat yang rentan. Orang tidak mengerti bahwa satu perangkat rentan membuat seluruh rumah pintar rentan. Karena kekuatan piramida pertahanan Anda bergantung pada mata rantai terlemah. Satu apel buruk membuat seluruh bungkus membusuk.
Sebagian besar masalah diciptakan oleh produsen peralatan rumah tangga tradisional - mesin cuci, mesin kopi - karena tidak ada keahlian dalam membangun sistem digital. Tetapi mereka harus melakukannya sekarang. Dengan biaya yang sangat rendah, karena ini adalah kompetisi harga, tetapi mereka ingin menjadi bagian dari sistem. Sebagian besar sistem tidak memiliki pertahanan yang memadai. Saya pikir kita perlu… pengawasan pemerintah, kita perlu menekan untuk memenuhi standar tertentu.
Tetapi juga harus menyediakan manual terpisah, karena tidak ada yang membaca manual 100 halaman. Di halaman 85, Anda membaca sesuatu tentang barang digital ini, orang tidak membacanya. Sebagian besar dari mereka menggunakan mode default, yang tentu saja merupakan undangan terbuka untuk peretas. Saya pikir ini sangat penting orang akan mulai melakukan apa yang saya sebut digital hygiene, karena kita mencuci tangan, kita menyikat gigi, kita melakukannya secara otomatis. Itu tidak menyelamatkan kita dari beberapa penyakit serius tetapi 90 persen masalah dapat dihindari. Sama dengan perangkat seluler yang terhubung, kita masih harus melindungi diri dari virus, tetapi banyak hal dapat dilakukan dengan menunjukkan bahwa kita peduli karena itu sama pentingnya dengan kesehatan kita.
Dan Costa: Jadi saya ingin menanyakan tiga pertanyaan yang saya ajukan kepada semua orang yang datang di acara itu. Apakah ada tren teknologi yang mengkhawatirkan Anda dan membuat Anda terjaga di malam hari?
Garry Kasparov: Tidak, saya optimis yang tidak dapat diperbaiki. Saya khawatir tentang orang jahat, bukan tentang teknologi buruk karena setiap teknologi memiliki penggunaan ganda. Anda dapat membangun reaktor nuklir, tetapi sebelumnya Anda membuat bom nuklir. Sangat disayangkan bahwa kerusakan lebih mudah daripada konstruksi. Itu sebabnya dalam sejarah kita selalu tahu, bahwa teknologi baru yang mengganggu telah diuji untuk beberapa jenis kerusakan.
Dan Costa: Apakah Anda tidak khawatir hal yang sama akan terjadi pada AI? Saya akan digunakan untuk menghancurkan sebelum terbiasa untuk membuat?
Garry Kasparov: Sekali lagi, ini bukan tentang robot pembunuh. Ini tentang orang jahat, aktor jahat di belakangnya. Orang-orang akan berkata oh, kita harus berpikir tentang AI yang etis. AI tidak bisa lebih etis daripada penciptanya. Saya tidak mengerti apa artinya, seperti listrik etis. Jika kita memiliki bias dalam masyarakat kita, AI mengikutinya. Ia melihat perbedaan, apakah itu ras, gender, atau perbedaan pendapatan. Itu memperhitungkannya; AI adalah algoritma yang didasarkan pada peluang. Jadi, entah bagaimana, mengeluh tentang etika AI adalah seperti mengeluh tentang cermin karena kita tidak menyukai apa yang kita lihat di sana.
Dan Costa: Apakah ada teknologi yang Anda gunakan setiap hari yang masih mengilhami keajaiban?
Garry Kasparov: Tidak. Bagi saya, keajaiban dunia yang sebenarnya adalah akses ke informasi. Karena saya dapat mengumpulkan data, itu membuatnya lebih mudah. Saya tumbuh di Uni Soviet, dan informasinya langka, tidak banyak buku. Sekarang, faktanya adalah saya dapat menyalakan… itu hanya membuat saya merasa baik. Ada begitu banyak teknologi yang mengelilingi kita sekarang yang membantu kita menjadi lebih baik. Juga, apa yang menakjubkan, orang-orang terus mengeluh, oh apa yang bisa kita lakukan? Tidak ada yang baru yang dapat ditemukan… dan saya katakan tunggu sebentar. Anda melihat perangkat ini di saku Anda, mari kita mundur pada tahun 1976 atau 1977, superkomputer Cray itu seperti keajaiban. Perangkat ini apa? Sepuluh ribu kali lebih kuat?
- AI Is (Also) Force for Good AI juga (Force) Good for Good
- AI ini terlalu kuat untuk dilepaskan ke publik AI ini terlalu kuat untuk dilepaskan ke publik
- AI Ini Memprediksi Trolling Online Sebelum Terjadi AI ini Memprediksi Trolling Online Sebelum Terjadi
Dan Costa: Lebih kuat dari pada pesawat ulang-alik.
Garry Kasparov: Tepat. Kami memiliki begitu banyak kekuatan, dan… Saya ingin kita mulai bermimpi besar lagi. Karena kita memiliki peluang ini sekarang. Saya merasa sangat menyesal tentang Space Race, kami menghentikan eksplorasi ruang angkasa, eksplorasi laut dalam. Ayo kembali, mari kita coba melakukan hal-hal besar. Empat tahun lalu, saya melakukan pidato pembukaan di Saint Louis University di Missouri. Berbicara kepada mahasiswa pascasarjana yang saya katakan lihat, Anda harus menghidupkan kembali semangat penjelajahan, terutama karena St. Louis adalah pintu gerbang ke barat, dan, hari ini lebih aman untuk terbang ke Mars daripada Columbus untuk menyeberangi Atlantik. Karena, setidaknya kita tahu jaraknya dan kita punya peta. Saya berharap anak-anak kita, cucu-cucu kita… akan lebih agresif dalam mimpi mereka, dengan menggunakan teknologi fenomenal ini untuk mendorong kita maju karena saya pikir, mari kita akui, mari kita akui fakta penting ini; generasi kita telah melambat dalam pencarian kita untuk menemukan keajaiban dunia, atau ruang, atau lautan.
