Rumah Appscout Maju cepat: 'note to self' host manoush zomorodi

Maju cepat: 'note to self' host manoush zomorodi

Video: Assement and Feedback (Oktober 2024)

Video: Assement and Feedback (Oktober 2024)
Anonim

Tamu saya hari ini adalah Manoush Zomorodi, Host of Note to Self yang diproduksi oleh WNYC Studios. Dia baru saja meluncurkan proyek baru bernama The Privacy Paradox, dan kita akan berbicara tentang privasi, media digital, dan pemerintah. Kami juga akan memastikan Anda mengetahui semua hal yang diketahui ponsel Anda tentang Anda.

Dan Costa: Sebelum kita masuk ke The Privacy Paradox sendiri, mari kita bicara tentang apa yang Anda lakukan karena Anda adalah kepribadian radio. Anda punya podcast, jadi podcast juga keluar. Anda dapat mendengarkannya secara online. Tapi kemudian Anda melakukan eksperimen ini yang bukan apa yang orang harapkan dari sebuah acara radio

Manoush Zomorodi: Tidak, mereka agak aneh.

Jelaskan proses percobaan ini, keterlibatan ini.

Oke, jadi ini tahun ketiga kami melakukannya. Dua Januari terakhir, yang kami lakukan adalah mengambil konsep, dan kami bertanya kepada orang-orang, "Bergabunglah dengan kami selama satu minggu, cobalah perubahan perilaku, dan lihat apa yang terjadi." Untuk yang pertama, itu disebut Boredom Brilliant. Kami memiliki 20.000 orang yang mendaftar dan memikirkan kembali bagaimana mereka menggunakan telepon mereka. Kami meminta mereka untuk meletakkan ponsel mereka sedikit untuk mencoba dan bosan karena saya pergi ke lubang kelinci ini di mana saya seperti, "Tunggu, apa yang terjadi ketika kita bosan?" Saya tidak merasa bosan lagi karena saya punya telepon. Kami meminta orang-orang untuk sengaja membuat waktu bosan selama seminggu untuk melihat apakah itu akan memulai kreativitas mereka, dan itu berhasil. Dan, seperti komentar favorit saya, adalah para remaja yang seperti, "Anda tahu, saya tidak berpikir saya pernah merasakan sensasi ini sebelumnya." Karena jika Anda memikirkannya, mereka sudah memiliki ponsel seumur hidup mereka. Mereka tidak tahu apa yang sedang bosan sebenarnya…

Mereka tidak pernah berdiri dalam antrean dan tidak dapat berbicara dengan teman-teman mereka.

Benar, tanpa ada hubungannya, harus keluar. Mereka tidak pernah membiarkan pikiran mereka berkelana. Kami melakukan itu selama seminggu. Itu bagus. Orang-orang benar-benar menyukainya. Ada buku yang keluar di bulan September. Itu Boredom Brilliant. Dan tahun lalu kami melakukan sesuatu yang disebut Infomagical. Sekali lagi, itu seminggu setiap hari, tantangan yang berbeda. Apa yang kami coba lakukan adalah membantu orang mengatasi kelebihan informasi mereka. Gagasan yang pasti saya dapatkan setiap malam hanya dengan menggulir, menggulir, dan menggulir tanpa berpikir. Saya bertanya-tanya, berapa banyak informasi yang saya simpan di otak saya?

Kami berbicara, sekali lagi, dengan para ilmuwan saraf, psikolog kognitif, teknolog tentang apa yang dapat dilakukan otak, bagaimana kita dapat menggunakan teknologi untuk membantu kita, untuk meningkatkan kehidupan kita daripada seperti membuat kita merasa seperti orang tolol yang ngiler di akhir hari. Tadi sangat menyenangkan. Itu adalah 40.000 orang, sekali lagi, selama seminggu. Kami membuat semua perubahan perilaku ini, dan 70% dari mereka mengatakan bahwa mereka merasa mampu menangani kelebihan informasi lebih baik dari sebelumnya. Tentu saja, ini Januari lalu. Rasanya seperti sejuta tahun yang lalu karena kami bahkan tidak berbicara tentang ruang gema dan menyaring gelembung dan…

Pra-pemilihan.

.. fakta alternatif dan semua hal itu. Saya merasa kita perlu mengulanginya.

Ya, benar.

Dan di sinilah kita kembali. Ini bulan Januari, dan, maksud saya, rasanya sudah lama sekali ketika saya mulai memikirkan yang ini, The Privacy Paradox, yang lebih tentang kebebasan sipil digital kita, yang berakhir dengan sangat tepat waktu, tetapi tidak seperti yang saya harapkan. itu menjadi. Saya pikir ini seperti dalam hal pasca Snowden.

Saya juga benar-benar ingin membicarakan gagasan ekonomi berbasis iklan ini, ekonomi pengawasan, karena beberapa pakar yang saya ajak bicara menggambarkannya kepada saya. Sudah beberapa minggu yang aneh, dan jadi saya merasa seperti orang merasa sedikit seperti, "Ah, apa yang saya… saya tidak bisa meninggalkan berita." Tetapi sebenarnya, saya pikir apa yang kami temukan adalah bahwa orang ingin mendaftar untuk minggu tantangan ini, yaitu minggu depan, karena itu hal-hal sederhana, mudah, dan konstruktif yang dapat mereka coba setiap hari, dan Anda dapat melakukan sesuatu.

Anda memiliki sumber ahli, pelaporan tradisional, dan kemudian Anda meminta semua orang melakukan percobaan ini dan memberi Anda umpan balik.

Memberi kami umpan balik, itulah kuncinya.

Umpan balik itu kemudian dimasukkan ke dalam cerita Anda juga.

Ya persis.

Anda memiliki orang-orang nyata yang menjalaninya secara real time. Itu akan terjadi minggu depan. Jika seseorang melewatkan satu atau dua hari pertama itu, mereka masih bisa mengejar ketinggalan.

Persis. Apa yang kami miliki adalah bahwa Anda dapat melakukan Infomagical, misalnya… Seperti, hari ini Anda dapat mendaftar untuk itu. Itu memicu. Maksud saya, idealnya, Anda melakukannya dengan… Anda tahu, Anda bangun di pagi hari dan Anda berpikir pada diri sendiri, "Wow, puluhan ribu orang lain bangun sekarang, dan kita semua akan melakukan hal aneh ini hari ini, "dan ada semacam elemen komunitas kolektif selain elemen on-demand.

Saya mencoba untuk mendapatkan yang terbaik dari kedua dunia. Apa yang mengejutkan bagi saya dengan proyek-proyek ini adalah bahwa pada akhirnya, kami memiliki begitu banyak peneliti klinis datang kepada kami dan berkata, "Eh, bisakah Anda membagikan data Anda dengan kami? Karena kami pikir itu mungkin membantu kami mencari tahu apa kita perlu belajar sambil terus maju. " Saya seperti, "Ya, data kami semi-ilmiah. Ini bukan… Anda tahu, kami tidak memiliki grup kontrol. Kami tidak melakukannya… tentu saja tidak di lab seperti ini. " Mereka benar-benar, saya pikir, mencari orang-orang dengan alasan bagaimana teknologi mengubah kita sebagai manusia dan di mana mereka harus pergi mengenai penelitian yang dipublikasikan aktual yang akan datang.

Paradox Privasi adalah frasa yang secara intuitif Anda tahu artinya. Tapi saya rasa saya belum pernah mendengar ungkapan itu sebelumnya. Ini merangkum dengan sempurna apa yang Anda bicarakan.

Yah, saya sudah mendengar frasa, dan kemudian saya gali. Ini adalah ungkapan, paradoks privasi, yang digunakan oleh ekonom perilaku, khususnya di Carnegie Mellon. Mereka suka melempar yang ini.

Apakah mereka mengklaim kepemilikan?

Mereka melakukannya. Mereka diizinkan. Idenya adalah bahwa, seperti, sebenarnya, tidak peduli apa yang Anda dengar tentang milenium mengatakan hal-hal paling intim di Instagram, itu tidak benar. Orang Amerika sangat menghargai privasi mereka. 74% orang Amerika, ini menurut Pew Research, mengatakan bahwa sangat penting bagi mereka bahwa mereka mengontrol siapa yang memiliki informasi dan data pribadi mereka. Lalu apa yang terjadi, setiap hari, Anda tahu bagaimana itu, itu…

Mereka memberikannya.

Mereka memberikannya. Persis. Pertanyaannya adalah, jika kita sangat peduli tentang hal itu, mengapa kita memberikannya? Anda tahu, itu benar-benar bukan kesalahan konsumen. Itu adalah… Anda tidak bisa menjadi orang di dunia pada tahun 2017 dan tidak berada di platform ini. Sebagai contoh, seorang wanita seperti… dia, seorang pendengar, mengirimi saya email, seperti, "Yah, saya akan kembali bekerja. Saya adalah seorang ibu yang tinggal di rumah. Saya harus relevan. Saya perlu untuk dicari. Saya dulu benar-benar melindungi privasi saya, dan saya tidak bisa karena saya perlu mendapatkan pekerjaan. Jadi bagaimana saya menyeimbangkan dua hal ini, yang menyediakan untuk keluarga saya, tetapi juga, seperti, keyakinan mendasar yang tidak harus saya ungkapkan terlalu banyak?"

Mari kita menyentuh gagasan ini bahwa ekonomi pengawas berkuasa dan membayar begitu banyak untuk kehidupan digital kita - semuanya didorong oleh informasi pribadi. Kekuatan data itu. Bukan sembarang data, itu adalah informasi pribadi Anda. Itu mendorong Google. Itu mendorong Facebook. Ini mendorong setiap situs media yang ada di luar sana, termasuk PCMag.co m.

Itu adalah model iklan kami. Itu sebabnya kami dapat membuat konten gratis. Itu sebabnya Facebook dapat membuat layanan gratis. Itu sebabnya kami memiliki mesin pencari gratis yang hebat ini yang mengindeks seluruh dunia. Mengapa Anda ingin mengacaukannya?

Nah, Anda tahu, saya akan mengatakan, apa yang menurut saya menarik saya tidak begitu mengerti. Shoshana Zuboff… Aku seperti nama yang menjatuhkan semua jenis orang untukmu hari ini, Dan. Dia adalah pensiunan peneliti Harvard. Dia seperti di ujung dari ini dan menciptakan istilah "ekonomi pengawasan." Satu hal jika Anda seperti, "Oke, ini nomor Jaminan Sosial saya." Itu jelas itu informasi pribadi. Tapi dia berbicara tentang knalpot digital yang kita masing-masing miliki, atau remah roti digital. Bukan data, per se, tapi metadata. Itu bukan panggilan telepon yang saya buat, tapi jam berapa saya menelepon, di mana saya berada saat saya menelepon. Bahwa perilaku kita yang digunakan, dan kita tidak memiliki kendali atas itu.

Berlangganan Fast Forward di iTunes

Saya baik-baik saja dengan memberi… Anda tahu, kami membuat trade off itu setiap hari, bukan? Kalkulus privasi, yang seperti, "Baik, saya akan memberikan semua informasi pribadi saya selama Anda memberi saya produk yang hebat, produk gratis, produk yang sangat personal." Kita semua akan… Anda tahu, saya mungkin lebih waspada tentang itu daripada orang lain, tetapi setidaknya saya harus tahu untuk apa Anda menggunakan informasi saya, dan setidaknya saya harus memiliki pilihan untuk memutuskan untuk mengambil kembali, yang saya tidak bisa. Setelah itu di luar sana, itu dia. Facebook memilikinya selamanya.

Ketika Anda mensurvei lansekap, apakah Anda menemukan bahwa ada cukup kontrol privasi? Seperti, ada kontrol privasi di Facebook. Kebanyakan orang tidak tahu cara menggunakannya. Apakah ada kontrol di luar sana dan orang tidak menggunakannya, atau apakah pada akhirnya Anda tidak memiliki banyak kontrol dalam apakah Facebook atau Amazon atau Apple atau Microsoft memiliki semua informasi ini tentang Anda?

Ya, maksud saya, ada satu penelitian yang mengatakan bahwa kita membutuhkan 22 hari setahun untuk membaca semua ketentuan layanan yang kita… untuk setiap situs web yang kita kunjungi. Jangan repot-repot membacanya. Tidak ada gunanya. Legalese ditulis dengan sempurna dalam…

Untuk pengacara.

…. cara yang tidak bisa dimengerti. Tepatnya, sama sekali tidak masuk akal. Juga, saya pikir kita tidak… Bagaimana kita bisa menyetujui hal-hal yang kita tidak tahu sedang terjadi? Sebagai contoh, teman-teman kami di ProPublica melakukan penelitian investigasi yang luar biasa yang menemukan bahwa Facebook memiliki lebih dari 52.000 kategori yang mereka masukkan kepada penggunanya. Kategori, satu menyusui di tempat umum. Yang lain berpura-pura mengirim teks dengan canggung. Yang lain adalah rumput, dan saya tidak yakin apakah itu jenis ini, atau suka berjalan dengan sepatu Anda. Saya benar-benar tidak yakin. Selain, tentu saja, penghasilan Anda, jenis kelamin apa yang Anda katakan… Anda tahu, semua hal yang Anda katakan kepada mereka. Ia juga mengawasi di mana pun Anda berada, dan kemudian menempatkan Anda dalam semua kategori yang berbeda ini, yang tidak masalah. Anda seperti, "Oh, ini hanya iklan, " tetapi ada beberapa kategori aneh juga, seperti afinitas etnis. Mereka bisa berkata, "Dan Costa memiliki kedekatan etnis Asia-Amerika, " yang agak aneh. Mereka akan menunjukkan kepada Anda hal-hal yang mereka pikir Anda sukai…

Jangan menilai saya.

Benar. Ini adalah ruang bebas hakim.

Mari kita ajukan pertanyaan dari hadirin.

Penonton: Seberapa peduli kita tentang asisten suara yang selalu mendengarkan, seperti Alexa?

Saya sangat ketakutan oleh Alexa.

Apakah Anda memiliki Alexa?

Saya benar-benar tidak punya Alexa.

Benarkah?

Tidak mungkin.

Dia luar biasa. Dia membuat hidupmu lebih baik.

Ini bagus. Ini perdebatan. Ceritakan tentang betapa hebatnya Alexa.

Alexa luar biasa.

Pertama-tama, saya tidak ingin seorang wanita yang saya pimpin di rumah saya. Seperti, tidak mengatur yang baik…

Sekali lagi, saya merasakan sedikit penilaian. Maksud saya, sulit untuk menggambarkan apa yang dia lakukan ketika Anda membawanya pulang, tetapi hanya antarmuka berbasis suara itu, untuk dapat meminta sesuatu dan meminta dia mengirimkannya. Itu sama… Anda mengajukan pertanyaan yang sama dengan yang akan Anda tanyakan jika Anda mengetik di ponsel Anda atau jika Anda menggunakan keyboard, tetapi dapat melakukannya dengan bebas-genggam sangat membebaskan.

Ini masalah saya, oke. Bulan lalu, penegak hukum meminta Amazon untuk menyerahkan rekaman yang dibuat Alexa di rumah seorang tersangka pembunuh. Sekarang, tidak ada penilaian atas tersangka pembunuh, tentu saja, tetapi kita berada pada titik di mana tidak ada perlindungan hukum untuk hal-hal ini.

Ini kasus yang menarik.

Ini adalah kasus yang menarik.

Belum tentu Alexa akan merekam semua yang terjadi di rumah.

Tetapi jika dia meminta hal-hal seperti… Handuk kertas, mungkin?

Atau di mana saya bisa membeli tas plastik hitam?

Dan sarung tangan.

Dan sarung tangan lateks.

Oh, kita seharusnya tidak tertawa. Ini mengerikan.

Jenis pencarian itu akan ada di hit. Jika dia melakukannya di desktop, pencarian itu juga akan dapat ditemukan dan diamati.

Maksudku, kita pada titik ini, Dan. Saya pikir, bagi saya, intinya adalah seperti tidak ada hukum. Tidak ada apa-apa. Tidak ada peraturan. Tidak ada yang punya suara. Kami juga bahkan tidak suka… Satu lagi yang saya baca adalah, pernahkah Anda mendengar tentang… Kami sedang melakukan… Haruskah saya memberikannya?

Saya pikir kamu harus.

Oke, ini alat yang akan kita minta orang untuk mencoba minggu depan. Ini disebut Terapkan Saus Ajaib. Apakah kamu tahu yang ini?

Saya tidak.

Ya Tuhan, sungguh sulit dipercaya. Itu akan melihat profil Facebook Anda, dan itu akan memprediksi kepribadian Anda. Ada bagian yang bagus di Motherboard Today yang ditulis oleh wartawan Jerman ini yang mengatakan bahwa, apakah teknologi yang mirip dengan Terapkan Saus Ajaib dari Cambridge Analytica digunakan mungkin untuk melihat kepribadian orang-orang di Facebook?

Itu terlihat di profil Facebook Anda… Maksud saya, Anda pikir itu bisa melakukan banyak hal seperti, Anda tahu, apakah Anda menggunakan kata-kata kutukan? Apakah Anda menulis tentang produk tertentu? Apakah Anda positif atau negatif?

Apa tanda baca Anda? Bagaimana Anda menyusun kalimat? Kata-kata apa yang Anda gunakan? Itu menyebut saya 94% lebih keras dan terorganisir daripada penduduk lainnya. Bukan 93%, 94, berdasarkan pada sesuatu yang saya tulis.

Apakah Anda menemukan itu akurat? Apakah Anda pikir itu penilaian yang akurat?

Nah, itu pertanyaannya, kan? Saya tidak tahu apakah itu akurat. Atau apakah itu saya, Anda tahu… untuk menjadi seperti psikoanalisis mendalam… atau apakah itu eksternalisasi kepribadian saya? Apakah itu oke bahwa mereka tidak membaca apa yang saya tulis, tetapi mereka membaca yang tersirat dan kemudian menunjukkan kepada saya hal-hal berdasarkan itu? Mereka tidak memberi tahu saya bahwa dalam pengaturan privasi. Kami tidak tahu apakah itu digunakan.

Saya pikir itu poin yang sangat menarik karena jelas ada banyak kecemasan. Orang-orang sangat… orang-orang aneh dengan teknologi ini.

Iya. Mengerikan.

Karena mereka hanya berusaha melilitkan kepalanya. Maksud saya, jika Anda mengambilnya dan Anda pergi ke sisi lain, dan Anda berkata, "Apa masalahnya?" Apa yang dipertaruhkan di sini? Apa yang kamu takutkan terjadi? Apa yang Anda takutkan dimasukkan ke dalam salah satu ember ini? Apa hal terburuk yang terjadi?

Baik. Baiklah, saya mengajukan pertanyaan yang tepat kepada… Ada orang hebat ini, Joseph Turow; dia di Universitas Pennsylvania. Dia telah mempelajari pemasaran selama beberapa dekade, dan seluruh masalahnya adalah, Anda berlatih sekarang untuk tidak memiliki privasi sama sekali dalam hidup Anda. Amandemen Keempat, sayang. Kata privasi tidak digunakan, tetapi itulah yang membuat kita orang Amerika, hak untuk memiliki penentuan nasib sendiri, otonomi, kehendak bebas. Maksudku, aku merasa kita berada di titik di mana kita harus kembali ke dasar. Apa yang kita lihat di bandara selama akhir pekan? Kami melihat pejabat bea cukai meminta orang untuk menyerahkan ponsel mereka untuk menunjukkan kepada mereka akun Twitter mereka sebelum mereka memasuki negara ini. Kupikir…

Bea Cukai telah menggunakan profil media sosial untuk sementara waktu.

Sudahkah mereka?

Di dalam negeri dan internasional.

Oh, aku tidak tahu itu.

Ketika petugas bea cukai itu duduk di belakang meja, dan dia memanggil informasi Anda, jika Anda memiliki akun publik, ada informasi di sana.

Siapa yang memutuskan apa yang saya tulis adalah kutipan "tidak dapat diterima, "?

Saya pikir hal yang dilakukan pertunjukan Anda, dan apa yang telah kami bicarakan banyak orang, adalah bahwa individu harus sadar: apa yang mereka tampilkan di sana tidak akan tinggal di satu tempat. Jika ini publik dan online, itu akan dapat dicari, dan itu akan dapat dianalisis. Bukan hanya satu per satu, tetapi secara massal.

Profesor Turow berkata kepada saya, dia seperti, "Maksudku, paling tidak, kita harus beralih dari menyeramkan ke jelek, " karena jika jelek, setidaknya kita memahaminya, dan mungkin kita bisa mencoba melakukan sesuatu tentang itu. Mengerikan, kami bahkan tidak mengerti cara kerjanya, dan itu tidak terlihat… Seperti, kami menggunakan semua ini sepanjang hari. Kita harus memiliki sedikit lebih banyak pengetahuan tentang bagaimana mereka bekerja dan ke mana informasi pribadi kita pergi.

Anda masuk ke dalamnya di The Privacy Paradox. Anda mengungkapkan bagaimana banyak dari hal-hal ini bekerja.

Ya persis.

Mari kita ajukan pertanyaan lain dari hadirin.

Hadirin Akankah kita belajar menerima politisi milenium masa depan yang memiliki hal-hal tidak pantas yang kembali dari masa lalu digital mereka yang jauh?

Maksud saya, jika Access Hollywood dapat menemukannya, maksud saya, apakah itu penting? Seperti yang kita lihat, Anda dapat menggali file, dan sepertinya tidak masalah.

Trump adalah tokoh publik, dan dia bersiap-siap untuk media hit. Dia tahu ada kamera dan mikrofon di bus. Pertanyaan yang lebih besar adalah bahwa ada seluruh generasi yang memiliki kamera pada mereka sejak mereka berusia sepuluh tahun. Foto digital tidak kemana-mana. Mereka ada di perpustakaan Foto Google yang luas ini dan diunggah di cloud, dan Anda dapat melihat orang-orang yang memiliki foto kampus. Seperti, tidak ada foto saya dari perguruan tinggi.

Tidak, saya juga. Terima kasih Tuhan.

Itu harus foto dari film.

Ngomong-ngomong, seseorang akan menemukan beberapa sekarang.

Tapi sekarang, siapa pun dalam sepuluh tahun terakhir, ada foto-foto mereka dari perguruan tinggi setiap saat. Itu akan tinggal bersama mereka selamanya.

Mungkin kita akan terbiasa dengan hal itu. Maksud saya, itulah yang sangat menarik bagi saya, adalah bahwa hal-hal yang telah kita terima selama ribuan tahun… seperti kebosanan, misalnya… sekarang, ini adalah hal-hal yang harus kita beri nama dan perkenalkan kepada generasi yang tidak akan telah mengalaminya. Jadi, seperti halnya hak Eropa untuk dilupakan… seperti lupa. Mengingat dulu seperti… Anda tahu apa yang saya maksud? Lupa dulu adalah hal yang manusiawi, tetapi sekarang kita harus memiliki keputusan Uni Eropa, dan perusahaan teknologi harus mematuhi… Itu hanya digunakan untuk menjadi bagian dari pengalaman manusia, jadi menarik bagi saya kita sedang belajar yang dari hal-hal itu, seperti, "Oke, tidak apa-apa itu hilang, " dan yang lain seperti, "Oh, sial." Itu benar-benar mengacaukan masyarakat ketika tidak ada yang lupa. Saya tidak… saya tidak…

Ini adalah episode Black Mirror.

Ya, kita ada di dalamnya.

Katakanlah seseorang tidak mau menerima persyaratan ini. Anda ingin menolak syarat dan ketentuan Facebook, Apple, membawa smartphone di mana-mana, jalan apa yang dimiliki konsumen? Apakah itu masuk atau keluar?

Saya tidak berpikir itu sama sekali. Saya pikir itu tidak masuk akal untuk ditanyakan. Apa kamu tau maksud saya? Saya menggunakan Google Documents. Anda harus berfungsi. Kami ingin bertanya kepada orang-orang, memutuskan sendiri, Anda tahu, sehingga Anda tidak merasa jengkel sepanjang hari… Anda tahu, perasaan itu ketika Anda seperti, "Ah, saya setuju, saya setuju." Jangan merasa pusing. Sebenarnya, saya akan mengungkapkan ini. Pada akhir proyek, Sir Tim Berners-Lee, penemu world wide web, sebenarnya duduk bersama kami dan menulis ketentuan layanan pribadi. Hanya semacam kodifikasi apa yang tidak apa-apa dengan-

Untuk dirinya sendiri. Dengan ini dia baik-baik saja; ini yang tidak dia sukai.

Kami telah membuat isi, seperti Mad Libs, untuk semua orang lakukan. Itu tidak seperti, "Oh, tunggu, apakah ini baik-baik saja dan yang ini tidak?" Tidak. Kamu akan membawanya bersamamu. Mungkin, saya tidak tahu, mencetaknya. Gunakan itu sebagai screensaver Anda. Seperti, "Privasi kosong untuk…" Tidak ada penilaian.

Bagi sebagian orang, saya pikir itu akan seperti, "Oh, saya keluar." Akan ada orang, dan pendengar saya mengatakan itu kepada saya. Orang lain seperti, "Anda tahu? Saya baik-baik saja dengan perusahaan ini, mungkin Apple, karena mereka mengambil sikap privasi, tetapi saya tidak setuju dengan mungkin…" Saya tidak ingin menyebutkan nama. Anda tahu, orang lain.

Apa batasan privasi pribadi Anda? Anda membawa ponsel, tetapi Anda tidak tertarik pada Alexa?

Saat Anda mendaftar ke The Privacy Paradox, kami telah membuat ulang kuis. Ada pria ini, Alan Weston; dia adalah pria, sosiolog, ketika datang ke perasaan orang tentang privasi. Kami telah mengambil karya ilmiahnya dan mengubahnya menjadi kuis yang menyenangkan.

Ini dia.

Karena itulah yang kami lakukan. Aku ingin tahu siapa dirimu. Anda mengambil kuis, dan itu memberi tahu Anda apakah Anda seorang yang beriman, seorang realis, atau seorang yang mengangkat bahu.

Saya seorang realis.

Anda seorang realis.

Tentunya.

Saya juga seorang realis.

Maksud saya, setiap kali saya mengunduh aplikasi, dan saya melihat izinnya, saya melihatnya, dan saya memutuskan, "Apakah ada alasan aplikasi ini membutuhkan GPS saya? Apakah perlu akses ke mikrofon saya? Apakah ada akses ke hard drive? " Dan saya akan membuat keputusan. Ada banyak aplikasi yang saya hanya… Jika itu hanya aplikasi bermutu rendah yang tidak menambah nilai dalam hidup saya...

Sampai jumpa.

… Saya baru saja melewatinya.

Ya. Ya. Maksud saya, dengan mengingat, Anda adalah editor eksekutif PC Mag.

Sama sekali.

Baik. Normal, orang biasa harus bisa melakukan itu. Kami memiliki acara tadi malam, dan kami meminta orang untuk melakukan itu. Seperti, lihat aplikasi Anda. Jika ada aplikasi yang meminta Anda untuk mengakses mikrofon Anda, tetapi mereka tidak ada hubungannya dengan suara, mengapa mereka harus memilikinya? Matikan. Dan kemudian orang-orang seperti, "Oh." Kamu tahu?

Saya akan memberi tahu Anda, untuk pengembang aplikasi, standarnya adalah untuk mendapatkan akses ke semuanya.

Tentu saja.

Karena mereka mungkin ingin fitur di kemudian hari, dan mereka ingin tumbuh ke dalam aplikasi, tetapi defaultnya, mereka menganggap kebanyakan orang hanya akan mengklik. Dan mereka melakukannya.

Benar, benar. Itu masuk akal bagi saya. Mereka menginginkan informasi sebanyak mungkin. Sir Tim Berners-Lee… Pernahkah Anda mendengar tentang ini? Dia sedang bekerja-

Saya pernah mendengar tentang dia, ya.

Tidak, tidak, apa yang sedang dikerjakannya.

Tidak.

Ini penyimpanan data pribadi, itu pod, ini seperti… Membalik apa itu web. Idenya akan seperti bukannya Anda masuk ke Facebook; Facebook akan masuk ke Anda. Anda akan memberi mereka informasi apa pun yang menurut Anda baik-baik saja, dan Anda juga dapat mengambilnya kembali apa pun yang Anda inginkan.

Dengan begitu Anda memiliki ketentuan layanan Anda. Dan Facebook harus mematuhi persyaratan layanan Anda alih-alih Anda harus mematuhinya. Mereka tidak ingin mematuhi persyaratan Anda; maka mereka tidak dapat mengakses informasi pribadi Anda.

Tepat. Ini proyek di MIT. Ini disebut Solid. Dia mencari pengembang untuk membantunya. Pada awalnya, saya seperti, "Ya Tuhan, ini kota yang gila, " tapi kemudian Anda seperti, "Ya, orang ini menemukan web…"

Dia melakukannya sekali….

… jadi kalau ada yang bisa melakukannya lagi…

Kami mendapat pertanyaan lain dari hadirin.

Audiens Haruskah saya mempercayai Windows 10?

Manoush Zomorodi: Bagaimana menurutmu, Dan?

Dan Costa: Saya pikir Anda bisa mempercayai Windows 10 sebanyak Anda mempercayai sistem operasi apa pun. Microsoft sendiri, saya pikir itu bukan sesuatu yang secara inheren tidak dapat dipercaya. Ketika menyangkut masalah privasi, saya pikir ada banyak hal lain yang terjadi. Saya pikir… Dan ada seluruh platform Google, tetapi hal yang membuat saya khawatir adalah semua pengiklan. Pihak ketiga dan perusahaanlah yang melacak dan kemudian menjual kembali data Anda, dan di situlah tidak ada banyak peraturan. Itu bukan hal Microsoft. Itu bukan hal Google. Pasar pihak ketiga inilah yang beroperasi sepenuhnya di bawah radar semua orang.

Yang, maksud saya, kembali dekade, benar, di negara ini untuk sampah surat, kepada orang-orang yang menjual dan bertukar. Saya tidak tahu ini, tetapi ProPublica, Julia Angwin, reporter investigasi, mengatakan kepada saya bahwa sebenarnya, Facebook adalah pembeli terbesar dari enam perusahaan data besar, bahwa mereka menghabiskan paling banyak uang tidak hanya mengambil informasi yang Anda masukkan ke Facebook sebagai pengguna tetapi kemudian juga membeli informasi tentang Anda dari perusahaan pengumpulan data besar.

Dan pencocokan yang terjadi di latar belakang itu di mana bahkan jika Anda memberikan Facebook… Anda tahu, Anda mengunci semuanya di Facebook, Anda berada di layanan, tetapi yang mereka tahu hanyalah alamat email Anda, mereka kemudian akan mengambilnya alamat email dan cocokkan dengan cookie, cocokkan dengan laporan kredit Anda, karena semua agen laporan kredit, mereka mendistribusikan semua informasi ini juga. Ada jaringan besar basis data di sana. Anda bahkan tidak perlu memberikan informasi Anda ke Facebook. Mereka bisa mendapatkannya di tempat lain.

Maksudku, aku tidak melakukan Facebook seperti orang normal. Bisakah saya katakan, Dan dan saya memiliki sejarah di sini yang kita tarik keluar dari kamera.

Dan Costa: Ini argumen lama.

Saya agak menyukainya, karena ketika Facebook… Apa itu, seperti sepuluh tahun yang lalu?

Ya, ketika mereka membiarkan orang tua.

Aku seperti… Ya, ketika mereka membiarkan orang tua terus, kamu seperti, "Kamu harus melakukannya." Aku seperti, "Tidak mungkin. Aku suka-

Saya katakan Anda harus melakukannya untuk karier Anda.

Anda melakukannya. Saya seperti, "Saya tidak suka ide semua identitas saya dihancurkan menjadi satu, seperti, ketiadaan." Anda seperti, "Selamat datang di dunia online baru." Saya seperti, "Tidak, saya tidak melakukannya." Maksudku, aku yakin aku sudah menderita konsekuensinya.

Saya ada di halaman Facebook Anda hari ini. Ada konten di sana.

Ini sangat jelek. Ada sesuatu, tapi saya tidak… seperti, saya tidak punya teman. Saya baik-baik saja dengan itu.

Anda memiliki teman kehidupan nyata.

Saya punya teman kehidupan nyata seperti Anda, Dan.

Kami telah membicarakan keprihatinan besar saya tentang jenis sektor swasta yang memata-matai, mengintip, menjual kembali informasi pribadi Anda. Ada sisi lain juga, yaitu semua informasi ini juga dapat digunakan oleh pemerintah. Itu adalah sesuatu yang… Saya pikir kita perlu lebih dan lebih peduli tentang hal-hal ini.

Ini menarik bagi saya. Orang lain yang saya ajak bicara, Laura Donohue, dia di Universitas Georgetown, dia ahli hukum Amandemen Keempat. Saya seperti, "Kapan mereka berpikir tidak apa-apa untuk mengambil semua informasi kita?" Dia berkata, "Oh, mereka melihat ke perusahaan." Mereka seperti, "Ya, jika semua perusahaan dapat memiliki semua informasi ini, mengapa kita tidak?"

Jika Experian memiliki informasi ini, mengapa kita tidak memiliki informasi ini?

Ya, benar-benar. Inggris, kekuatan investigasi baru, mereka berpegang pada istilah pencarian semua orang selama setahun. Hanya duduk di sana, apa pun yang Anda cari. Semua orang.

Persyaratan tahun itu harus diundangkan. Kalau tidak, itu akan ada di sana selamanya.

Simpan saja di sana, untuk jaga-jaga.

Anda mencari sesuatu ketika Anda berusia 21, catatan pencarian itu ada ketika Anda berusia 41 atau 61 tahun.

Saya pikir, bagi paradoks lainnya, bagi saya, apakah ada orang jahat yang dapat dihentikan dengan teknik ini. Cincin pedofil mengerikan yang akhirnya mereka gunakan, FBI online dan menyusup ke dalamnya. Tentu saja, itu yang sebenarnya, tetapi mereka tidak mendapatkan surat perintah. Tidak ada perlindungan hukum untuk orang lain. Untuk setiap satu hal hebat yang terjadi, apa yang terjadi dengan sisa kebebasan sipil kita? Dan pada titik apa kita menarik garis? Maksud saya, ini seperti pertanyaan yang lebih besar. Saya pikir, Anda tahu, dengan Mahkamah Agung kembali ke berita hari ini, ini akan menjadi pertanyaan besar berikutnya. Kami tahu bahwa mereka tidak dapat mencari di ponsel kami, tetapi apa lagi, Anda tahu? Mereka harus memutuskan.

Mereka dapat membuat Anda membuka kunci ponsel dengan sidik jari.

Dengan sidik jari, tetapi tidak membuat Anda menyerahkan PIN yang sangat aneh.

Jika Anda memiliki kode sandi, maka Anda aman.

Mengapa demikian?

Sidik jari Anda adalah sesuatu yang secara hukum dapat mereka peroleh dari Anda ketika mereka menahan Anda. Mendapatkan informasi dari Anda tiba-tiba menjadi memberatkan diri Anda sendiri, dan karena itu, Anda harus selalu memiliki kode sandi, bahkan jika Anda menggunakan sidik jari untuk mengunci ponsel Anda.

Bahkan jika Anda menggunakannya, doktrin pihak ketiga berlaku. Kami menceritakan kisahnya. Sebenarnya itu adalah kisah yang sangat seksi. Third-Party Doctrine, 1979, putusan Mahkamah Agung yang mengatakan begitu Anda menelepon, Anda menyerahkan informasi pribadi Anda ke perusahaan telepon, tetapi bukan isi dari apa yang Anda katakan di telepon. Kami di sini, kami serahkan… Ya, kami memiliki akun dengan Gmail, tetapi bagaimana dengan semua email yang kami tulis? Apakah itu serupa… Apakah konten itu?

Apakah Anda menemukan takeaways dari Proyek yang seperti, "Wow, saya tidak tahu saya bisa melakukan ini dengan alat itu, " atau, "Saya tidak tahu saya bisa melindungi diri saya seperti itu"? Apa yang membuat Anda merasa seperti, "Oh, saya akan melakukan ini secara berbeda ke depan"?

Yah, saya tidak tahu tentang sidik jari digital. Apakah itu kelihatan lemah sehingga saya tidak tahu itu?

Saya pikir kebanyakan orang tidak.

Kami meminta orang untuk mencoba alat dari EFF, Electronic Frontier Foundation, yang disebut Panopticlick… ini pada hari kedua… Saya seperti, "Saya sudah mengaktifkan semua pemblokir. Saya akan membersihkannya. tagihan kesehatan. " Anda benar-benar mengklik tombol yang mengatakan, "Uji saya, " dan itu memberi tahu Anda apa yang melacak Anda di mana. Saya memiliki semua pemblokir iklan. Saya tidak diikuti oleh cookie. Tetapi sidik jari digital sedang terjadi. Bagi Anda yang tidak tahu sidik jari digital, secara harfiah, versi browser apa yang Anda pakai? Font apa yang Anda gunakan? Komputer apa yang Anda pakai? Seberapa sering Anda online pada waktu tertentu? Ini menggabungkan semua titik data kecil mungil ini untuk mencari tahu siapa Anda, bahkan jika Anda memilih keluar atau Anda penyamaran atau apa pun. Saya tidak tahu itu mungkin. Sekarang saya punya Badger Privasi. Apakah Anda menggunakan Badger Privasi?

Saya menyalakan dan mematikan semuanya pada satu titik atau lainnya. Saya secara sistematis baru saja membersihkan semuanya karena saya tidak dapat melacak semua hal yang sedang berjalan. Ghostery adalah salah satu yang hebat.

Ghostery adalah satu lagi. Maksudku, kamu tidak bisa melakukan semuanya, kan? Jika kita menyerah, dengan risiko terdengar seperti Joan of Arc atau sesuatu, jika kita menyerah, itu tidak apa-apa, terutama, saya pikir, dengan apa yang kita lihat dipertanyakan selama beberapa minggu terakhir.

Pada saat yang sama, jika semua orang mulai menggunakan Privacy Badger, Ghostery, dan Adblock Plus, web gratisnya hilang. Kami tidak lagi dapat mengeluarkan konten secara gratis karena model iklannya rusak.

Itu benar.

Agak goyah sekarang.

Ini. Saya akan membayar untuk hal-hal ini. Saya mencari… Bisakah Anda membantu saya? Saya mencari penyedia email hebat yang bersifat pribadi, yang akan memungkinkan saya mengambil email saya, dan bahwa… Anda akan mengejek saya untuk itu. Kamu tahu. Jangan beri tahu mereka-

Anda ingin server email pribadi Anda, karena apa yang salah dengan itu?

Baik. Persis. Maksudku, Gmail mungkin tempat teraman untuk email Anda, kecuali oh yeah, Google memiliki segalanya.

Email cukup mendasar. Ada banyak tempat berbeda yang bisa Anda dapatkan. Juga, kemudian Anda masuk ke hal di mana Anda melakukan sebagian besar email Anda di tempat kerja. Anda mempercayai WNYC.

Begitu Anda mengirim email kepada seseorang yang memiliki akun di tempat lain, berarti Anda telah kehilangan permainan. Saya akan membayar untuk itu. Saya akan membayar untuk Facebook yang tidak melakukan semua hal itu. Maksud saya, itu tidak adil bagi orang yang tidak mampu membayarnya.

Ada beberapa proyek untuk memulainya, tetapi Anda tidak bisa mendapatkan cukup banyak orang di dalamnya untuk membuatnya berkelanjutan.

Baik. Maksud saya, saya akan mengatakan, The New York Times menunjukkan bahwa orang akan membayar untuk berita.

Mereka akan membayar The New York Times untuk berita.

Saya pikir kita akan memiliki percakapan yang berbeda jika kita mencoba membuat mereka membayar PCMag.com.

Apakah kamu?

Kami sudah membicarakannya, tapi saya hanya tidak berpikir untuk apa yang kami lakukan… Ada begitu banyak orang yang melakukan review. Akan ada jauh lebih sedikit wartawan yang menghasilkan uang di web karena tren ini.

Baiklah, jadi katakanlah seseorang tidak akan bekerja. Bagaimana dengan… Ini satu lagi yang benar-benar saya sukai, ide lain karena kita akan banyak mengapung minggu depan. Bagaimana dengan Sumpah Hipokrates untuk pengembang? Seperti, etis… Dokter memilikinya. Pengacara memilikinya. Jurnalis bahkan memilikinya. Kenapa bukan orang yang membuat teknologinya?

Itu untuk para pengembang atau untuk… Maksud saya, karena pada dasarnya, Anda berbicara tentang teknologi iklan dan teknologi pelacakan.

Mungkin orang tidak akan menaatinya, tapi setidaknya ada sesuatu.

Anda berada di panel dengan Dash Anil tadi malam. Apakah dia membawa ini?

Dia melakukan.

Karena dia berkata, ini adalah hal besar yang dia bicarakan, yaitu bahwa semua teknologi yang dilahirkan di Lembah Silikon, alat luar biasa yang telah mengubah dunia, sangat sedikit pertimbangan mengenai etika yang terlibat dalam melakukan ini. Maksud saya, Google, untuk kreditnya, berkata, "Dengar, jangan jahat, " dalam pernyataan misinya.

Mereka tidak mengatakannya lagi.

Itu sangat luas, khususnya dalam kehidupan sehari-hari para insinyur. Saya tidak berpikir bahwa ada banyak pengembang atau pembuat kode yang memikirkan: apa dampak alat ini setelah saya membiarkannya lepas ke dunia?

Kami telah mendengar dari beberapa pendengar kami, karena kami memiliki banyak teknisi yang penggemar acara, dan saya telah meminta orang-orang untuk menulis dan berkata, "Saya mencoba memulai percakapan ini di lapangan di organisasi saya, bahwa itu adalah sesuatu yang hanya menjadi bagian dari proses. " Anil mengatakan bagaimana tidak ada program CS di luar sana yang memiliki etika sebagai bagian dari diskusi.

Itu poin yang bagus.

Maksudku, setidaknya mari kita bicara tentang itu, kau tahu? Privasi membutuhkan percakapan publik. Paradoks lain.

Kami sedang melakukan percakapan itu sekarang.

Ya, benar.

Kami adalah orang-orang pendidikan. Kami telah berbicara tentang beberapa alat yang dapat mereka gunakan untuk menjaga kerahasiaan informasi mereka. Ada juga sisi positif dari revolusi data ini, kumpulan data besar ini, dan Anda telah membahasnya dalam acara Anda mengenai: kami memiliki data yang sangat besar, dan bahwa data besar dapat digunakan untuk memecahkan masalah yang sangat besar.

Ya, tentu saja. Saya mendapat hadiah lain dan harus pergi ke MIT dan keluar. Saya pergi mengunjungi lab Sandy Pentland. Dia adalah salah satu orang yang melakukan perubahan data besar dan sosial, jadi memandang kota. Semua jenis data. Di mana sinar matahari mendarat? Dari mana orang Tweeting? Pojok mana yang memiliki paling banyak dolar investasi? Maka idenya adalah untuk mendapatkan semua pemangku kepentingan dari sebuah kota di sekitar meja dan melihat apa yang bisa mereka ketahui. Misalnya, di Jerman, ia mengujinya dengan walikota. Mereka mendapatkan beberapa ribu pengungsi Suriah. Pertanyaannya adalah: bagaimana kita bisa memastikan bahwa para pengungsi itu tidak ghetto? Bagaimana kita bisa mengintegrasikan mereka ke kota? Bagaimana kita bisa mendapatkan semua pemangku kepentingan, Anda tahu, Departemen Perdagangan, orang-orang perumahan, orang-orang pengungsi, petugas kesehatan, dan membuat ini berhasil?

Sangat menyenangkan bahwa mereka dapat melihat data dan mencoba membuat kota kita lebih sehat, membuat orang hidup bersama secara harmonis. Indah sekali. Kemudian, tentu saja, dia seperti, "Tetapi, di sisi lain, jika Anda memberikan data kepada seorang diktator yang tidak mengundang para pemangku kepentingan, mereka akan dapat menggunakannya untuk sepenuhnya menghancurkan kehidupan orang-orang dan memastikan bahwa tidak ada layanan kesehatan di suatu tempat… pergi ke lingkungan tertentu, atau tidak ada penegakan hukum di lingkungan tertentu atau mungkin mereka akan seperti, "Oh, semua orang miskin tinggal di sana. Mari kita kirim banyak penegakan hukum di sana. '"Itu… Anda tahu, dan teknisi senang mengatakan ini, teknologi itu sendiri tidak bisa disalahkan. Itu netral. Adalah orang-orang yang menggunakannya, dan kita bergantung padanya.

Apa yang paling membuatmu takut? Saya bertanya kepada semua orang apa yang paling mereka takutkan ketika datang ke teknologi di masa depan. Apa yang membuat Anda terjaga di malam hari?

Anda tahu, inilah kutipan dari filsuf ini di Oxford Internet Institute. Dia dipanggil oleh Google untuk menasihati mereka. Maksud saya, saya suka fakta bahwa Google memiliki filsuf internal.

Dia hanya berkata kepada saya, "Mengapa privasi itu penting? Karena kehidupan tanpa bayangan adalah kehidupan yang datar." Pikiran bahwa kita tidak dapat menemukan ruang mental untuk memikirkan masalah, untuk datang ke ide tanpa rasa takut akan penilaian, atau bahwa kita… Kita berpendapat dengan sangat cepat sekarang, dan banyak masalah ini sangat rumit, dan mereka mengambil waktu dan percakapan, dan mereka menjaga privasi dan kesendirian. Itu membuat saya khawatir. Anda tahu, saya punya anak. Saya ingin mereka dapat duduk dan memikirkan sesuatu sebelum mereka harus memberitahu seseorang tentang hal itu, atau mereka ditembak jatuh, atau bahwa mereka harus mencari validasi untuk itu. Kesenangan. Saya ingin kita hidup di tempat di mana kita saling memperhatikan, dan ada yang baik… ada kebaikan di dunia. Apakah itu aneh dan oprah-esque?

Saya tidak berpikir itu terlalu buruk.

Saya lebih dari 40, Dan. Inilah yang terjadi.

Mengenai hal-hal positif, hal-hal yang paling menggairahkan Anda baik yang Anda gunakan dalam kehidupan sehari-hari Anda atau yang Anda sangat bersemangat terjadi, apa yang Anda optimis?

Maksudku, aku khawatir tentang ini, bahwa orang-orang seperti, "Oh, dia anti-teknologi." Ya Tuhan, tidak. Saya suka telepon saya. Kemampuan artistik yang kami miliki, seperti anak saya mulai membuat buku komik online. Kita dapat melakukan banyak hal keren, keren, dan indah. Saya suka… maksud saya, sekali lagi, produser saya dan saya, kami akan FaceTime dan bekerja di Google Documents dan menggunakan setiap kemampuan yang dikenal sehingga kami bisa di rumah bersama anak-anak kami untuk makan malam. Kamu tahu? Itu telah memungkinkan saya untuk menjadi ibu yang bekerja dan benar-benar memiliki karir yang besar dan juga memasukkan anak-anak saya ke tempat tidur di malam hari. Itu luar biasa. Itu adalah hal luar biasa yang telah diberikan kepada saya. Saya tidak akan mampu melakukannya sepuluh tahun yang lalu.

Saya bilang itu akan membantu Anda.

Anda bilang. Aku tahu.

Beri tahu hadirin bagaimana mereka dapat berpartisipasi minggu depan, atau benar-benar kapan saja, untuk bergabung dengan proyek ini.

Bergabunglah dengan kami. Ini akan menyenangkan. Ini akan menjadi intens, saya pikir juga. Privacyparadox.org adalah tempat untuk dituju. Yang akan terjadi adalah Anda akan dimintai surel. Kami tidak akan membaginya dengan siapa pun. Kami bahkan memiliki pernyataan privasi kami sendiri, tetapi itu dalam bahasa Inggris. Sangat sederhana. Ngomong-ngomong, tidak ada cookie di sana. Lalu apa yang terjadi adalah Anda akan memicu buletin, yang memiliki… Anda bisa mendapatkan latar belakang teknologi dan sains sebanyak yang Anda inginkan, dan juga akan memberi Anda tips dan hal-hal yang dapat Anda coba. Senin, sekali lagi, itu Bruce Schneier, sang cryptographer. Dia mengagumkan. Kami memiliki hal kecil yang kami ingin semua orang lakukan. Kami ingin semua orang mencoba Signal.

Kami telah membahas Sinyal berkali-kali.

Itu barang bagus.

Kami sudah memberikan ulasan yang bagus.

Ya. Saya pikir ini akan menjadi baik. Saya pikir apa yang ingin kita lakukan adalah… Dan apa yang telah kita lihat terjadi adalah, seperti, perubahan dapat terjadi jika kita semua melakukan ini bersama dan saling mendukung. Kami tidak mengatakan Anda harus seperti, buang ponsel Anda. Apa yang kami katakan adalah, "Cobalah hal-hal yang berbeda." Ada beberapa alternatif. Ada beberapa cara untuk memodifikasi teknologi sehingga terasa seperti itu sesuai dengan nilai dan kepercayaan Anda.

Nah, Anda sudah menjual saya. Saya akan berpartisipasi. Bisakah orang menemukan Anda di Twitter?

Ya, @manoushz.

Untuk Maju Lebih Cepat dengan Dan Costa, berlangganan podcast. Di iOS, unduh aplikasi Podcast Apple, cari "Maju Cepat" dan berlangganan. Di Android, unduh aplikasi Stitcher Radio for Podcasts melalui Google Play. Bagi mereka yang tidak memiliki perangkat seluler, dengarkan melalui file audio di bawah ini.

Maju cepat: 'note to self' host manoush zomorodi