Teknologi: bagaimana cara memperbaiki apa yang salah dengan google dan facebook

Mungkin tema yang paling mengejutkan di Techonomy tahun ini adalah betapa banyak pembicara yang kesal dengan Facebook, Google, dan Twitter, dengan kritik yang berfokus pada pendekatan mereka terhadap privasi dan khususnya pada peran yang mungkin mereka mainkan dalam memungkinkan peretasan Rusia pada pemilu 2016.

Berbagai macam pembicara mendorong berbagai jenis regulasi "Giants Internet" ini, dan tidak seorang pun dari perusahaan yang disebutkan di atas hadir di konferensi untuk memberikan sudut pandang alternatif. Ini sangat berbeda dari konferensi tahun lalu, ketika CEO Facebook Mark Zuckerberg mengatakan gagasan bahwa berita palsu di Facebook memengaruhi pemilihan adalah "ide yang cukup gila."

Sejak itu, seperti yang dicatat oleh co-pendiri Techonomy, Simone Ross, kami telah belajar bahwa "teknologi membuatnya mudah untuk memecah kita dan menyatukan kita." Salah satu pendiri konferensi, David Kirkpatrick (di atas) menetapkan nada untuk konferensi tersebut, dengan mengatakan bahwa "teknologi adalah kekuatan untuk kebaikan, tetapi hanya jika kebaikan adalah tujuan Anda" dan selanjutnya mengatakan bahwa ia percaya perusahaan teknologi besar memerlukan "proaktif". persimpangan "dengan pemerintah, apakah itu disebut peraturan atau tidak.

Otoritas di Dunia yang Jaringan, Buatan dan Cerdas

Investor terkenal Roger McNamee dari Elevation Partners, investor awal di Facebook dan Google, mungkin yang paling negatif dari semua pembicara. McNamee mengatakan perusahaan-perusahaan ini "mulai menyelamatkan dunia, " tetapi ini berubah ketika iklan menjadi model bisnis mereka. Dia mengatakan bahwa smartphone, ketika dikombinasikan dengan informasi pribadi, telah memungkinkan untuk "menciptakan tingkat peretasan otak yang belum pernah terlihat sebelumnya di media."

McNamee mengatakan bahwa dia percaya Zuckerberg tulus ketika dia mengatakan bahwa dia tidak percaya peretasan seperti itu mungkin terjadi setahun yang lalu, tetapi mengatakan bahwa peran yang dimainkan Google dan Facebook sekarang tidak dapat dilebih-lebihkan. Dia berkomentar, "Pasti sulit menjadi mereka sekarang dan menyadari bahwa Anda telah menghancurkan peradaban barat."

danah boyd, Data & Society; Roger McNamee, Elevation Partners; Marc Rotenberg, Pusat Informasi Privasi Elektronik (EPIC); Stratford Sherman, Accompli

Diskusi ini muncul di bagian panel tentang "Otoritas dalam Dunia yang Cerdas, Jaringan dan Buatan" yang juga termasuk danah boyd, seorang ilmuwan sosial dengan Data & Society dan Microsoft Research; Marc Rotenberg, Presiden Pusat Informasi Privasi Elektronik (EPIC); dan moderator Stratford Sherman dari Accompli. Sherman mengatakan bahwa sementara Facebook dan Google dimulai sebagai forum untuk pidato publik mereka "secara radikal tidak diatur." Dengan AI yang secara fundamental dapat berdampak pada umat manusia di cakrawala, Sherman mengatakan dia khawatir tentang konsekuensi yang tidak diinginkan dari perkembangan teknologi yang telah kita lihat.

Rotenberg mengatakan bahwa meskipun dia tetap khawatir tentang masalah privasi tradisional karena dilacak dan diprofilkan, dia sama-sama prihatin dengan kurangnya kompetisi, kurangnya inovasi, dan risiko terhadap lembaga-lembaga demokratis. Dia mengatakan raksasa internet memiliki kekuatan besar, dan data yang mereka miliki menciptakan penghalang masuk yang asli, sehingga tidak ada persaingan yang berarti. Rotenberg mengatakan dia telah berada di Washington sejak pemerintahan Reagan, dan untuk pertama kalinya, "pemilihan tahun lalu tidak terasa akrab."

Dalam sesi sebelumnya, boyd, yang menulis buku berjudul It's Complicated , berbicara tentang sulitnya menghadapi manipulasi di Internet.

Dia berbicara tentang proses manipulasi yang meningkat selama 20 tahun terakhir, yang dimulai dengan anak-anak mengendalikan Oprah dan berkembang menjadi "rickrolls" dan ke hal-hal seperti mengubah hasil pencarian untuk nama "Santorum." Baru-baru ini, dengan Gamergate, sejumlah besar karakter telah menjadi pemain, termasuk aktor negara. boyd mengatakan perusahaan-perusahaan Internet berpikir AI dapat melindungi mereka, tetapi kelompok-kelompok yang mencoba memanipulasi hasil sudah bereksperimen dengan pemrosesan bahasa alami, dan yang paling penting, merusak sumber data. Menyuntikkan data buruk ke dalam sistem, misalnya, adalah kerentanan baru, dalam pandangannya. Meski begitu, boyd mengatakan satu-satunya jawaban adalah "membangun antibodi teknis ke dalam industri kami."

Dalam sesi ini, boyd mengatakan bahwa perusahaan-perusahaan teknologi sedang mempertimbangkan manipulasi di beberapa bidang, dan mencatat bahwa sementara semua orang melihat Rusia, ada banyak negara lain yang melakukan tindakan serupa. Sebagai contoh, perusahaan Cina berusaha memastikan mereka akan mengendalikan AI, dan dia mengatakan bahwa ini menghadirkan tantangan yang berbeda karena ini bukan tentang persaingan industri tetapi bersaing dengan negara.

Ditanya oleh Sherman apakah ini perang, boyd mengatakan bahwa menurutnya itu adalah perang, sementara McNamee mengatakan ini adalah perang gerilya klasik karena musuh kita telah menggunakan teknologi kita untuk melawan kita. McNamee mengatakan masalahnya bukan jejaring sosial atau pencarian, tetapi model iklan. Dia mengatakan dalam pertempuran untuk perhatian orang, substansi dikubur oleh sensasi, dan mengutip pepatah lama bahwa "jika berdarah, itu mengarah."

Sherman mencatat bahwa ketakutan dan kemarahan jauh lebih bersifat magnetis, dan karenanya jauh lebih murah. Dia mengatakan bahwa meskipun pesan organik digunakan untuk menjangkau lebih dari 125 juta orang, tujuan dari upaya ini adalah untuk iklan untuk membagi orang ke dalam kelompok berdasarkan minat bersama.

Rotenberg mengatakan dia mendukung untuk membuat algoritma transparan dan iklan diatur, tetapi mengatakan kita harus menghormati hak individu untuk berbicara online. Tetapi McNamee mengatakan bahwa "amandemen pertama telah dipersenjatai, " dan bahwa ruang online pada dasarnya berbeda dari lapangan publik.

boyd menggambarkan apa yang dia sebut "efek bumerang, " atau dengan kata lain gagasan bahwa memprovokasi media untuk melaporkan hal-hal yang keterlaluan adalah intinya, karena ini memperkuat pesan asli kepada segmen audiens yang tidak mempercayai media. Sebagai contoh, boyd berbicara tentang Pizzagate. Dia mencatat bahwa sebelum Internet, media sering menggunakan "keheningan strategis" untuk menghindari hal-hal seperti bunuh diri dan demonstrasi Klan untuk menghindari publikasi mereka.

Rotenberg setuju bahwa banyak tradisi ketekunan dan pengawasan ini telah hilang, dan mengatakan hal-hal seperti Bagian 230 (yang mengatakan bahwa perusahaan-perusahaan Internet tidak bertanggung jawab atas hal-hal seperti posting oleh pengguna) telah membuatnya lebih sulit bagi berita tradisional untuk bersaing.

Ditanya solusi, McNamee mengatakan bahwa Facebook adalah aliran sesat dan bahwa ia harus berhenti menyangkal masalah dan menanganinya, serta mulai menangani "pemrograman ulang" dengan menjangkau setiap penggunanya. Rotenberg mempromosikan gagasan regulasi. Dan boyd menyarankan bahwa kita perlu menginvestasikan uang di masyarakat, untuk "jaringan kembali" Amerika.

Reckoning Dengan Hegemoni Baru

Mark Mahaney, RBC Capital Markets; Dave Morgan, Simulmedia; Joyce Vance, Universitas Alabama; David Kirkpatrick, Techonomy

Dalam panel awal tentang "Penghapusan dengan Hegemonis Baru, " hampir semua orang setuju dengan Joyce Vance dari University of Alabama, yang mengatakan bahwa teknologi benar-benar melampaui hukum, yang sangat perlu untuk mengejar ketinggalan. Tetapi Vance memperingatkan bahwa ada juga risiko jawaban politik "tak terurus".

Dave Morgan dari Simulmedia mengatakan bahwa "akan ada peraturan, " meskipun ia mengatakan mungkin saja perusahaan-perusahaan besar mungkin dapat menghindari banyak dampaknya.

Morgan mencatat bahwa sejarah industri media memberikan kesamaan dengan apa yang kita lihat sekarang, karena surat kabar akan melihat diri mereka sebagai perusahaan percetakan, dan perusahaan penyiaran awal melihat diri mereka sebagai perusahaan teknologi. Semua ini memungkinkan penyediaan kontak konsumen, yang jelas apa yang dilakukan Google dan Facebook. Banyak kasus antimonopoli muncul sebagai akibat dari kekuatan media yang terkonsentrasi seperti itu, dan pemerintah dapat memerintah mereka. Satu perbedaan besar hari ini adalah bahwa teknologi lain memerlukan perhubungan geografis, yang tidak dibutuhkan oleh perusahaan internet.

Vance mencatat bahwa Senat sekarang mempertimbangkan tagihan yang akan mengharuskan perusahaan-perusahaan ini untuk melestarikan sejarah periklanan mereka, serta memperjelas siapa yang membayar untuk iklan politik. Tetapi Morgan menunjukkan bahwa ini sekarang adalah perusahaan global dengan jangkauan yang lebih luas. Ditanya tentang peraturan privasi GDPR Eropa, Vance mengatakan AS mungkin telah menyerahkan kepemimpinan kepada UE di bidang ini. Dia mengatakan dia tidak berpikir perusahaan AS akan dapat melakukan kepatuhan secara berbeda di wilayah geografis yang berbeda, sehingga secara default perusahaan akan mematuhi peraturan Eropa.

Mark Mahaney dari RBC Capital Markets mengatakan perusahaan sudah diatur, terutama di Uni Eropa, dengan Google khususnya di bawah pengawasan untuk bundling atau mempromosikan layanannya bersama dengan hasil pencariannya atau dengan Android. Kirkpatrick mengatakan dia pikir penyelesaian antimonopoli sebenarnya membantu Microsoft, tetapi Mahaney membalas bahwa bukan regulator yang menghentikan Microsoft, tetapi persaingan.

Bisakah Teknologi dan Pemerintah Menghemat Demokrasi?

Tim Hwang, FiscalNote; Minnie Ingersoll, Code For America; Marc Rotenberg, Pusat Informasi Privasi Elektronik; Molly Turner, Sekolah Bisnis UC Berkeley Haas; Jon Fine, Inc Magazine; Lawrence Norden, NYU School of Law

Subjek serupa muncul di meja bundar sarapan pagi, berjudul "Bisakah Teknologi dan Pemerintah Menyelamatkan Demokrasi?", Di mana moderator Jon Fine of Inc Magazine meminta solusi. Namun, meja bundar itu tidak benar-benar muncul.

Hwang mengatakan masalahnya bukan platform teknologi, melainkan kemarahan yang dirasakan orang sebagai akibat terputusnya perekonomian.

Lawrence Norden, dari Pusat Brennan di NYU School of Law, mengatakan undang-undang yang membutuhkan lebih banyak pengungkapan pada iklan politik adalah jawaban yang mudah, tetapi sayangnya masalah besar adalah "posting gelap, " atau posting yang tidak diketahui asalnya. Dalam hal itu, katanya, Internet lebih seperti alun-alun kota.

Tapi Rotenberg mengatakan sebaliknya, dan bahwa Internet lebih seperti kota perusahaan, di mana platform menetapkan aturan dan memutuskan apa yang Anda lihat. Minnie Ingersoll dari Code For America bertanya apakah masalahnya adalah gangguan asing, atau Google mengendalikan apa yang kita katakan. Regulator perlu lebih memahami masalah ini, katanya.

Molly Turner dari UC Berkeley Haas School of Business mengatakan Internet telah menjadi sarana terbesar untuk berekspresi, tetapi khawatir hal itu merusak wacana sipil. Di sisi lain, ia khawatir tentang persyaratan untuk platform untuk menghapus jenis informasi tertentu (jika Undang-Undang Komunikasi Komunikasi melemah, misalnya, atau karena jenis peraturan lainnya), karena tiba-tiba dalam kasus itu platform menjadi "wasit dari pidato."

Rotenberg menjawab bahwa ketika perusahaan mobil pernah memperjuangkan peraturan keselamatan, pada akhirnya ini membantu membuat mobil lebih aman dan menghasilkan lebih banyak inovasi. Lingkungan peraturan yang stabil mungkin benar-benar membantu platform, sarannya. Rotenberg mengamati bahwa perusahaan-perusahaan teknologi telah mendorong "netralitas bersih" untuk perusahaan telekomunikasi, tetapi tidak untuk diri mereka sendiri, dan menyerukan tingkat yang sama.

Internet Di Bawah Serangan

Mark Anderson, Layanan Berita Strategis; Peder Jungck, BAE Systems Intelligence & Security; Rebecca MacKinnon, Amerika Baru; David Kirkpatrick, Techonomy

Panel terakhir yang disebut "The Internet Under Attack" melanjutkan diskusi ini.

Rebecca MacKinnon, yang menjalankan proyek Ranking Digital Rights di New America, mengatakan pernah ada asumsi bahwa karena internet, rezim otoriter pada akhirnya akan menjadi lebih seperti demokrasi. Dia sekarang lebih takut rezim otoriter dan demokrasi akan "bertemu di tengah."

MacKinnon mengatakan rezim otoriter mengadaptasi Internet untuk tujuan mereka, sementara demokrasi menghadapi populisme, manipulasi, dan "pengawasan kapitalisme." Tetapi, katanya, negara-negara demokrasi harus berhati-hati mengenai respons regulasi - sementara dia setuju bahwa ada kebutuhan untuk transparansi lebih lanjut dalam hal algoritma dan privasi, dia khawatir bahwa sistem sensor akan membuat lebih mudah untuk menindak bagian-bagian tersebut. penghinaan pemerintah masyarakat.

Peder Jungck, yang mengepalai intelijen dan keamanan untuk Sistem BAE, setuju bahwa pemerintah ingin menggunakan sistem seperti itu untuk menemukan pembangkang, dan mengatakan bahwa sebuah ide adalah produk, dan seperti produk apa pun itu dapat didorong. Ditanya apakah sistem iklan dipersenjatai, dia berkata, "Kotak Pandora telah dibuka dan kami tidak dapat kembali."

Mark Anderson, dari Strategic News Service, mengatakan bahwa kami telah melihat garis lurus dari zaman ARPANET, ketika tidak ada orang jahat, hingga hari ini, ketika kami melihat semakin banyak perilaku jahat hari itu.

Anderson sangat jelas ketika menggambarkan bagaimana China mencuri kekayaan intelektual dan menggunakannya untuk mengusir perusahaan dari bisnis. Dan dia menyarankan agar peretasan Equifax memiliki semua tanda serangan pemerintah. Kesimpulannya, Anderson mengatakan dia "tidak melihat solusi."

Jungck berkata kita harus menganggap orang jahat ada dalam sistem kita, dan bekerja pada solusi. Sebagai contoh, dia mengatakan nomor jaminan sosial tidak lagi dapat diamankan, jadi kita mungkin membutuhkan solusi blockchain.

Dalam proyek Ranking Digital Rights, MacKinnon mengevaluasi 22 perusahaan global pada 35 pertanyaan tentang hal-hal seperti kebebasan berekspresi, privasi, dan keamanan. Dia mengatakan dua perusahaan mendapat "Ds" dan yang lainnya gagal. Dia ingin tahu apa yang dilakukan perusahaan dengan data Anda; dengan siapa mereka berbagi; apakah mereka melakukan uji tuntas, penilaian keamanan, dan tata kelola untuk risiko; dan apakah mereka melindungi privasi dan keamanan, konten, dan ekspresi. Transparansi tidak cukup, katanya, tetapi merupakan langkah pertama yang perlu.

Anderson mengatakan bahwa transparansi adalah hal yang baik, tetapi bukan solusi, dan mencatat bahwa seseorang yang ingin memanipulasi sistem tidak harus membayar iklan, tetapi dapat menggunakan 100.000 botnet. Kirkpatrick kemudian menyarankan agar perusahaan dapat menegakkan identitas, dan dengan demikian mengurangi penggunaan botnet.

Tetapi MacKinnon membalas bahwa para aktivis hak asasi manusialah yang paling rentan terhadap penggunaan sistem semacam itu, karena jika Anda menegakkan identitas, maka tidak seorang pun yang menentang pemerintah otoriter akan berada di jejaring sosial.

Jungck bertanya-tanya mengapa kita perlu menegakkan identitas ketika situs sudah tahu siapa Anda dan apa yang akan Anda beli. "Tidak ada anonimitas di internet, sudah lama berlalu, " katanya. Satu-satunya perbedaan adalah berapa lama untuk mengetahui siapa Anda.

Sebagai kesimpulan, MacKinnon mengatakan dia optimis dalam jangka waktu yang sangat lama, tetapi untuk 100 tahun ke depan, "tidak terlalu banyak."

Mendengarkan semua ini, mudah untuk menjadi pesimis, atau paling tidak fatalistik tentang jumlah regulasi yang diperlukan dan dampaknya. Tetapi saya masih cenderung optimis, dan meskipun saya pikir sejumlah peraturan tambahan mungkin dan perlu, saya percaya bahwa raksasa internet saat ini - atau beberapa pemain masa depan - akan memberikan jawaban yang lebih baik.

Seberapa besar kemungkinan Anda merekomendasikan PCMag.com?