Bagaimana gdpr akan berdampak pada industri ai | ben dickson

Dalam apa yang dapat digambarkan sebagai semacam perlombaan senjata, perusahaan teknologi telah mengumpulkan volume besar data pengguna untuk mengasah algoritma kecerdasan buatan yang mendukung aplikasi dan platform mereka. Sejauh ini, mereka sebagian besar mampu menghindari pertanggungjawaban ketika praktik mereka telah mendorong mereka ke wilayah abu-abu secara hukum dan etika.

Tapi itu mungkin berubah pada 25 Mei, ketika Peraturan Perlindungan Data Umum (GDPR) Uni Eropa mulai berlaku. GDPR akan memberlakukan pembatasan yang belum pernah terjadi sebelumnya pada pengumpulan dan penanganan data pengguna di wilayah UE dan menampar hukuman berat pada perusahaan yang gagal mematuhi.

Itu mungkin terdengar seperti berita buruk bagi perusahaan yang menggunakan algoritma AI, yang telah mendapat manfaat dari regulasi pengumpulan data yang longgar (dan persyaratan dokumen layanan yang panjang, membosankan, dan ambigu). Beberapa orang takut bahwa aturan yang lebih ketat akan menghambat inovasi dan penyebaran kecerdasan buatan di banyak aplikasi dan domain. Yang lain percaya bahwa arahan baru akan menciptakan dasar di mana aplikasi AI akan menjadi lebih andal dan dapat dipercaya.

Apa pun masalahnya, industri AI sedang mengalami perubahan besar di era GDPR.

Kepemilikan dan Privasi Data

"GDPR adalah masalah besar bagi AI, karena mengharuskan kami berpikir secara berbeda tentang bagaimana kami mengumpulkan dan menggunakan data, " kata Tim Estes, pendiri dan presiden Digital Reasoning. "Sudah terlalu lama, perusahaan teknologi bersikeras bahwa untuk menerima nilai dari produk dan layanan mereka, Anda harus menyerahkan data Anda."

Sebelumnya, perusahaan diminta untuk hanya menerima persetujuan samar dari pengguna untuk mengumpulkan semua jenis data. "AI telah membantu menjaga agar data besar tetap hidup - memberikan alasan lain mengapa bisnis harus mengumpulkan dan menambang semua data yang tersedia, " kata Estes. "Banyak perusahaan telah mulai menerapkan AI untuk menganalisis data mereka hanya karena mereka pikir mereka harus melakukannya - tanpa memikirkan dampaknya pada privasi pengguna atau kepemilikan data."

Premis paling dasar dari GDPR adalah bahwa data adalah milik pengguna. Di bawah GDPR, perusahaan harus mengungkapkan ruang lingkup penuh informasi yang mereka kumpulkan serta bagaimana mereka menggunakannya dan bagaimana mereka akan melindunginya dan mencegah akses yang tidak sah. Aturan baru akan memaksa perusahaan AI untuk lebih teliti tentang data yang mereka kumpulkan sebagai lawan terlibat dalam penimbunan, pemrosesan, dan berbagi informasi pengguna.

Hak untuk Dilupakan

GDPR memberi pengguna kekuatan untuk menuntut perusahaan menghapus semua data mereka dari servernya. Ini tidak akan sesuai dengan perusahaan AI, yang memiliki kepentingan untuk menjaga sebanyak mungkin data pengguna untuk melakukan tugas-tugas seperti memprediksi tren dan perilaku pengguna.

"Pada akhirnya, GDPR adalah tentang bagaimana Anda mengumpulkan dan mengelola data, dan tidak harus tentang berapa banyak data yang Anda miliki, " kata Maryna Burushkina, CEO GrowthChannel. "Kesulitan utama yang akan dihadapi sebagian besar perusahaan adalah tidak banyak tentang mendapatkan keikutsertaan, tetapi lebih pada mengelola data, mengkomunikasikan penggunaan data kepada pengguna, dan memungkinkan pengguna kesempatan untuk menghapusnya."

Perusahaan AI harus mengambil langkah tambahan untuk menganonimkan data mereka jika mereka masih ingin memiliki akses ke wawasan ini. Tetapi tantangan lain menghadapi perusahaan yang sudah memiliki banyak data pengguna.

"Di bawah GDPR, jika perusahaan ingin menghapus PII tertentu, maka mereka harus memastikan itu dihapus di mana-mana, " kata Amnon Drori, CEO Octopai. Ini bisa menjadi tugas yang menakutkan untuk dilakukan secara manual ketika data Anda tersebar di berbagai server dan disimpan dalam berbagai format terstruktur dan tidak terstruktur.

Misalnya, ketika menghapus nomor kartu kredit pengguna (tentunya informasi yang sensitif), perusahaan harus memeriksa setiap laporan, basis data, objek basis data, dan ETL tempat informasi itu disimpan. "Kadang-kadang kita melihat nama metadata berbeda untuk item yang sama: misalnya, 'nomor kartu kredit', 'nomor cc', nomor c kredit ', ' nomor kartu ', ' nomor kartu kredit. '… daftar berlanjut dan di, "kata Drori. Seringkali tidak mungkin untuk mengetahui di mana mencarinya dan prosesnya dapat memakan waktu berminggu-minggu atau bahkan berbulan-bulan, dan seperti banyak proses manual, ia rentan terhadap kesalahan manusia dan ketidakakuratan, kata Drori.

GDPR juga akan meningkatkan biaya kesalahan manusia dalam menangani data. "Inilah sebabnya mengapa banyak perusahaan saat ini mencari solusi otomatis untuk mengelola metadata mereka secara akurat, " kata Drori. Mungkin ironisnya, AI sendiri bisa menjadi solusi dalam hal ini. Alat manajemen metadata yang diberdayakan oleh AI dapat memindai semua sumber data dalam suatu organisasi dan mengkonsolidasikan hubungan antara berbagai alat dan sumber data.

Hak atas Penjelasan

Salah satu bagian paling penting dari GDPR tentang AI adalah apa yang kemudian dikenal sebagai "hak untuk penjelasan." Arahan menyatakan bahwa perusahaan harus memberi tahu pengguna tentang "keberadaan pengambilan keputusan otomatis" dan memberi mereka "informasi yang bermakna tentang logika yang terlibat, serta signifikansi dan konsekuensi yang diperkirakan dari pemrosesan tersebut untuk subjek data."

Ini pada dasarnya berarti bahwa pengguna harus tahu kapan mereka secara langsung atau tidak langsung tunduk pada algoritma AI dan harus dapat menantang keputusan yang dibuat oleh algoritma tersebut dan meminta bukti bagaimana kesimpulan itu diperoleh. Ini akan menjadi salah satu tantangan terbesar yang akan dihadapi industri AI.

Jaringan saraf dalam, teknologi utama di belakang algoritma AI kontemporer, adalah struktur perangkat lunak kompleks yang membuat aturan fungsionalitasnya sendiri dengan menganalisis set data yang besar dan menemukan korelasi dan pola. Ketika jaringan saraf tumbuh lebih kompleks, perilaku mereka menjadi semakin sulit untuk diurai. Seringkali, bahkan insinyur pun tidak dapat menjelaskan alasan di balik keputusan algoritma AI mereka.

Disebut masalah "kotak hitam", ketidakjelasan algoritma AI telah membuatnya sulit untuk mengimplementasikannya dalam keputusan ruang sidang, penegakan hukum, aplikasi pinjaman dan kredit, perekrutan, perawatan kesehatan, dan domain penting lainnya. Tetapi tanpa pengaruh hukum, perusahaan AI memiliki sedikit insentif untuk membuat algoritma AI mereka lebih transparan, terutama ketika mereka terkait erat dengan rahasia dagang mereka.

Sekarang, GDPR akan meminta perusahaan AI untuk bertanggung jawab atas keputusan yang dibuat algoritma mereka.

"Sebagai bagian dari GDPR, organisasi bertanggung jawab untuk secara jelas menggambarkan metode pemrosesan dalam bahasa manusia sambil meminta persetujuan dari subjek, " kata Pascal Geenens, peneliti keamanan di Radware. "Ketika pembelajaran mendalam berkembang, dan para ilmuwan data tidak dapat mengkarakterisasi sifat deterministik di balik alasan jaringan saraf, deskripsi ini mungkin menjadi lebih kompleks dan sulit untuk dijelaskan."

Pada dasarnya, GDPR adalah tentang membuat manusia yang memproses data bertanggung jawab, kata Geenens. Jadi jika Anda menggunakan algoritma pembelajaran mesin untuk melakukan pemrosesan, Anda harus mendesainnya dengan cara yang akan memungkinkan Anda untuk menjelaskan keputusan yang mereka buat atas nama Anda.

Sejumlah organisasi berusaha mengembangkan teknologi untuk membuat AI lebih transparan. Yang menonjol di antara mereka adalah DARPA's Explainable AI (XAI), sebuah proyek penelitian yang bertujuan untuk membuat keputusan berbasis AI dapat dipahami.

Alih Daya Alih Daya

GDPR juga akan memengaruhi organisasi yang membuat datanya tersedia untuk pihak ketiga. Contoh menonjol dari perusahaan semacam itu adalah Facebook; dalam skandal Cambridge Analytica-nya, raksasa media sosial itu gagal mencegah perusahaan penambangan data mengumpulkan dan menyalahgunakan data 87 juta pengguna. Tetapi GDPR juga akan memiliki implikasi bagi perusahaan yang melakukan outsourcing fungsi AI mereka dan membuat data mereka tersedia untuk penyedia AI.

"Sementara banyak yang berasumsi bahwa penyedia AI seperti penyedia layanan lain - hanya menawarkan teknologi mereka sebagai imbalan kompensasi moneter - kenyataannya adalah, penyedia AI juga memasuki kemitraan bisnis sebagai cara untuk membangun dan mengembangkan teknologi mereka, " kata Estes, kepala eksekutif dari Digital Reasoning. Ini berarti bahwa penyedia AI mungkin ingin mempertahankan data klien untuk lebih lanjut melatih algoritma sendiri dan menggunakannya dalam domain lain.

Misalnya, penyedia AI yang membantu organisasi layanan kesehatan menemukan pola dalam gejala dan meningkatkan diagnosis mungkin menemukan kumpulan data yang meningkatkan algoritme miliknya. Perusahaan AI kemudian mungkin ingin memanfaatkan data untuk meningkatkan algoritmanya untuk jenis perawatan pasien lain, untuk mengembangkan kemampuannya untuk membantu penyedia layanan kesehatan lainnya. Di bawah GDPR, organisasi kesehatan yang bertanggung jawab atas data akan dimintai pertanggungjawaban atas segala penggunaan yang tidak etis oleh penyedia AI. Kuncinya, Estes percaya, adalah bagi bisnis untuk mencari penyedia AI yang percaya memiliki algoritma, bukan data.

"GDPR akan memaksa bisnis untuk lebih memperhatikan bagaimana dan kapan data mereka digunakan, di mana itu disimpan, dan apa yang terjadi padanya setelah proyek selesai, " kata Estes. "Ini berarti bekerja dengan penyedia AI yang membantu menentukan garis kepemilikan data dan menerapkan strategi yang melindungi informasi pengguna, sementara tidak menghalangi cara itu dapat membantu mengembangkan keberhasilan algoritma AI."

Akankah GDPR Menghambat Inovasi AI?

Para ahli yang kami ajak bicara percaya bahwa meskipun peraturan baru akan menantang praktik dan kebiasaan yang telah diterapkan oleh perusahaan AI saat ini, peraturan itu juga akan memaksa mereka untuk menemukan cara-cara baru untuk berinovasi dan juga untuk menghormati privasi dan standar etika.

"Dengan peraturan GDPR mulai berlaku, semua perusahaan perangkat lunak utama mengambil langkah yang diperlukan untuk tidak hanya memastikan kepatuhan tetapi juga untuk berinovasi dan berpikir di luar kotak untuk menemukan peluang baru di pasar, " kata Burushkina dari GrowthChannel.

"Inovasi tidak akan dihambat - tetapi diarahkan dan dimotivasi - oleh GDPR, " kata Drori Octopai. Sementara itu, GDPR juga akan memunculkan bisnis dan teknologi baru yang akan membantu organisasi untuk mencapai dan mempertahankan kepatuhan GDPR.

Standar yang ditetapkan oleh GDPR mungkin sebenarnya membantu menjembatani kesenjangan kepercayaan yang melebar antara penyedia dan pengguna layanan bertenaga AI. Estes percaya GDPR akan membuat penyedia AI dan mereka yang mengimplementasikan teknologinya lebih bertanggung jawab atas bagaimana dan di mana mereka menggunakan sumber daya data dan mendorong mereka untuk menempatkan pengguna di atas keuntungan. "Pada akhirnya, " katanya, "penyedia AI hanya perlu memiliki algoritme - bukan data - untuk berinovasi kemampuan dan solusi mereka."