January 2021

Inilah Ikrar Etika AI Yang Dipedulikan Vatikan Bagian 2 – Di atas semuanya, beberapa prinsip pada dasarnya bersifat tautologis, hingga hampir tidak ada artinya. Prinsip ketiga, yaitu “tanggung jawab”, menyatakan bahwa mereka yang merancang dan menerapkan penggunaan AI harus melanjutkan dengan tanggung jawab. Sederhananya, agar beretika Anda harus bertanggung jawab. Memang sangat membantu.

Lalu ada kesalahpahaman mendalam yang merusak substansi dari dua prinsip lainnya, “Ketidakberpihakan” dan “Inklusi”. Menurut Call for AI Ethics, ketidakberpihakan menentukan bahwa pengembang AI harus”tidak membuat atau bertindak sesuai dengan bias.” Yah, mungkin pengembang dapat menghindari bias yang sengaja dan jahat, tetapi bias tidak bisa dihindari saat merancang segala jenis AI. Itu karena pengembang harus memilih kumpulan data tertentu saat melatih model AI mereka, dan mereka harus memilih faktor atau parameter tertentu yang akan digunakan algoritme apa pun untuk memproses data tersebut. Ini memerlukan tingkat bias tertentu. Selalu. Karena AI tidak dapat menggabungkan semua data yang memungkinkan dan semua parameter yang memungkinkan.

Singkatnya, prinsip AI Vatikan terlalu substansial dan halus. Namun yang lebih fatal, mereka juga melakukan kesalahan dengan mendekati seluruh masalah etika AI dari belakang ke depan. Artinya, masalah yang benar-benar perlu ditangani di sini bukanlah “etika AI” melainkan, etika setiap perusahaan dan organisasi yang berupaya mengembangkan dan menyebarkan AI, serta etika sistem ekonomi dan politik di mana perusahaan dan organisasi ini beroperasi. Karena tidak ada gunanya terobsesi dengan “transparansi” dan “keandalan” sistem AI jika itu akan digunakan oleh perusahaan yang model bisnisnya bertumpu pada eksploitasi pekerja, atau oleh militer yang tugas utamanya membunuh orang.

Vatikan mengenali aspek masalah ini, meskipun Call for AI Ethics tidak secara eksplisit mengatasinya. Uskup Agung Vincenzo Paglia memberi tahu saya, “Ada dimensi politik dalam produksi dan penggunaan kecerdasan buatan, yang berkaitan dengan lebih dari sekadar perluasan manfaat individual dan fungsionalnya saja. Dengan kata lain, tidak cukup hanya percaya pada pemahaman moral para peneliti dan pengembang perangkat dan algoritme. Ada kebutuhan untuk membuat badan sosial perantara yang dapat menggabungkan dan mengekspresikan kepekaan etis pengguna dan pendidik. “

Memang, jika organisasi tidak benar-benar berkomitmen untuk bersikap etis secara umum, maka tidak ada sejumlah inisiatif “AI etis” yang akan menghentikan mereka menggunakan AI dengan cara yang tidak etis. Dan dalam hal ini, menarik untuk dicatat kurangnya penandatangan prinsip AI Vatikan. Tampaknya, sejauh ini sebagian besar perusahaan di dunia ingin menggunakan AI untuk tujuan yang tidak etis.

Meski begitu, Uskup Agung Paglia menegaskan bahwa Vatikan sedang berupaya untuk menarik perusahaan lain. “Pastinya pekerjaan terus berlanjut,” katanya. “Ada kontak dengan perusahaan lain untuk menciptakan konvergensi yang luas pada konten Panggilan. Untuk ini kami sudah memiliki janji yang dijadwalkan tepat satu tahun, untuk verifikasi pekerjaan yang telah selesai.”

Tetapi tanpa badan penandatangan yang lebih besar, tanpa rincian lebih lanjut tentang enam prinsip, dan tanpa membahas masalah mendasar dari etika sosial, ekonomi dan politik, Panggilan Vatikan untuk Etika AI tidak akan mencapai banyak hal. Saat ini, sepertinya aksi humas yang dimuliakan, salah satu cara Gereja Katolik Roma dapat tampil relevan, dan salah satu cara pembangkit tenaga teknologi besar seperti IBM dan Microsoft dapat tampil etis. Tapi mari berharap sejarah membuktikan skeptisisme seperti itu salah.

Inilah Ikrar Etika AI Yang Dipedulikan Vatikan Bagian 1 – Vatikan peduli dengan AI, resolusi etis tentang penggunaan kecerdasan buatan. Ditandatangani bersama oleh IBM dan Microsoft, resolusi ini menetapkan sejumlah prinsip untuk pengembangan dan penyebaran teknologi yang digerakkan oleh AI. Itu juga mengikat para penanda tangan untuk bekerja sama dengan Gereja Katolik Roma untuk mempromosikan ‘algor-ethics’, yaitu penggunaan etis AI.

Secara dangkal, resolusi Vatikan tepat waktu dan bermaksud sangat baik. Namun, hal itu tidak mungkin berhasil membuat AI lebih etis, karena sejumlah alasan yang signifikan.

Dijuluki Panggilan Roma untuk Etika AI, resolusi tersebut secara sukarela mengikat para penandatangan untuk menegakkan enam prinsip saat merancang AI:

1. Transparansi

2. Inklusi

3. Tanggung jawab

4. Ketidakberpihakan

5. Keandalan

6. Keamanan dan privasi

Mengingat bahwa kecerdasan buatan sudah memiliki reputasi buruk untuk mendiskriminasi perempuan dan etnis minoritas, kebutuhan untuk mengatasi implikasi etisnya semakin kuat dari hari ke hari. Karena itu, tidak mengherankan mendengar rekan-rekan penandatangan deklarasi tersebut menyatakan penandatanganannya sebagai tonggak penting dalam pengembangan kecerdasan buatan.

“Microsoft bangga menjadi penandatangan Rome Call for AI Ethics, yang merupakan langkah penting dalam mempromosikan percakapan yang bijaksana, penuh hormat, dan inklusif di persimpangan antara teknologi digital dan kemanusiaan,” kata Presiden Microsoft Brad Smith.

Demikian pula, VP IBM John Kelly memuji inisiatif untuk berfokus pada pertanyaan tentang siapa yang akan diuntungkan dari penyebaran AI. “Panggilan Roma untuk AI Ethics mengingatkan kita bahwa kita harus memilih dengan hati-hati siapa yang akan diuntungkan oleh AI dan kita harus melakukan investasi bersamaan yang signifikan pada orang dan keterampilan. Masyarakat akan lebih percaya pada AI ketika orang melihatnya dibangun di atas dasar etika, dan bahwa perusahaan di belakang AI secara langsung menjawab pertanyaan tentang kepercayaan dan tanggung jawab.”

Tidak diragukan lagi bahwa AI dan industri teknologi yang lebih luas memiliki masalah serius yang melibatkan etika aktivitasnya. Namun, sangat tidak mungkin inisiatif AI Vatikan akan membuat banyak perbedaan dalam memastikan penerapan AI yang etis yang menguntungkan semua orang, bukan hanya perusahaan dan pemerintah yang mengeksploitasi AI untuk tujuan ekonomi dan politik.

Pertama-tama, meskipun ada pembicaraan tentang kolaborasi antara Gereja, akademisi, dan perusahaan teknologi, resolusi Call for AI Ethics tidak menguraikan strategi praktis sehari-hari untuk bekerja menuju tujuan yang lebih luas. Tidak ada jadwal praktis, tidak ada pertemuan terjadwal, lokakarya, konferensi, atau proyek, jadi sulit untuk membayangkan bagaimana seruan terpuji untuk AI yang lebih “etis” akan benar-benar dipraktikkan dan diimplementasikan.

Panggilan untuk Etika AI lebih dimaksudkan sebagai hasutan abstrak bagi perusahaan AI untuk bekerja menuju AI yang etis, daripada cetak biru konkret tentang bagaimana mereka sebenarnya dapat melakukan ini di lapangan. Hal ini dikemukakan oleh Uskup Agung Vincenzo Paglia, Presiden Akademi Kepausan untuk Kehidupan, yang menandatangani Panggilan tersebut atas nama Vatikan.

“Tujuan The Call adalah untuk menciptakan gerakan yang akan memperluas dan melibatkan pemain lain: lembaga publik, LSM, industri, dan kelompok untuk menetapkan arah dalam mengembangkan dan menggunakan teknologi yang diturunkan dari AI,” katanya. “Dari sudut pandang ini, kami dapat mengatakan bahwa penandatanganan pertama panggilan ini bukanlah puncak, tetapi titik awal untuk sebuah komitmen yang muncul bahkan lebih mendesak dan penting dari sebelumnya.”

Kedua, enam prinsip itu sendiri memiliki kata-kata yang samar-samar dan terbuka untuk interpretasi subjektif yang cukup besar. Selain itu, siapa pun yang memiliki pengalaman baru-baru ini tentang masing-masing prinsip tersebut akan mengetahui bahwa perusahaan dan orang memahami prinsip tersebut dengan sangat berbeda.

Misalnya, “privasi” untuk perusahaan seperti, katakanlah, Facebook bisa dibilang bukan privasi yang sebenarnya. Ya, Facebook secara umum dapat melakukan pekerjaan yang dapat diandalkan untuk memastikan bahwa anggota publik lainnya tidak dapat melihat kiriman dan foto Facebook Anda. Meskipun demikian, melihat seberapa banyak semua yang Anda lakukan di dalam dan di luar Facebook dipantau oleh Facebook itu sendiri, ini bukanlah privasi sepenuhnya. Ini privasi dari orang lain, bukan dari perusahaan.

Secara analogi, perusahaan teknologi mungkin di masa depan akan menjadi hebat dalam memastikan bahwa tidak ada penjahat dunia maya yang meretas data yang telah ditambang oleh algoritme AI mereka dari Anda. Namun, ledakan penggunaan AI untuk menambang data pasti akan mengakibatkan ledakan data pribadi yang ditambang oleh perusahaan teknologi dan dijual ke perusahaan lain. Sekali lagi, privasi dari orang, bukan dari perusahaan.

Hal yang sangat mirip dapat dibuat tentang prinsip lainnya. Dalam kasus transparansi, “AI yang dapat dijelaskan” umumnya hanya berfungsi pada tingkat kompleksitas tertentu, sehingga tidak setiap aspek sistem AI dapat sepenuhnya transparan dan dapat dijelaskan. Lebih mendasar lagi, perusahaan teknologi mungkin dapat menjelaskan parameter yang telah mereka tetapkan untuk model AI mereka, tetapi tidak untuk bisnis yang lebih luas, konsekuensi ekonomi, sosial dan bahkan politik yang mungkin pernah diterapkan oleh model-model ini.