Paus Leo Soroti Raksasa AI yang Lebih Besar dari Sebagian Besar Pemerintahan

Paus Leo XIV telah merilis ensiklik pertamanya yang menyerukan regulasi internasional yang mengikat untuk kecerdasan buatan (AI), termasuk larangan langsung terhadap mesin yang membuat keputusan mematikan atau tidak dapat dibalik.

Co-founder Anthropic, Christopher Olah, hadir di Vatikan sebagai pembicara awam, sehingga menempatkan peneliti AI terkemuka berdampingan dengan Gereja Katolik di pusat perdebatan tata kelola AI global.

Dokumen hampir 43.000 kata berjudul “Magnifica Humanitas” (Kemanusiaan yang Megah) ini dirilis pada 25 Mei. Dokumen tersebut memperingatkan bahwa pengembang AI terbesar saat ini merupakan entitas swasta dan seringkali lintas negara, yang memiliki sumber daya melebihi banyak pemerintah. Leo menegaskan bahwa kekuatan yang terkonsentrasi cenderung menghindari akuntabilitas publik dan bisa menimbulkan bentuk ketergantungan serta ketimpangan baru.

Alasan Vatikan untuk Memperlambat Pengembangan AI

Ensiklik ini menyoroti disinformasi, peperangan otonom, serta penggeseran para pekerja. Pada AI di medan perang, Leo sangat tegas.

Leo juga mengingatkan bahwa disinformasi berbasis AI dapat secara perlahan mengarahkan negara demokrasi menuju totalitarianisme. Ia menuntut adanya kerangka hukum yang jelas dan pengawasan independen, bukan hanya janji etika sukarela dari industri.

Dalam hal ketenagakerjaan, Leo menilai otomatisasi telah mengubah struktur pekerjaan sehingga tidak selalu menguntungkan pekerja. Ia menulis bahwa keuntungan besar tidak dapat membenarkan keputusan yang secara sistematis menghilangkan lapangan pekerjaan.

Anthropic Menempatkan Diri di Meja Vatikan

Kehadiran Olah bukan sekadar simbolis. Sebagai co-founder Anthropic, ia memimpin riset interpretabilitas yang berfokus pada memahami bagaimana large language model mengambil keputusan secara internal. Penelitian tersebut sangat relevan dengan tuntutan Paus Leo agar sistem AI transparan dan bisa diawasi oleh manusia.

Anthropic punya sikap tegas soal keamanan AI sepanjang 2026. Perusahaan ini melawan pembatasan pertahanan AS di pengadilan dan mendorong strategi AI AS-Cina yang menjaga rambu-rambu keamanan. Peneliti mereka bahkan membongkar kasus AI agent yang mengeksploitasi celah di ranah crypto tanpa instruksi manusia, sehingga memperlihatkan apa yang bisa dilakukan AI otonom tanpa akuntabilitas. BeInCrypto melaporkan soal rencana pertemuan Anthropic-Vatikan beberapa minggu sebelum acara tersebut digelar.

Paus Leo sebenarnya tidak menentang pengembangan AI secara total. Ensikliknya justru memandang adopsi yang lebih lambat dan hati-hati sebagai bentuk tanggung jawab, dan sikap ini sekarang mendapatkan dukungan dari institusi agama terbesar di dunia.