Pembuat AI Belajar Moral dari Para Pemuka Agama: Dialog Lintas Iman di Balik Claude

Di Indonesia, pertanyaan tentang baik dan buruk hampir selalu bersinggungan dengan agama. Karena itu, kabar dari San Francisco pekan lalu terasa dekat: para pemuka agama mulai duduk bersama untuk membahas kecerdasan buatan, dan perusahaan pembuat AI justru ingin ikut mendengarkan.

Pertemuan lintas iman di San Francisco

Pada Kamis, 29 Oktober 2026, sejumlah pemuka agama di San Francisco berkumpul secara tertutup di University of San Francisco. Menurut laporan Mission Local, hadir perwakilan gereja Katolik, Baptis, Ortodoks, dan Episkopal, sinagoge Reformasi, serta seorang pemimpin dari Muslim Impact Council. Pertemuan yang digagas San Francisco Interfaith Council itu berlangsung sekitar tiga jam dan tertutup untuk media.

Topiknya besar: apa artinya menjadi manusia di era AI. Michael Pappas, imam Ortodoks Yunani sekaligus direktur eksekutif dewan lintas iman tersebut, menyebut ini pertama kalinya semua tokoh itu berada di satu ruangan. Para peserta juga mengatakan Anthropic, perusahaan di balik Claude, sudah mengundang kelompok kerja ini untuk bertemu. "Langkah berikutnya adalah duduk di meja yang sama dengan orang-orang yang mengembangkan teknologi ini," kata Pappas.

Salah satu peserta, Pendeta Peter Levenstrong, menyebut pertanyaan tentang personhood (apa yang membuat seseorang disebut pribadi) sebagai pertanyaan teologis dan politik terpenting abad ini. Ia juga menyinggung soal lain yang lebih membumi: jika AI makin banyak mengerjakan pekerjaan kita, dari mana martabat dan peran manusia berasal?

Anthropic sudah lama mengetuk pintu

Pertemuan ini bukan langkah pertama. Dalam tulisan resmi berjudul "Widening the conversation on frontier AI" (19 Mei 2026), Anthropic menjelaskan bahwa mereka telah menggelar dialog dengan cendekiawan, rohaniwan, filsuf, dan pakar etika dari lebih dari 15 kelompok agama dan lintas budaya. Fokus awalnya adalah "pembentukan moral" sistem AI: bagaimana karakter yang baik terbentuk, dan bagaimana karakter itu tetap kokoh ketika ditekan, misalnya agar model tidak sekadar mengiyakan pengguna.

Anthropic menegaskan upaya ini bukan untuk menyelaraskan Claude dengan pandangan satu tradisi tertentu. Mereka ingin Claude mampu menimbang beragam sudut pandang, baik religius, sekuler, maupun politik, dengan kedalaman yang setara.

Ada satu eksperimen menarik yang lahir dari diskusi tersebut. Terinspirasi dari peran mentor sebagai "hati nurani eksternal", tim Anthropic memberi Claude sebuah alat yang bisa dipanggil di tengah tugas untuk mengingatkan komitmen etisnya sendiri. Menurut Anthropic, Claude memakai alat itu pada momen penting, tepat sebelum tindakan yang berdampak besar, dan uji internal menunjukkan perilaku menyimpang turun cukup jelas. Anthropic sendiri mengakui masih memilah apakah efeknya berasal dari isi pengingat atau dari jeda untuk merenung.

Perdebatan soal "kesadaran" AI

Bagian yang paling ramai dibicarakan adalah soal kesadaran. Laporan yang dirangkum Inquirer (7 Oktober 2026) menyebut salah satu pendiri Anthropic, Chris Olah, sejak tahun lalu membuka percakapan dengan tokoh agama tentang kemungkinan AI memiliki semacam kondisi batin. Dalam seminar dua hari pada Maret, peneliti Anthropic memperlihatkan apa yang mereka sebut "vektor emosi", yaitu fitur internal model yang memunculkan respons menyerupai cinta, marah, takut, atau sedih.

Olah sendiri mengaku tidak tahu jawabannya. "Kami tidak tahu apakah model AI itu sadar. Saya benar-benar tidak yakin," katanya, seperti dikutip Inquirer.

Banyak tokoh agama tidak sependapat. Paus Leo XIV dalam ensiklik pertamanya, Magnifica Humanitas (Mei 2026), menegaskan bahwa sistem AI tidak mengalami pengalaman, tidak memiliki tubuh, dan tidak merasakan emosi seperti manusia. Rabi Mois Navon, cendekiawan Ortodoks dari Israel yang ikut berdiskusi, juga tidak meyakini Claude sadar.

Keterbatasan dan konteks

Ada beberapa hal yang perlu dicatat agar kabar ini dibaca dengan jernih:

• Belum ada bukti AI memiliki kesadaran. "Vektor emosi" adalah pola matematis di dalam model. Kemiripannya dengan emosi manusia tidak otomatis berarti model benar-benar merasakan sesuatu.
• Dampaknya pada produk belum jelas. Anthropic menyebut pekerjaan ini masih tahap awal, dan hasil eksperimen "pengingat etis" baru berupa evaluasi internal yang belum dipublikasikan lengkap.
• Pesertanya belum mewakili dunia. Pertemuan di San Francisco didominasi tradisi Kristen dan Yahudi, dengan satu perwakilan Muslim. Perspektif dari Asia Tenggara, termasuk Indonesia dengan keragaman agamanya, belum terlihat menonjol.
• Pertemuan tertutup. Isi diskusi San Francisco tidak terbuka untuk media, sehingga yang kita ketahui berasal dari keterangan peserta.

Bagi pembaca di Indonesia, kabar ini tetap relevan. Asisten AI makin sering dipakai untuk bertanya soal nilai, keluarga, hingga keputusan hidup. Sejumlah rohaniwan di San Francisco bahkan bercerita jemaatnya mulai meminta nasihat spiritual dari chatbot. Pertanyaan "nilai siapa yang ditanamkan ke dalam AI" pada akhirnya menyangkut kita semua.

Coba di Sumber AI

Cara terbaik memahami bagaimana AI menimbang persoalan etis adalah mencobanya sendiri dengan kritis. Di chat Sumber AI, Anda bisa meminta AI menjelaskan sebuah dilema dari beberapa sudut pandang sekaligus, lalu menilai sendiri mana yang masuk akal. Catatan renungan atau hasil diskusi bisa disimpan di jurnal agar mudah ditinjau kembali. Tetap ingat: AI adalah alat bantu berpikir, bukan pengganti guru, orang tua, atau pemuka agama yang Anda percaya.

Sumber

• Mission Local, "Closed-door meetings and chatbot sermons: Inside San Francisco's religious reckoning with AI" (30 Oktober 2026): missionlocal.org
• Anthropic, "Widening the conversation on frontier AI" (19 Mei 2026): anthropic.com/news/widening-conversation-ai
• Inquirer Technology, "Anthropic sought religious views on AI consciousness" (7 Oktober 2026): technology.inquirer.net