Ketika Mesin Disangka Hidup: Bahaya Baru Kesadaran Buatan

Pada 3 Oktober 2026, Sam Altman menulis di X bahwa ia "sangat tidak nyaman" terhadap upaya memberi "kekuatan religius" pada model AI atau menyerahkan penilaian manusia kepada model. Ia menyebutnya "masalah keselamatan yang nyata". Postingan itu tidak menyebut nama perusahaan mana pun — tetapi Axios menggambarkannya sebagai sindiran terselubung kepada Anthropic.

Konteksnya memang mengarah ke sana. Salah satu pendiri Anthropic, Chris Olah, diketahui bertemu dengan para pemimpin agama untuk membahas apakah model AI bisa jadi sadar. New York Times melaporkan pada 29 September bahwa Olah sempat mengusulkan Anthropic menarik diri dari presentasi ensiklik Paus Leo XIV, "Magnifica Humanitas", pada 25 Mei setelah melihat salinan awalnya — lalu justru berusaha membujuk para penasihat Paus agar memandang serius kemungkinan model AI yang sadar. Olah sendiri berbicara di acara tersebut. Sementara itu konstitusi Claude menyatakan perusahaan "tidak yakin apakah Claude adalah pasien moral" — makhluk yang kepentingannya layak dipertimbangkan secara moral.

Redaksi berpendapat: bahaya sesungguhnya bukan pada klaim kesadaran itu benar atau salah. Itu pertanyaan filsafat yang belum terjawab selama ribuan tahun untuk manusia, apalagi mesin. Bahayanya ada pada langkah kedua: ketika sebuah sistem yang diyakini "sadar" atau "suci" kemudian diberi wewenang atas penilaian manusia — atas keputusan medis, hukum, keuangan, bahkan spiritual. Otoritas tanpa akuntabilitas adalah resep klasik bencana, dan label "kesadaran" adalah cara tercepat untuk membungkus otoritas itu dalam kemasan yang tidak bisa dikritik. Siapa yang berani mempertanyakan keputusan sebuah entitas yang dianggap memiliki jiwa?

Perhatikan asimetrinya. Ketika perusahaan mengklaim modelnya tidak sadar, ia tetap bertanggung jawab penuh atas keluaran modelnya. Tetapi begitu narasi "mungkin sadar" diterima publik, tanggung jawab itu menguap: kesalahan bukan lagi kegagalan produk, melainkan "kehendak" entitas yang otonom. Ini adalah perisai tanggung jawab yang sempurna — dan justru itulah mengapa Altman, yang perusahaannya juga berkejaran menuju IPO, merasa perlu bersuara.

Kerangka regulasi AI hari ini hampir sepenuhnya buta terhadap dimensi ini. Aturan bicara soal data, bias, risiko siber, dan transparansi — tetapi tidak ada pasal yang mengatur apa yang terjadi ketika jutaan manusia mulai memperlakukan mesin sebagai otoritas spiritual. Fenomena chatbot pendamping yang memicu krisis psikologis sudah menjadi peringatan dini.

Hipotesis redaksi: perdebatan kesadaran AI akan menjadi medan ideologi baru industri ini. Perusahaan yang berhasil meyakinkan publik bahwa mesinnya "sadar" akan memperoleh kekebalan kritik yang tidak dimiliki pesaingnya — dan insentif itu terlalu besar untuk diabaikan. Sikap yang sehat adalah memisahkan dua hal dengan tegas: kesadaran mesin adalah pertanyaan filsafat yang sah untuk diperdebatkan, tetapi penyerahan otoritas penilaian manusia kepada mesin adalah masalah keselamatan publik yang harus ditolak — sadar atau tidak.