OpenAI Mulai Tandai Teks ChatGPT dan Codex dengan Watermark Tak Terlihat di Uni Eropa

OpenAI mengumumkan pada Senin (5/10) bahwa mereka akan mulai menyisipkan watermark tak terlihat ke dalam teks yang dihasilkan ChatGPT dan Codex di Uni Eropa. Langkah ini diambil untuk mematuhi aturan transparansi EU AI Act yang berlaku sejak 2 Agustus, yang mewajibkan konten buatan AI ditandai dengan cara yang bisa dikenali sistem lain.

Watermark tersebut akan diluncurkan bertahap dalam beberapa pekan ke depan kepada pengguna ChatGPT dan Codex yang memenuhi syarat di semua paket, khusus di Uni Eropa. Pengembang yang memakai API OpenAI di seluruh dunia bisa mengaktifkannya mulai hari ini untuk model-model tertentu, namun fitur ini mati secara default dan OpenAI tidak menjadikannya bawaan global saat peluncuran.

Watermark ini bukan simbol atau karakter tersembunyi, melainkan pola statistik: model secara halus membentuk pilihan katanya sehingga meninggalkan jejak yang tak terlihat pembaca tetapi bisa dibaca detektor. Karena jejaknya hidup di dalam kata-kata itu sendiri, ia ikut terbawa saat teks disalin-tempel. OpenAI menyebut watermark tidak mengidentifikasi pengguna dan tidak menurunkan performa model secara berarti.

Bersama pengumuman itu, OpenAI merilis laporan teknis metode yang mereka sebut textGrain, ditulis bersama peneliti University of Pennsylvania dan Yale. Cara kerjanya: sebuah kunci rahasia dipakai untuk mengurutkan prediksi kata berikutnya saat model menyelesaikan kalimat; ratusan dorongan kecil semacam itu digabungkan, dan detektor bisa mengenali konten buatan AI hanya dari teks dan kunci tersebut. Namun watermark bisa dihapus dengan pengeditan: dalam uji OpenAI, mengganti 10 persen kata dengan sinonim menurunkan tingkat deteksi dari sekitar 92 persen menjadi 66 persen. Teks pendek, jawaban matematika, dan teks terjemahan juga lebih sulit dideteksi.

OpenAI membatasi akses detektor hanya untuk peneliti dan organisasi ahli yang disetujui, dengan alasan risiko positif palsu. Anthropic telah lebih dulu meluncurkan penanda serupa pada Agustus, dan Google DeepMind sudah bertahun-tahun menandai keluarannya. Menariknya, OpenAI sebenarnya sudah membangun watermark teks bertahun-tahun lalu tetapi menahannya — menurut laporan Wall Street Journal pada 2024, karena khawatir pengguna berpindah ke pesaing yang tidak menandai. Kini regulasi Uni Eropa yang memaksa langkah itu terjadi.

Analisis X AWD: ini bukti paling telanjang bahwa regulasi yang punya gigi benar-benar mengubah perilaku lab AI. OpenAI menahan watermark selama dua tahun demi persaingan, lalu merilisnya begitu aturan Eropa memaksa. Namun jangan salah membaca: textGrain adalah alat kepatuhan, bukan alat kebenaran. Tanpa akses detektor publik, watermark hanyalah janji; dengan pengeditan ringan ia rontok. Nilai sebenarnya ada pada dua hal. Pertama, ini penyebaran watermark statistik skala terbesar dalam sejarah, yang akan melatih ekosistem forensik konten. Kedua, ia memindahkan perdebatan dari "bisakah kita menandai?" menjadi "siapa boleh memegang detektornya?". Jawaban OpenAI — segelintir peneliti terverifikasi — mungkin aman hari ini, tetapi akan terlihat semakin elitis ketika wartawan, guru, dan pengadilan mulai membutuhkannya. Uji sesungguhnya bukan di laboratorium, melainkan di ruang kelas dan ruang sidang.