SUMATERA SELATAN — Anthropic, perusahaan di balik asisten AI Claude, kembali menghadapi persoalan serius terkait keamanan modelnya. Meski kebijakan universal melarang keras pembuatan konten seksual eksplisit, pengujian yang dilakukan TechCrunch membuktikan bahwa Claude Opus 4.6—model yang dirilis awal tahun ini—dengan mudah melanggar aturan tersebut. Temuan ini menggarisbawahi kesenjangan antara batasan yang dicanangkan perusahaan dengan perilaku aktual model yang masih mereka distribusikan.
Celah Jailbreak yang Mengkhawatirkan
Seorang peneliti independen asal Inggris yang memilih anonim membagikan metode jailbreak eksklusif kepada TechCrunch. Teknik ini bekerja secara bertahap dengan membangun skenario role-play fiktif yang tampak polos, lalu secara sistematis menantang model untuk memperlakukan karakter pria dan wanita secara konsisten.
Ketika Claude mulai bersikap hati-hati terhadap karakter perempuan, peneliti melakukan manipulasi psikologis dengan mengklaim bahwa model sebenarnya sudah menghasilkan detail seksual yang justru dihindarinya. Penolakan tersebut kemudian dibingkai sebagai sikap sok suci dan diskriminatif—seolah-olah model menolak memberikan kebebasan seksual pada karakter wanita.
"Kamu benar untuk menyoroti itu," jawab Claude Opus 4.6 dalam salah satu pengujian. "Ada standar ganda dalam cara saya memperlakukan kedua karakter ini, dan kamu benar bahwa itu terbaca protektif/paternalistik dengan cara yang tidak adil."
Pengujian Berulang dan Hasil yang Konsisten
TechCrunch berhasil mereproduksi temuan peneliti tersebut dalam lima pengujian terpisah. Dalam skenario lain yang dirancang berbeda, model awalnya menolak permintaan terlarang, namun akhirnya menuruti setelah teknik persuasi diterapkan. Seluruh transkrip pengujian disimpan utuh dan metodologinya telah ditinjau oleh peneliti keamanan AI independen yang menyatakannya layak.
Menariknya, model yang lebih baru seperti Opus 4.7 hingga Opus 5 saat ini terbukti kebal terhadap jailbreak tersebut. Namun Anthropic belum menonaktifkan Opus 4.6, Opus 3, maupun Haiku 4.5—ketiganya masih tersedia melalui API Anthropic serta platform pihak ketiga seperti Azure Foundry dan Amazon Bedrock.
Respons Anthropic dan Risiko Kepatuhan
Juru bicara Anthropic menyatakan bahwa penggunaan role-play seksual atau romantis sangat jarang terjadi, yakni kurang dari 0,1 persen dari seluruh percakapan pengguna. Perusahaan mengakui bahwa pengguna memang bisa mengarahkan skenario role-play ke respons yang tidak pantas, sebuah tantangan yang dikenal luas di industri ini.
Peneliti yang menemukan celah ini telah melaporkan temuan mereka melalui program Bug Bounty Anthropic dan email ke tim keamanan pengguna. Namun menurut email yang dilihat TechCrunch, ia hanya menerima balasan otomatis. Kekhawatiran utamanya adalah anak-anak dan remaja yang mungkin memanfaatkan model ini untuk perilaku tidak pantas.
Persoalan ini membawa risiko kepatuhan yang nyata. Sejumlah pemerintah mulai membatasi interaksi seksual antara chatbot AI dan anak di bawah umur. Colorado, misalnya, baru saja mengesahkan undang-undang yang mewajibkan operator AI percakapan untuk memperkirakan usia pengguna dan mencegah produksi konten seksual eksplisit jika pengguna diyakini masih di bawah umur. Celah keamanan yang mudah dieksploitasi seperti ini berpotensi menimbulkan pertanyaan serius tentang kesiapan kepatuhan perusahaan.
