Teks yang disalin tanpa perubahan tetap membawa sinyal tersebut. Penyuntingan membuat deteksi lebih sulit, menurut OpenAI.
Deteksi watermark ini membutuhkan alat khusus. Sayangnya, alat tersebut belum tersedia untuk umum.
Sejauh ini, OpenAI baru menyediakan akses detektor kepada sejumlah pihak, mulai dari peneliti hingga organisasi ahli. Mereka harus mengajukan permohonan untuk bisa mengaksesnya.
Kelompok penerima akses saat ini terbatas pada peneliti dan organisasi ahli. Pihak lain belum masuk daftar tersebut.
Masyarakat umum belum bisa memeriksa sendiri apakah suatu teks memuat watermark. Verifikasi mandiri oleh pembaca belum memungkinkan.
OpenAI juga menyebut detektor rentan terhadap kesalahan. Alat itu cenderung sulit mendeteksi teks pendek atau terbatas.
Kesulitan serupa muncul ketika pengguna menyunting teks. Dengan demikian, teks AI hasil sunting manusia berpotensi lebih sulit terdeteksi.
Kombinasi dua keterbatasan itu, yakni teks pendek dan teks hasil sunting, mempersempit situasi saat detektor bekerja dengan baik.
Hasil deteksi pada teks pendek atau teks hasil sunting karena itu membutuhkan kehati-hatian.
OpenAI tidak akan mempublikasikan alat itu saat peluncuran. Alasannya, risiko kesalahan saat melakukan deteksi.
OpenAI juga menyinggung batas kemampuan detektor terkait data pengguna.
“Alat itu tidak akan mendeteksi pengguna atau membuka prompt yang digunakan atau percakapan,” jelas OpenAI.
Dengan pernyataan itu, OpenAI menyebut detektor tidak menyasar pengguna. Prompt dan isi percakapan juga tetap tertutup bagi pihak yang memakai alat tersebut.
Dua pendekatan kini berjalan berdampingan. Anthropic memberlakukan watermark secara global, sedangkan OpenAI membatasinya pada Uni Eropa.
Bagi pengguna ChatGPT dan Codex di Uni Eropa, teks buatan AI akan membawa tanda air setelah fitur aktif. Pengguna di wilayah lain tidak terdampak.
Rangkaian fakta itu memperlihatkan dua hal: kewajiban berlaku di Eropa, tetapi penerapannya berbeda di tiap perusahaan.
Untuk saat ini, watermark di ChatGPT dan Codex hanya menyasar Uni Eropa, sementara detektornya belum terbuka untuk umum.
FAQ SCHEMA
Q: Apa itu watermark tak terlihat pada teks buatan AI?
A: Watermark ini berupa kode atau tanda air tak terlihat yang disisipkan ke dalam teks buatan AI untuk mengenali tulisan yang berasal dari produk AI. Undang-undang AI Uni Eropa mewajibkan teks yang dihasilkan AI memiliki identifikasi khusus.
Q: Chatbot AI mana yang sudah memakai watermark teks?
A: Anthropic telah menerapkannya pada Claude sejak awal tahun ini secara global. OpenAI menyatakan akan menambahkannya pada teks ChatGPT dan Codex yang memenuhi syarat di Uni Eropa dalam beberapa minggu ke depan.
Aaf Afiatna (Aura OS) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, dan pengembangan proyek open-source seperti Neural Standby Kernel (NSK). Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
Sumber: https://infotekno.net/watermark-tak-terlihat-teks-ai-claude-chatgpt-uni-eropa/