Jakarta, — Konten-konten gambar hasil produksi kecerdasan buatan (AI) makin banyak beredar di internet dan kian meresahkan. Pasalnya, konten-konten tersebut bisa mengecoh pengguna internet yang tidak mengetahui fakta di baliknya.
Di Korea Selatan misalnya, Kasus pornografi hasil AI deepfake menjadi masalah serius di dalam beberapa waktu terakhir. Sebab, semakin banyak warga Korsel, termasuk anak di bawah umur, menjadi korban kejahatan seks deepfake.
Kasus ini mencuat setelah viralnya sejumlah chat rooms atau ruang obrolan di Telegram yang diduga membuat dan mendistribusikan materi pornografi deepfake yang memicu ketakutan dan kemarahan di Korea Selatan.

Menurut Badan Kepolisian Nasional Korea Selatan, terdapat 297 kasus kejahatan deepfake pornografi yang dilaporkan dari Januari hingga Juli. Dari 178 terdakwa, 113-nya adalah remaja. Di Seoul sendiri sudah menangkap 10 remaja 14 tahun atas kejahatan ini.
Oleh karena konten-konten AI kian marak dan tidak sedikit yang meresahkan, Google kini sedang mengembangkan alat untuk mendeteksi konten buatan AI.
Awal tahun ini Google bergabung dengan komite Coalition for Content Provenance and Authenticity (C2PA). Bersama anggota komite beberapa bulan ini Google tengah mengembangkan teknologi untuk mendeteksi dan menandai konten hasil kecerdasan buatan.
Nantinya teknologi ini akan diimplementasikan pada Content Credentials. Content Credentials ini merupakan ekstensi yang membantu melacak asal konten video dan foto.
Dalam beberapa bulan mendatang Google akan memasukkan versi terbaru Content Credentials ke produk-produk utama Google. Dengan kata lain nanti Google akan mempermudah kita mendeteksi konten AI di hasil pencarian Google.
Melansir Engadget, pendeteksi ini akan tersedia juga di Google Images, Lens, dan Circle to Search. Jika gambar yang muncul memiliki metadata C2PA, kita akan mudah mendeteksi perubahan yang dilakukan oleh AI dalam menu “About this image”.
Google juga tengah belajar untuk membuat sistem yang dapat mengidentifikasi rincian video YouTube. Detailnya, sistem yang mengidentifikasi kapan video tersebut diambil oleh kamera.
Sistem pendeteksian ini juga memiliki beberapa kelemahan, Sistem ini bergantung pada penggunaan sistem penandaan C2PA oleh perusahaan-perusahaan yang terkait seperti pembuat kamera dan pembuat alat AI.
Artinya jika seseorang menghapus metadata pada suatu foto, maka Google juga akan kesusahan untuk mendeteksi kadar AI pada suatu foto.
Di sisi lain, perusahaan Meta sedang bertikai tentang cara mengungkapkan konten AI di Facebook, Instagram dan Threads. Meta baru saja mengubah kebijakan yaitu membuat label lebih tidak terlihat dalam foto yang diedit menggunakan AI.
Label “AI info” yang dulunya berada di tengah-tengah foto yang diedit menggunakan alat AI, sekarang label tersebut akan berada pada menu postingan.
Selain itu, Google juga berencana akan memakai metadata C2PA ke sistem iklan. Namun mereka tidak mengungkap detail-detail lain. Sejauh yang diketahui, C2PA akan digunakan untuk menginformasikan cara Google menegakkan kebijakan utama.
Sumber: https://www.cnnindonesia.com/teknologi/20240925094026-192-1148042/makin-meresahkan-google-kembangkan-fitur-buat-deteksi-konten-ai.