Jawapes Surabaya – Kecerdasan buatan generatif (Gen AI) terus berkembang pesat, membawa manfaat besar bagi dunia seni, pendidikan, dan bisnis. Namun, kemajuan ini juga membuka peluang bagi pelaku kejahatan digital untuk melancarkan modus penipuan yang semakin canggih dan sulit dideteksi.
Salah satu bentuk penyalahgunaan Gen AI yang paling marak adalah deepfake suara dan video. Dengan teknologi ini, pelaku dapat meniru suara seseorang secara nyaris sempurna, lalu menggunakannya untuk menipu korban. Modus umum yang terjadi adalah panggilan darurat dari seseorang yang mengaku sebagai anggota keluarga atau atasan korban, meminta transfer uang dengan alasan mendesak.
Menyikapi ancaman ini, berbagai pihak mulai mengembangkan alat pendeteksi keaslian konten digital. Beberapa teknologi yang dapat membantu masyarakat mengidentifikasi manipulasi AI antara lain:
1. Deep-O-Meter (Universitas Buffalo)
Alat yang menganalisis gambar dan video untuk mendeteksi manipulasi AI. https://zinc.cse.buffalo.edu/ubmdfl/deep-o-meter/landing_page
2. Hiya Protect dan Deepfake Voice Detector
Teknologi deteksi suara berbasis AI yang melindungi pengguna dari panggilan telepon dengan suara buatan. https://www.hiya.com/products/protect/ai-voice-detection
https://www.hiya.com/products/deepfake-voice-detector
3. AI or Not
Situs yang membantu pengguna memeriksa apakah sebuah gambar dibuat oleh manusia atau AI. https://www.aiornot.com/
Pakar teknologi Prof. Moch. Hariadi menegaskan bahwa kecepatan perkembangan Gen AI jauh melampaui regulasi yang ada, menjadikannya tantangan besar dalam upaya pencegahan kejahatan digital.
“Teknologi ini berkembang begitu cepat, dan para pelaku kejahatan selalu menemukan cara baru untuk memanfaatkannya. Selain bergantung pada alat deteksi, masyarakat harus lebih kritis dalam menyaring informasi digital dan tidak mudah percaya begitu saja,” ujar Prof. Hariadi saat dikonfirmasi lewat selulernya, Kamis (27/2/2025).
Prof. Hariadi juga menekankan pentingnya regulasi yang lebih ketat serta sinergi antara pemerintah, akademisi, dan sektor swasta untuk meminimalkan risiko penyalahgunaan teknologi ini.
Kita tidak bisa hanya mengandalkan satu pihak. Regulasi harus diperkuat, dan edukasi digital harus diperluas agar masyarakat lebih sadar dan waspada terhadap ancaman ini, tambahnya.
Dewan Pendiri LSM Jaringan Warga Peduli Sosial (Jawapes) Indonesia, Rizal Diansyah Soesanto, ST, mengingatkan bahwa penyalahgunaan Gen AI bukan sekadar isu teknologi, melainkan juga masalah sosial yang semakin merugikan masyarakat awam.
“Banyak korban berasal dari kelompok yang belum paham cara kerja teknologi ini. Mereka lebih mudah tertipu oleh manipulasi suara dan video yang tampak asli. Ini bukan hanya soal teknologi, tapi juga soal rendahnya literasi digital yang harus segera ditangani,” tegas Rizal melalui WhatsApp kepada media.
Rizal juga mengajak masyarakat untuk lebih aktif dalam berbagi informasi guna meningkatkan kesadaran terhadap ancaman kejahatan digital.
“Jangan ragu untuk saling mengingatkan dan menyebarkan informasi yang benar. Edukasi berbasis komunitas bisa menjadi langkah awal untuk melindungi diri dan orang-orang di sekitar kita,” tambah Rizal.
Ketua DPD Rumah Gibran Jawa Timur, Eko Tjahjono Prijanto, menyoroti lambannya respons pemerintah dalam menghadapi ancaman AI yang terus berkembang.
“Selain edukasi dan alat deteksi, pemerintah harus segera merumuskan kebijakan yang lebih tegas terhadap penyalahgunaan Gen AI. Jangan sampai kita selalu tertinggal dalam menangani kejahatan digital yang semakin kompleks ini,” kata Eko kepada awak media diruang kerjanya.
Eko juga mengingatkan bahwa masyarakat bukan hanya sekadar pengguna teknologi, tetapi juga memahami cara kerjanya agar tidak mudah diperdaya.
“Kecerdasan buatan bukan hanya alat, tapi juga bisa menjadi ancaman jika disalahgunakan. Literasi digital harus menjadi prioritas utama, terutama bagi generasi muda yang tumbuh di era digital ini,” pungkas Eko.
Dengan pesatnya perkembangan teknologi Gen AI, hanya kewaspadaan dan literasi digital yang dapat menjadi benteng utama dalam menghadapi ancaman penipuan modern. (Red)
Pembaca
Posting Komentar