Startup Inggris, Surf Security, telah meluncurkan versi beta dari apa yang diklaimnya sebagai browser pertama di dunia dengan fitur bawaan yang dirancang untuk mendeteksi deepfake yang dihasilkan AI.
Alat tersebut, tersedia melalui browser Surf atau sebagai ekstensi, dapat mendeteksi dengan akurasi hingga 98% apakah orang yang berinteraksi dengan Anda secara online adalah manusia sungguhan atau tiruan AI, kata perusahaan tersebut.
Perusahaan baru keamanan siber yang berbasis di London ini menggunakan teknologi jaringan saraf “tingkat militer” untuk mendeteksi deepfake. Sistem ini menggunakan State Space Models, yang mendeteksi klon yang dihasilkan AI di seluruh bahasa dan aksen dengan menganalisis inkonsistensi bingkai audio.
“Untuk memaksimalkan efektivitasnya, kami fokus pada akurasi dan kecepatan,” kata Ziv Yankowitz, CTO Surf Security. Jaringan saraf alat ini dilatih menggunakan deepfake yang dibuat oleh platform kloning suara AI teratas, katanya.
Webinar: DNA Unicorn: Cetak Biru untuk Meningkatkan Kesuksesan
Apa yang diperlukan untuk membuat unicorn? Pada tanggal 19 November, pukul 15.00 CET, para eksekutif puncak perusahaan unicorn akan mengungkapkan pola pikir, strategi, dan pemikiran inovatif yang mendorong perusahaan mereka mencapai puncak.
Sistem ini memiliki fitur pengurangan kebisingan latar belakang terintegrasi untuk menjernihkan audio sebelum diproses. “Ia dapat mendeteksi audio deepfake dalam waktu kurang dari 2 detik,” kata Yankowitz.
Fitur baru ini tersedia untuk file audio, termasuk video online atau perangkat lunak komunikasi seperti WhatsApp, Slack, Zoom, atau Google Meet. Anda hanya perlu menekan sebuah tombol dan sistem akan memverifikasi apakah audio – yang direkam, atau langsung – asli atau dihasilkan oleh AI. Surf mengatakan pihaknya juga akan menambahkan deteksi gambar AI ke perangkat browser di masa depan.
Deepfake adalah masalah yang terus berkembang
Deepfakes, yang menggunakan AI untuk membuat audio atau video palsu yang meyakinkan, merupakan ancaman yang semakin meningkat.
Baru minggu ini, para peneliti di BBC menemukan klip audio deepfake David Attenborough yang terdengar tidak dapat dibedakan dengan suara presenter terkenal itu sendiri. Berbagai situs web dan saluran YouTube menggunakan deepfake untuk membuatnya mengatakan hal-hal – tentang Rusia, tentang pemilu AS – yang tidak pernah ia katakan.
Ini hanyalah puncak gunung es yang buruk. Deepfakes telah digunakan untuk mengaktifkan penipuan skala besarmemicu kerusuhan politik melalui berita palsudan menghancurkan reputasi dengan menciptakan konten palsu atau berbahaya.
Surf mengatakan pihaknya meluncurkan detektor deepfake baru untuk membantu melindungi perusahaan, organisasi media, polisi, dan militer di seluruh dunia dari meningkatnya risiko kloning AI.
Namun, perjuangan melawan deepfake adalah pertarungan berkelanjutan antara manusia yang menggunakan mesin untuk kebaikan, melawan manusia lain yang menggunakan mesin untuk tujuan jahat.
“Perangkat lunak kloning suara AI menjadi lebih mumpuni dari hari ke hari,” Yankowitz mengakui. “Jadi seperti semua keamanan siber, kami berkomitmen untuk memenangkan perlombaan senjata yang terus berkembang.”
Surf mengharapkan untuk merilis versi lengkap dari detektor deepfake awal tahun depan.