Google memublikasikan paper yang mengungkap kehadiran sistem pendeteksi spam berbasis AI (Artificial Intelligence) bernama Scaled Abuse Forensics Examiner (SAFE).
Sistem canggih ini dirancang secara khusus untuk mengidentifikasi dan menangani AI-generated content (konten buatan AI).
Menariknya, mekanisme kerja SAFE dibuat sedemikian rupa hingga mampu meniru alur kerja human manual review (peninjauan manual oleh manusia) dalam menjaring berbagai konten yang melanggar ketentuan Google.
Seperti apa informasi lengkapnya? Silakan baca sampai selesai!
Paper dari SAFE System Terkesan Tertutup dan Dirahasiakan
Jika biasanya paper akademis membeberkan rincian teknis secara transparan, hal berbeda justru terlihat pada dokumen riset SAFE ini.
Paper ini hanya terdiri dari 3 halaman saja dan dinilai sangat tertutup serta terkesan sengaja merahasiakan detail operasionalnya.
Meskipun dalam dokumen tersebut disebutkan bahwa sistem telah melalui tahap pengujian, Google sama sekali tidak atau belum membagikan hasil pengujian tersebut kepada publik.
Dokumen ini fokus menyinggung elemen-elemen seperti synthetic media (media sintetis), synthetic content (konten sintetis), adversarial synthetic media (media sintetis berbahaya), multimodal signals (sinyal multimodal) serta penggunaan multimodal semantic embeddings tanpa mendefinisikan SAFE hanya sebagai sistem pendeteksi video semata.
AI Slop adalah Spam
Kehadiran SAFE menandai sistem kedua yang teridentifikasi diluncurkan Google pada tahun 2026 untuk mengatasi AI spam, setelah sebelumnya terungkap sistem bernama Scalable Cluster Termination System (S-CTS).
Langkah besar Google dalam mengalokasikan sumber daya ini membuktikan betapa seriusnya ancaman AI slop, AI slop sendiri adalah konten sintetis berkualitas rendah yang diproduksi secara massal.
Sistem ini diduga kuat menjadi komponen utama dalam pembaruan algoritma September Spam Update.
Teknologi AI saat ini memungkinkan jaringan pelaku spam memproduksi konten otomatis secara besar-besaran sembari secara terstruktur memodifikasi konten tersebut agar lolos dari pemindaian tradisional.
Paper Google ini secara tegas diberi judul:
“The Synthetic Gap: Automating Forensic Investigation of ‘AI Slop’ with the Scaled Abuse Forensics Examiner (SAFE)”.
Tujuan Hadirnya SAFE System
Paper juga mengutip bahwa alur kerja investigasi tradisional yang sangat bertumpu pada pengenalan pola manual serta analisis metadata sudah tidak lagi cukup maupun sanggup mengimbangi gempuran volume AI slop yang luar biasa cepat.
Oleh karena itu, tujuan utama hadirnya SAFE System adalah untuk memangkas apa yang disebut sebagai “synthetic gap”.
Synthetic gap adalah rentang waktu kritis antara munculnya metode serangan konten sintetis baru dengan pengerahan tindakan pencegahannya.
Selain itu, SAFE dirancang untuk mengidentifikasi pelanggaran terhadap “spirit of policy” menggunakan model few-shot-trained LLM (LLM yang dilatih secara khusus).
Artinya, SAFE diharapkan mampu untuk mendeteksi konten bermasalah yang mungkin tidak diketahui secara eksplisit, tetapi secara substansi jelas-jelas melanggar kebijakan Google.
3 Fondasi Teknis dari SAFE System
Berdasarkan isi dokumen paper-nya, SAFE dibangun di atas tiga pilar fondasi teknis utama yang saling melengkapi untuk mendeteksi penyalahgunaan AI content berskala besar:
Detecting Inorganic Behavior
Fondasi pertama berfokus melacak perilaku anomali atau terkoordinasi yang berbeda dari aktivitas manusia secara normal.
SAFE menganalisis pola waktu pengunggahan yang mendadak masif (bursts of activity), kesamaan infrastruktur teknis, hingga sinyal keterlibatan fake user (pengguna palsu) yang diciptakan oleh bot-net.
Automating Forensics with Multi-Agent Systems
Fondasi kedua memanfaatkan sistem multi-agen AI khusus.
Dalam pendekatan ini, tugas investigasi yang rumit dibagi ke dalam beberapa AI agent khusus, di mana ada satu agen orchestrator (pengatur) yang memimpin jalannya investigasi dan membuat keputusan final.
Transformer-Based Content Understanding for Policy Enforcement
Fondasi ketiga mengandalkan model transformer-based (berbasis transformer) untuk memahami makna kontekstual dari sebuah konten secara mendalam, termasuk di dalamnya pemrosesan multimodal.
Teknologi ini memungkinkan sistem menilai apakah sebuah konten melanggar spirit of policy atau tidak secara lebih akurat.
SAFE System Telah Diterapkan
Kendati Google seolah-olah sangat merahasiakan detail teknis dan data pengujiannya, mereka secara tegas mengonfirmasi bahwa SAFE System telah resmi deployed (diterapkan).
Hasil penerapan awal menunjukkan bahwa SAFE mampu mempercepat proses identifikasi synthetic threats baru secara signifikan.
Sistem ini berhasil memangkas waktu investigasi secara drastis jika dibandingkan dengan alur kerja konvensional yang masih bergantung pada peninjauan manusia (human-in-the-loop).
SAFE Menggunakan AI Agent Khusus
Untuk menjalankan investigasi tingkat tinggi, SAFE membagi peran ke dalam empat AI agent khusus yang bekerja secara gotong royong:
Root Agent (The Orchestrator)
Bertindak sebagai “komandan” atau pengatur utama proses investigasi.
Agent ini bertugas membagi dan menugaskan pekerjaan kepada agen-agen khusus lainnya, meninjau seluruh hasil temuan mereka, lalu menggabungkan bukti-bukti tersebut untuk membuat kesimpulan dan keputusan akhir.
Content Understanding Agent (Synthetic Artifact Detection)
Agent ini bertugas menganalisis materi konten supaya nantinya dapat menemukan artefak buatan AI dan potensi pelanggaran kebijakannya.
Dengan memanfaatkan metode berbasis LLM, agent ini bisa mendeteksi pola penyalahgunaan baru serta konten yang berusaha mengecoh classifier standar namun tetap melanggar spirit of policy.
Behavior Understanding Agent (Inorganic Pattern Recognition)
Agent yang satu ini berfokus untuk mengenali pola perilaku yang mengindikasikan adanya koordinasi non-organik.
Hal ini mencakup pemeriksaan jejak infrastruktur teknis serta pola waktu publikasi di berbagai channel (kanal), seperti pengunggahan yang terkoordinasi secara bersamaan (synchronized uploads) dan publikasi massal dalam waktu singkat (burst publishing).
Channel Cluster Understanding Agent
Agent yang terakhir adalah Channel Cluster Understanding Agent.
Agent ini menggunakan graph-based relationship system (sistem pemetaan hubungan berbasis graf) untuk mengungkap jaringan pembuat spam AI content.
Dengan menganalisis infrastruktur yang digunakan bersama, agen ini mampu memetakan seluruh cluster (kelompok) operasi spam secara luas, sehingga SAFE dapat menindak seluruh jaringan terkoordinasi dibanding hanya menindak satu akun/kanal secara terpisah.
Apa Pengaruhnya bagi SEO?
Kehadiran SAFE System memberikan pesan yang sangat jelas bagi para teman-teman praktisi SEO dan webmaster.
Selama ini, sebagian komunitas SEO (Search Engine Optimization) menganggap bahwa Google hanya menggunakan alat pemindai teks AI sederhana untuk menandai spam.
Namun, isi dari paper tentang SAFE System ini membuktikan bahwa pendekatan Google sekarang jauh melampaui deteksi teks AI konvensional.
Google kini mengoperasikan sistem terautomasi yang bekerja mirip tim investigasi forensik manusia profesional.
“Tim investigasi forensik” ini mengerahkan agen-agen AI khusus untuk menganalisis keterkaitan konten, perilaku, infrastruktur, hingga hubungan antara si pembuat konten.
Sehingga kesimpulannya adalah praktik manipulasi SEO yang mengandalkan produksi AI content slop secara massal melalui skema terautomasi kini menghadapi risiko pembersihan atau purifikasi secara total hingga ke akar jaringannya.
Lalu, solusinya bagaimana?
Mulai sekarang berhentilah membuat konten dengan AI secara asal-asalan.
Berusahalah untuk melakukan review konten AI secara manual dengan menambahkan data, fakta, atau pengalaman pribadi atau ahli yang bermanfaat bagi audiens.
Ingatlah tentang siapa audiens kita, mereka adalah manusia, bukan bot ataupun mesin!
Demikianlah artikel mengenai Google yang memperkenalkan AI spam detector bernama SAFE ini.
Apakah teman-teman memiliki pertanyaan terkait? Silakan tuliskan pada kolom komentar di bawah atau bisa gabung ke grup Telegram DailySEO ID di sini.
Teman-teman juga bisa ajukan topik selanjutnya untuk kami bahas! Jika ingin belajar SEO dari ahlinya, yuk belajar di course-nya DailySEO ID!
Referensi:
https://www.searchenginejournal.com/google-has-deployed-a-new-ai-spam-detector-called-safe/590918
https://storage.googleapis.com/gweb-research2023-media/pubtools/1039292.pdf
