Di era AI search, salah satu optimasi technical SEO website yang bisa dilakukan adalah melakukan allow pada AI crawler agar mereka bisa merayapi website dan halaman di website kita.

Pertanyaannya, apakah AI crawler ini bisa merayapi konten yang dipasang paywall (semacam harus bisa bayar atau berlangganan, baru bisa baca konten lengkapnya)? 

Apa itu Paywall?

Paywall adalah sebuah metode untuk merestriksi atau membatasi akses ke suatu konten.

Praktek ini cukup lumrah di dunia media berita atau brand yang memakai konten premium sebagai cara monetisasi.

Jadi, konten dari website yang dipasangi paywall tidak bisa dibaca secara lengkap kecuali Anda mau membayarnya.

Contoh Situs yang Memakai Paywall

Situs jurnal ilmiah dengan artikel yang tidak open access adalah contoh situs yang memakai paywall.

Contohnya adalah:

contoh situs journal dengan paywall
Dok. Faris Yudza

Beberapa contoh situs di Indonesia yang memakai paywall adalah:

1. Kompas.id

2. pro.hukumonline.com 

contoh situs informasi legal atau hukum dengan paywall
Dok. Faris Yudza

Apakah AI Crawler Bisa Merayapi Konten yang Dipasang Paywall?

Penulis mencoba untuk meminta ChatGPT untuk menjelaskan isi dari jurnal yang restricted access.

Hasilnya sebagai berikut:

screenshot chatgpt tidak bisa crawl website dengan paywall
Dok. Faris Yudza

Dari hasil ini, AI crawler tidak bisa merayapi konten yang dipasang paywall.

Jadi, mereka tidak bisa menjelaskan apa isi konten yang “dipagari” kecuali ada situs lain yang pernah menjelaskan isinya.

Untuk konteks jurnal ilmiah, terutama artikel lama dan banyak sitasi, peluangnya ada.

Namun, ini berbeda untuk kasus perusahaan dan komersial.

Baca Juga:  Studi: Brand Baru Masih Berkesempatan Muncul di AI Search

Implikasi AI Crawler Tidak bisa Merayapi Konten yang Dipasangi Paywall

Karena AI crawler tidak bisa merayapi konten yang dipasangi paywall, maka ada beberapa hal yang perlu dipikirkan:

  1. Situs siap untuk tidak mendapat AI citation, terutama pada halaman yang terdapat paywall.
  2. Tidak dapat AI citation, maka berpotensi brand awareness yang terlewat, apalagi penggunaan LLM (Large Language Model) semakin masif.

Perusahaan harus menimbang pro dan kontra dari metode paywall untuk monetisasi. 

Klaim AI Crawler Bisa Melewati Konten yang Dipasangi Paywall

Menurut klaim di internet seperti di tech.slash, beberapa AI crawler bisa “menembus” paywall.

Namun, tentu praktek ini melanggar hukum dan etika karena paywall adalah konten berbayar.

Meski demikian, dari pengalaman penulis, AI crawler masih belum bisa merayapi konten yang dipasangi paywall.

Pikirkan Pro dan Kontra dari Metode Paywall

Metode paywall bermanfaat untuk monetisasi konten.

Untuk industri media, praktek ini lumrah untuk monetisasi dan “wajar” karena konten original seperti berita berawal dari mereka.

Yang menjadi perhatian adalah bagi perusahaan swasta.

Karena metode paywall memang bisa jadi cara monetisasi, tetapi bisa mengurangi brand awareness di AI generatif.

Pikirkan pro dan kontranya, kemudian diskusikan dengan atasan Anda terkait metode paywall.

Apabila teman-teman ada pertanyaan terkait tulisan ini, silakan tuliskan di kolom komentar di bawah atau bisa gabung ke grup Telegram DailySEO ID di sini.

Teman-teman juga bisa ajukan topik selanjutnya untuk kami bahas! Jika ingin belajar SEO dari ahlinya, yuk belajar di course-nya DailySEO ID!

Referensi:

https://tech.slashdot.org/story/25/11/08/1930213/common-crawl-criticized-for-quietly-funneling-paywalled-articles-to-ai-developers

https://journals.sagepub.com/doi/abs/10.1177/27551938251375863

https://www.kompas.id/artikel/kesempatan-mendorong-audiens-media-digital-dan-hiburan-mau-membayar?open_from=Tagar_Page

https://pro.hukumonline.com/legal-intelligence/a/rancangan-uu-satu-data-atur-integrasi-dengan-swasta-lt69cd3e6e7085c

Author

Digital marketing & website associate at Primecare Clinic. Has almost 4 years of experience in health industry, optimized digital health and clinic website. Founder/blogger of farisyudza.com

Write A Comment