Anda menjalankan pemantauan harga di Ozon atau parser iklan ā dan dalam beberapa menit mendapatkan 403 atau captcha. Alasan hampir selalu sama: situs dilindungi oleh DataDome. Ini adalah salah satu layanan antibot paling canggih di pasar, dan ia dapat memblokir tidak hanya skrip sederhana, tetapi juga permintaan melalui proxy pusat data biasa. Dalam artikel ini, kita akan membahas bagaimana DataDome bekerja, apa yang dianalisisnya, dan mengapa pemilihan proxy yang tepat adalah kunci untuk operasi yang stabil.
Apa itu DataDome dan di mana ia digunakan
DataDome adalah layanan antibot komersial yang digunakan oleh situs untuk melindungi dari permintaan otomatis. Ini digunakan oleh pengecer besar, pasar, agregator berita, layanan pemesanan, dan platform fintech. Menurut data dari perusahaan itu sendiri, DataDome memproses lebih dari 5 triliun permintaan per bulan dan melindungi ribuan situs di seluruh dunia.
Berbeda dengan solusi sederhana seperti Cloudflare Bot Management tingkat pemula, DataDome berfungsi sebagai lapisan terpisah antara permintaan pengguna dan server. Setiap permintaan HTTP ke situs yang dilindungi terlebih dahulu melewati infrastruktur DataDome, di mana keputusan diambil dalam milidetik: diteruskan, ditampilkan captcha, atau diblokir.
Jika Anda melakukan pemantauan harga pesaing di pasar, pengumpulan data produk, pengambilan iklan, atau pengujian otomatis iklan dari berbagai wilayah ā ada kemungkinan besar Anda sudah berhadapan dengan DataDome. Berikut adalah tanda-tanda khas:
- Jawaban 403 Forbidden atau 429 Too Many Requests setelah beberapa permintaan
- Pengalihan ke halaman dengan captcha (biasanya Slider atau FunCaptcha)
- Jawaban kosong atau halaman dengan tulisan "Akses dibatasi"
- Situs berfungsi di browser, tetapi kesalahan saat melakukan permintaan melalui skrip atau parser
- Blokir bahkan saat mengganti IP, jika parameter lain tidak berubah
Di antara situs terkenal yang menggunakan DataDome: Reddit, Rakuten, Foot Locker, TripAdvisor, Leboncoin, dan banyak lainnya. Di segmen Rusia, DataDome lebih jarang ditemui, tetapi digunakan oleh beberapa platform e-commerce besar dan agregator.
Bagaimana DataDome mendeteksi bot: apa yang dianalisisnya
Memahami logika DataDome berarti memahami mengapa setengah dari "solusi" di internet tidak berfungsi. Sistem ini menggunakan analisis multi-level, dan pemblokiran tidak terjadi berdasarkan satu tanda, tetapi berdasarkan kombinasi sinyal. Mari kita bahas setiap level.
1. Reputasi IP dan ASN
Hal pertama yang diperiksa DataDome adalah reputasi alamat IP dan sistem otonom (ASN) yang dimilikinya. Jika IP terdaftar di pusat data (Amazon AWS, DigitalOcean, OVH, Hetzner, dll.) ā ini adalah bendera merah segera. DataDome memiliki basis data "kotor" IP sendiri dan bertukar data dengan layanan antibot lainnya. IP yang sudah digunakan untuk pengambilan data situs terlindungi lainnya akan lebih cepat masuk dalam blokir.
2. Pola perilaku
DataDome menganalisis tidak hanya fakta permintaan, tetapi juga perilakunya seiring waktu. Interval yang terlalu merata antara permintaan adalah tanda bot. Mengakses hanya ke endpoint tertentu (misalnya, hanya ke halaman produk) tanpa mengunjungi halaman utama ā mencurigakan. Ketidakadaan pemuatan CSS, font, gambar saat meminta HTML ā juga sinyal.
3. Header HTTP dan urutannya
Browser yang nyata mengirimkan header dalam urutan dan set yang sangat spesifik. DataDome memeriksa: apakah User-Agent cocok dengan jejak nyata dari browser? Apakah ada header sec-ch-ua? Apakah Accept-Language benar? Jika Anda hanya memasukkan string User-Agent tetapi tidak mereproduksi set header lengkap ā sistem ini akan melihatnya.
4. Tantangan JavaScript dan jejak browser
DataDome menyisipkan kode JavaScript di halaman yang mengumpulkan "jejak" browser: resolusi layar, daftar font, rendering WebGL, jejak Canvas, keberadaan plugin, jenis perangkat. Jika JavaScript tidak dieksekusi (seperti pada permintaan HTTP biasa melalui requests atau curl) ā DataDome mencatatnya dan memblokir. Itulah sebabnya parser sederhana tanpa rendering JS tidak berfungsi di situs yang dilindungi.
5. Cookie dan token sesi
DataDome mengatur cookie sendiri (datadome) pada kunjungan pertama. Pada permintaan berikutnya, keberadaan dan validitas cookie ini diperiksa. Jika parser tidak menyimpan cookie antara permintaan atau setiap kali memulai sesi baru ā ini adalah sinyal otomatisasi lainnya.
Kesimpulan: mengapa DataDome lebih sulit daripada pemblokiran biasa
DataDome tidak memblokir berdasarkan satu parameter ā ia menghitung "penilaian risiko" berdasarkan puluhan sinyal secara bersamaan. Anda bisa menghindari filter IP, tetapi gagal pada tantangan JS. Anda bisa mengatur header yang benar, tetapi diblokir karena pola perilaku. Menghindari yang efektif memerlukan pendekatan komprehensif.
Mengapa proxy pusat data tidak bekerja dengan DataDome
Ini adalah pertanyaan paling umum dari mereka yang pertama kali berhadapan dengan DataDome: "Saya membeli proxy, menghubungkan ā dan tetap saja diblokir. Mengapa?" Jawabannya terletak pada jenis proxy.
Proxy pusat data adalah alamat IP yang terdaftar di hosting komersial dan farm server. DataDome (seperti kebanyakan sistem antibot modern) memiliki basis data terkini dari semua ASN pusat data yang dikenal. Ketika permintaan datang dari IP seperti itu ā ia secara otomatis mendapatkan tingkat kecurigaan yang lebih tinggi bahkan sebelum analisis perilaku.
Masalahnya bukan hanya pada reputasi IP. Proxy pusat data sering digunakan oleh ribuan pengguna secara bersamaan, yang menciptakan pola lalu lintas yang tidak normal dari satu alamat. DataDome melihat ini dan memblokir seluruh kumpulan IP penyedia.
| Jenis proxy | Peluang melewati DataDome | Mengapa |
|---|---|---|
| Pusat data (shared) | Sangat rendah | ASN pusat data, IP "kotor" |
| Pusat data (dedicated) | Rendah | Tetap ASN server |
| Residensial (statis) | Sedang | ISP nyata, tetapi satu IP = mencurigakan |
| Residensial (rotasi) | Tinggi | IP rumah nyata, rotasi |
| Mobile (4G/5G) | Maksimal | Operator seluler, NAT, kepercayaan tinggi |
Kesimpulannya sederhana: untuk menghindari DataDome, diperlukan IP dengan reputasi tinggi ā yang terlihat seperti pengguna nyata. Itulah sebabnya proxy residensial telah menjadi standar untuk bekerja dengan situs yang dilindungi.
Proxy residensial vs mobile: mana yang harus dipilih untuk DataDome
Ketika jelas bahwa proxy pusat data tidak cocok, pertanyaan berikutnya muncul: residensial atau mobile? Setiap jenis memiliki keunggulan masing-masing, dan pilihan tergantung pada tugas.
Proxy residensial
Proxy residensial menggunakan alamat IP dari pengguna rumah nyata yang terhubung melalui penyedia internet (Rostelecom, MTS, Comcast, dll.). Dari sudut pandang DataDome ā ini adalah orang biasa yang duduk di rumah dengan laptop. Keuntungan utama:
- Kumpulan IP yang sangat besar ā jutaan alamat dari berbagai negara dan kota
- Rotasi: setiap permintaan dapat berasal dari IP baru
- Geotargeting: dapat memilih negara, wilayah, atau kota tertentu
- Reputasi tinggi di sistem antibot
- Cocok untuk pengambilan data massal dan pemantauan harga
Keterbatasan proxy residensial adalah kecepatan. Mereka lebih lambat daripada pusat data, yang kritis saat mengambil ribuan halaman per menit. Namun, untuk bekerja dengan DataDome, ini adalah kompromi yang perlu diterima.
Proxy mobile
Proxy mobile bekerja melalui kartu SIM dari operator seluler (4G/5G). Ini adalah jenis lalu lintas yang paling "dipercaya" dari sudut pandang sistem antibot mana pun. Alasannya: operator seluler menggunakan NAT ā di balik satu IP dapat tersembunyi ratusan pengguna nyata. DataDome mengetahui hal ini dan tidak dapat memblokir IP mobile tanpa risiko memutuskan pelanggan nyata.
- Tingkat kepercayaan maksimal di sistem antibot
- ASN nyata dari operator seluler
- Pergantian IP setiap kali terhubung ulang (atau berdasarkan timer)
- Ideal untuk tugas di mana diperlukan kemungkinan pemblokiran yang minimal
Kekurangan proxy mobile adalah harga dan kumpulan IP yang terbatas dibandingkan dengan residensial. Mereka sangat cocok untuk tugas di mana keandalan setiap permintaan penting, bukan volume massal.
Kapan memilih apa:
- Pemantauan harga, pengambilan katalog ā proxy residensial rotasi
- Kerja dengan akun, otorisasi ā mobile atau residensial statis
- Pengujian iklan dari berbagai wilayah ā residensial dengan geotargeting
- Pengambilan data berat dengan antibot ā residensial rotasi
Metode praktis untuk menghindari DataDome
Jenis proxy yang tepat adalah syarat yang diperlukan, tetapi tidak cukup. DataDome menganalisis puluhan parameter, dan proxy hanya menutupi salah satu dari mereka ā reputasi IP. Berikut adalah kumpulan lengkap metode yang bekerja secara bersamaan.
Metode 1: Header HTTP yang benar
DataDome memeriksa kumpulan lengkap header yang dikirim oleh browser. Kumpulan minimum untuk meniru Chrome di Windows terlihat seperti ini: User-Agent yang benar, header sec-ch-ua, sec-fetch-site, sec-fetch-mode, Accept-Language yang sesuai dengan geolokasi proxy. Ketidaksesuaian bahasa dan negara IP adalah penyebab umum pemblokiran.
Metode 2: Rendering JavaScript
Jika situs dilindungi oleh DataDome ā permintaan HTTP sederhana melalui curl atau requests tidak akan melewati tantangan JS. Dibutuhkan alat yang benar-benar menjalankan JavaScript: browser headless (Playwright, Puppeteer) atau browser lengkap melalui anti-detect. Untuk tugas bisnis tanpa kode, pilihan optimal adalah browser anti-detect: Dolphin Anty, AdsPower, GoLogin. Mereka menjalankan Chromium nyata dengan jejak unik dan mendukung koneksi proxy.
Metode 3: Rotasi IP dan sesi
DataDome mengingat sesi "buruk". Jika IP masuk dalam blok ā ganti segera, jangan coba ulang permintaan dari alamat yang sama. Saat menggunakan proxy residensial rotasi, setiap permintaan atau sesi mendapatkan IP baru. Penting: ganti tidak hanya IP, tetapi juga sesi cookie ā jika tidak, DataDome akan mengaitkan IP baru dengan sesi yang diblokir sebelumnya.
Metode 4: Meniru perilaku manusia
Analisis perilaku DataDome melacak pola permintaan. Tambahkan penundaan acak antara permintaan (dari 2 hingga 8 detik), tiru navigasi: pertama halaman utama, kemudian kategori, lalu produk. Jangan hanya mengambil halaman target secara langsung. Muat sumber statis (CSS, gambar) ā atau setidaknya tiru permintaan mereka.
Metode 5: Kesesuaian geo
Ini sering diabaikan. Jika Anda mengambil data dari situs Rusia, tetapi menggunakan IP Amerika ā DataDome melihatnya. Gunakan proxy dari negara yang sama dengan situs target. Lebih jauh: atur Accept-Language dan zona waktu browser sesuai dengan geolokasi proxy.
Metode 6: Pengelolaan cookie DataDome
Cookie datadome adalah token yang diberikan DataDome kepada pengunjung "baik". Jika Anda berhasil melewati pemeriksaan, simpan cookie ini dan gunakan dalam permintaan berikutnya. Jangan reset cookie tanpa perlu. Saat mengganti IP, lebih baik memulai sesi baru dengan mendapatkan token baru, bukan membawa yang lama.
Pengaturan proxy untuk menghindari DataDome: langkah demi langkah
Mari kita bahas pengaturan praktis untuk dua skenario: bekerja melalui browser anti-detect (untuk tugas bisnis tanpa kode) dan pengaturan untuk pengambilan data.
Skenario A: Browser anti-detect (Dolphin Anty / AdsPower / GoLogin)
Metode ini cocok untuk mereka yang bekerja dengan akun, menguji iklan dari berbagai wilayah, atau secara manual menjelajahi situs yang dilindungi.
- Buat profil browser baru di Dolphin Anty atau AdsPower. Setiap profil adalah "jejak digital" terpisah.
- Di pengaturan profil, temukan bagian "Proxy". Pilih jenis: SOCKS5 (lebih disukai) atau HTTP.
- Masukkan data proxy: host, port, login, password. Untuk proxy residensial rotasi, gunakan alamat gateway penyedia.
- Periksa geolokasi: klik "Periksa proxy" ā browser akan menunjukkan negara dan kota. Pastikan mereka sesuai dengan situs target.
- Atur bahasa browser sesuai dengan geolokasi proxy. Jika proxy dari Jerman ā atur ke de-DE.
- Atur User-Agent yang benar: pilih versi Chrome terbaru di Windows atau macOS ā ini adalah konfigurasi yang paling umum.
- Jalankan profil dan kunjungi situs target. Jangan langsung membuka halaman yang diinginkan ā masuklah terlebih dahulu ke halaman utama.
Skenario B: Pengambilan data melalui Playwright/Puppeteer
Untuk pengumpulan data otomatis dari situs yang dilindungi oleh DataDome, dibutuhkan browser headless dengan dukungan proxy dan pengaturan jejak yang benar.
# Playwright + proxy residensial (Python)
# Parameter kunci untuk menghindari DataDome:
browser = playwright.chromium.launch(
proxy={
"server": "http://gate.proxyprovider.com:8000",
"username": "user",
"password": "pass"
}
)
context = browser.new_context(
# User-Agent nyata dari Chrome terbaru
user_agent="Mozilla/5.0 (Windows NT 10.0; Win64; x64)...",
# Geolokasi sesuai dengan negara proxy
locale="ru-RU",
timezone_id="Europe/Moscow",
# Resolusi layar yang nyata
viewport={"width": 1920, "height": 1080}
)
# Penundaan acak antara tindakan
import time, random
time.sleep(random.uniform(2, 5))
Tambahan: gunakan pustaka untuk menyamarkan mode headless (playwright-stealth, puppeteer-extra-plugin-stealth). DataDome dapat mendeteksi headless Chrome berdasarkan sejumlah tanda teknis, dan plugin ini membantu menyembunyikannya.
Daftar periksa pengaturan proxy untuk DataDome:
- ā Jenis proxy: residensial atau mobile (bukan pusat data)
- ā Protokol: SOCKS5 (lebih disukai) atau HTTPS
- ā Geolokasi proxy sesuai dengan negara situs
- ā Accept-Language dan zona waktu sesuai dengan negara proxy
- ā JavaScript dieksekusi (browser headless atau anti-detect)
- ā Cookie disimpan antara permintaan
- ā Penundaan antara permintaan: 2-8 detik
- ā Rotasi IP pada setiap sesi baru
Kesalahan umum yang menyebabkan DataDome tetap memblokir
Bahkan dengan proxy yang tepat, banyak yang tetap mendapatkan pemblokiran. Berikut adalah penyebab paling umum dan cara memperbaikinya.
Kesalahan 1: Ketidaksesuaian geolokasi dan bahasa
Anda menghubungkan proxy Prancis, tetapi browser mengirim Accept-Language: en-US. DataDome melihat: IP dari Prancis, tetapi bahasa Inggris ā perilaku yang tidak biasa. Solusi: selalu sinkronkan bahasa, zona waktu, dan lokal dengan geolokasi proxy.
Kesalahan 2: Penggunaan IP yang diblokir kembali
Mendapatkan 403? Jangan coba ulang permintaan dari IP yang sama lagi. DataDome mengingat alamat "buruk" dan akan memblokirnya dengan segera. Pada tanda pertama pemblokiran ā ganti IP dan bersihkan cookie segera.
Kesalahan 3: Frekuensi permintaan yang terlalu tinggi
Bahkan dengan proxy residensial, tidak boleh melakukan permintaan setiap 100 milidetik. Pengguna nyata membaca halaman selama 10-30 detik. DataDome menganalisis kecepatan navigasi. Mode optimal: 1-3 halaman per menit dari satu IP, setelah 10-15 permintaan ā ganti IP.
Kesalahan 4: Menggunakan User-Agent yang usang
User-Agent Chrome 89 pada tahun 2024 ā ini adalah bendera merah. DataDome tahu versi browser mana yang terbaru. Gunakan hanya versi terbaru: Chrome 120+, Firefox 120+. Perbarui User-Agent secara teratur.
Kesalahan 5: Mengabaikan tantangan JS
Kesalahan paling kritis ā mencoba mengambil data dari situs yang dilindungi DataDome melalui permintaan HTTP biasa tanpa rendering JavaScript. DataDome menyisipkan kode JS di halaman yang harus dieksekusi dan mengembalikan token. Tanpa token ini, permintaan berikutnya akan diblokir. Solusinya ā hanya browser headless atau browser anti-detect.
Kesalahan 6: Satu IP untuk banyak aliran paralel
Jika Anda menjalankan 10 aliran paralel pengambilan data melalui satu IP ā ini akan terdeteksi dengan segera. DataDome melihat jumlah permintaan yang tidak normal dari satu alamat. Aturan: satu IP = satu aliran = satu sesi. Untuk pengambilan data paralel, diperlukan kumpulan IP dengan rotasi.
| Kesalahan | Gejala | Solusi |
|---|---|---|
| IP pusat data | 403 dari permintaan pertama | Ganti dengan residensial/mobile |
| Tidak ada rendering JS | Captcha atau jawaban kosong | Gunakan browser headless |
| Frekuensi permintaan tinggi | 429 setelah 5-10 permintaan | Tambahkan penundaan, rotasi IP |
| Ketidaksesuaian geo/bahasa | Blokir setelah 2-3 permintaan | Sinkronkan locale dan IP |
| User-Agent lama | Captcha setiap kali masuk | Perbarui ke versi Chrome terbaru |
Kesimpulan
DataDome adalah sistem serius yang tidak bisa dihindari hanya dengan mengganti IP. Ia menganalisis secara bersamaan reputasi alamat, perilaku pengguna, jejak browser, header permintaan, dan cookie. Itulah sebabnya proxy pusat data tidak berfungsi di sini, dan "hanya mengganti User-Agent" tidak cukup.
Kombinasi kerja untuk menghindari DataDome terlihat seperti ini: proxy residensial atau mobile berkualitas + browser headless atau anti-detect (Dolphin Anty, AdsPower, GoLogin) + header yang benar dengan kesesuaian geo + penundaan yang menyerupai manusia + pengelolaan cookie. Setiap elemen penting, dan melewatkan salah satu dari mereka mengurangi peluang keberhasilan.
Jika Anda melakukan pemantauan harga, pengambilan katalog, atau pengujian iklan dari berbagai wilayah di situs dengan perlindungan DataDome, kami merekomendasikan untuk memulai dengan proxy residensial ā mereka memberikan keseimbangan optimal antara reputasi IP, volume kumpulan alamat, dan biaya. Untuk tugas di mana keandalan setiap permintaan dan risiko pemblokiran yang minimal sangat penting, pertimbangkan proxy mobile ā lalu lintas mereka sangat jarang diblokir oleh DataDome.
```