بازگشت به وبلاگ

پروکسی در مقابل API اسکرپینگ در مقابل وب آنبلاکر: محاسبات ۲۰۲۶

«پروکسی ارزان‌تر در حجم» — افسانه‌ای که هزینه دارد. سه راه‌حل را بر اساس معیارها بررسی می‌کنیم و دلارها را برای 1000 پاسخ موفق محاسبه می‌کنیم: قیمت‌های عمومی ژوئیه 2026، موفقیت بر اساس بنچمارک در 30+ میلیون صفحه و نقطه سر به سر که بر اساس حجم درخواست‌ها نیست، بلکه بر اساس وزن یک پاسخ — حدود 400 کیلوبایت است.

📅۸ مرداد ۱۴۰۵
پروکسی در مقابل API اسکرپینگ در مقابل وب آنبلاکر: محاسبات ۲۰۲۶
```html

بحث «پروکسی‌های خودتان یا API اسکرپینگ آماده» معمولاً با یک جمله حل می‌شود: «در حجم‌های بالا پروکسی‌ها به مراتب ارزان‌تر هستند». این جمله درست است، اما به سوال درست پاسخ نمی‌دهد. در سال ۲۰۲۶، برنده یا بازنده شدن به حجم درخواست‌ها بستگی ندارد، بلکه به وزن یک پاسخ بستگی دارد — و نقطه عطف تقریباً در حدود ۴۰۰–۵۵۰ کیلوبایت قرار دارد. در زیر — بررسی سه راه‌حل بر اساس معیارها، حسابداری صادقانه به دلار برای ۱۰۰۰ پاسخ موفق و ماتریس «چه چیزی را برای کدام سناریو انتخاب کنیم».

سه محصول متفاوت که با هم اشتباه گرفته می‌شوند

ابتدا موجودیت‌ها را تفکیک می‌کنیم — نیمی از بودجه‌های ناموفق از این ناشی می‌شود که تیم‌ها چیزهای غیرقابل مقایسه را مقایسه می‌کنند.

  • پروکسی‌های خام (raw proxy). شما برای ترافیک پرداخت می‌کنید — معمولاً به ازای هر گیگابایت. ارائه‌دهنده یک مجموعه IP و چرخش ارائه می‌دهد، و همه چیزهای دیگر — کد شماست: اثر انگشت TLS، ترتیب هدرها، تلاش‌های مجدد، کوکی‌ها، رندرینگ، تجزیه HTML.
  • Web Unblocker (پروکسی آنبلاکر). لایه میانی: همان نقطه پایانی که پروکسی دارد، اما درون آن — توافق اثر انگشت‌ها (TLS handshake، هدرها و محیط JS یک مرورگر یکسان را ارائه می‌دهند)، رندرینگ JS داخلی، تغییر خودکار IP/هدرها/زمان‌بندی در صورت بروز چالش، جلسات چسبنده و انتقال توکن‌های ضد ربات بین تلاش‌ها. پرداخت — برای پاسخ موفق یا به ازای هر گیگابایت.
  • Scraping API. URL را ارسال می‌کنید — HTML آماده یا JSON تجزیه شده را دریافت می‌کنید. حداکثر راحتی، حداقل کنترل بر روی پایپ‌لاین، پرداخت برای ۱۰۰۰ فراخوان موفق.

تفاوت کلیدی نه فنی، بلکه اقتصادی است: پروکسی‌ها بایت‌ها را محاسبه می‌کنند، در حالی که API و بیشتر آنبلاکرها رویدادها را. تا زمانی که شما هر دو را به یک معیار تبدیل نکنید، مقایسه بی‌معنا است.

چه چیزی اندازه‌گیری‌های مستقل سال ۲۰۲۶ نشان می‌دهند

در ماه مه ۲۰۲۶، aimultiple یک بنچمارک برای بیش از ۳۰ میلیون صفحه منتشر کرد: بیش از ۵۰ محصول از شش شرکت که با داده‌های وب کار می‌کنند. در زمینه آنبلاکر کردن اهداف محافظت شده، نتایج به این صورت است: Bright Data — ۹۸٪، Zyte — ۹۷٪، Decodo — ۹۶٪، Oxylabs — ۹۵٪. Bright Data برای Web Unlocker خود ۹۷.۹٪ پاسخ‌های موفق را اعلام می‌کند.

تذکر مهم خود محققان: موفقیت راه‌حل‌های پروکسی به زمان آزمایش و پیکربندی درخواست بستگی داشت و یک مقدار ثابت نبود — ارائه‌دهندگان مجموعه‌های IP را به‌روزرسانی می‌کنند، وب‌سایت‌ها امنیت خود را تقویت می‌کنند. نتیجه دوم بنچمارک به‌طور مستقیم: در اهداف سنگین سطح آمازون، آنبلاکرها واقعاً مورد نیاز هستند، در حالی که در وب‌سایت‌های ساده، پروکسی‌های معمولی کافی هستند.

به همین دلیل در سال ۲۰۲۶، سوال تشدید شد. تشخیص از سطح «شهرت IP» به سطح رفتار جلسه منتقل شد — به عنوان مثال، Cloudflare تاریخچه اتصال را قبل از درخواست اصلی ارزیابی می‌کند (ما این موضوع را در مقاله‌ای درباره جلسات precursor در تشخیص ربات‌ها بررسی کردیم). IP خالص دیگر شرط کافی نیست: اگر استک نتواند اثر انگشت سازگار را حفظ کند، ترافیک گران‌قیمت ساکن در ۴۰۳‌ها از بین می‌رود.

قیمت‌ها در یک جدول

قیمت‌های عمومی برای ژوئیه ۲۰۲۶ (تعرفه‌های اولیه، بدون تخفیف‌های حجمی):

راه‌حلمدل پرداختقیمت اولیه
Zyte APIبرای ۱۰۰۰ درخواست$0.13–1.27
IPRoyal Web Unblockerبرای ۱۰۰۰ درخواستاز $1.00
Decodoبرای ۱۰۰۰ درخواست / به ازای هر گیگابایت$1.25 / $10
Bright Data Web Unlockerبرای ۱۰۰۰ درخواستاز $1.50
Oxylabs Web Unblockerبه ازای هر گیگابایتاز $9.40
پروکسی‌های خام (ProxyCove)به ازای هر گیگابایت$1.5 دیتا سنتر / $2.7 ساکن / $3.8 موبایل

اختلاف قیمت در Zyte ده برابر است — این یک اشتباه تایپی نیست: قیمت به این بستگی دارد که چقدر «آرتیلری سنگین» (رندرینگ، مجموعه پریمیوم) هدف خاصی نیاز دارد. این یک ویژگی عمومی مدل‌های مبتنی بر موفقیت است: هر چه هدف پیچیده‌تر باشد، هزینه فراخوان بالاتر است.

حسابداری: دلار برای ۱۰۰۰ پاسخ موفق

تنها معیار صحیح — هزینه ۱۰۰۰ پاسخ موفق است. باید آن را با در نظر گرفتن شکست‌ها محاسبه کنید: تلاش‌های ناموفق در مدل پروکسی را نیز با ترافیک پرداخت می‌کنید. موفقیت استک خود را ۷۰٪ در نظر بگیرید — یعنی ۱.۴۳ تلاش برای یک موفقیت.

سناریو ۱: فقط HTML، بدون تصاویر و اسکریپت‌ها

صفحه محصول معمولی به صورت «خالص» HTML — حدود ۲۰۰ کیلوبایت است. برای ۱۰۰۰ موفقیت، ۱.۴۳ × ۲۰۰ کیلوبایت × ۱۰۰۰ ≈ ۲۸۶ مگابایت ≈ ۰.۲۸ گیگابایت مصرف می‌شود.

  • ساکن به قیمت $2.7/گیگابایت → ≈ $0.76 برای ۱۰۰۰ پاسخ موفق.
  • دیتا سنتر به قیمت $1.5/گیگابایت → ≈ $0.42.
  • آنبلاکر به قیمت $1.00–1.50 برای ۱۰۰۰ → $1.00–1.50.

پروکسی‌ها ۱.۳–۳.۵ برابر ارزان‌تر هستند. این همان موردی است که افسانه «پروکسی همیشه به صرفه‌تر است» از آن رشد کرده است.

سناریو ۲: رندر کامل صفحه در مرورگر

بر اساس داده‌های Web Almanac 2025 از HTTP Archive (منتشر شده در ۱۶ ژانویه ۲۰۲۶)، وزن میانه صفحه اصلی — ۲۷۱۰ کیلوبایت، صفحه داخلی — ۱۸۶۶ کیلوبایت، در دسکتاپ میانه ۲۴۱۲ کیلوبایت است. یعنی رندر کامل از طریق پروکسی حدود ۲ مگابایت برای هر تلاش نیاز دارد.

  • ساکن: ۱.۴۳ × ۲ مگابایت × ۱۰۰۰ = ۲.۸۶ گیگابایت × $2.7 → ≈ $7.7 برای ۱۰۰۰ موفقیت.
  • آنبلاکر برای درخواست موفق: $1.00–1.50 — ۵–۷ برابر ارزان‌تر.
  • آنبلاکر با پرداخت به ازای هر گیگابایت ($9.40): ۲.۸۶ گیگابایت → ≈ $26.9. بدترین ترکیب.

نتیجه‌ای که منطق معمول را می‌شکند: در اهداف سنگین JS، پروکسی‌های خام گران‌تر از API آماده هستند، و تعرفه به ازای هر گیگابایت آنبلاکر برای هر رندر هزینه می‌گیرد — یک پاسخ موفق مگابایت‌ها از فونت‌ها، تصاویر و آنالیز را به خود جذب می‌کند.

نقطه سر به سر

فرمول ساده است: قیمت برای ۱۰۰۰ درخواست را بر قیمت به ازای هر گیگابایت تقسیم کنید. با $1.50/۱۰۰۰ و ساکن $2.7/گیگابایت، ۰.۵۵۶ گیگابایت برای ۱۰۰۰ موفقیت به دست می‌آید — یعنی ۵۵۶ کیلوبایت برای هر پاسخ موفق، یا ≈۳۹۰ کیلوبایت برای هر تلاش با موفقیت ۷۰٪. برای آنبلاکر ارزان به قیمت $1.00/۱۰۰۰، آستانه به ≈۳۷۰ کیلوبایت برای موفقیت کاهش می‌یابد.

نتیجه عملی: اگر پاسخ میانگین تا ~۴۰۰ کیلوبایت است — پروکسی بگیرید؛ اگر به‌طور قابل توجهی سنگین‌تر است — آنبلاکر را در نظر بگیرید. و در اینجا نیز پنهان‌ترین اهرم وجود دارد: مسدود کردن تصاویر، فونت‌ها و رسانه‌ها در Playwright/Puppeteer وزن رندر را ۵–۱۰ برابر کاهش می‌دهد و اقتصاد را به سمت پروکسی برمی‌گرداند. قبل از پرداخت برای آنبلاکر، سعی کنید فقط از دانلود بنرها خودداری کنید.

مقاله مخفی هزینه‌ها: زمان مهندسی

ترافیک تنها هزینه نیست. با پروکسی‌های خام، شما مسئولیت کارهایی را بر عهده می‌گیرید که آنبلاکر درون انجام می‌دهد:

  1. اثر انگشت هماهنگ. TLS handshake، ترتیب هدرها و محیط JS باید یک مرورگر یکسان را توصیف کنند. عدم هماهنگی — علامت اصلی ربات است (تجزیه تکنیک — در مقاله‌ای درباره عبور از اثر انگشت JA4 از طریق curl-cffi).
  2. طبقه‌بندی شکست‌ها. بلوک سخت (۴۰۳)، صفحه چالش با کد ۲۰۰، زمان‌خوردگی، رندر خالی، HTML بریده شده — این پنج وضعیت متفاوت با واکنش‌های مختلف است. حساب کردن «۲۰۰ OK» به عنوان موفقیت — راهی مطمئن برای پر کردن پایگاه داده با زباله است.
  3. سیاست تلاش‌های مجدد. تغییر IP، هدرها و زمان‌بندی، نه فقط تکرار همان درخواست.
  4. ذخیره‌سازی جلسات. جلسات چسبنده و انتقال توکن‌های ضد ربات بین تلاش‌ها به جای شروع از صفر.
  5. قدرت‌های رندرینگ. پارک مرورگرهای headless خود، حافظه آن‌ها و سقوط‌ها.

برای تیمی که قبلاً استک اسکرپینگ را در دست دارد، این هزینه نیست — زیرساخت نوشته شده است. برای دو توسعه‌دهنده با مهلت یک هفته، این همان $1.50 برای ۱۰۰۰ درخواست است، فقط با حقوق پرداخت می‌شود.

ماتریس انتخاب بر اساس سناریو

  • حجم ثابت بزرگ، پاسخ‌های سبک (HTML، نقاط پایانی JSON)، استک خودتان. پروکسی‌های خام. با پروکسی‌های دیتا سنتر شروع کنید — در اهداف غیرمحافظت شده بهترین قیمت را ارائه می‌دهند؛ فقط در جایی که دیتا سنتر واقعاً مسدود می‌شود به پروکسی‌های ساکن سوئیچ کنید.
  • چند هدف به‌خصوص محافظت شده، صفحات سنگین JS، حجم کم. آنبلاکر یا Scraping API با پرداخت برای درخواست موفق. پرداخت $7.7 با ترافیک خودتان در جایی که راه‌حل آماده $1.5 می‌خواهد، لجاجت است، نه صرفه‌جویی.
  • هیبرید — چیزی که تیم‌های بالغ به آن می‌رسند. پروکسی برای ۹۰–۹۵٪ حجم (ارزان و تحت کنترل)، API برای چند درصد هدف که حق premium را توجیه می‌کند.
  • سناریوهای چند مرحله‌ای: ورود، پیمایش بی‌پایان، کلیک‌ها و فرم‌ها. در اینجا نه یکی کمک می‌کند و نه دیگری — یک مرورگر مدیریت شده نیاز است، آنبلاکر فقط HTML را ارائه می‌دهد.
  • الگوی ضد. رندر کامل با تصاویر از طریق آنبلاکر با تعرفه به ازای هر گیگابایت — گران‌ترین پیکربندی از همه پیکربندی‌های ممکن است.

چک‌لیست قبل از تصمیم‌گیری

  1. وزن میانگین پاسخ را در اهداف خود اندازه‌گیری کنید — این پارامتر اصلی است، نه حجم درخواست‌ها.
  2. موفقیت واقعی استک خود را اندازه‌گیری کنید و ترافیک را بر اساس ضریب تلاش‌ها ضرب کنید (در صورت ۷۰٪ موفقیت — بر ۱.۴۳).
  3. فقط $/۱۰۰۰ پاسخ موفق را مقایسه کنید. «$/گیگابایت در مقابل $/۱۰۰۰ درخواست» — مقایسه‌ای که همیشه دروغ می‌گوید.
  4. بررسی کنید که آیا می‌توانید وزن را کاهش دهید: تصاویر، فونت‌ها، رسانه‌ها، آنالیز را غیرفعال کنید؛ داده‌ها را از hydration-payload به جای رندر کامل بگیرید.
  5. مدل پرداخت شکست‌ها را در نظر بگیرید: آنبلاکر مبتنی بر موفقیت هزینه‌ای برای تلاش‌های مجدد نمی‌گیرد، در حالی که ترافیک پروکسی همیشه برای آن‌ها هزینه می‌گیرد.

نتیجه‌گیری

«پروکسی‌ها در حجم ارزان‌تر هستند» — فقط برای پاسخ‌های سبک درست است. مرز واقعی در سال ۲۰۲۶ — وزن یک پاسخ است: تقریباً تا ۴۰۰ کیلوبایت پروکسی‌های خام برنده هستند، و بعد از آن — پرداخت برای درخواست موفق. دو عدد خود را (وزن میانگین و موفقیت) محاسبه کنید، هر دو گزینه را به دلار برای ۱۰۰۰ موفقیت تبدیل کنید، و تصمیم‌گیری دیگر به سوال ایمان تبدیل نخواهد شد. و رایج‌ترین راه برای صرفه‌جویی — تغییر ارائه‌دهنده نیست، بلکه متوقف کردن دانلود چیزهایی است که به آن‌ها نیاز ندارید.

```