بازگشت به وبلاگ

خطاهای ۴۰۳، ۴۲۹ و کپچا در پارسینگ: چگونه با کد بفهمیم کدام پروکسی نیاز است

کدهای خطای ۴۰۳ و ۴۲۹ و همچنین کپچا تنها "ممنوعیت" نیستند، بلکه نشانه‌ای از سایت درباره نوع پروکسی مورد نیاز شما هستند. هر مورد را با مثال‌های مشخص بررسی می‌کنیم.

📅۲۶ شهریور ۱۴۰۵

اگر شما قیمت‌ها را در Wildberries پارس می‌کنید، 20 حساب کاربری Instagram دارید یا تبلیغات را از طریق Facebook Ads اجرا می‌کنید، دیر یا زود یکی از سه چیز را خواهید دید: خطای 403، خطای 429 یا کپچا. بیشتر مبتدیان به یک شکل واکنش نشان می‌دهند — پروکسی را به هر پروکسی دیگری تغییر می‌دهند و امیدوارند که کار کند. در واقع، هر کد خطا یک پیام از سایت درباره دلیل خاص مسدود شدن است و بر اساس آن می‌توان به‌طور دقیق تعیین کرد، کدام نوع پروکسی مشکل را حل می‌کند: دیتاسنتر، مقیم یا موبایل.

چرا کد خطا مهم‌تر از خود مسدود شدن است

وقتی سایت درخواست را مسدود می‌کند، تقریباً همیشه یک کد وضعیت HTTP بازمی‌گرداند — این یک "برچسب" استاندارد است، که مرورگر یا پارسر همراه با صفحه دریافت می‌کند. مشکل این است که بسیاری از کاربران مرورگرهای ضد شناسایی و پارسرها فقط به واقعیت "باز نشدن" نگاه می‌کنند و بررسی نمی‌کنند که کدام کد بازگشت داده شده است. و تفاوت بسیار زیاد است: 403 به این معنی است که سایت شما را به عنوان مهمان ناخواسته شناسایی کرده و به‌طور آگاهانه دسترسی را مسدود کرده است. 429 به این معنی است که شما به‌طور فیزیکی حد درخواست‌ها را تجاوز کرده‌اید — سایت شخصاً با شما مشکلی ندارد، فقط نیاز دارد که شما به سرور به‌این‌قدر مکرر فشار نیاورید. کپچا — این یک وضعیت موقتی است: سایت شک دارد که شما انسان هستید یا ربات و به شما فرصتی می‌دهد تا خلاف آن را ثابت کنید.

هر یک از این وضعیت‌ها نیاز به راه‌حل متفاوتی دارد. اگر شما 403 دریافت می‌کنید و فقط یک پروکسی دیتاسنتر را به پروکسی دیگر مشابه تغییر می‌دهید — دوباره 403 دریافت خواهید کرد، زیرا دلیل مشکل در IP خاص نیست، بلکه در دسته IP است. اگر شما 429 دریافت می‌کنید و پروکسی‌های موبایل گران‌قیمت می‌خرید به جای اینکه فرکانس درخواست‌ها را کاهش دهید — شما بودجه را بیهوده خرج می‌کنید، زیرا مشکل در نوع IP نیست، بلکه در سرعت درخواست‌ها است. درک کد خطا هم زمان و هم پول را برای پروکسی صرفه‌جویی می‌کند.

خطای 403 Forbidden: سایت شما را شناسایی کرده و نمی‌خواهد شما را راه دهد

403 — این یک رد آگاهانه است. سایت درخواست شما را دریافت کرده، آن را پردازش کرده و تصمیم گرفته است: این IP یا این مجموعه ویژگی‌ها دسترسی ندارد. معمولاً 403 به سه دلیل رخ می‌دهد:

  • IP از "لیست سیاه" دیتاسنترها. سایت‌هایی مانند Wildberries، Ozon، Avito و بیشتر شبکه‌های اجتماعی پایگاه داده‌هایی از دامنه‌های IP متعلق به ارائه‌دهندگان ابری (AWS، Google Cloud، DigitalOcean و غیره) دارند. اگر پروکسی شما دیتاسنتری باشد و زیرشبکه آن قبلاً توسط پارسرهای دیگر "مشخص شده" باشد، شما به‌طور فوری 403 دریافت خواهید کرد، حتی با اولین درخواست.
  • محدودیت جغرافیایی (جغرافیایی مسدود شده). بخشی از محتوا یا پنل‌های تبلیغاتی فقط از کشورهای خاصی قابل دسترسی است. ورود از IP غیر از آن منطقه — این هم 403 است.
  • اثر انگشت مرورگر با آنچه انتظار می‌رود مطابقت ندارد. اگر شما از پروکسی در ترکیب با مرورگر ضد شناسایی (Dolphin Anty، AdsPower، Multilogin، GoLogin) استفاده می‌کنید و اثر انگشت مرورگر با موقعیت جغرافیایی اعلام شده IP مطابقت ندارد — به عنوان مثال، IP از روسیه، اما منطقه زمانی و زبان سیستم انگلیسی است — سایت ممکن است بر اساس مجموعه‌ای از ویژگی‌ها مسدود شود.

راه‌حل برای 403های مداوم: انتقال از پروکسی دیتاسنتر به پروکسی‌های مقیم. این IPهای ارائه‌دهندگان واقعی خانگی هستند — آنها در لیست دامنه‌های ابری نیستند و برای سایت به عنوان یک بازدیدکننده عادی از خانه به نظر می‌رسند. برای شبکه‌های اجتماعی و پلتفرم‌های تبلیغاتی که 403 با درخواست تأیید دستگاه همراه است، اغلب تنها پروکسی‌های موبایل نجات‌دهنده هستند — آنها به IPهای اپراتورهای تلفن همراه متصل هستند و حداقل شک و تردید را حتی در هنگام بررسی‌های شدید ایجاد می‌کنند.

خطای 429 Too Many Requests: شما را از نظر سرعت تحت فشار قرار می‌دهند، نه از نظر شخصیت

429 — این به این معنی نیست که شما کی هستید، بلکه به این معنی است که شما چقدر به سرور ضربه می‌زنید. محدودیت نرخ زمانی فعال می‌شود که از یک IP یا جلسه بیشتر از تعداد مجاز درخواست‌ها در یک واحد زمان ارسال شود. سناریوی معمولی: شما نظارت بر قیمت‌های رقبا را در Ozon تنظیم کرده‌اید و تصمیم گرفته‌اید کل کاتالوگ را هر 5 دقیقه با یک IP مشابه بررسی کنید — سرور به سرعت محدودیت را تعیین کرده و به جای داده‌ها 429 را ارسال می‌کند.

اشتباه کلیدی مبتدیان — در صورت دریافت 429 بلافاصله نوع پروکسی را به نوع گران‌تر تغییر دهند، در حالی که مشکل به‌طور دیگری حل می‌شود:

  • فرکانس درخواست‌ها را کاهش دهید. تأخیرهایی بین درخواست‌ها اضافه کنید (2-5 ثانیه برای پارس کردن بازارها — معمولاً کافی است).
  • IP را بیشتر بچرخانید. اگر یک IP مشابه 100 درخواست متوالی ارسال کند، محدودیت ایجاد خواهد شد صرف نظر از نوع پروکسی. در اینجا چرخش برای هر درخواست یا هر N درخواست کمک می‌کند.
  • حجم IP را افزایش دهید. اگر هدف این است که سرعت جمع‌آوری داده‌ها را بالا نگه دارید، به IPهای بیشتری نیاز دارید که بار را توزیع می‌کنند، نه یک IP جداگانه "با کیفیت" بالاتر.

برای پارس کردن انبوه، جایی که سرعت مهم‌تر از ناشناس بودن است (به عنوان مثال، جمع‌آوری قیمت‌های عمومی بدون احراز هویت)، پروکسی‌های دیتاسنتر بسیار مناسب هستند — آنها سریع‌تر و ارزان‌تر هستند و محدودیت‌های سرعت با افزایش حجم و چرخش صحیح حل می‌شوند، نه با تغییر نوع IP.

کپچا: سایت به شما فرصتی می‌دهد، اما به خودکار بودن مشکوک است

کپچا — وضعیت موقتی بین "همه چیز خوب است" و "دسترسی مسدود شده است". سایت نشانه‌هایی را می‌بیند که شبیه به ربات است: فاصله‌های بسیار صحیح بین اقدامات، عدم حرکت ماوس، مجموعه غیرمعمولی از هدرهای HTTP، IP از دامنه‌ای که معمولاً با خودکار بودن مرتبط است. به جای 403 سخت، او به شما این فرصت را می‌دهد که ثابت کنید که شما انسان هستید.

کپچا مکرر — این یک علامت است که مشکل در مسدود شدن به‌طور خاص نیست، بلکه در الگوهای رفتاری و شهرت IP است. اگر کپچا در Instagram یا TikTok هنگام ثبت‌نام حساب‌های جدید ظاهر می‌شود، تقریباً همیشه مشکل در ترکیب است: IP دیتاسنتر + حساب جدید + اقدامات ناگهانی بدون "گرم کردن". در این صورت تغییر پروکسی به پروکسی مقیم یا موبایل، فرکانس کپچا را به شدت کاهش می‌دهد، زیرا شهرت چنین IPهایی بالاتر است — از آنها کاربران واقعی وارد می‌شوند، نه فقط ربات‌ها.

مورد دوم رایج — کپچا در بازارها هنگام پارس کردن بدون احراز هویت. در اینجا نه تنها تغییر نوع پروکسی کمک می‌کند، بلکه شبیه‌سازی رفتار انسانی نیز کمک می‌کند: تأخیرهای تصادفی، اسکرول قبل از کلیک، User-Agent واقعی. پروکسی بخشی از شک و تردیدها را برطرف می‌کند، اما جایگزین رفتار صحیح اسکریپت یا سناریو در مرورگر ضد شناسایی نمی‌شود.

جدول: کد خطا → دلیل احتمالی → نوع پروکسی

کد / علامت دلیل احتمالی چه چیزی را تغییر دهیم نوع پروکسی پیشنهادی
403 Forbidden با اولین درخواست IP در پایگاه داده دامنه‌های دیتاسنتر نوع IP، نه تعداد درخواست‌ها پروکسی‌های مقیم
403 هنگام ورود به شبکه اجتماعی / پنل تبلیغاتی عدم تطابق اثر انگشت و موقعیت جغرافیایی IP تنظیمات مرورگر ضد شناسایی + IP پروکسی‌های موبایل
429 Too Many Requests حد درخواست‌ها از یک IP تجاوز شده است فرکانس درخواست‌ها، چرخش، اندازه حجم پروکسی‌های دیتاسنتر (با چرخش)
کپچا هنگام ثبت‌نام حساب‌های جدید شهرت پایین IP + حساب جدید شهرت IP و "گرم کردن" حساب پروکسی‌های موبایل
کپچا هنگام پارس کردن انبوه بدون ورود الگوهای رفتاری ربات شبیه‌سازی رفتار + تغییر IP پروکسی‌های مقیم

موارد عملی: Wildberries، Ozon، Instagram، Facebook Ads

Wildberries و Ozon: نظارت بر قیمت‌ها

فروشندگانی که قیمت‌های رقبا را نظارت می‌کنند، بیشتر با 429 مواجه می‌شوند تا با 403. بازارها سرعت درخواست‌ها را در سطح API و رابط وب محدود می‌کنند. راه‌حل صحیح — به دنبال نوع پروکسی "الیت" نباشید، بلکه یک حجم از چند صد IP دیتاسنتر را با چرخش برای هر درخواست یا هر چند درخواست تنظیم کنید، به علاوه تأخیر 1-3 ثانیه بین درخواست‌ها به یک محصول. اگر بعد از این کپچا شروع به ظاهر شدن کرد — آن زمان است که باید IPهای مقیم را متصل کنید، زیرا کپچا در این صورت به مشکلات رفتاری، نه سرعت اشاره می‌کند.

Instagram و TikTok: فارم و مدیریت حساب‌ها

متخصصان SMM که 20-30 حساب کاربری مشتریان را از طریق Dolphin Anty یا AdsPower مدیریت می‌کنند، معمولاً 403 یا درخواست تأیید تلفن را بلافاصله پس از اتصال IP دیتاسنتر به پروفایل جدید مشاهده می‌کنند. این یک نشانه کلاسیک است که نیاز به انتقال به پروکسی‌های موبایل دارید — Instagram و TikTok به‌ویژه به نوع IP در هنگام کار با حساب‌های جدید یا "سرد" حساس هستند.

Facebook Ads: فارم حساب‌های تبلیغاتی

آربیتراژکنندگان که 10-20 حساب تبلیغاتی را راه‌اندازی می‌کنند، اغلب مسدودیت را نه به عنوان یک 403 واضح در سطح شبکه، بلکه به عنوان یک مسدودیت در سطح حساب پس از یک سری اقدامات مشکوک دریافت می‌کنند. در اینجا کد خطا همیشه به‌طور مستقیم قابل مشاهده نیست، اما منطق همان است: اگر مسدودیت‌ها به صورت دسته‌ای بلافاصله پس از تغییر IP به دامنه دیتاسنتر جدید رخ دهند — مشکل در نوع پروکسی است. انتقال به IPهای مقیم یا موبایل با زیرشبکه منحصر به فرد برای هر حساب، مسدودیت‌های زنجیره‌ای را کاهش می‌دهد (زمانی که مسدودیت یک حساب، سایر حساب‌های مرتبط با همان IP را به همراه دارد).

چک‌لیست تشخیص قبل از تغییر پروکسی

  1. کد خطای دقیق (403، 429، 503) یا نوع کپچا را ثبت کنید — نه فقط "باز نشد".
  2. بررسی کنید که آیا کد از اولین درخواست تکرار می‌شود (نشانه 403 — نوع IP) یا پس از یک سری درخواست‌ها (نشانه 429 — سرعت).
  3. نوع پروکسی فعلی را بررسی کنید: دیتاسنتر، مقیم یا موبایل.
  4. اگر 403 با اولین درخواست است — به IPهای مقیم یا موبایل بروید.
  5. اگر 429 است — ابتدا فرکانس درخواست‌ها را کاهش دهید و حجم IP را افزایش دهید، بدون تغییر نوع.
  6. اگر کپچا در حساب‌های جدید ظاهر می‌شود — تطابق موقعیت جغرافیایی IP و تنظیمات مرورگر ضد شناسایی (منطقه زمانی، زبان، وضوح صفحه) را بررسی کنید.
  7. تغییرات را بر روی 2-3 حساب یا درخواست‌ها قبل از پیاده‌سازی انبوه آزمایش کنید.

نتیجه‌گیری و توصیه‌ها

کد خطا — این فقط یک جزئیات فنی نیست، بلکه یک نشانه مستقیم از سایت درباره دلیل مسدود شدن است. 403 به این معنی است که نوع IP یا ترکیب آن با اثر انگشت مرورگر مناسب نیست. 429 به سرعت درخواست‌ها اشاره دارد و نیاز به چرخش و تأخیر دارد، نه تغییر دسته پروکسی. کپچا به مشکلات رفتاری و شهرت اشاره می‌کند که با ترکیب پروکسی و شبیه‌سازی صحیح اقدامات کاربر حل می‌شود.

اگر شما به‌طور منظم 403 را هنگام کار با شبکه‌های اجتماعی یا پنل‌های تبلیغاتی مشاهده می‌کنید، با انتقال به پروکسی‌های مقیم شروع کنید — آنها IPهای کاربران واقعی و حداقل خطر مسدودیت فوری را فراهم می‌کنند. برای فارم حساب‌ها و وظایفی که در آن شباهت حداکثری با ترافیک موبایل عادی مهم است، بهتر است از پروکسی‌های موبایل استفاده کنید. و اگر مشکل اصلی شما — 429 در جمع‌آوری انبوه داده‌ها از بازارها است، جایی که سرعت و حجم مهم است، بهتر است از پروکسی‌های دیتاسنتر با چرخش به‌خوبی تنظیم‌شده استفاده کنید. انتخاب صحیح نوع پروکسی بر اساس کد خطای خاص، بودجه را صرفه‌جویی کرده و از چرخه بی‌پایان "پروکسی را عوض کردم — دوباره مسدود شدم" جلوگیری می‌کند.