Wildberriesの価格をパースしたり、20のInstagramアカウントを運営したり、Facebook Adsを通じて広告を流したりしていると、遅かれ早かれ、403エラー、429エラー、またはCAPTCHAのいずれかに遭遇します。ほとんどの初心者は同じように反応し、プロキシを別のものに変更して、うまくいくことを期待します。実際、各エラーコードは、特定のブロックの理由を示すサイトからのメッセージであり、それに基づいて問題を解決するためのプロキシの種類を正確に特定できます:データセンター、居住用、またはモバイルです。
エラーコードがブロックの事実より重要な理由
サイトがリクエストをブロックすると、ほとんどの場合、HTTPステータスコードを返します。これは、ブラウザやパーサーがページと共に受け取る標準的な「ラベル」です。問題は、多くのアンチデテクトブラウザやパーサーのユーザーが「開かなかった」という事実だけを見て、どのコードが返されたかを確認しないことです。しかし、違いは大きいです。403は、サイトがあなたを望ましくない訪問者として認識し、意図的にアクセスを閉じたことを意味します。429は、あなたが物理的にリクエストの制限を超えたことを意味します。サイトはあなた個人に対して反対しているわけではなく、ただサーバーをそんなに頻繁に叩かないでほしいのです。CAPTCHAは中間ステータスです。サイトはあなたが人間かボットか疑っており、反証するチャンスを与えています。
これらの状況はそれぞれ異なる解決策を必要とします。403を受け取って、単に1つのデータセンタープロキシを別の同じものに変更しても、再び403を受け取ることになります。なぜなら、原因は特定のIPではなく、IPのカテゴリにあるからです。429を受け取って、高価なモバイルプロキシを購入する代わりにリクエストの頻度を下げると、予算を無駄にすることになります。なぜなら、問題はIPの種類ではなく、リクエストの速度にあるからです。エラーコードを理解することで、プロキシにかかる時間とお金を節約できます。
403 Forbiddenエラー: サイトがあなたを認識し、入れたくない
403は意図的な拒否です。サイトはあなたのリクエストを受け取り、処理し、このIPまたはこの特定の特徴のセットにはアクセスが許可されていないと判断しました。403が発生する主な理由は3つです:
- データセンターの「ブラックリスト」からのIP。 Wildberries、Ozon、Avitoなどのサイトやほとんどのソーシャルメディアは、クラウドプロバイダー(AWS、Google Cloud、DigitalOceanなど)に属するIPアドレスの範囲のデータベースを維持しています。あなたのプロキシがデータセンターのもので、そのサブネットが他のパーサーによって「露出」している場合、最初のリクエストから403を受け取ります。
- 地理的制限(ジオブロック)。 一部のコンテンツや広告アカウントは特定の国からのみアクセス可能です。異なる地域のIPからのアクセスも403になります。
- ブラウザのフィンガープリントが期待されるものと一致しない。 あなたがアンチデテクトブラウザ(Dolphin Anty、AdsPower、Multilogin、GoLogin)とプロキシを使用している場合、ブラウザのフィンガープリントがIPの地理的位置に一致しない場合(例えば、ロシアのIPで、タイムゾーンと言語が英語の場合)、サイトは特徴の組み合わせに基づいてブロックすることがあります。
常に403が発生する場合の解決策:データセンタープロキシから居住用プロキシに移行することです。これは実際の家庭プロバイダーのIPであり、クラウド範囲のリストには載っておらず、サイトには自宅からの通常の訪問者のように見えます。403がデバイスの確認を伴うソーシャルメディアや広告プラットフォームでは、しばしばモバイルプロキシのみが救済となります。これらは携帯電話会社のIPに関連付けられており、攻撃的なチェックでも最小限の疑念を引き起こします。
429 Too Many Requestsエラー: あなたは個人に対してではなく、速度で追い立てられている
429は、あなたが誰であるかではなく、どれだけ頻繁にサーバーにアクセスしているかに関するものです。レート制限は、1つのIPまたはセッションから許可された時間単位あたりのリクエスト数を超えると発生します。典型的なシナリオは、あなたがOzonで競合の価格を監視するために設定し、同じIPで5分ごとにカタログ全体をチェックすることにした場合です。サーバーはすぐに制限を設け、データの代わりに429を返し始めます。
初心者の主要な誤りは、429が発生したときにすぐにプロキシの種類を高価なものに変更することですが、問題は別の方法で解決できます:
- リクエストの頻度を下げる。 リクエスト間に遅延を追加します(マーケットプレイスのパースには通常2〜5秒で十分です)。
- IPをより頻繁にローテーションする。 同じIPが連続して100回リクエストを行うと、プロキシの種類に関係なく制限が発生します。ここでは、各リクエストまたはNリクエストごとにローテーションが役立ちます。
- IPプールを増やす。 データ収集の速度を維持することが目的であれば、負荷を分散するためにより多くのIPアドレスが必要であり、より「質の高い」個別のIPではありません。
大量のパースにおいて、速度が匿名性よりも重要な場合(例えば、認証なしで公開価格を収集する場合)、データセンタープロキシが適しています。これらはより速く、安価であり、速度の制限はプールの増加と適切なローテーションによって解決され、IPの種類を変更する必要はありません。
CAPTCHA: サイトはあなたにチャンスを与えますが、自動化を疑っています
CAPTCHAは「すべて正常」と「アクセスが閉じられた」の間の中間ステータスです。サイトはボットに似た兆候を見ています:行動間の間隔があまりにも正確すぎる、マウスの動きがない、HTTPヘッダーのセットが非典型的である、そして自動化とよく関連付けられる範囲のIPからのアクセス。厳しい403の代わりに、あなたが人間であることを確認する機会を与えています。
頻繁なCAPTCHAは、問題がブロックそのものにあるのではなく、行動パターンとIPの評判にあることを示しています。新しいアカウントを登録する際にInstagramやTikTokでCAPTCHAが表示される場合、ほとんどの場合、データセンターIP + 新しいアカウント + 「ウォーミングアップ」なしの急激な行動の組み合わせに起因します。この場合、居住用またはモバイルプロキシに切り替えることでCAPTCHAの頻度が大幅に減少します。なぜなら、これらのIPの評判が高く、実際のユーザーがアクセスするからです。
もう一つの一般的なケースは、認証なしでパースする際のマーケットプレイスでのCAPTCHAです。ここでは、プロキシの種類を変更するだけでなく、人間の行動を模倣することも役立ちます:ランダムな遅延、クリック前のスクロール、リアルなUser-Agent。プロキシは疑念の一部を取り除きますが、アンチデテクトブラウザでのスクリプトやシナリオの正しい行動を置き換えるものではありません。
表: エラーコード → 可能性のある原因 → プロキシの種類
| コード / 症状 | 可能性のある原因 | 変更すべきこと | 推奨プロキシの種類 |
|---|---|---|---|
| 最初のリクエストで403 Forbidden | データセンターの範囲にあるIP | リクエストの数ではなくIPの種類 | 居住用プロキシ |
| ソーシャルネットワーク / 広告アカウントへのログイン時の403 | フィンガープリントとIPの地理的位置の不一致 | アンチデテクトブラウザの設定 + IP | モバイルプロキシ |
| 429 Too Many Requests | 1つのIPからのリクエスト制限を超えた | リクエストの頻度、ローテーション、プールのサイズ | データセンタープロキシ(ローテーション付き) |
| 新しいアカウント登録時のCAPTCHA | 低いIPの評判 + 新しいアカウント | IPの評判とアカウントの「ウォーミングアップ」 | モバイルプロキシ |
| 認証なしでの大量パース時のCAPTCHA | ボットの行動パターン | 行動の模倣 + IPの変更 | 居住用プロキシ |
実践ケース: Wildberries、Ozon、Instagram、Facebook Ads
WildberriesとOzon: 価格監視
競合の価格を監視しているセラーは、最も頻繁に429に遭遇し、403には遭遇しません。マーケットプレイスはAPIとウェブインターフェースのレベルでリクエストの速度を制限します。正しい解決策は、「エリート」タイプのプロキシを追い求めるのではなく、数百のデータセンターIPのプールを設定し、各リクエストまたは数回のリクエストごとにローテーションし、さらに1〜3秒の遅延を追加することです。その後、CAPTCHAが表示され始めた場合は、居住用IPを接続する価値があります。なぜなら、この場合のCAPTCHAは行動の問題を示しているからです。
InstagramとTikTok: アカウントのファーミングと管理
Dolphin AntyやAdsPowerを通じて20〜30のクライアントアカウントを運営しているSMM専門家は、通常、データセンタープロキシを新しいプロファイルにリンクした直後に403や電話確認の要求を目にします。これは、モバイルプロキシに切り替える必要があるという古典的な兆候です。InstagramとTikTokは、新しいまたは「冷たい」アカウントで作業する際にIPの種類に特に敏感です。
Facebook Ads: 広告アカウントのファーミング
10〜20の広告アカウントを立ち上げるアービトラージャーは、ネットワークレベルで明示的な403としてではなく、一連の疑わしい行動の後にアカウントレベルでの禁止としてブロックされることがよくあります。ここではエラーコードが直接見えないこともありますが、論理は同じです。新しいデータセンター範囲にIPを変更した直後に禁止が発生する場合、問題はプロキシの種類にあります。居住用またはモバイルIPに切り替え、各アカウントにユニークなサブネットを使用することで、カスケードバン(1つのアカウントのブロックが同じIPに関連付けられた他のアカウントを引きずる)を減少させます。
プロキシを変更する前の診断チェックリスト
- 正確なエラーコード(403、429、503)またはCAPTCHAの種類を記録します。「開かなかった」だけではありません。
- 最初のリクエストからコードが繰り返されるかどうかを確認します(403の兆候はIPの種類)または一連のリクエストの後(429の兆候は速度)。
- 現在のプロキシの種類を確認します:データセンター、居住用、またはモバイル。
- 最初のリクエストで403が発生した場合は、居住用またはモバイルIPに切り替えます。
- 429が発生した場合は、最初にリクエストの頻度を下げ、IPプールを増やし、種類を変更しないでください。
- 新しいアカウントでCAPTCHAが表示される場合は、IPの地理的位置とアンチデテクトブラウザの設定(タイムゾーン、言語、画面解像度)の一致を確認します。
- 大規模な導入の前に、2〜3のアカウントまたはリクエストで変更をテストします。
結論と推奨事項
エラーコードは単なる技術的な詳細ではなく、ブロックの原因についてサイトからの直接的なヒントです。403は、IPの種類やフィンガープリントブラウザとの組み合わせが合っていないことを示しています。429はリクエストの速度について言及しており、プロキシのカテゴリを変更するのではなく、ローテーションと遅延を要求します。CAPTCHAは行動および評判の問題を示しており、プロキシとユーザーの行動の模倣の組み合わせで解決できます。
ソーシャルメディアや広告アカウントで403を定期的に目にする場合は、居住用プロキシに切り替えることから始めてください。これらは実際のユーザーのIPを提供し、即時のブロックのリスクを最小限に抑えます。アカウントのファーミングや通常のモバイルトラフィックとの最大の類似性が重要なタスクには、モバイルプロキシが適しています。そして、あなたの主な問題がマーケットプレイスからの大量データ収集時の429で、速度と量が重要な場合は、適切に設定されたローテーションを持つデータセンタープロキシを使用するのが最も経済的です。特定のエラーコードに対して適切なプロキシの種類を選択することで、予算を節約し、「プロキシを変更したら再び禁止」という無限ループから解放されます。