← Back to Blog

Ollama प्रॉक्सी के लिए: HTTP_PROXY कैसे सेट करें और मॉडल पुल करने में त्रुटियों को ठीक करें

Ollama को प्रॉक्सी सर्वर के पीछे सेटअप करने का विस्तृत विश्लेषण - पर्यावरण चर से लेकर मॉडल खींचने में त्रुटियों का निदान और उपयुक्त प्रॉक्सी प्रकार का चयन।

📅November 16, 2026

यदि आप ollama pull के माध्यम से एक मॉडल डाउनलोड करने की कोशिश कर रहे हैं कॉर्पोरेट नेटवर्क, VPN के पीछे या बाहरी प्रॉक्सी सर्वर के माध्यम से, तो आप निश्चित रूप से पहले से ही त्रुटियों का सामना कर चुके हैं dial tcp: lookup registry.ollama.ai या context deadline exceeded. डिफ़ॉल्ट रूप से, Ollama हमेशा सिस्टम प्रॉक्सी सेटिंग्स को सही ढंग से नहीं उठाता है, और मॉडल का बड़ा आकार (2 से 70+ जीबी) समस्या को बढ़ा देता है — कनेक्शन डाउनलोड के बीच में टूट जाता है। इस लेख में, हम देखेंगे कि कैसे सही तरीके से पर्यावरण चर सेट करें, Docker और systemd में प्रॉक्सी सेट करें, और सबसे सामान्य पुल त्रुटियों का विश्लेषण करें और उन्हें ठीक करने के तरीके।

Ollama नेटवर्क और प्रॉक्सी के साथ कैसे काम करता है

Ollama एक क्लाइंट-सर्वर एप्लिकेशन है: स्थानीय सर्वर (ollama serve) CLI से कमांड प्राप्त करता है और मॉडल रजिस्ट्री registry.ollama.ai और CDN पर नेटवर्क अनुरोध करता है, जहां मॉडल के लेयर (layers) संग्रहीत होते हैं। कमांड ollama pull llama3 वास्तव में HTTPS अनुरोधों की एक श्रृंखला को निष्पादित करता है, जो Docker पुल के समान है: पहले मॉडल का मैनिफेस्ट अनुरोध किया जाता है, फिर क्रमशः या समानांतर में बाइनरी लेयर (GGUF-फाइलों का वजन) डाउनलोड किया जाता है।

एक महत्वपूर्ण बिंदु: नेटवर्क अनुरोध वास्तव में सर्वर प्रक्रिया Ollama द्वारा किए जाते हैं, न कि CLI कमांड द्वारा। इसका मतलब है कि प्रॉक्सी सेटिंग्स के साथ पर्यावरण चर को उस स्थान पर सेट करना चाहिए जहां ollama serve प्रक्रिया चल रही है, न कि उस टर्मिनल में जहां आप ollama pull का उपयोग कर रहे हैं। यदि सेवा systemd-यूनिट के रूप में या Docker कंटेनर में चल रही है, तो सामान्य bash सत्र में चर का निर्यात इसे प्रभावित नहीं करेगा — यह सबसे सामान्य कारण है कि "प्रॉक्सी जैसे सेट है, लेकिन पुल फिर भी काम नहीं कर रहा है"।

HTTP_PROXY, HTTPS_PROXY, NO_PROXY पर्यावरण चर

Ollama Go में लिखा गया है, और Go की मानक HTTP लाइब्रेरी प्रॉक्सी सेटिंग्स को पारंपरिक पर्यावरण चर से पढ़ती है:

  • HTTP_PROXY — सामान्य HTTP अनुरोधों के लिए प्रॉक्सी
  • HTTPS_PROXY — HTTPS अनुरोधों के लिए प्रॉक्सी (इसी की आवश्यकता है मॉडल डाउनलोड करने के लिए, क्योंकि रजिस्ट्री TLS पर काम करती है)
  • NO_PROXY — उन होस्टों की सूची जिन्हें प्रॉक्सीकरण से बाहर रखा जाना चाहिए (उदाहरण के लिए, 127.0.0.1:11434 पर Ollama का स्थानीय API)

मान का प्रारूप: http://user:password@host:port प्रॉक्सी के लिए जो प्रमाणीकरण के साथ है या socks5://host:port SOCKS5 के लिए। Go दोनों विकल्पों का समर्थन करता है, लेकिन SOCKS5 के लिए यह महत्वपूर्ण है कि Ollama बाइनरी इस प्रॉक्सी के समर्थन के साथ संकलित हो — अधिकांश वर्तमान निर्माणों में ऐसा होता है, लेकिन त्रुटियों के मामले में पहले HTTP/HTTPS-प्रॉक्सी पर परीक्षण करना बेहतर होता है, ताकि इस चर को बाहर किया जा सके।

महत्वपूर्ण: चर को छोटे और बड़े दोनों अक्षरों में निर्दिष्ट करें (http_proxy और HTTP_PROXY). कुछ Linux वितरण केवल छोटे अक्षरों को पढ़ते हैं, जबकि Go एप्लिकेशन कभी-कभी बड़े अक्षरों की अपेक्षा करते हैं — बेहतर है कि दोनों विकल्प सेट करें, ताकि अनुमान न लगाना पड़े।

Linux और macOS पर सेटअप

यदि आप सीधे टर्मिनल से Ollama चला रहे हैं (सिस्टम सेवा के रूप में नहीं), तो सर्वर शुरू करने से पहले पर्यावरण चर को निर्यात करना पर्याप्त है:

export HTTP_PROXY="http://user:[email protected]:8000"
export HTTPS_PROXY="http://user:[email protected]:8000"
export http_proxy="http://user:[email protected]:8000"
export https_proxy="http://user:[email protected]:8000"
export NO_PROXY="localhost,127.0.0.1"

ollama serve &
ollama pull llama3

सेटिंग्स को सत्रों के बीच बनाए रखने के लिए, इन पंक्तियों को ~/.bashrc, ~/.zshrc या ~/.profile में जोड़ें, जो भी शेल आप उपयोग कर रहे हैं। संपादन के बाद, source ~/.bashrc चलाएं और Ollama प्रक्रिया को पुनः प्रारंभ करें — पर्यावरण चर केवल प्रक्रिया शुरू करते समय पढ़े जाते हैं, गर्म पुनः लोडिंग की अनुमति नहीं है।

macOS पर, यदि Ollama एक एप्लिकेशन के रूप में स्थापित है (Homebrew के माध्यम से नहीं), तो टर्मिनल से पर्यावरण चर प्रक्रिया तक नहीं पहुंच सकते हैं, जो GUI के माध्यम से शुरू की गई है। इस मामले में, launchctl setenv के माध्यम से चर सेट करना अधिक विश्वसनीय है:

launchctl setenv HTTPS_PROXY "http://user:[email protected]:8000"
launchctl setenv HTTP_PROXY "http://user:[email protected]:8000"
# इसके बाद Ollama एप्लिकेशन को पूरी तरह से पुनः प्रारंभ करें (ट्रे से बाहर निकलें, केवल विंडो बंद करने से नहीं)

Windows पर सेटअप

PowerShell में, चर को वर्तमान सत्र के लिए इस कमांड से सेट किया जाता है:

$env:HTTP_PROXY="http://user:[email protected]:8000"
$env:HTTPS_PROXY="http://user:[email protected]:8000"
$env:NO_PROXY="localhost,127.0.0.1"

ollama pull mistral

यदि Ollama एक बैकग्राउंड सेवा के रूप में चल रही है (सिस्टम ट्रे में आइकन), तो सत्रीय चर पर्याप्त नहीं हैं — सेवा लॉगिन के समय शुरू होती है इससे पहले कि आप PowerShell खोलें। आपको चर को उपयोगकर्ता या सिस्टम स्तर पर सेट करना होगा "सेटिंग्स → सिस्टम → बारे में → सिस्टम के लिए अतिरिक्त सेटिंग्स → पर्यावरण चर", इसके बाद पूरी तरह से प्रक्रिया को समाप्त करना होगा ollama.exe को टास्क मैनेजर के माध्यम से और एप्लिकेशन को पुनः प्रारंभ करें।

Docker में Ollama के लिए प्रॉक्सी

यदि Ollama एक कंटेनर में चल रही है (सर्वर तैनाती के लिए सामान्य मामला), तो होस्ट के पर्यावरण चर स्वचालित रूप से कंटेनर के अंदर नहीं जाते हैं — उन्हें स्पष्ट रूप से -e या environment अनुभाग के माध्यम से docker-compose में पास करना होगा:

docker run -d \
  -e HTTP_PROXY="http://user:[email protected]:8000" \
  -e HTTPS_PROXY="http://user:[email protected]:8000" \
  -e NO_PROXY="localhost,127.0.0.1" \
  -v ollama:/root/.ollama \
  -p 11434:11434 \
  --name ollama ollama/ollama

इसी तरह docker-compose.yml में:

version: "3.8"
services:
  ollama:
    image: ollama/ollama
    environment:
      - HTTP_PROXY=http://user:[email protected]:8000
      - HTTPS_PROXY=http://user:[email protected]:8000
      - NO_PROXY=localhost,127.0.0.1
    volumes:
      - ollama:/root/.ollama
    ports:
      - "11434:11434"
volumes:
  ollama:

चर को बदलने के बाद, कंटेनर को पुनः बनाना होगा (docker compose up -d --force-recreate), साधारण रीस्टार्ट पर्याप्त नहीं है, क्योंकि पर्यावरण चर कंटेनर बनाने के समय तय होते हैं।

Ollama systemd सेवा के लिए प्रॉक्सी

Linux सर्वरों पर, Ollama अक्सर आधिकारिक इंस्टॉल स्क्रिप्ट के माध्यम से systemd सेवा के रूप में स्थापित किया जाता है। इस मामले में, पर्यावरण चर को ओवरराइड फ़ाइल के माध्यम से सेट किया जाता है, न कि टर्मिनल में export के माध्यम से:

sudo systemctl edit ollama.service

खुले संपादक में जोड़ें:

[Service]
Environment="HTTP_PROXY=http://user:[email protected]:8000"
Environment="HTTPS_PROXY=http://user:[email protected]:8000"
Environment="NO_PROXY=localhost,127.0.0.1"

फिर परिवर्तनों को लागू करें:

sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property Environment

अंतिम कमांड दिखाएगी कि प्रक्रिया वास्तव में कौन से चर देखती है — यह सुनिश्चित करने का एक सुविधाजनक तरीका है कि कॉन्फ़िगरेशन लागू हो गया है, इससे पहले कि फिर से पुल करने की कोशिश करें।

पुल त्रुटियों का विश्लेषण और उनका समाधान

प्रॉक्सी के माध्यम से मॉडल डाउनलोड करते समय सबसे सामान्य त्रुटि संदेशों का विश्लेषण करें और उनके साथ क्या करना है।

dial tcp: lookup registry.ollama.ai: कोई ऐसा होस्ट नहीं है

DNS-रेसोल्विंग प्रॉक्सी के पीछे काम नहीं कर रहा है — आमतौर पर इसका मतलब है कि अनुरोध सीधे जाने की कोशिश कर रहा है, प्रॉक्सी सर्वर को बायपास करते हुए, या मशीन पर DNS तक पहुंच नहीं है (बंद कॉर्पोरेट नेटवर्क)। समाधान: सुनिश्चित करें कि HTTPS_PROXY वास्तव में प्रक्रिया द्वारा उठाया गया है (ऊपर systemctl show कमांड देखें), और यह कि प्रॉक्सी सर्वर स्वयं बाहरी डोमेन को रेसोल्व कर सकता है (SOCKS5-प्रॉक्सी DNS को अपनी तरफ से रेसोल्व करता है, HTTP-प्रॉक्सी — भी, लेकिन कुछ स्थानीय प्रॉक्सी ऐसा नहीं करते)।

proxyconnect tcp: dial tcp: कनेक्शन अस्वीकृत

Ollama प्रॉक्सी से कनेक्ट करने की कोशिश कर रहा है, लेकिन अस्वीकृति प्राप्त कर रहा है। टाइपिंग के लिए पोर्ट और होस्ट की जाँच करें, सुनिश्चित करें कि प्रॉक्सी सर्वर वास्तव में सुन रहा है निर्दिष्ट पोर्ट से बाहर (केवल localhost पर नहीं), और यह कि फ़ायरवॉल प्रॉक्सी पोर्ट के लिए आउटगोइंग कनेक्शन को अवरुद्ध नहीं कर रहा है।

407 प्रॉक्सी प्रमाणीकरण आवश्यक

प्रॉक्सी लॉगिन और पासवर्ड की मांग कर रहा है, लेकिन उन्हें नहीं भेजा गया है या गलत भेजा गया है। सुनिश्चित करें कि पर्यावरण चर में लॉगिन और पासवर्ड URL में एम्बेडेड हैं प्रारूप में http://user:password@host:port, और पासवर्ड में विशेष वर्ण (जैसे @ या :) URL-एन्कोडिंग के माध्यम से एन्कोडेड हैं (%40, %3A).

x509: अज्ञात प्राधिकरण द्वारा हस्ताक्षरित प्रमाणपत्र

यह एक कॉर्पोरेट प्रॉक्सी का संकेत है जिसमें TLS निरीक्षण (MITM) है, जो SSL प्रमाणपत्र को अपने रूट से बदलता है। Go-क्लाइंट Ollama को इस प्रमाणपत्र पर भरोसा नहीं है। समाधान — कॉर्पोरेट रूट प्रमाणपत्र को सिस्टम के विश्वसनीय प्रमाणपत्र प्राधिकरण के स्टोर में जोड़ना (Linux पर आमतौर पर update-ca-certificates के माध्यम से .crt फ़ाइल को कॉपी करने के बाद)। प्रमाणपत्रों की जांच को वैश्विक रूप से बंद करना अनुशंसित नहीं है — यह ट्रैफ़िक को इंटरसेप्ट करने का रास्ता खोलता है।

context deadline exceeded / i/o timeout जब लेयर डाउनलोड कर रहे हैं

कनेक्शन बड़े मॉडल लेयर के डाउनलोड के बीच में टूट जाता है (अक्सर 4-40 जीबी के फ़ाइलें)। इस तरह की त्रुटि लगभग हमेशा प्रॉक्सी सर्वर की अस्थिरता या निम्न बैंडविड्थ को इंगित करती है, न कि स्वयं Ollama को। मुफ्त या ओवरलोडेड सार्वजनिक प्रॉक्सी लंबे TCP सत्रों को तोड़ते हैं, खासकर यदि डाउनलोड में कुछ मिनट से अधिक समय लगता है। ऐसे मामलों में, अधिक स्थिर चैनल पर स्विच करना मदद करता है — उदाहरण के लिए, डेटा सेंटर प्रॉक्सी, जो उच्च गति प्रदान करते हैं और बड़े फ़ाइलों को बिना रुकावट के डाउनलोड करने के लिए स्थिर कनेक्शन।

Ollama के लिए कौन सा प्रॉक्सी प्रकार चुनें

प्रॉक्सी के प्रकार का चयन इस बात पर निर्भर करता है कि आपको Ollama के लिए प्रॉक्सी की आवश्यकता क्यों है। यदि कार्य केवल कॉर्पोरेट फ़ायरवॉल के भीतर अपनी ही नेटवर्क की सीमाओं को बायपास करना है, तो लगभग कोई भी स्थिर HTTP(S)-प्रॉक्सी उपयुक्त है। लेकिन यदि लक्ष्य है — रजिस्ट्रियों की भू-प्रतिबंधों को बायपास करना या यह छिपाना कि अनुरोध डेटा सेंटर से आ रहा है (कुछ CDN ज्ञात क्लाउड प्रदाताओं के IP रेंज के लिए गति को सीमित करते हैं), प्रॉक्सी के प्रकार का चयन महत्वपूर्ण हो जाता है।

प्रॉक्सी का प्रकार गति Ollama के लिए कब उपयोग करें
डेटा सेंटर उच्च बड़े मॉडल लेयर (4-40+ जीबी) को बिना रुकावट के डाउनलोड करना, विभिन्न डेटा सेंटर स्थानों से परीक्षण करना
रिहायशी मध्यम रजिस्ट्रियों की भू-प्रतिबंधों को बायपास करना, जब डेटा सेंटर का IP क्षेत्रीय दर-सीमा में आता है
मोबाइल परिवर्तनशील IP प्रदाताओं के रेंज में पूर्ण ब्लॉक होने की स्थिति में अंतिम उपाय, गति में उतार-चढ़ाव के कारण बड़े डाउनलोड के लिए कम प्रभावी

Ollama के अधिकांश परिदृश्यों के लिए — जब केवल कई गीगाबाइट वजन वाले मॉडल को स्थिर रूप से डाउनलोड करना हो — सबसे अच्छा विकल्प डेटा सेंटर प्रॉक्सी हैं: वे अधिकतम बैंडविड्थ प्रदान करते हैं और न्यूनतम विलंबता, जो बड़े बाइनरी लेयर्स को डाउनलोड करते समय महत्वपूर्ण है। रिहायशी IP केवल तभी जोड़ना चाहिए जब डेटा सेंटर के पते वास्तव में रजिस्ट्रियों की तरफ से प्रतिबंधों के अधीन हों।

कनेक्शन का निदान

Ollama की स्वयं की समस्या निवारण में समय बर्बाद करने से पहले, प्रॉक्सी को सीधे curl के माध्यम से जांचें — यह एप्लिकेशन में समस्या और प्रॉक्सी सर्वर में समस्या के बीच भ्रम को समाप्त करेगा:

# प्रॉक्सी के माध्यम से रजिस्ट्री की उपलब्धता की जांच
curl -v -x http://user:[email protected]:8000 https://registry.ollama.ai/v2/

# प्रॉक्सी के माध्यम से डाउनलोड गति का मापन
curl -x http://user:[email protected]:8000 -o /dev/null -w "%{speed_download}\n" https://registry.ollama.ai/v2/

# विस्तृत लॉग के साथ ollama serve चलाना
OLLAMA_DEBUG=1 ollama serve

यदि curl सफलतापूर्वक उत्तर प्राप्त करता है, और ollama pull फिर भी गिरता है — समस्या लगभग निश्चित रूप से इस बात में है कि पर्यावरण चर सर्वर प्रक्रिया तक नहीं पहुंचे (सेवा एक अन्य उपयोगकर्ता के साथ, एक अन्य शेल से या ओवरराइड के बिना systemd-यूनिट के रूप में चल रही है)। systemd अनुभाग पर वापस जाएं और systemctl show ollama --property Environment का आउटपुट जांचें।

यदि curl भी बड़े फ़ाइल के डाउनलोड पर टूटता है या अस्थिर गति दिखाता है — तो समस्या प्रॉक्सी सर्वर की तरफ है, और अधिक स्थिर डेटा ट्रांसफर के लिए प्रॉक्सी प्रदाता को बदलने पर विचार करना चाहिए।

निष्कर्ष

प्रॉक्सी के पीछे Ollama को सेट करना तीन प्रमुख बिंदुओं पर निर्भर करता है: पर्यावरण चर को विशेष रूप से प्रक्रिया के लिए सेट किया जाना चाहिए ollama serve, न कि उस टर्मिनल के लिए जहां आप पुल का उपयोग कर रहे हैं; प्रॉक्सी का URL प्रारूप सही ढंग से एन्कोडेड लॉगिन और पासवर्ड शामिल करना चाहिए; और प्रमाणपत्र त्रुटियों के मामले में, कॉर्पोरेट रूट प्रमाणपत्र को विश्वसनीय स्टोर में जोड़ना चाहिए, न कि TLS जांच को बंद करना चाहिए। अधिकांश पुल त्रुटियाँ — यह स्वयं Ollama की बग नहीं हैं, बल्कि इस बात का परिणाम हैं कि नेटवर्क सेटिंग्स आवश्यक प्रक्रिया पर लागू नहीं हुईं या प्रॉक्सी सर्वर बड़े फ़ाइलों के लंबे ट्रांसफर को सहन नहीं कर पा रहा है।

यदि आपका मुख्य कार्य बड़े गीगाबाइट वजन वाले मॉडल को बिना कनेक्शन टूटने के स्थिरता और तेजी से डाउनलोड करना है, तो हम अनुशंसा करते हैं डेटा सेंटर प्रॉक्सी को आजमाने के लिए — वे उच्च बैंडविड्थ प्रदान करते हैं, जो बड़े मॉडल लेयर्स को डाउनलोड करने के लिए आवश्यक है। और यदि प्रॉक्सी का उपयोग करने का कारण रजिस्ट्रियों की भू-प्रतिबंधों को बायपास करना है, तो रिहायशी प्रॉक्सी पर ध्यान दें, जो क्षेत्रीय सीमाओं के तहत कम आती हैं, जो क्लाउड प्रदाताओं के IP रेंज पर लागू होती हैं।