21 अक्टूबर 2026 को एक ही सुबह में डेटा क्लास के बारे में दो कहानियाँ हुईं - वे रहस्य जो पर्यावरण चर में रहते हैं। 11:39 UTC पर PyPI पर LiteLLM 1.107.0 का एक विषाक्त संस्करण जारी किया गया - यह एक लोकप्रिय गेटवे है जो कई AI एजेंटों और पार्सिंग पाइपलाइनों में उपयोग होता है। उसी दिन क्लाउड प्लेटफ़ॉर्म Railway ने बताया कि एक बाहरी व्यक्ति ग्राहकों के पर्यावरण चर के भंडार तक पहुँच सकता था, और उनमें से कुछ के लिए - डिक्रिप्टेड मानों तक। यदि आपका स्क्रैपर, बॉट या एजेंट Python पर चल रहा है या PaaS में है, तो हम समझते हैं कि क्या लीक हुआ, कैसे खुद की जांच करें और कुंजी बदलने का क्रम क्या होना चाहिए - जिसमें प्रॉक्सी के लॉगिन और पासवर्ड शामिल हैं।
LiteLLM 1.107.0 के साथ क्या हुआ
Datadog Security Labs के अनुसार, अपराधियों ने तीन परियोजना इंजीनियरों के चोरी किए गए OAuth टोकनों का उपयोग किया। उनके माध्यम से उन्होंने LiteLLM का एक बंद रिलीज़ वर्कफ़्लो शुरू किया, लेकिन इसे एक नकली फोर्क Berri-AI/litellm से इकट्ठा किया - यह असली BerriAI/litellm से एक हाइफ़न में भिन्न है। लॉन्च की पुष्टि स्वयं की गई, निशान हटा दिए गए, और निर्माण की उत्पत्ति (provenance) में फोर्क का नाम ही रह गया।
- 11:39 UTC - संस्करण 1.107.0 PyPI पर प्रकाशित हुआ;
- 13:20 UTC - PyPI ने इसे क्वारंटाइन में रखा;
- 13:53 UTC - संक्रमित Docker छवियाँ हटा दी गईं।
विंडो - लगभग दो घंटे, लेकिन Datadog के अनुसार, इस पैकेज के लगभग 23 मिलियन डाउनलोड प्रति सप्ताह हैं। संक्रमित केवल macOS, Linux और Windows के तहत सात व्हील फ़ाइलें ही नहीं थीं, बल्कि GHCR और Docker Hub पर आधिकारिक छवियाँ भी थीं। उस दिन latest, main-latest और main-stable फ्लोटिंग टैग्स ने हानिकारक छवि की ओर इशारा किया। इसका मतलब है कि कोई भी प्रभावित हो सकता था, जिसके कंटेनर को "नवीनतम संस्करण" के साथ फिर से बनाया या पुनः प्रारंभ किया गया था, भले ही उसने स्वयं कुछ भी हाथ से अपडेट नहीं किया हो।
यह 2026 में LiteLLM के साथ दूसरा मामला है: मार्च में संस्करण 1.82.7 और 1.82.8 से समझौता किया गया था। Datadog के अनुसार, घटनाओं के बीच कोई संबंध स्थापित नहीं किया गया है। अंतिम साफ संस्करण - 1.106.2.
क्यों पैकेज को हटाना पर्याप्त नहीं है
हमले की मुख्य चाल - Python का ऑटो-स्टार्ट मैकेनिज्म। पैकेज के साथ site-packages में तीन फ़ाइलें रखी गईं: cook.pth, cook.py और sitecustomize.py. .pth एक्सटेंशन वाली फ़ाइलें और sitecustomize मॉड्यूल Python हर बार इंटरप्रेटर के स्टार्ट पर निष्पादित करता है। Endor Labs के अनुसार, cook.pth में केवल एक पंक्ति थी import cook - और यह पर्याप्त था ताकि रहस्य संग्रहकर्ता किसी भी Python प्रक्रिया में मशीन पर सक्रिय हो जाए, भले ही LiteLLM कहीं भी आयात न किया गया हो।
- संग्रहकर्ता (cook.py) ने पाया हुआ पैक किया, AES-256 के साथ RSA-4096 कुंजी लपेटकर एन्क्रिप्ट किया और
www.litellm[.]dev/healthcheckपर POST अनुरोध के माध्यम से भेजा - डोमेन जानबूझकर असली जैसा दिखता है। - बैकडोर (sitecustomize.py) हर घंटे GitHub से फ़ाइल से सर्वर का पता पढ़ता था और वहां से भेजे गए कोड को बिना सिग्नेचर की जांच किए निष्पादित करता था। Datadog के अनुसार, फ़ाइल में केवल परीक्षण मान थे, दूसरे चरण को दर्ज नहीं किया गया।
- जीवंतता:
pip uninstall litellmफ़ाइलों को नहीं हटाता, और Python या pip का हर लॉन्च फिर से संग्रहकर्ता को सक्रिय करता है। इसलिए शोधकर्ता संक्रमित मशीन की जांच के लिए Python के बाहर के उपकरणों का उपयोग करने की सलाह देते हैं।
संग्रहकर्ता वास्तव में क्या खोज रहा था
लक्ष्यों की सूची व्यापक है - मूल रूप से, जो कुछ भी प्रक्रिया देखती है:
- सभी गैर-खाली पर्यावरण चर, और Linux पर - अन्य प्रक्रियाओं का पर्यावरण;
- फाइलें .env, CI, Docker और Kubernetes कॉन्फ़िगरेशन, सेवा खाता रहस्य;
- AWS, GCP, Azure के क्लाउड कुंजी, जिसमें इंस्टेंस का मेटाडेटा सेवा शामिल है;
- SSH-, GPG- और TLS-कुंजी, Git, npm और PyPI टोकन, फ़ाइल .netrc;
- Chromium और Firefox ब्राउज़रों के सहेजे गए पासवर्ड और कुकीज़;
- AI उपकरणों की कुंजी और सत्र: Claude, Codex, Gemini, Cursor, Copilot और अन्य;
- यदि LiteLLM प्रॉक्सी सेटअप है - मॉडल प्रदाताओं की कुंजी के साथ तालिकाओं से 500 पंक्तियाँ;
- कमांड शेल का इतिहास।
विश्लेषण में HTTP_PROXY और HTTPS_PROXY चर का अलग उल्लेख नहीं है। लेकिन चूंकि संग्रहकर्ता ने सभी पर्यावरण चर, .env और शेल इतिहास को लिया, प्रॉक्सी क्रेडेंशियल्स स्वचालित रूप से पकड़ में आ गए: यही वह जगह है जहाँ वे आमतौर पर रखे जाते हैं। http://login:password@host:port जैसी पंक्ति HTTPS_PROXY में, पार्सर के .env में या शेल इतिहास से curl कमांड में - यह एक ही रहस्य है जैसे क्लाउड की कुंजी।
Railway: लीक कोड से नहीं, बल्कि प्लेटफ़ॉर्म से
Railway ने 21 अक्टूबर को अपनी रिपोर्ट में लिखा कि सुबह उसने ग्राहकों के पर्यावरण चर को संग्रहीत करने वाले सिस्टम में असामान्य गतिविधि देखी। वर्तमान डेटा के अनुसार, एक बाहरी व्यक्ति एन्क्रिप्टेड चर तक पहुँच सकता था, और कुछ के लिए - डिक्रिप्टेड सामग्री तक। डिप्लॉय को रोक दिया गया। कंपनी ने पैमाने का उल्लेख नहीं किया: यह "उपयोगकर्ताओं के एक हिस्से" के बारे में बात करती है और प्रभावित लोगों को सीधे लिखने का वादा करती है, लेकिन सभी को सलाह देती है कि वे सावधानी बरतें:
- Railway में सभी पर्यावरण चर बदलें, जिसमें API कुंजी शामिल हैं;
- निजी रजिस्ट्रियों के क्रेडेंशियल्स बदलें;
- सेवाओं के लॉग में असामान्य गतिविधि की जांच करें।
कंपनी इस घटना को प्लेटफ़ॉर्म सेवाओं पर हमलों की एक श्रृंखला से जोड़ती है, जिनका लक्ष्य AI इन्फेरेंस प्रदाताओं की कुंजी तक पहुँचना है; प्रदाताओं को पहले ही चेतावनी दी गई है, और वे कुंजी वापस ले रहे हैं। 23 अक्टूबर के अपडेट में Railway अतिरिक्त रूप से GitHub को फिर से कनेक्ट करने और CLI और CI टोकन को फिर से बनाने की सिफारिश करता है।
दोनों कहानियों का सामान्य तत्व सरल है: पर्यावरण चर - कोई तिजोरी नहीं। यह रहस्यों की एक सुविधाजनक सामान्य सूची है, जिसे प्रक्रिया में कोई भी कोड पढ़ता है और किसी भी प्लेटफ़ॉर्म पर संग्रहीत करता है, जहाँ आप तैनात होते हैं।
कैसे जांचें कि क्या आप प्रभावित हुए हैं
- निर्भरता में संस्करण खोजें। 21 अक्टूबर को
litellm==1.107.0के लिए requirements.txt, poetry.lock, uv.lock और CI लॉग की जांच करें। पारगमन निर्भरताओं को ध्यान में रखें: LiteLLM अक्सर एजेंट फ्रेमवर्क को खींचता है, न कि आप सीधे। - site-packages में फ़ाइलें खोजें। cook.pth या बाहरी sitecustomize.py का होना सीधा संकेत है।
findके माध्यम से खोजें, न कि Python स्क्रिप्ट द्वारा। - छवियों की तुलना करें। यदि आपने 21 अक्टूबर को
litellm/litellm:latestयाmain-stableखींचा, तो प्रकाशित संकेतकों के साथ डाइजेस्ट की तुलना करें। - /tmp में मार्कर खोजें:
/tmp/.pc_once_72129118c59f5636c0bbऔर/tmp/remote_code_loader.lock. - नेटवर्क लॉग की जांच करें
litellm[.]devके लिए अनुरोधों और/codepyपर समाप्त होने वाले पथों के लिए। - Railway - ईमेल और घटना की स्थिति पृष्ठ की जांच करें, लेकिन पत्र की प्रतीक्षा न करें: कुंजी बदलने की सिफारिश सभी पर लागू होती है।
यदि कुछ मिला - मशीन को साफ छवि से फिर से बनाना बेहतर है, बजाय कि इसे जगह पर साफ करने के, और कुंजी को किसी अन्य, निश्चित रूप से साफ डिवाइस से बदलें।
रहस्यों को बदलने का क्रम
“सब कुछ” बदलना सही है, लेकिन व्यावहारिक रूप से यह दिनों तक खिंचता है। क्रम को नुकसान की कीमत और इस बात के आधार पर चुनना चाहिए कि कुंजी का उपयोग कितनी जल्दी किया जा सकता है:
- क्लाउड और भुगतान कुंजी - AWS/GCP/Azure, LLM प्रदाताओं की कुंजी, LiteLLM प्रॉक्सी की मास्टर कुंजी। इन पर आप जल्दी "पैसा बना" सकते हैं।
- Git, npm, PyPI, छवि रजिस्ट्रियों और CI टोकन - इसके माध्यम से हमला आपके उपयोगकर्ताओं की ओर बढ़ता है। LiteLLM की कहानी चोरी किए गए CLI टोकनों से शुरू हुई थी।
- डेटाबेस और SSH कुंजी।
- प्रॉक्सी के लॉगिन और पासवर्ड। कोई बाहरी व्यक्ति आपके क्रेडेंशियल्स के साथ आपके भुगतान किए गए ट्रैफ़िक का उपयोग करता है और आपके IP से नेटवर्क में जाता है - और परिणामस्वरूप बैन और कैप्चा आपके खातों पर आएंगे।
- ब्राउज़र और AI उपकरणों के सत्र - हर जगह लॉग आउट करें और फिर से लॉग इन करें।
प्रॉक्सी के लिए एक सरल प्रारंभिक संकेत है: ट्रैफ़िक की खपत, जिसे आप समझा नहीं सकते. यदि आपके डैशबोर्ड में शेष तेजी से घट रहा है या उन घंटों में अनुरोधों की संख्या बढ़ रही है, जब आपके कार्य नहीं चल रहे हैं, - तो कोई क्रेडेंशियल्स का उपयोग कर रहा है।
कैसे प्रॉक्सी क्रेडेंशियल्स को व्यवस्थित करें ताकि लीक सस्ती हो
विषाक्त पैकेज से पूरी तरह से सुरक्षित रहना संभव नहीं है, लेकिन आप ऐसा कर सकते हैं कि लीक एक कार्य को प्रभावित करे, न कि पूरे स्टैक को।
- प्रत्येक कार्य और पर्यावरण के लिए अलग प्रॉक्सी। एक लॉगिन को प्रोडक्शन पार्सर, स्थानीय विकास और CI पर न रखें। यदि CI से कुंजी लीक हो गई, तो आप एक प्रॉक्सी को बंद करते हैं, न कि सब कुछ। ProxyCove में हर खरीदी गई प्रॉक्सी - एक अलग लॉगिन/पासवर्ड जोड़ी है, इसलिए इस प्रकार का विभाजन कुछ भी नहीं है: मूल्य निगरानी के तहत - रेसिडेंशियल प्रॉक्सी, बड़े तकनीकी अनुरोधों के लिए, जहाँ "घरेलू" IP की आवश्यकता नहीं है - डेटा सेंटर प्रॉक्सी.
- HTTPS_PROXY में क्रेडेंशियल्स को वैश्विक रूप से न रखें। वैश्विक चर प्रत्येक प्रक्रिया और प्रत्येक पैकेज के लिए दिखाई देता है। प्रॉक्सी को केवल आवश्यक क्लाइंट में भेजना या एक स्थानीय गेटवे उठाना, जो केवल पासवर्ड जानता है, अधिक सुरक्षित है - इसे कैसे करना है, हम लेख में प्रॉक्सी के लिए पासवर्ड के साथ स्थानीय गेटवे पर चर्चा कर चुके हैं।
- रहस्यों को सीक्रेट मैनेजर में रखें, न कि .env में रिपॉजिटरी या शेल इतिहास में। सामान्य नियम - हमारे गाइड में प्रॉक्सी क्रेडेंशियल्स के सुरक्षित भंडारण पर।
- जोखिम भरे वातावरण जैसे CI या परीक्षण स्टैंड पर प्रॉक्सी पर थोड़ा ट्रैफ़िक शेष रखें: नुकसान की छत शेष के बराबर है।
संग्रह में क्या बदलें
LiteLLM से प्रभावित अधिकांश लोग "खराब" कोड के कारण नहीं, बल्कि निर्माण की आदतों के कारण प्रभावित हुए। नीचे दिए गए कुछ सुझाव Datadog और Endor Labs के विश्लेषण से हैं, कुछ सामान्य निर्माण स्वच्छता हैं:
- हैश के साथ संस्करणों को लॉक फ़ाइलों में फिक्स करें, और छवियों को डाइजेस्ट के अनुसार, न कि लेटेस्ट टैग के अनुसार;
- रिलीज़ के दिन निर्भरताओं को अपडेट न करें: नए संस्करणों को स्वीकार करने से पहले थोड़ी देरी अधिकांश हमलों को कुछ घंटों की खिड़की में रोक देती है;
- बाहरी पैकेज में नए .pth फ़ाइलों और sitecustomize.py की उपस्थिति पर नज़र रखें - एक सामान्य पुस्तकालय के लिए यह दुर्लभ है;
- CLI डेवलपर्स के टोकनों को प्रोडक्शन की कुंजी के रूप में मानें और केवल विश्वसनीय रिपॉजिटरी और शाखाओं से रिलीज़ वर्कफ़्लो की अनुमति दें;
- कम से कम रहस्यों के साथ अलग कंटेनरों में पार्सर चलाएँ: उस प्रक्रिया को, जो कीमतें इकट्ठा करती है, क्लाउड कुंजी और SSH की आवश्यकता नहीं है।
निष्कर्ष
LiteLLM और Railway ने एक ही समस्या के दो पहलू दिखाए: रहस्य नीचे से लीक होते हैं, उस निर्भरता के माध्यम से, जिसे आप आयात भी नहीं करते हैं, और ऊपर से, उस प्लेटफ़ॉर्म के माध्यम से, जिसे आपने उन पर भरोसा किया। यदि 21 अक्टूबर को आपने LiteLLM के साथ Python वातावरण स्थापित या पुनः निर्माण किया या Railway पर तैनात किया - तो अभी कुंजी बदलें, क्लाउड और CI टोकनों से शुरू करें, और प्रॉक्सी को न भूलें। भविष्य के लिए प्रॉक्सी क्रेडेंशियल्स को कार्यों और वातावरणों में विभाजित करें: तब अगली लीक एक लॉगिन को बंद करने में समाप्त हो जाएगी, न कि पूरे पार्सिंग को रोकने में।
