Am 21. Oktober 2026 ereigneten sich an einem Morgen zwei Geschichten über dieselbe Datenklasse – Geheimnisse, die in Umgebungsvariablen leben. Um 11:39 UTC wurde eine vergiftete Version LiteLLM 1.107.0 veröffentlicht – ein beliebtes Gateway zu Sprachmodellen, das in vielen KI-Agenten und Parsing-Pipelines verwendet wird. Am selben Tag berichtete die Cloud-Plattform Railway, dass Unbefugte möglicherweise Zugriff auf das Repository der Umgebungsvariablen von Kunden erhalten hatten, und bei einigen von ihnen auf die entschlüsselten Werte. Wenn Ihr Scraper, Bot oder Agent auf Python oder in PaaS läuft, klären wir, was genau geleakt wurde, wie Sie sich überprüfen können und in welcher Reihenfolge Sie Schlüssel ändern sollten – einschließlich Logins und Passwörter für Proxys.
Was mit LiteLLM 1.107.0 passiert ist
Nach Angaben von Datadog Security Labs nutzten die Angreifer gestohlene OAuth-Tokens von GitHub CLI dreier Ingenieure des Projekts. Mit deren Hilfe starteten sie einen geschlossenen Release-Workflow von LiteLLM, sammelten ihn jedoch aus einem gefälschten Fork Berri-AI/litellm – dieser unterscheidet sich vom echten BerriAI/litellm nur durch einen Bindestrich. Der Start wurde von ihnen selbst bestätigt, die Spuren wurden gelöscht, und im Herkunftsnachweis der Build blieb der Name des Forks erhalten.
- 11:39 UTC – Version 1.107.0 wurde in PyPI veröffentlicht;
- 13:20 UTC – PyPI stellte sie unter Quarantäne;
- 13:53 UTC – infizierte Docker-Images wurden gelöscht.
Das Zeitfenster betrug etwa zwei Stunden, aber das Paket hatte laut Datadog etwa 23 Millionen Downloads pro Woche. Betroffen waren nicht nur sieben Wheel-Dateien für macOS, Linux und Windows, sondern auch offizielle Images auf GHCR und Docker Hub. Die schwebenden Tags latest, main-latest und main-stable wiesen an diesem Tag auf das bösartige Image hin. Das bedeutet, dass jeder betroffen sein konnte, dessen Container mit dem Abrufen der „letzten Version“ neu erstellt oder neu gestartet wurde, selbst wenn er nichts manuell aktualisierte.
Dies war bereits der zweite Vorfall mit LiteLLM im Jahr 2026: Im März wurden die Versionen 1.82.7 und 1.82.8 kompromittiert. Eine Verbindung zwischen den Vorfällen, wie Datadog feststellt, wurde nicht hergestellt. Die letzte saubere Version ist 1.106.2.
Warum das Löschen des Pakets nicht ausreicht
Der Haupttrick des Angriffs ist der Autostart-Mechanismus von Python. Zusammen mit dem Paket wurden drei Dateien in die site-packages gelegt: cook.pth, cook.py und sitecustomize.py. Dateien mit der Erweiterung .pth und das Modul sitecustomize werden bei jedem Start des Interpreters von Python ausgeführt. Wie Endor Labs analysiert, enthielt cook.pth genau eine Zeile import cook – und das reichte aus, damit der Geheimnissammler in jedem Python-Prozess auf der Maschine aktiviert wurde, selbst wenn LiteLLM nirgendwo importiert wurde.
- Der Sammler (cook.py) packte das Gefundene, verschlüsselte es mit AES-256 unter Verwendung eines RSA-4096-Schlüssels und sendete es per POST-Anfrage an
www.litellm[.]dev/healthcheck– die Domain sieht absichtlich wie die echte aus. - Der Backdoor (sitecustomize.py) las einmal pro Stunde die Serveradresse aus einer Datei auf GitHub und führte den von dort gesendeten Code ohne Überprüfung der Signatur aus. Laut Datadog enthielt die Datei nur Testwerte, die zweite Stufe wurde nicht erfasst.
- Überlebensfähigkeit:
pip uninstall litellmentfernt die Dateien nicht, und jeder Start von python oder pip startet den Sammler erneut. Daher raten Forscher, infizierte Maschinen mit Tools zu überprüfen, die nicht auf Python basieren.
Was genau der Sammler suchte
Die Liste der Ziele ist breit gefächert – im Grunde alles, was der Prozess sieht:
- alle nicht leeren Umgebungsvariablen, und unter Linux auch die Umgebungen anderer Prozesse;
- Dateien .env, CI-Konfigurationen, Docker und Kubernetes, Geheimnisse von Dienstkonten;
- Schlüssel für AWS, GCP, Azure, einschließlich des Metadaten-Service des Instanz;
- SSH-, GPG- und TLS-Schlüssel, Git-, npm- und PyPI-Tokens, die Datei .netrc;
- gespeicherte Passwörter und Cookies von Chromium- und Firefox-Browsern;
- Schlüssel und Sitzungen von KI-Tools: Claude, Codex, Gemini, Cursor, Copilot und anderen;
- falls eine LiteLLM Proxy-Datenbank eingerichtet ist – bis zu 500 Zeilen aus Tabellen mit Schlüsseln von Modellanbietern;
- die Historie der Kommandozeile.
In den Analysen gibt es keine separate Erwähnung der Variablen HTTP_PROXY und HTTPS_PROXY. Aber da der Sammler alle Umgebungsvariablen, .env und die Shell-Historie abgreift, sind die Proxy-Credentials automatisch in der Falle: genau dort werden sie normalerweise aufbewahrt. Eine Zeile wie http://login:password@host:port in HTTPS_PROXY, in der .env des Parsers oder in einem curl-Befehl aus der Historie ist dasselbe Geheimnis wie ein Cloud-Schlüssel.
Railway: Leck nicht aus dem Code, sondern aus der Plattform
Railway berichtete in seiner Offenlegung vom 21. Oktober, dass am Morgen anomale Aktivitäten in den Systemen festgestellt wurden, in denen die Umgebungsvariablen der Kunden gespeichert sind. Nach aktuellen Informationen konnte ein Unbefugter auf verschlüsselte Variablen zugreifen, und bei einigen auf den entschlüsselten Inhalt. Die Deployments wurden pausiert. Das Unternehmen nennt keinen Umfang: es spricht von „einem Teil der Nutzer“ und verspricht, direkt betroffenen zu schreiben, rät aber allen zur Vorsicht:
- Ändern Sie alle Umgebungsvariablen in Railway, einschließlich API-Schlüssel;
- Ändern Sie die Anmeldedaten für private Repositories;
- Überprüfen Sie die Protokolle der Dienste auf ungewöhnliche Aktivitäten.
Das Unternehmen verbindet den Vorfall mit einer Reihe von Angriffen auf Plattformdienste, deren Ziel es war, an die Schlüssel der Anbieter von KI-Inferenz zu gelangen; die Anbieter wurden bereits gewarnt, und sie ziehen die Schlüssel zurück. In einem Update vom 23. Oktober empfiehlt Railway zusätzlich, GitHub neu zu verbinden und die CLI- und CI-Tokens neu zu erstellen.
Der gemeinsame Nenner der beiden Geschichten ist einfach: Umgebungsvariablen sind kein Tresor. Es ist eine praktische gemeinsame Liste von Geheimnissen, die jeder Code im Prozess liest und die jede Plattform speichert, auf der Sie deployen.
Wie man überprüft, ob man betroffen ist
- Überprüfen Sie die Version in den Abhängigkeiten. Überprüfen Sie requirements.txt, poetry.lock, uv.lock und CI-Protokolle vom 21. Oktober auf
litellm==1.107.0. Berücksichtigen Sie transitive Abhängigkeiten: LiteLLM wird oft von Agenten-Frameworks gezogen, nicht von Ihnen direkt. - Überprüfen Sie die Dateien in site-packages. Das Vorhandensein von cook.pth oder fremden sitecustomize.py ist ein direktes Zeichen. Suchen Sie mit
find, nicht mit einem Python-Skript. - Vergleichen Sie die Images. Wenn Sie am 21. Oktober
litellm/litellm:latestodermain-stablegezogen haben, vergleichen Sie den Digest mit den veröffentlichten Indikatoren. - Überprüfen Sie Marker in /tmp:
/tmp/.pc_once_72129118c59f5636c0bbund/tmp/remote_code_loader.lock. - Überprüfen Sie die Netzwerkprotokolle auf Anfragen an
litellm[.]devund Pfade, die auf/codepyenden. - Railway – überprüfen Sie Ihre E-Mails und die Statusseite des Vorfalls, aber erwarten Sie keine E-Mail: Die Empfehlung, die Schlüssel zu ändern, betrifft alle.
Wenn Sie etwas finden, ist es besser, die Maschine aus einem sauberen Image neu zu erstellen, als sie vor Ort zu reinigen, und die Schlüssel von einem anderen, nachweislich sauberen Gerät zu ändern.
In welcher Reihenfolge man Geheimnisse ändern sollte
„Alles“ zu ändern ist richtig, aber in der Praxis zieht sich das über Tage. Die Reihenfolge sollte nach den Kosten des Schadens und danach gewählt werden, wie schnell der Schlüssel genutzt werden kann:
- Cloud- und Zahlungsschlüssel – AWS/GCP/Azure, Schlüssel von LLM-Anbietern, Master-Schlüssel von LiteLLM Proxy. Mit ihnen kann man schnell „Geld verbrennen“.
- Git, npm, PyPI, Image-Repositories und CI-Tokens – darüber geht der Angriff weiter zu Ihren Nutzern. Die Geschichte von LiteLLM begann genau mit gestohlenen CLI-Tokens.
- Datenbanken und SSH-Schlüssel.
- Logins und Passwörter für Proxys. Ein Fremder mit Ihren Credentials verbraucht Ihren bezahlten Traffic und geht mit Ihren IPs ins Netz – die Folgen in Form von Sperren und Captchas werden Ihren Konten zugeschrieben.
- Sitzungen von Browsern und KI-Tools – überall abmelden und neu anmelden.
Für Proxys gibt es ein einfaches frühes Signal: Trafficverbrauch, den Sie nicht erklären können. Wenn das Guthaben in Ihrem Dashboard schneller schwindet als gewöhnlich oder die Anzahl der Anfragen zu den Zeiten steigt, in denen Ihre Aufgaben nicht laufen, – werden die Credentials von jemandem verwendet.
Wie man Proxy-Credentials so einrichtet, dass ein Leck günstig ist
Vollständig vor einem vergifteten Paket zu schützen, ist nicht möglich, aber man kann es so gestalten, dass ein Leck nur eine Aufgabe betrifft und nicht den gesamten Stack.
- Ein separater Proxy für jede Aufgabe und Umgebung. Halten Sie nicht einen Login für den Produktionsparser, die lokale Entwicklung und CI. Wenn ein Schlüssel aus CI geleakt ist, schalten Sie nur einen Proxy ab, anstatt alles zu stoppen. Bei ProxyCove ist jeder gekaufte Proxy ein separates Paar von Login/Passwort, daher kostet eine solche Trennung nichts: für Preisüberwachung – residential Proxys, für massenhafte technische Anfragen, bei denen keine „häusliche“ IP benötigt wird – Datacenter Proxys.
- Platzieren Sie Credentials nicht global in der HTTPS_PROXY-Zeile. Globale Variablen sind für jeden Prozess und jedes Paket sichtbar. Es ist zuverlässiger, Proxys nur an den benötigten Client zu übergeben oder ein lokales Gateway einzurichten, das nur das Passwort kennt – wie man das mit gost, 3proxy oder Squid macht, haben wir in einem Artikel über lokale Gateways für Proxys mit Passwort behandelt.
- Bewahren Sie Geheimnisse in einem Secret Manager auf, nicht in .env im Repository oder in der Shell-Historie. Allgemeine Regeln finden Sie in unserem Leitfaden zum sicheren Speichern von Proxy-Credentials.
- Halten Sie einen kleinen Rest an Traffic für Proxys, die in riskanten Umgebungen wie CI oder Testumgebungen leben: die Schadensobergrenze entspricht dem Restguthaben.
Was in der Build geändert werden sollte
Die meisten Betroffenen von LiteLLM litten nicht unter „schlechtem“ Code, sondern unter den Gewohnheiten der Build-Prozesse. Einige der folgenden Ratschläge stammen aus Analysen von Datadog und Endor Labs, andere sind allgemeine Hygienemaßnahmen für Builds:
- Fixieren Sie Versionen mit Hashes in Lock-Dateien und Images nach Digest, nicht nach dem Tag latest;
- Aktualisieren Sie Abhängigkeiten nicht am Tag der Veröffentlichung: Eine kurze Verzögerung vor der Annahme neuer Versionen schneidet die meisten Angriffe mit einem Zeitfenster von mehreren Stunden ab;
- Achten Sie auf das Auftauchen neuer .pth-Dateien und sitecustomize.py in Drittanbieter-Paketen – für eine gewöhnliche Bibliothek ist das selten;
- Behandeln Sie CLI-Tokens von Entwicklern wie Produktionsschlüssel und erlauben Sie den Release-Workflow nur aus vertrauenswürdigen Repositories und Branches;
- Führen Sie Parser in isolierten Containern mit minimalen Geheimnissen aus: Einem Prozess, der Preise sammelt, sind Cloud-Schlüssel und SSH nicht notwendig.
Fazit
LiteLLM und Railway haben zwei Seiten eines Problems gezeigt: Geheimnisse lecken sowohl von unten, durch eine Abhängigkeit, die Sie nicht einmal importieren, als auch von oben, durch die Plattform, der Sie sie anvertraut haben. Wenn Sie am 21. Oktober Python-Umgebungen mit LiteLLM installiert oder neu erstellt haben oder auf Railway deployt haben – ändern Sie jetzt die Schlüssel, beginnend mit Cloud- und CI-Tokens, und vergessen Sie nicht die Proxys. Für die Zukunft verteilen Sie die Proxy-Credentials auf Aufgaben und Umgebungen: Dann wird das nächste Leck nur das Deaktivieren eines Logins kosten und nicht das Stoppen des gesamten Parsings.
