Il 21 ottobre 2026, in una sola mattina, si sono verificate due storie riguardanti lo stesso tipo di dati: i segreti che risiedono nelle variabili d'ambiente. Alle 11:39 UTC, è stata rilasciata una versione compromessa di LiteLLM 1.107.0 su PyPI — un popolare gateway per modelli linguistici, utilizzato in molti agenti AI e pipeline di parsing. Nello stesso giorno, la piattaforma cloud Railway ha comunicato che un estraneo potrebbe aver avuto accesso al deposito delle variabili d'ambiente dei clienti, e per alcuni di essi, ai valori decrittati. Se il tuo scraper, bot o agente è in esecuzione su Python o in PaaS, vediamo cosa è effettivamente trapelato, come verificare se sei colpito e in quale ordine cambiare le chiavi — inclusi login e password dei proxy.
Cosa è successo con LiteLLM 1.107.0
Secondo Datadog Security Labs, i malintenzionati hanno utilizzato token OAuth rubati da GitHub CLI di tre ingegneri del progetto. Con questi hanno avviato un workflow di rilascio privato di LiteLLM, ma lo hanno assemblato da un fork falso Berri-AI/litellm — che si differenzia dal vero BerriAI/litellm per un trattino. L'avvio è stato confermato da loro stessi, le tracce sono state rimosse, e nel nome di origine della build (provenance) è rimasto il nome del fork.
- 11:39 UTC — la versione 1.107.0 è stata pubblicata su PyPI;
- 13:20 UTC — PyPI l'ha messa in quarantena;
- 13:53 UTC — le immagini Docker infette sono state rimosse.
La finestra è stata di circa due ore, ma il pacchetto, secondo le stime di Datadog, ha circa 23 milioni di download a settimana. Sono stati compromessi non solo sette file wheel per macOS, Linux e Windows, ma anche le immagini ufficiali su GHCR e Docker Hub. I tag fluttuanti latest, main-latest e main-stable quel giorno puntavano all'immagine dannosa. Ciò significa che chiunque avesse ricostruito o riavviato il contenitore con il "pull" della "versione più recente", anche se non aveva aggiornato nulla manualmente, poteva essere colpito.
Questo è già il secondo caso con LiteLLM nel 2026: a marzo sono state compromesse le versioni 1.82.7 e 1.82.8. Non è stata stabilita alcuna connessione tra gli incidenti, come sottolinea Datadog. L'ultima versione pulita è 1.106.2.
Perché rimuovere il pacchetto non è sufficiente
Il trucco principale dell'attacco è il meccanismo di avvio automatico di Python. Insieme al pacchetto, sono stati inseriti nella cartella site-packages tre file: cook.pth, cook.py e sitecustomize.py. I file con estensione .pth e il modulo sitecustomize vengono eseguiti ad ogni avvio dell'interprete Python. Come spiegato da Endor Labs, in cook.pth c'era esattamente una riga import cook — e questo era sufficiente affinché il raccoglitore di segreti si attivasse in qualsiasi processo Python sulla macchina, anche se LiteLLM non veniva importato da nessuna parte.
- Il raccoglitore (cook.py) impacchettava i dati trovati, li cifrava con AES-256 con una chiave RSA-4096 e li inviava tramite una richiesta POST a
www.litellm[.]dev/healthcheck— un dominio appositamente simile al vero. - Il backdoor (sitecustomize.py) leggeva l'indirizzo del server da un file su GitHub ogni ora ed eseguiva il codice inviato senza verificare la firma. Secondo Datadog, nel file erano presenti solo valori di test, non è stata registrata alcuna seconda fase.
- Resilienza:
pip uninstall litellmnon rimuove i file, e ogni avvio di python o pip riavvia il raccoglitore. Pertanto, i ricercatori consigliano di controllare la macchina infetta con strumenti non basati su Python.
Cosa cercava esattamente il raccoglitore
La lista degli obiettivi è ampia: in sostanza, tutto ciò che il processo può vedere:
- tutte le variabili d'ambiente non vuote, e su Linux, anche l'ambiente di altri processi;
- file .env, configurazioni CI, Docker e Kubernetes, segreti degli account di servizio;
- chiavi cloud AWS, GCP, Azure, inclusa la chiave dei metadati dell'istanza;
- chiavi SSH, GPG e TLS, token Git, npm e PyPI, file .netrc;
- password salvate e cookie dei browser Chromium e Firefox;
- chiavi e sessioni di strumenti AI: Claude, Codex, Gemini, Cursor, Copilot e altri;
- se è configurato un database LiteLLM Proxy — fino a 500 righe da tabelle con chiavi dei fornitori di modelli;
- storia della shell.
Negli approfondimenti non c'è menzione separata delle variabili HTTP_PROXY e HTTPS_PROXY. Ma poiché il raccoglitore prelevava tutte le variabili d'ambiente, .env e la cronologia della shell, le credenziali proxy sono state catturate automaticamente: è proprio lì che di solito vengono conservate. Una stringa del tipo http://login:password@host:port in HTTPS_PROXY, nel .env del parser o nel comando curl dalla cronologia — è un segreto come una chiave cloud.
Railway: la fuga non proviene dal codice, ma dalla piattaforma
Railway nella sua comunicazione del 21 ottobre scrive che quella mattina ha notato un'attività anomala nei sistemi dove sono memorizzate le variabili d'ambiente dei clienti. Secondo le attuali informazioni, un estraneo potrebbe aver avuto accesso a variabili cifrate, e per alcuni, al contenuto decrittato. I deploy sono stati messi in pausa. L'azienda non specifica l'entità dell'incidente: parla di "una parte degli utenti" e promette di contattare direttamente i colpiti, ma consiglia a tutti di prendere precauzioni:
- cambiare tutte le variabili d'ambiente in Railway, comprese le chiavi API;
- cambiare le credenziali dei registri privati;
- controllare i log dei servizi per attività insolite.
L'azienda collega l'incidente a una serie di attacchi ai servizi della piattaforma, il cui obiettivo è ottenere le chiavi dei fornitori di inferenza AI; i fornitori sono già stati avvisati e stanno revocando le chiavi. Nell'aggiornamento del 23 ottobre, Railway raccomanda inoltre di riconnettere GitHub e ricreare i token CLI e CI.
Il comune denominatore delle due storie è semplice: le variabili d'ambiente non sono un caveau. Sono una comoda lista comune di segreti che può essere letta da qualsiasi codice in esecuzione e memorizzata su qualsiasi piattaforma dove si effettua il deploy.
Come verificare se sei stato colpito
- Cerca la versione nelle dipendenze. Controlla requirements.txt, poetry.lock, uv.lock e i log CI del 21 ottobre per
litellm==1.107.0. Tieni presente le dipendenze transitive: LiteLLM è spesso utilizzato da framework di agenti, non direttamente da te. - Cerca file in site-packages. La presenza di cook.pth o di sitecustomize.py estranei è un chiaro segnale. Cerca tramite
find, non con uno script Python. - Confronta le immagini. Se hai scaricato
litellm/litellm:latestomain-stableil 21 ottobre, confronta il digest con gli indicatori pubblicati. - Cerca marcatori in /tmp:
/tmp/.pc_once_72129118c59f5636c0bbe/tmp/remote_code_loader.lock. - Controlla i log di rete per richieste a
litellm[.]deve percorsi che terminano con/codepy. - Railway — controlla la tua email e la pagina di stato dell'incidente, ma non aspettarti una email: la raccomandazione di cambiare le chiavi riguarda tutti.
Se trovi qualcosa, è meglio ricostruire la macchina da un'immagine pulita piuttosto che pulirla in loco, e cambiare le chiavi da un altro dispositivo, sicuramente pulito.
In quale ordine cambiare i segreti
Cambiare "tutto" è corretto, ma nella pratica si estende su giorni. L'ordine dovrebbe essere scelto in base al costo del danno e alla rapidità con cui una chiave può essere utilizzata:
- Chiavi cloud e di pagamento — AWS/GCP/Azure, chiavi dei fornitori LLM, chiave master di LiteLLM Proxy. Su di esse si possono rapidamente "fare soldi".
- Git, npm, PyPI, registri delle immagini e token CI — attraverso di esse l'attacco si estende ulteriormente, ai tuoi utenti. La storia di LiteLLM è iniziata proprio con token CLI rubati.
- Database e chiavi SSH.
- Login e password dei proxy. Un estraneo con le tue credenziali consuma il tuo traffico pagato e naviga in rete con i tuoi IP — e le conseguenze sotto forma di ban e captcha ricadranno sui tuoi account.
- Sessioni di browser e strumenti AI — disconnettersi ovunque e riconnettersi.
Per i proxy c'è un semplice segnale precoce: consumo di traffico che non puoi spiegare. Se il saldo nel tuo account diminuisce più velocemente del solito o aumenta il numero di richieste in ore in cui i tuoi task non sono attivi, significa che qualcuno sta utilizzando le credenziali.
Come configurare le credenziali proxy affinché la fuga costi poco
Non è possibile proteggersi completamente da un pacchetto compromesso, ma si può fare in modo che la fuga colpisca un singolo task, e non l'intero stack.
- Proxy separati per ogni task e ambiente. Non mantenere un solo login per il parser di produzione, lo sviluppo locale e CI. Se una chiave è trapelata da CI, disattivi un proxy, non fermi tutto. In ProxyCove ogni proxy acquistato è una coppia separata di login/password, quindi tale separazione non costa nulla: per il monitoraggio dei prezzi — proxy residenziali, per richieste tecniche di massa, dove non è necessario un IP "domestico" — proxy datacenter.
- Non inserire credenziali nella variabile HTTPS_PROXY globalmente. La variabile globale è visibile a ogni processo e a ogni pacchetto. È più sicuro passare il proxy solo al client necessario o sollevare un gateway locale che conosce la password, — come fare con gost, 3proxy o Squid, abbiamo trattato nell'articolo sul gateway locale per proxy con password.
- Conserva i segreti in un gestore di segreti, non in .env nel repository o nella cronologia della shell. Le regole generali sono nel nostro guida sul deposito sicuro delle credenziali proxy.
- Mantieni un piccolo saldo di traffico sui proxy che operano in ambienti rischiosi come CI o ambienti di test: il tetto del danno è pari al saldo.
Cosa cambiare nella build
La maggior parte delle vittime di LiteLLM è stata colpita non a causa di codice "cattivo", ma a causa di abitudini di build. Alcuni dei consigli qui sotto provengono da analisi di Datadog e Endor Labs, altri sono semplici pratiche di igiene della build:
- fissa le versioni con hash nei file lock, e le immagini — per digest, non per tag latest;
- non aggiornare le dipendenze nel giorno del rilascio: un breve ritardo prima di accettare nuove versioni esclude la maggior parte degli attacchi con una finestra di alcune ore;
- fai attenzione all'apparizione di nuovi file .pth e sitecustomize.py in pacchetti esterni — per una libreria comune è raro;
- tratta i token CLI degli sviluppatori come chiavi di produzione e consenti il workflow di rilascio solo da repository e branche fidate;
- esegui i parser in contenitori isolati con il minimo di segreti: un processo che raccoglie prezzi non ha bisogno di chiavi cloud e SSH.
Conclusione
LiteLLM e Railway hanno mostrato due lati di un unico problema: i segreti trapelano sia dal basso, attraverso una dipendenza che nemmeno importi, sia dall'alto, attraverso la piattaforma a cui li hai affidati. Se il 21 ottobre hai installato o ricostruito ambienti Python con LiteLLM o hai effettuato il deploy su Railway — cambia le chiavi ora, iniziando dalle chiavi cloud e dai token CI, e non dimenticare i proxy. E per il futuro, separa le credenziali proxy per task e ambienti: in questo modo, la prossima fuga costerà la disattivazione di un solo login, e non l'interruzione di tutto il parsing.
