← 블로그로 돌아가기

LiteLLM 해킹과 Railway 유출: 스크래핑 스택에서 먼저 변경해야 할 비밀은?

2026년 10월 21일에 PyPI에서 악성 LiteLLM 1.107.0이 출시되었고, Railway는 고객의 환경 변수에 대한 접근을 알렸습니다. 비밀 수집기가 무엇을 찾고 있었는지, 패키지를 삭제하는 것만으로는 부족한 이유, 자신의 환경을 확인하는 방법, 클라우드 키, CI 및 프록시 로그인 순서를 변경하는 방법에 대해 알아보겠습니다.

📅2026년 10월 26일
LiteLLM 해킹과 Railway 유출: 스크래핑 스택에서 먼저 변경해야 할 비밀은?

2026년 10월 21일 아침, 동일한 데이터 클래스에 대한 두 가지 이야기가 발생했습니다. 환경 변수에 존재하는 비밀들에 대한 이야기입니다. UTC 11:39에 PyPI에서 LiteLLM 1.107.0의 악성 버전이 출시되었습니다. 이는 많은 AI 에이전트와 파싱 파이프라인에서 사용되는 인기 있는 언어 모델 게이트웨이입니다. 같은 날 클라우드 플랫폼 Railway는 외부인이 고객의 환경 변수 저장소에 접근할 수 있었으며, 일부는 해독된 값에 접근할 수 있었다고 보고했습니다. Python에서 실행되는 스크래퍼, 봇 또는 에이전트가 있다면, 무엇이 유출되었는지, 어떻게 확인할 수 있는지, 키를 변경하는 순서 — 프록시의 로그인 및 비밀번호를 포함하여 — 를 알아보겠습니다.

LiteLLM 1.107.0에서 무슨 일이 발생했나요?

Datadog Security Labs에 따르면, 해커들은 프로젝트의 세 명의 엔지니어로부터 도난당한 GitHub CLI OAuth 토큰을 사용했습니다. 이를 통해 LiteLLM의 비공식 릴리스 워크플로우를 실행했지만, Berri-AI/litellm의 가짜 포크에서 수집했습니다. 이는 진짜 BerriAI/litellm과 하이픈 하나로 다릅니다. 그들은 실행을 확인했으며, 흔적을 지웠고, 빌드의 출처 서명(provenance)에는 여전히 포크의 이름이 남아 있었습니다.

  • UTC 11:39 — 버전 1.107.0이 PyPI에 게시됨;
  • UTC 13:20 — PyPI가 이를 격리함;
  • UTC 13:53 — 감염된 Docker 이미지가 삭제됨.

시간 창은 약 두 시간이며, Datadog에 따르면 이 패키지는 주당 약 2300만 번 다운로드됩니다. 감염된 것은 macOS, Linux 및 Windows용 7개의 wheel 파일뿐만 아니라 GHCR 및 Docker Hub의 공식 이미지도 포함되었습니다. 그날 latest, main-latest 및 main-stable 태그는 악성 이미지를 가리켰습니다. 따라서, 컨테이너가 "최신 버전"으로 재구성되거나 재시작된 경우, 아무것도 수동으로 업데이트하지 않았더라도 피해를 입을 수 있습니다.

2026년에는 LiteLLM과 관련된 두 번째 사건입니다: 3월에는 1.82.7 및 1.82.8 버전이 손상되었습니다. Datadog에 따르면 사건 간의 연관성은 확인되지 않았습니다. 마지막으로 깨끗한 버전은 1.106.2입니다.

패키지를 삭제하는 것만으로는 충분하지 않다

공격의 주요 트릭은 Python의 자동 실행 메커니즘입니다. 패키지와 함께 site-packages에 세 개의 파일이 놓였습니다: cook.pth, cook.py 및 sitecustomize.py. .pth 확장자를 가진 파일과 sitecustomize 모듈은 인터프리터가 시작될 때마다 실행됩니다. Endor Labs에 따르면, cook.pth에는 정확히 한 줄 import cook가 있었고, 이것만으로도 비밀 수집기가 모든 Python 프로세스에서 작동할 수 있었습니다. LiteLLM이 어디에서도 임포트되지 않더라도 말입니다.

  • 수집기 (cook.py)는 발견된 내용을 패키징하고, AES-256으로 암호화한 후 RSA-4096 키로 래핑하여 www.litellm[.]dev/healthcheck에 POST 요청으로 전송했습니다 — 도메인은 실제 도메인과 유사하게 설정되었습니다.
  • 백도어 (sitecustomize.py)는 매시간 GitHub의 파일에서 서버 주소를 읽고 서명 확인 없이 그곳에서 전송된 코드를 실행했습니다. Datadog에 따르면, 파일에는 테스트 값만 있었고, 두 번째 단계는 기록되지 않았습니다.
  • 지속성: pip uninstall litellm 명령어로 파일이 삭제되지 않으며, Python 또는 pip를 실행할 때마다 수집기가 다시 실행됩니다. 따라서 연구자들은 Python이 아닌 도구를 사용하여 감염된 머신을 확인할 것을 권장합니다.

수집기가 무엇을 찾고 있었는가

목표 목록은 광범위합니다 — 본질적으로 프로세스가 보는 모든 것입니다:

  • 모든 비어 있지 않은 환경 변수, Linux에서는 다른 프로세스의 환경도 포함됩니다;
  • .env 파일, CI, Docker 및 Kubernetes 구성, 서비스 계정 비밀;
  • AWS, GCP, Azure의 클라우드 키, 인스턴스 메타데이터 서비스 포함;
  • SSH, GPG 및 TLS 키, Git, npm 및 PyPI 토큰, .netrc 파일;
  • Chromium 및 Firefox 브라우저의 저장된 비밀번호 및 쿠키;
  • AI 도구의 키 및 세션: Claude, Codex, Gemini, Cursor, Copilot 등;
  • LiteLLM Proxy가 설정된 경우 — 모델 공급자의 키가 포함된 테이블에서 최대 500줄;
  • 쉘 히스토리.

분석에서는 HTTP_PROXY 및 HTTPS_PROXY 변수에 대한 별도의 언급이 없습니다. 그러나 수집기가 모든 환경 변수, .env 및 쉘 히스토리를 가져갔기 때문에 프록시 자격 증명도 자동으로 포함되었습니다: 일반적으로 그곳에 보관하기 때문입니다. http://login:password@host:port 형식의 문자열이 HTTPS_PROXY, .env 파서 또는 히스토리의 curl 명령어에 있다면 — 클라우드 키와 같은 비밀입니다.

Railway: 코드가 아닌 플랫폼에서 유출

Railway는 10월 21일 발표에서 아침에 고객의 환경 변수를 저장하는 시스템에서 비정상적인 활동을 감지했다고 밝혔습니다. 현재 데이터에 따르면, 외부인이 암호화된 변수에 접근할 수 있었고, 일부는 해독된 내용에 접근할 수 있었습니다. 배포는 일시 중지되었습니다. 회사는 규모를 언급하지 않으며 "일부 사용자"에 대해 이야기하고 있으며, 직접 영향을 받은 사용자에게 연락할 것이라고 약속하지만, 모두에게 예방 조치를 취할 것을 권장합니다:

  1. Railway에서 모든 환경 변수를 변경하고, API 키를 포함합니다;
  2. 프라이빗 레지스트리의 자격 증명을 변경합니다;
  3. 서비스 로그에서 비정상적인 활동을 확인합니다.

회사는 이 사건을 플랫폼 서비스에 대한 일련의 공격과 연관시키며, 목표는 AI 추론 공급자의 키에 접근하는 것입니다. 공급자에게는 이미 경고가 전달되었으며, 그들은 키를 회수하고 있습니다. 10월 23일 업데이트에서 Railway는 GitHub을 재연결하고 CLI 및 CI 토큰을 재생성할 것을 추가로 권장합니다.

두 이야기의 공통점은 간단합니다: 환경 변수는 금고가 아닙니다. 이는 프로세스 내의 모든 코드가 읽을 수 있는 비밀의 편리한 목록이며, 여러분이 배포하는 모든 플랫폼이 보관합니다.

내가 영향을 받았는지 확인하는 방법

  1. 종속성에서 버전을 찾습니다. 10월 21일의 litellm==1.107.0에 대한 requirements.txt, poetry.lock, uv.lock 및 CI 로그를 확인합니다. 전이 종속성을 고려하십시오: LiteLLM은 종종 직접적으로가 아니라 에이전트 프레임워크에서 가져옵니다.
  2. site-packages에서 파일을 찾습니다. cook.pth 또는 외부 sitecustomize.py의 존재는 직접적인 징후입니다. find를 사용하여 검색하고, Python 스크립트가 아닌 방법으로 검색합니다.
  3. 이미지를 비교합니다. 10월 21일에 litellm/litellm:latest 또는 main-stable를 가져왔다면, 게시된 지표와 다이제스트를 비교합니다.
  4. /tmp에서 마커를 찾습니다: /tmp/.pc_once_72129118c59f5636c0bb 및 /tmp/remote_code_loader.lock.
  5. 네트워크 로그를 확인합니다 litellm[.]dev에 대한 요청 및 /codepy로 끝나는 경로를 확인합니다.
  6. Railway — 이메일과 사건 상태 페이지를 확인하지만, 이메일을 기다리지 마십시오: 키를 변경하라는 권장 사항은 모두에게 해당됩니다.

무언가 발견되면, 머신을 청정 이미지로 다시 구축하는 것이 좋으며, 현장에서 청소하기보다는 다른, 확실히 깨끗한 장치에서 키를 변경하는 것이 좋습니다.

비밀을 변경하는 순서

“모든 것”을 변경하는 것이 올바르지만, 실제로는 며칠이 걸립니다. 순서는 피해의 가격과 키를 얼마나 빨리 사용할 수 있는지에 따라 선택해야 합니다:

  1. 클라우드 및 결제 키 — AWS/GCP/Azure, LLM 공급자의 키, LiteLLM Proxy의 마스터 키. 이들은 빠르게 "돈을 잃을" 수 있습니다.
  2. Git, npm, PyPI, 이미지 레지스트리 및 CI 토큰 — 이를 통해 공격이 진행되어 사용자에게까지 영향을 미칩니다. LiteLLM의 역사는 도난당한 CLI 토큰에서 시작되었습니다.
  3. 데이터베이스 및 SSH 키.
  4. 프록시의 로그인 및 비밀번호. 타인이 귀하의 자격 증명으로 귀하가 지불한 트래픽을 소모하고 귀하의 IP로 인터넷에 접속하게 되며, 그 결과로 귀하의 계정에 대한 차단 및 CAPTCHA가 발생할 수 있습니다.
  5. 브라우저 및 AI 도구의 세션 — 모든 곳에서 로그아웃하고 다시 로그인합니다.

프록시에 대한 간단한 초기 신호가 있습니다: 설명할 수 없는 트래픽 소비. 대시보드의 잔액이 평소보다 빠르게 줄어들거나 귀하의 작업이 작동하지 않는 시간에 요청 수가 증가하면 — 자격 증명이 누군가에 의해 사용되고 있습니다.

프록시 자격 증명이 유출되었을 때 비용이 저렴하도록 설정하는 방법

오염된 패키지로부터 완전히 보호받는 것은 불가능하지만, 유출이 하나의 작업에만 영향을 미치도록 설정할 수 있습니다.

  • 각 작업 및 환경에 대해 별도의 프록시. 프로덕션 파서, 로컬 개발 및 CI에 대해 하나의 로그인만 보관하지 마십시오. CI에서 키가 유출되면 하나의 프록시만 비활성화하고 모든 것을 중단할 필요는 없습니다. ProxyCove에서는 구매한 각 프록시가 별도의 로그인/비밀번호 쌍이므로, 이러한 분리는 비용이 들지 않습니다: 가격 모니터링을 위해 주거용 프록시, 대량 기술 요청을 위한 데이터 센터 프록시.
  • HTTPS_PROXY 문자열에 자격 증명을 전역적으로 저장하지 마십시오. 전역 변수는 모든 프로세스와 모든 패키지에서 볼 수 있습니다. 필요한 클라이언트에만 프록시를 전달하거나 비밀번호를 아는 로컬 게이트웨이를 설정하는 것이 더 안전합니다. 이를 위해 gost, 3proxy 또는 Squid를 사용하는 방법은 프록시 비밀번호가 있는 로컬 게이트웨이에 대한 기사에서 다루었습니다.
  • 비밀을 비밀 관리 도구에 저장하십시오, .env 파일이나 리포지토리 또는 쉘 히스토리에 저장하지 마십시오. 일반적인 규칙은 프록시 자격 증명의 안전한 저장에 대한 가이드에서 확인할 수 있습니다.
  • 위험한 환경에서 살아 있는 프록시에 대해 작은 트래픽 잔액을 유지하십시오: 피해의 한도는 잔액과 같습니다.

빌드에서 변경해야 할 사항

LiteLLM으로 피해를 입은 대부분은 "나쁜" 코드 때문이 아니라 빌드 습관 때문입니다. 아래의 일부 조언은 Datadog 및 Endor Labs의 분석에서 나온 것이며, 일부는 일반적인 빌드 위생입니다:

  • 해시가 있는 버전을 lock 파일에 고정하십시오, 이미지는 digest에 따라 고정하고 latest 태그에 따라 고정하지 마십시오;
  • 릴리스 당일에 종속성을 업데이트하지 마십시오: 새로운 버전을 수용하기 전에 짧은 지연이 대부분의 공격을 차단합니다;
  • 외부 패키지에서 새로운 .pth 파일 및 sitecustomize.py의 출현을 주의하십시오 — 일반 라이브러리에서는 드문 일입니다;
  • 개발자의 CLI 토큰을 프로덕션 키처럼 취급하십시오 및 신뢰할 수 있는 리포지토리와 브랜치에서만 릴리스 워크플로우를 허용하십시오;
  • 최소한의 비밀로 격리된 컨테이너에서 파서를 실행하십시오: 가격을 수집하는 프로세스는 클라우드 키와 SSH가 필요하지 않습니다.

결론

LiteLLM과 Railway는 동일한 문제의 두 가지 측면을 보여주었습니다: 비밀은 아래에서, 여러분이 심지어 임포트하지도 않는 종속성을 통해 유출되고, 위에서, 여러분이 신뢰한 플랫폼을 통해 유출됩니다. 10월 21일에 LiteLLM을 설치하거나 Python 환경을 재구성했거나 Railway에 배포했다면, 지금 클라우드 및 CI 토큰부터 키를 변경하고 프록시도 잊지 마십시오. 앞으로는 작업 및 환경에 따라 프록시 자격 증명을 분산시키십시오: 그러면 다음 유출은 하나의 로그인 비활성화로 끝나고 전체 파싱을 중단하지 않게 될 것입니다.