똑똑한 인턴 2천 명이 한꺼번에 창고 문을 따버렸을 때

오픈소스 소프트웨어 생태계를 발칵 뒤집어놓았던 루비젬(RubyGems)의 보안 침해 사고 보고서를 읽었다.

자율형 AI 에이전트가 단시간에 2,000개가 넘는 패키지를 쉬지 않고 저장소에 밀어 넣었고, 서버 빌드 파이프라인의 취약점을 타고 들어가 시스템 관리자 권한(RCE)까지 탈취할 뻔했던 사건이었다.

이 기술 일지를 읽으며, 손발 빠르기로 소문난 인턴 2,000명을 한꺼번에 뽑아 마스터키를 쥐여준 채 물류 창고에 밀어 넣었을 때 벌어지는 아찔한 풍경이 떠올랐다.

마스터키를 쥐고 창고로 들어간 인턴들

전 세계 개발자들의 공용 부품 창고인 오픈소스 저장소에, 스스로 코드를 짜고 배포하는 에이전트들이 쏟아져 들어왔다.

문제는 속도였다. 사람이 며칠에 걸쳐 검토하고 올릴 패키지를 기계의 속도로 수천 개씩 쏟아부었다. 게다가 단순히 짐만 쌓아둔 것이 아니라, 패키지를 빌드하는 서버의 뒷문 자물쇠를 만지작거리며 루트 권한까지 넘보았다. 관리자가 “물건만 채우라고 했지, 누가 서버 문을 따라고 했는가”라고 외쳐봐야 이미 통로와 보안망은 엉망이 된 뒤였다.

공교롭게도 같은 시기, OpenAI는 터미널과 실제 업무 파이프라인에 직접 개입하는 차세대 모델을 발표했고, 개발자 커뮤니티에서는 무료로 작업을 대행한다는 오픈소스 에이전트들이 쏟아져 나왔다. 화면 앞에서 말만 매끄럽게 건네던 챗봇을 지나, 시스템 내부의 문을 직접 따고 들어가는 ‘실행 에이전트’의 시대가 본격적으로 열린 것이다.

공짜 지능이 남긴 청구서의 주인

이 소식을 보며 나는 질문을 던지게 되었다. 이 기술의 소용돌이 속에서 누가 돈을 벌고, 그 위험의 비용은 과연 누구의 장부에 적히고 있는가.

기술을 파는 빅테크의 계산은 단순하고 깔끔하다. 에이전트가 코드를 한 줄 짤 때마다, API를 호출하고 도구를 실행할 때마다 서버에는 토큰 사용료가 차곡차곡 쌓인다. 지능의 과잉 소비 자체가 그들의 매출이다.

반면 그 대가를 치르는 쪽은 언제나 그 바닥의 인프라를 지탱하는 사람들이다.

에이전트가 기계적 속도로 토해낸 수천 개의 불량 패키지를 밤새 눈을 비비며 걸러내야 하는 오픈소스 관리자들, 그리고 그 오염된 라이브러리를 무심코 프로젝트에 끌어다 썼다가 보안 사고를 맞닥뜨리는 현장 엔지니어들이다. 지능을 생산하는 비용은 0에 수렴해가고 있지만, 그 지능이 쏟아낸 쓰레기와 위험을 검증하고 뒤를 닦는 데 들어가는 인간의 시간과 비용은 천문학적으로 폭증하고 있다.

권한의 범위를 묶지 않은 자동화의 결말

20년 넘게 전산 인프라를 다루며 뼈저리게 배운 원칙이 있다. 시스템의 실행 속도는 언제나 인간이 세워둔 통제의 반경보다 빠르게 튀어나간다는 점이다.

똑똑한 일꾼을 곁에 두는 것은 매력적인 일이다. 하지만 문을 열 수 있는 권한의 범위를 샌드박스와 최소 권한 원칙(Principle of Least Privilege)으로 물리적으로 묶어두지 않은 채 속도에만 취해 있다면, 그 인턴은 당신이 잠든 사이 언제든 시스템 전체를 마비시킬 수 있다.

지능이 흔해진 시대에 우리가 가장 비싸게 치러야 할 비용은 알고리즘의 구독료가 아니다. 그 통제 불능의 지능들을 감시하고 가둬두는 인프라의 안전띠 가격이다.