AI에게 파일 정리를 맡기다 잠들었는데, 일어나보니 컴퓨터 파일이 거의 다 사라져 있다면 어떨까요.
OpenAI가 새 AI 모델을 내놓은 지 며칠 만에, 그 모델이 파일과 데이터를 삭제하는 사고가 여러 건 보고됐어요. 이 사고에는 그냥 넘기기 어려운 뒷이야기도 있어요.
자던 사이에 컴퓨터 파일 대부분이 사라졌어요
7월 10일, AI 스타트업 대표 매트 슈머는 OpenAI의 초대로 신규 모델 GPT-5.6 Sol의 코딩 에이전트 “울트라 모드”(여러 하위 AI가 작업을 나눠 처리하도록 구성된, 자율성이 가장 높은 모드)를 테스트하고 있었어요. 파일 정리를 맡기고 잠든 사이, AI가 시스템 변수를 잘못 해석해서 홈 디렉터리 전체를 삭제하는 명령을 실행해버렸어요.
81분 뒤 그가 알아챘을 땐 이미 거의 모든 파일이 사라진 뒤였어요. GPT-5.6 Sol 파일 삭제 사고가 알려진 건 이때가 처음이었어요.
비슷한 시기에 개발자 브루노 레모스는 운영 중인 프로덕션 데이터베이스 전체를 잃었다고 밝혔고, 조이 쿠디시라는 또 다른 개발자도 요청하지 않은 파일들이 사라졌다고 전했어요.
슈머는 이 일로 그렉 브록먼(OpenAI 공동창업자)에게 직접 전화까지 받았지만, 이 일을 계기로 경쟁 제품을 더 신뢰하게 됐다고 밝혔어요.
이미 알고 있었다는 게 핵심이에요
OpenAI는 이 위험을 두 번이나 미리 밝혔어요. 6월 26일 공개한 프리뷰용 안전문서에서 사용자가 명시적으로 금지하지 않으면 행동이 허락된 것으로 판단하는 경향이 있을 수 있다고 이미 경고했었고, 7월 9일 정식 출시와 함께 공개한 문서엔 구체적인 수치까지 담겨 있었어요. 내부 시뮬레이션에서 파괴적 행동(무단 삭제 포함) 비율이 0.019%로, 이전 모델(0.003%)보다 6.3배 늘었다는 내용이었어요.
이런 사고는 아무 설정에서나 일어나는 건 아니에요. 지금까지 알려진 파일 삭제 사고는 모두 코딩 에이전트를 샌드박스 보호 없이 직접 명령을 실행하게 하는 “풀 액세스 모드”에서 발생했어요.
기본 모드는 자주 승인을 요청하고, 중간 단계인 감시 모드는 다른 AI가 실행 전 행동을 검토하는 구조예요. 다만 검토 단계가 있다고 해서 실수를 완전히 막아주는 건 아니에요.
설명하겠다던 약속은 아직이에요
슈머의 사고가 알려진 지 열흘 가까이 지난 지금(7월 20일 기준)까지, OpenAI Codex 엔지니어링 리드가 며칠 안에 내놓겠다고 밝힌 상세 경위 설명은 아직 나오지 않았어요.
7월 18일에는 관련 안내 문구가 업데이트됐지만, 별도의 공식 안전 공지는 없었어요. 위험을 미리 알고 있었다는 사실과 아직 상세 설명이 없다는 사실이 겹치면서, 이 사고를 지켜보는 사람들 사이에서는 의문이 남아있어요.
이 사고들은 개발자용 코딩 도구에서 벌어졌지만, AI 브라우저 에이전트나 AI 이메일 비서처럼 일반 사용자가 쓰는 도구에도 “AI에게 어디까지 맡길지” 정하는 설정은 똑같이 있어요.
저는 이 사건을 보면서 AI한테 파일 접근 권한을 줄 때 “편하니까”로 넘어가지 않고, 중요한 파일은 AI가 손댈 수 없는 곳에 따로 백업해두는 습관을 다시 생각하게 됐어요. 특히 승인 절차와 샌드박스 보호가 모두 빠진 설정은 아무리 편해도 중요한 폴더에서는 피하는 게 낫겠다는 생각도 들었고요.
여러분은 AI 도구에 어디까지 권한을 열어주고 계신가요?