AI 구독료를 내고 있으면 그걸로 비용을 다 냈다고 생각하기 쉬워요.
그런데 MS CEO 사티아 나델라는 2026년 7월 12일 X에 올린 장문 글에서, AI를 쓸수록 기업이 두 번 지불하는 셈이라고 말했어요. 돈으로 한 번 내고, 사용하면서 남긴 회사의 노하우와 피드백으로 또 한 번 내는 셈이라고 했어요.
경제학의 오래된 역설을 뒤집었어요
노벨경제학상 수상자 케네스 애로우가 말한 유명한 역설이 있어요. 정보는 사보기 전엔 그게 얼마나 가치 있는지 알 수 없는데, 일단 보고 나면 이미 공짜로 가진 셈이 된다는 거예요. 그래서 정보를 파는 사람이 손해를 볼 위험이 있었어요.
나델라는 AI 시대엔 이게 거꾸로 됐다고 말해요. 이번엔 사는 사람이 위험을 져요. AI를 쓰면서 남긴 프롬프트와 수정 내용, 평가 기록도 여기에 포함돼요. 이런 것들이 쌓이면서 회사의 노하우가 AI 제공사 쪽으로 조금씩 새어나간다는 거예요. 나델라는 이걸 “역정보 역설”이라고 이름 붙였어요. 다만 실제로 입력한 내용이 어떻게 보관되고 모델 개선에 쓰이는지는 서비스, 요금제, 조직용 계약, 개인 설정에 따라 달라질 수 있어요.
근데 이 말을 하는 사람이 누구인지가 중요해요
나델라가 겨냥한 대상을 직접 밝히진 않았어요. 나델라는 AI 기업들이 공개 데이터를 가져와 모델을 학습할 때는 “공정 이용”을 내세우면서, 정작 다른 회사가 자기 모델 결과물을 모아 학습하는 “증류”는 이용약관으로 금지하는 태도를 문제 삼았어요.
이름을 콕 집어 말하지는 않았지만, 증류를 약관으로 금지해온 OpenAI와 Anthropic이 자연스럽게 떠올라요. AI가 내놓는 판정이나 주장을 그대로 믿기 어렵다는 건 지난번 링크드인 AI 판정 논란에서도 다뤘던 얘기인데, 여기서도 마찬가지예요. 단, 공개 데이터 학습과 남의 모델 결과물을 대량으로 모아 증류하는 건 법적으로 같은 성격의 문제는 아니에요.
문제는 마이크로소프트 자신도 OpenAI와 Anthropic 둘 다에 투자한 회사라는 거예요. 마이크로소프트는 2025년 11월 Anthropic에 최대 50억 달러를 투자하기로 했고, 같은 협력 발표에서 Anthropic은 애저 클라우드를 300억 달러어치 구매하기로 약속했어요.
나델라는 기업이 자기 회사 데이터가 다른 고객사 데이터와 섞이지 않도록 분리한 환경, 즉 “테넌트 경계” 안에서 자체 학습 환경을 만들어 데이터와 모델을 직접 통제해야 한다고 제안했어요. 그런데 이런 환경을 실제로 구축하려면 클라우드와 AI 인프라가 필요하고, 마이크로소프트는 바로 그 인프라를 파는 회사예요. 비판 자체가 틀린 건 아니지만, 이해관계 없는 제3자의 말은 아니에요.
증류 금지 얘기도 한쪽 얘기만 들으면 안 돼요. Anthropic은 2026년 6월 10일 미국 상원 은행위원회(팀 스콧·엘리자베스 워런 의원)에 서한을 보내, 중국 기업 알리바바로부터 알려진 사례 가운데 가장 큰 규모의 증류 공격을 당했다고 알렸어요. CNBC 보도에서도 이 서한 내용을 확인할 수 있어요. Anthropic이 이런 사례가 있었다고 밝힌 만큼, 증류를 무작정 막아둔 약관으로 보기는 어려워요. 모델 결과물을 대량으로 모아 학습에 쓰는 일을 막으려는 이유도 있어 보여요.
내가 입력한 정보도 설정에 따라 쓰일 수 있어요
나델라가 말한 역정보 역설은 기업 얘기처럼 보이지만, 사실 이 흐름 안에 개인 사용자도 있어요. neulbai도 매일 Claude Pro에 원고를 넣고, 틀린 부분을 고치고, 피드백을 남기는 걸 반복하고 있어요. 실제로 설정을 열어보니 “AI 모델 개선 돕기” 항목이 켜져 있었는데, 따로 설정한 기억은 없었어요.
이 항목은 대화와 피드백을 AI 모델 개선에 활용할 수 있도록 허용하는 설정이었어요. 실제로 어떤 내용이 어떻게 쓰였는지까지 제가 알 수는 없지만, 확인하지 않은 채 이 활용을 허용하고 있었다는 점은 분명했어요.
참고로 Claude는 설정 > 개인정보 보호에서, ChatGPT는 설정 > 데이터 제어에서 관련 항목을 확인할 수 있어요.
여러분은 업무 자료를 AI에 넣기 전에, 데이터 보관과 모델 학습 활용 설정을 확인해본 적 있으세요?