지난해 10월 KPMG 는 AI가 기업에 어떤 가치를 주는지 분석한 보고서를 냈어요. 몇 달 뒤 직접 삭제했어요. 보고서 안에 AI가 만들어낸 오류가 가득 들어 있었거든요.
45개 인용 중 40개가 틀렸어요
AI 연구 그룹 GPTZero가 보고서를 검토했어요. 45개 인용 중 40개가 조작되거나 오류였어요. 이 내용이 알려지자 UBS를 비롯해 여러 기관들이 보고서 내용이 사실과 다르다고 반박했어요. KPMG는 보고서를 자진 삭제했어요.
여기서 끝이 아니에요. 삭제된 보고서에는 CEO 55%가 AI를 최우선 투자로 꼽는다고 나와 있었는데, KPMG가 같은 달에 낸 자체 CEO 서베이에는 71%라고 나와 있었어요. 보고서에 적힌 수치가 자기 회사 조사 결과와도 달랐던 거예요.
KPMG만이 아니에요. EY는 올해 5월 사이버보안 보고서를 철회했고, Deloitte는 AI 오류가 포함된 호주 정부 보고서 비용 일부를 환불했어요. AI 거버넌스를 기업에 팔던 컨설팅사 세 곳이 똑같은 실수를 반복했어요.
AI 거버넌스를 팔던 회사도 확인하지 않았어요
저도 Claude를 의심하지 않았어요. 파이프라인을 만들 때 함수가 안 돌아간 뒤에야 틀렸다는 걸 알았거든요. KPMG 사례를 보면서 그게 남 일처럼 느껴지지 않았어요.
KPMG는 AI 거버넌스를 팔던 회사예요. 근데 자기 보고서 안의 AI 결과물은 확인하지 않았어요. AI가 틀리는 건 이미 알고 있었어요. 그 위험성을 가장 잘 안다고 말하던 회사들도 확인하지 않았다는 게 더 낯선 거예요.
AI가 틀린 게 문제일까요, 아니면 우리가 확인하지 않은 게 문제일까요?