디스코드에서 스프레드시트, 체스판 같은 평범한 이미지가 유해 콘텐츠로 잘못 걸려서 8,000명 넘는 계정이 정지된 사건이 있었어요. 언론은 이걸 “AI 모더레이션 버그”라고 불렀는데, 정작 디스코드 개발자는 “이건 AI랑 아무 상관 없다”고 반박했어요.
스프레드시트, 체스판이 유해 콘텐츠로 분류됐다
2026년 5월부터 약 두 달간 벌어진 일이에요. 디스코드에서 스프레드시트, 체스판, 게임 텍스처, 격자무늬 배경 같은 이미지들이 유해 콘텐츠로 잘못 판단됐어요. 문제가 알려진 주말에만 추가로 200명이 더 정지됐고요. 원래는 이런 매칭이 걸리면 사람이 한 번 더 검토한 뒤 조치하는 구조였는데, 이번엔 그 확인 없이 곧바로 계정이 정지됐어요.
일부 사용자들은 과거에 비슷한 패턴이 유해 콘텐츠를 숨기는 데 악용된 적이 있어서 그런 것 아니냐고 추측했어요. 탐지 시스템이 이런 이미지에 더 예민하게 반응하도록 설계됐을 거라는 얘기예요.
“이건 AI 문제가 아니다”라는 반박
여기서 흥미로운 지점이 나와요. 대부분의 언론은 이 사건을 “AI 모더레이션 버그”로 보도했는데, 디스코드 개발자는 X(트위터)에서 직접 “이건 잘못된 정보다, AI랑 아무 상관 없다. 잘못된 이미지 매칭이 있었을 뿐”이라고 밝혔어요.
개발자 설명에 따르면, 이번 오탐지는 딥러닝 모델이 판단한 게 아니라 이미지 해시 매칭에서 발생한 문제였어요. 지문을 대조하듯 정해진 규칙으로 이미지를 비교하는 기술이라, 이번 건에 한해서는 “AI가 오판했다”기보다 “낡은 매칭 규칙이 잘못 걸렸다”에 더 가까운 셈이에요.
디스코드는 공식 성명에서 “이런 일이 조용히 다시 일어나지 않도록 더 나은 안전장치를 마련하고 있다”고 밝혔어요.
요즘은 오류가 나면 먼저 “AI 탓”부터 붙는 경우가 많아요. 이번 일은 그 이름표가 정말 맞는지부터 확인해야 한다는 걸 보여줬어요.