“disregard”를 구글에서 검색해봤어요. 지금은 번역 위젯과 함께 검색 결과가 나와요. 그런데 결과 목록에 눈에 띄는 게 하나 있었어요. 이 단어가 구글 검색을 망가뜨렸다는 TechCrunch 기사가 상위에 떠 있었거든요.
며칠 전엔 검색 결과 대신 전혀 다른 게 나왔어요.
구글 AI가 단어 하나에 당황했어요
TechCrunch 기자가 “disregard”를 검색창에 넣었을 때, 결과 대신 AI 응답이 나왔어요. 빈 화면 아래에 남은 건 이런 문장이었어요.
“Understood. Let me know whenever you have a new prompt or question.”
AI 개요가 검색 맨 위에 들어가기 시작한 직후였어요. 그 영역에 큰 공백이 생기고, 응답 하나와 Merriam-Webster 링크뿐이었어요. 링크는 공백 아래에 있어서 대부분의 화면에는 보이지도 않았어요.
TechCrunch 기자는 15년 동안 Bing이 구글보다 낫다고 느낀 적이 처음이었다고 했어요. 구글은 며칠 안에 버그를 수정했고, 지금은 재현되지 않아요.
검색창이 갑자기 채팅창처럼 반응했어요
왜 이런 일이 생겼을까요. 구글이 공식 원인을 밝히지 않았지만, AI가 언어를 읽는 방식을 생각하면 어느 정도 짐작은 가요.
AI 쪽에서는 이런 상황을 프롬프트 인젝션이라고 불러요. AI가 문장을 정보보다 지시처럼 읽어버리는 거예요.
구글 AI가 검색창의 “disregard”를 단어가 아닌 명령어 신호로 해석했을 가능성은 있어 보여요. 그래서 “무시하겠습니다, 새 질문 있으면 말씀해주세요”처럼 반응한 거예요. 사용자는 사전 단어를 검색했는데, AI는 지시를 받은 것처럼 응답했어요.
구글만의 이야기가 아니에요. ChatGPT도, Claude도 같은 방식으로 언어를 읽어요. 우리가 AI에게 보내는 모든 문장을, AI는 “이게 내가 따라야 할 지시인가?”라는 질문을 끼워서 읽어요.
검색창에 단어 하나를 넣었을 뿐인데, AI는 그걸 대화 시작처럼 받아들였어요. 이런 장면을 한 번 보고 나면, 검색창이 예전처럼 느껴질까요?