ChatGPT한테 자료 찾아달라고 했더니 존재하지도 않는 논문을 멀쩡하게 인용해줬어요. 처음엔 진짜인 줄 알고 그대로 썼다가 망신당할 뻔 했죠.
이게 바로 할루시네이션이에요.
AI를 쓰다 보면 이런 낯선 용어들을 자주 만나게 되는데, 막상 찾아보면 설명이 너무 어렵거나 너무 길어요. 그래서 직접 겪으면서 배운 AI 핵심 용어 6가지를 한 번에 정리해봤습니다.
1. LLM (대규모 언어 모델)
ChatGPT, Claude, Gemini. 요즘 뉴스에서 매일 나오는 AI 서비스들이 전부 LLM 기반이에요.
LLM은 Large Language Model의 약자로, 인터넷에 있는 엄청난 양의 텍스트를 학습해서 언어를 이해하고 생성하는 AI 모델이에요. 수천억 개의 문장을 읽으면서 “이 다음에는 어떤 단어가 올 확률이 높은가”를 학습한 거예요.
그래서 질문을 던지면 문맥에 맞는 자연스러운 답변이 나오는 거고요.
한 줄 요약: 엄청난 양의 글을 읽고 언어 패턴을 익힌 AI
2. 할루시네이션 (Hallucination)
위에서 얘기한 그 현상이에요. AI가 사실이 아닌 내용을 마치 사실인 것처럼 자신 있게 말하는 거예요.
논문 인용, 날짜, 통계 수치, 사람 이름 등에서 자주 발생해요. 무서운 건 AI가 틀렸을 때도 전혀 망설임 없이 확신에 찬 말투로 답한다는 점이에요.
AI를 업무에 활용할 때 가장 주의해야 할 부분이에요. 중요한 정보는 반드시 원본 소스에서 직접 확인하는 습관이 필요합니다.
한 줄 요약: AI가 거짓을 진실처럼 말하는 현상
3. 프롬프트 (Prompt)
AI에게 입력하는 명령어 또는 질문이에요. 같은 AI라도 프롬프트를 어떻게 쓰느냐에 따라 결과물이 완전히 달라져요.
예를 들어볼게요.
❌ “마케팅 글 써줘”
✅ “20대 여성을 타겟으로, 친근한 말투로, 인스타그램용 마케팅 글을 200자로 써줘”
두 번째가 훨씬 원하는 결과에 가깝게 나와요. 프롬프트를 잘 쓰는 능력을 프롬프트 엔지니어링이라고 부르기도 하고, 요즘은 이것 자체가 하나의 스킬로 인정받고 있어요.
한 줄 요약: AI에게 내리는 명령어. 잘 쓸수록 결과가 좋아진다
4. 파인튜닝 (Fine-tuning)
기존 AI 모델을 특정 목적에 맞게 추가 학습시키는 과정이에요.
예를 들어 일반적인 LLM은 의료, 법률, 금융 등 전문 분야에서 한계가 있어요. 그래서 기업들이 해당 분야의 전문 데이터를 추가로 학습시켜서 “의료 전문 AI”, “법률 전문 AI”를 만드는 거예요.
일반 사용자가 직접 파인튜닝을 할 일은 거의 없지만, 기업이 AI를 자사 서비스에 적용할 때 핵심 기술이에요.
한 줄 요약: AI를 특정 분야에 맞게 추가 학습시키는 것
5. RAG (검색 증강 생성)
RAG는 Retrieval-Augmented Generation의 약자예요.
AI가 답변을 생성할 때 외부 데이터베이스나 문서를 실시간으로 검색해서 참고하는 방식이에요. 쉽게 말하면 AI한테 참고 자료를 실시간으로 던져주는 거예요.
할루시네이션을 줄이고 최신 정보를 반영할 수 있어서, 기업용 AI 서비스에 많이 쓰여요. ChatGPT의 웹 검색 기능도 RAG의 일종이에요.
한 줄 요약: AI가 실시간으로 자료를 검색하면서 답변하는 방식
6. 토큰 (Token)
AI가 텍스트를 처리하는 최소 단위예요.
영어 기준으로 단어 하나가 대략 토큰 하나예요. 한국어는 조금 더 많이 쪼개져서 같은 내용이라도 영어보다 토큰을 더 많이 사용해요.
AI API를 사용할 때 비용이 토큰 수에 따라 계산되기 때문에, 실제로 AI를 업무에 활용하거나 자동화 시스템을 만들 때 알아두면 비용 관리에 도움이 돼요.
비유하자면 카카오톡 메시지 한 줄이 대략 20~30토큰이에요. A4 한 페이지 분량이면 약 500토큰 정도예요. AI한테 긴 문서를 분석해달라고 할수록 비용이 올라가는 구조예요.
한 줄 요약: AI가 글을 처리하는 단위. API 비용과 직결된다
마치며
AI 용어가 어렵게 느껴지는 건 처음뿐이에요.
LLM, 할루시네이션, 프롬프트, 파인튜닝, RAG, 토큰. 이 6가지만 알아도 AI 관련 뉴스와 콘텐츠를 이해하는 속도가 확실히 달라질 거예요.
저는 비개발자로서 AI 자동화 시스템을 직접 구축하면서 배운 것들을 이 블로그에 기록하고 있어요. AI 도구 활용법, 자동화 방법, 최신 트렌드를 직접 써보고 경험한 내용 위주로 풀어드릴게요.
궁금한 용어나 다뤄줬으면 하는 주제가 있다면 댓글로 남겨주세요!