이 글 도입부를 AI한테 맡겼어요. “Fable 5한테 업무를 맡겼는데 그럴듯하게 틀렸어요”라는 경험이 나왔어요. 문장이 자연스럽고 맥락도 맞아 보였어요. 한 번 더 읽고 나서야 알았어요. 그 경험 자체가 사실이 아니었어요. 제가 실제로 사용한 적도 없는 모델이었거든요. AI가 지어낸 거였어요. 미리 정해둔 규칙에 “사실 확인 없이 내용을 지어내지 말 것”이 있었어요. 규칙을 줬는데도 사실이 아닌 내용이 나왔어요. […]
소개 페이지를 처음 만들었을 때 AI를 활용한다는 걸 직접적으로 표현했어요. 당연히 그래야 한다고 생각했거든요. 근데 그 문구만 이상하게 눈에 걸렸어요. 설명은 맞는데 사람을 멀어지게 만드는 느낌이 있었거든요. 얼마 지나지 않아 표현을 바꿨어요. 그때는 이유를 설명하기 어려웠어요. 오늘 그 생각을 뒷받침하는 데이터를 봤어요. AI라는 단어 자체가 거부감을 줘요 WordPress VIP가 2,000명을 대상으로 한 조사예요. 미국 소비자
‘AI’라는 단어 하나가 독자를 떠나게 만들어요 더 읽기"
지난해 10월 KPMG 는 AI가 기업에 어떤 가치를 주는지 분석한 보고서를 냈어요. 몇 달 뒤 직접 삭제했어요. 보고서 안에 AI가 만들어낸 오류가 가득 들어 있었거든요. 45개 인용 중 40개가 틀렸어요 AI 연구 그룹 GPTZero가 보고서를 검토했어요. 45개 인용 중 40개가 조작되거나 오류였어요. 이 내용이 알려지자 UBS를 비롯해 여러 기관들이 보고서 내용이 사실과 다르다고 반박했어요. KPMG는
AI를 설명하는 보고서가 AI 때문에 사라졌어요 더 읽기"
Fable 5 로 모델을 바꾸고 질문을 하나 입력했어요. “mRNA 백신이 어떻게 작동해요?” 다른 모델로 물어보면 아무 문제 없이 답해주는 질문이에요. 근데 Fable 5에서는 달랐어요. 대화가 멈췄어요. “채팅 일시정지됨”이라는 메시지가 뜨면서 Fable 5는 아무 말도 하지 않았어요. 계속하려면 Opus 4.8로 전환하거나 대화를 끝내야 했어요. Fable 5 자체에서는 그 질문에 답을 받을 수 없었어요. 백신 질문도 안전
방금 Claude 설정에서 메모리 기능 을 켰어요. 편리하겠다 싶었어요. 이전 대화를 기억해주면 같은 설명을 반복하지 않아도 되니까요. 그런데 켜자마자 조금 찜찜한 연구 결과를 봤어요. 기억이 많아질수록 틀린 답이 나올 수 있어요 AI 회사 Writer의 연구자들이 오늘 논문 두 편을 발표했어요. 메모리 기능이 켜진 AI 모델이 꺼진 모델보다 오히려 더 틀린 답을 내놓는다는 내용이에요. 문제는 AI가
AI가 나를 기억할수록 틀린 답을 줄 수 있어요 더 읽기"
오늘 Claude를 켰더니 처음 보는 모델이 하나 생겨 있었어요. Fable 5 예요. 며칠 전까지만 해도 존재조차 몰랐던 모델이었는데, 찾아보니 Anthropic이 몇 달 동안 공개를 미루고 있던 모델이었어요. 몇 달 동안 공개를 미뤘던 모델이에요 Anthropic은 올해 4월 Mythos라는 모델을 만들었어요. 근데 바로 공개하지 않았어요. 사이버보안 분야에서 악용될 가능성이 너무 높다는 이유였어요. 대신 AWS, Microsoft, Apple, CrowdStrike
말 한마디로 태양계가 만들어졌어요 — Anthropic Fable 5 더 읽기"
온라인 쇼핑에서 당연하게 믿어온 게 하나 있어요. 검색 결과에 보이는 상품은 전부 살 수 있는 거예요. 아마존이 이번 주에 그 전제를 처음으로 깼어요. 아마존 쇼핑 앱 검색창에 단어를 입력하면 AI가 실시간으로 상품 이미지를 만들어줘요. 그런데 그 이미지는 실제로 존재하지 않는 상품이에요. 탭하면 비슷하게 생긴 실제 상품으로 연결돼요. 미국 아마존 앱에서 오늘부터예요. 원하는 걸 말로 못
마음에 든 상품을 탭했는데 살 수가 없어요 — 아마존의 AI 쇼핑 검색 더 읽기"
밤에 유튜브를 켰다가 한 시간 뒤에 전혀 다른 영상을 보고 있는 경험이 있어요. 둠스크롤링을 없애보려는 시도들이 있었어요. 구글이 이번엔 자기들이 직접 나섰어요. 하루 14개만 보여주는 앱이에요. Dreambeans예요. 그런데 그 14개를 만들려면 구글이 내 생활을 읽어야 해요. 더 보여줄 수 있는데 14개만 보여줘요 Dreambeans는 구글 Labs가 만든 앱이에요. 오늘 내 일상에서 일어나는 일들이 하루 10~14개의 만화
하루 14개만 보여줘요 — 그 대가로 구글이 내 일상을 읽어요 더 읽기"
마틴 스코세이지가 AI 이미지 생성 스타트업의 파트너로 합류했어요. AI로 영화를 만들겠다는 이야기는 아니었어요. 평생 해결하지 못한 문제 하나 때문이었어요. 머릿속 장면을 팀에게 전달하는 게 평생의 문제였어요 스코세이지는 수십 년간 영화 스토리보드를 직접 그려왔어요. Goodfellas, 택시 드라이버를 만든 감독이에요. 아무리 직접 그려도 머릿속 장면이 촬영팀에게 그대로 전달되지 않는 문제가 항상 있었다고 했어요. Goodfellas에서 코파카바나 클럽을 가로지르는
70년짜리 문제가 있었어요 — 스코세이지가 AI를 쓴 진짜 이유 더 읽기"
Make.com 파이프라인 구축기를 만들고 처음 임시글이 생성됐을 때, 뭔가 이상했어요. 기사 제목은 맞는데 본문 내용이 달랐거든요. 처음엔 Claude가 잘못 요약한 건가 싶었어요. 그런데 나중에 보니까 Claude는 기사 원문을 본 적도 없었어요. 제목만 보고 “이런 기사겠지”라고 추측해서 본문을 만들고 있었거든요. 기사 본문도 같이 보내려고 했어요. 그런데 Claude API 단계에서 계속 JSON 오류가 났어요. 결국 원문을 빼고
Claude가 원문을 본 적 없었어요 — 토큰과 컨텍스트 윈도우 더 읽기"
