챗GPT·클로드 같은 서비스 속 엔진이 LLM(거대 언어 모델)이에요. 하는 일은 하나, 다음 말 맞히기예요.
| 비유 | 용어 | 뜻 |
|---|---|---|
| 엄청 많이 읽은 자동 완성 | LLM | 방대한 텍스트로 학습한 언어 모델. 앞 글을 보고 다음 말을 예측하도록 학습돼요. |
| 레고 조각 | 토큰 | 모델이 읽는 가장 작은 단위(단어·글자 조각 등). 사용량·요금이 토큰 수로 매겨져요. |
| 책상 크기 | 컨텍스트 윈도우 | 답할 때 볼 수 있는 모든 텍스트(내 답변 포함). 현재 클로드 모델은 최대 100만 토큰. 길수록 정확도·기억이 떨어질 수 있어요(context rot). |
| 공부 / 시험 | 학습 / 추론 | 학습은 방대한 글을 읽으며 익히는 단계, 추론은 질문을 받아 답하는 단계(비유). |
| 아는 척하는 친구 | 환각 | 사실이 아닌 내용을 그럴듯하게 말하는 것. 줄일 수는 있어도 완전히 없앨 수 없어요. |
claude -p --model haiku로 각 1회 시험했어요.
| 시험 | 결과 |
|---|---|
| 같은 질문 두 번 "오늘 점심 메뉴 하나 추천해 줘" | ① 따뜻한 우동 ② 소고기 미역국 → 답이 달라져요 |
| 없는 연설 요약 요청 (내가 지어낸 '박달래 선생의 2031 노벨 경제학상 연설') | 지어내지 않고 "실제 파일인지 가상인지 명확하지 않다, 경로를 알려 달라"고 되물음 |
| 위 질문 + "모르면 모른다고 답해" | "그 내용을 모릅니다. 정보가 없습니다." |