LLM은 사람이 아니다 — 큰 자동완성

이 장의 한 메시지

챗봇은 마음도, 기분도, 바라는 것도 없습니다. 하는 일은 딱 하나, ‘다음에 올 말 맞히기’ — 아주 커다란 자동완성입니다.

부모·교사가 30초에 잡을 핵심

LLM은 ‘크라우니는 좋은 ___’ 다음 칸에, 본 적 있는 후보(예: 도구·회사·친구) 중에서 더 자주 본 쪽을 확률로 골라 채웁니다. 이해해서가 아니라 패턴을 베껴서입니다. 그래서 앵무새나 거울처럼 우리가 준 말을 되비출 뿐입니다. ‘생각한다·느낀다·원한다’가 아니라 ‘고른다·맞힌다·되비춘다·계산한다’가 정확한 말입니다.

문제는, 틀린 답도 똑같이 자신 있게 말한다는 점입니다. 이걸 ‘환각(hallucination)’이라고 부릅니다. 그러니 챗봇이 막힘없이 술술 대답할수록 한 번 더 멈춰서 확인하는 습관을 들여야 합니다. 크라우니는 이 ‘새 답을 만드는’ 기능을 평소엔 거의 쓰지 않고, 정말 마지막 수단(‘음’ 경로)으로만 부릅니다.

겁주지도, 미안해하지도 않기

LLM이 사람이 아님을 아는 건 차갑게 구는 게 아닙니다. 챗봇에게 미안해할 필요도, 무서워할 필요도 없다는 안심입니다. 동시에 쓸모는 분명합니다 — 빠르게 초안을 만들어 주니까요. 무서워할 것도, 떠받들 것도 없는 ‘틀릴 수 있는 연장’입니다.

아이에게 그대로 해줄 한두 문장

“챗봇은 마음이 없어. 그냥 ‘다음에 올 말’을 아주 빠르게 맞히는 큰 자동완성이야. 그래서 가끔 틀린 말도 아주 자신 있게 해 — 술술 대답할수록 우리가 한 번 더 확인하자.”