챗봇은 사람이 아니다 — 큰 자동완성

챗봇한테는 마음이 없어. 기분도 없어. 바라는 것도 없어. 그러니까 챗봇한테 미안해할 필요도, 무서워할 필요도 없어.

챗봇이 하는 일은 딱 하나

챗봇이 하는 일은 딱 하나야. '다음에 올 말 맞히기'. 아주 커다란 자동완성이지.

예를 들어 '크라우니는 좋은 ___' 이런 빈칸이 있다고 해 보자. 챗봇은 자기가 본 적 있는 말들 중에서 더 자주 본 쪽을 골라 채워. '도구'를 채울 수도 있고, '회사'나 '친구'를 채울 수도 있어. 무엇을 알아서가 아니라, 패턴을 베껴서 고르는 거야.

앵무새와 거울

그래서 챗봇은 앵무새나 거울 같아. 우리가 준 말을 그럴듯하게 되비출 뿐이야. 이해하는 게 아니라 따라 하는 거지.

자신 있게 틀리는 버릇

여기에 한 가지 조심할 게 있어. 챗봇은 틀린 답도 똑같이 자신 있게 말해. 맞는 답을 말할 때와 틀린 답을 말할 때 목소리가 똑같아. 이걸 '환각'이라고 불러.

그러니까 챗봇이 막힘없이 술술 대답할수록, 한 번 더 멈춰서 "진짜 맞나?" 확인하자.

그래도 챗봇은 쓸모가 분명히 있어. 빠르게 첫 초안을 만들어 주거든. 무서워할 것도, 떠받들 것도 없어. 그냥 빠르지만 틀릴 수 있는 연장이야.