크라우니의 길 + 4상 신호등

거대한 챗봇 하나에 모든 일을 다 맡기는 길이 있다. 그리고 작은 AI 여럿이 일을 나눠 맡는 길이 있다. 크라우니는 두 번째 길을 택했다.

작게, 여럿이, 환하게

작은 AI 여럿이 나눠 일하면 더 가볍고 빠르다. 그리고 무엇보다, 속이 들여다보인다.

거대한 챗봇은 안이 보이지 않는 '깜깜 상자'다. 왜 그런 답을 냈는지 사람이 따라가기 어렵다. 반대로 작은 규칙은 속이 보이는 '유리 상자'다. '이 조건이면 이렇게 한다'는 규칙이 또렷이 보이니, 틀렸을 때 어디가 틀렸는지 짚을 수 있다. (물론 유리 상자도 만능은 아니다. 규칙 자체가 틀려 있으면 그 규칙대로 틀린 답을 낸다. 그래서 검사기가 필요하다.)

크라우니의 토큰0 라우터는 일의 대부분을 규칙과 찾기 단계에서 끝낸다. 정해진 규칙으로 풀 수 있으면 규칙으로, 예전에 본 패턴이면 찾아와서. 새로 답을 만들어 내는 AI는 그래도 안 될 때만 아주 가끔 부른다. 앞에서 말했듯, 안 쓰는 게 가장 깨끗하니까.

새 도구를 만나면 — 4상 신호등

그럼 이 모든 걸 무엇으로 다스릴까. 신호등 네 칸이다. 새로운 도구나 새로운 답을 만나면, 이 네 칸 중 하나에 놓는다.

티(맞다, +1) — 답이 맞으면 받아들인다. 초록불처럼 나아간다.

옴(모름, 0) — 모르면 멈추고 알아본다. 곱셈에서 0을 곱하면 아무것도 안 일어나듯, 확실해지기 전에는 함부로 일을 벌이지 않는다.

타(틀림, −1) — 틀리면 고치거나 거절한다. AI도 틀린다. 환각을 기억하자.

음(이관) — 이상하거나 내가 다룰 일이 아니면, 멈추고 어른이나 담당자에게 넘긴다.

멈추는 칸에 진짜 힘이 있다

사람들은 보통 '티' 칸만 멋지다고 한다. 척척 맞히고 나아가는 모습이 보기 좋으니까. 하지만 진짜 힘은 멈추는 칸, 옴과 음에 있다.

거대한 챗봇은 무엇을 물어도 일단 '티'로 답하려 든다. 모르는 것도 아는 척, 못 하는 것도 되는 척. 그래서 환각이 나온다. 반대로 크라우니의 분류기 거대SLM2는 '옴(모름)'과 '음(못함)'도 정직하게 출력한다. 이 분류기는 27칸짜리 큐브에 신호를 저장하는데, 좋은 신호는 T, 모름은 O(곱셈 0처럼 아무 일도 일으키지 않음), 나쁜 신호는 A, 넘길 일은 U로 둔다. 새 답을 '만드는' 게 아니라, 오직 판정만 하는 심판이다.

무엇이든 '맞다'고만 하는 도구일수록, 우리는 더 꼼꼼히 확인해야 한다. '모른다'와 '못 한다'를 솔직히 말할 줄 아는 도구가 더 똑똑한 도구다.