크라우니의 길과 4상 신호등

거대한 챗봇 하나에 모든 걸 맡기지 않는 길도 있어. 작은 AI 여럿이 일을 나누는 길이야. 그러면 더 가볍고, 더 빠르고, 무엇보다 속이 들여다보여.

유리 상자와 깜깜 상자

큰 챗봇은 안이 안 보이는 '깜깜 상자' 같아. 답이 어디서 나왔는지 우리가 들여다볼 수 없거든.

작은 규칙들은 속이 보이는 '유리 상자' 같아. "이러면 저렇게"가 다 보이지. 물론 유리 상자도 규칙이 틀리면 답도 틀려. 그래도 어디가 틀렸는지 보이니까 고치기 쉬워.

크라우니는 일의 거의 대부분을 규칙과 찾기로 끝내. 새 답을 만드는 AI는 아주 가끔만 불러. 안 쓰는 게 가장 깨끗하거든.

새 도구를 만나면 신호등 네 칸으로 다스려.

티 — 맞다. 그러면 받아들여.

옴 — 모름. 그러면 멈추고 알아봐. 확실해지기 전엔 그냥 가만히 있는 거야.

타 — 틀림. 그러면 고치거나 거절해. AI도 틀린다는 걸 잊지 마.

음 — 내 일이 아냐. 그러면 멈추고 어른께 넘겨.

사람들은 '티' 칸만 멋지다고 해. 척척 맞다고 답하는 게 똑똑해 보이니까.

하지만 진짜 힘은 멈추는 칸에 있어. '모른다'와 '못 한다'를 솔직히 말할 줄 아는 게 똑똑한 도구야.

거대한 챗봇은 무엇이든 '티'로만 답하려고 해서 환각이 생겨. 크라우니는 '옴(모름)'과 '음(못함)'도 정직하게 말하지.

그러니 기억해. 무엇이든 "맞다"고만 하는 도구일수록 더 꼼꼼히 확인하렴.