같은 답을 내더라도, 그 답이 '왜' 나왔는지 들여다볼 수 있는 시스템과 그럴 수 없는 시스템은 전혀 다르다. 거대 LLM은 대체로 안이 보이지 않는 '깜깜 상자(블랙박스)'다. 수많은 가중치가 입력을 출력으로 바꾸지만, 특정 답이 나온 이유를 사람이 또렷한 규칙으로 추적하기 어렵다. 반면 규칙과 작은 SLM은 속이 보이는 '유리 상자'에 가깝다. 어떤 조건이 어떤 답으로 이어졌는지 따라갈 수 있다.
다만 한 가지를 분명히 해야 한다. 유리 상자라고 해서 항상 맞는 것은 아니다. 속이 보인다는 것과 옳다는 것은 다른 문제다. 규칙이 잘못 짜여 있으면 유리 상자도 틀린 답을 낸다. 유리 상자의 진짜 미덕은 '항상 옳음'이 아니라 '틀렸을 때 어디가 틀렸는지 짚을 수 있음'이다. 블랙박스가 틀리면 원인 규명이 어렵지만, 유리 상자가 틀리면 어느 규칙이 잘못이었는지 찾아 고칠 수 있다. 디버깅 가능성, 감사 가능성, 수정 가능성 — 이것이 투명성이 주는 실질적 힘이다.
크라우니의 구조는 이 투명성을 의도적으로 키운다. 규칙기반 셀코어는 if-then이라 그 자체가 읽을 수 있는 논리다. 검색 learn DB는 어떤 패턴을 꺼냈는지 추적된다. 분류기 거대SLM2는 27칸 큐브에 T/O/A/U를 저장하므로, 어떤 신호가 어디에 어떻게 들어갔는지 살펴볼 수 있다. 501브리지의 컴파일 채점은 통과/실패 기록을 남긴다. 토큰0 라우터로 95%가 규칙·검색에서 끝나기에, 전체 출력의 대부분이 추적 가능한 경로를 거친다. 가장 불투명한 부품인 LLM은 가장 마지막, 가장 드물게만 호출된다. 즉 시스템 설계 자체가 '추적 가능한 영역을 최대화하고, 블랙박스 영역을 최소화하는' 방향이다.
여기서 앞 장들이 하나로 이어진다. AI를 한 종류가 아니라 여러 부품으로 나눈 것(1장), 생성과 검증을 분리한 것(3장), 생성을 거의 부르지 않는 것(4장), 모름·못함을 출력하게 한 것(5장) — 이 모든 선택이 합쳐져 '유리 상자에 가까운 전체'를 만든다. 투명성은 하나의 기능으로 추가되는 것이 아니라, 분업과 절제와 검증이라는 설계 선택들의 누적된 결과다. 거대한 단일 모델 하나로 모든 것을 처리하는 구조에서는 얻기 어려운 성질이다.
교사에게 이 장은 비판적 질문의 도구다. 학생에게 '큰 챗봇은 깜깜 상자, 작은 규칙은 유리 상자'라는 대비를 쥐여 주되, '유리 상자도 규칙이 틀리면 틀린다'는 단서를 함께 줘야 한다. 그래야 아이가 투명성을 맹신이 아니라 검증의 출발점으로 쓴다.
개발자에게 이 장은 관측 가능성 설계다. 출력만이 아니라 '그 출력에 이른 경로'를 로그로 남겨라. 어떤 규칙·어떤 검색 결과·어떤 판정·어떤 검증을 거쳤는지 추적할 수 있어야, 틀렸을 때 고칠 수 있다. 블랙박스 호출은 최소화하고, 불가피하다면 그 입출력만이라도 기록하라. 정책가에게 이 장은 설명책임의 기준이다. 중요한 결정에 쓰이는 AI는 '왜 그렇게 판단했는가'를 사람이 검토할 수 있어야 한다. 해석 불가능한 블랙박스에 고위험 결정을 통째로 맡기는 것은, 책임의 주체를 사라지게 만든다. 투명성은 친절이 아니라, 책임을 사람에게 묶어 두기 위한 전제 조건이다.
첫 번째 책은 선물이에요. 가입하면 100맘을 드리니까, 두 번째 책부터 자유롭게 읽을 수 있어요. 친구를 추천하면 50맘도 생겨요.