도구는 다스리는 것 — 만든 답은 검사한다

이 장의 한 메시지

목수가 망치를 다스리고 우리가 계산기를 다스리듯, 사람이 AI를 다스립니다. 그리고 가장 중요한 규칙은 “만든 사람한테 채점을 맡기지 마라”입니다.

부모·교사가 30초에 잡을 핵심

도구를 다스리는 사람은 다섯 가지를 합니다. ①잘 묻고 ②답이 맞는지 확인하고 ③틀리면 고치고 ④끌 줄 알고 ⑤책임은 사람이 집니다.

핵심 반전은 채점입니다. AI에게 “이거 맞아?”라고 물으면 거의 “맞아요!”라고 합니다. LLM은 자기 답을 무조건 맞다고 하기 때문입니다. 그래서 크라우니는 ‘만드는 AI’와 ‘검사하는 AI’를 일부러 떼어 놓았습니다. AI가 코드를 만들면 501브리지라는 검증기가 그 코드를 실제로 컴파일해 ‘정말 돌아가나?’를 채점합니다. 통과한 것만 신뢰하고, 안 되는 건 거부합니다. 만든 쪽과 검사하는 쪽을 갈라 두면 틀린 답이 슬쩍 지나가지 못합니다.

이 검사기는 사람이 정해 둔 대로 일합니다. 501브리지 데몬(LaunchAgent com.crowny.bridge501)은 매일 정해진 시각에 자동으로 수확·검증·보고하며 조금씩 나아집니다. ‘스스로’ 똑똑해지는 마법이 아니라, 사람이 짜 둔 대로 부지런히 일하는 것입니다.

아이에게 그대로 해줄 한두 문장

“AI가 만든 답은 AI한테 ‘맞아?’ 묻지 말고, 따로 검사해서 확인하는 거야. 만든 쪽이랑 검사하는 쪽을 갈라 두면 틀린 답이 몰래 못 지나가거든.”