도구는 다스리는 것 — 만든 답은 검사한다

목수가 망치를 다스리고, 우리가 계산기를 다스리듯, 사람이 AI를 다스려. 연장이 주인을 다스리는 게 아니야. 늘 사람이 주인이야.

다스리는 사람의 다섯 가지

AI를 다스리는 사람은 이 다섯 가지를 해.

하나, 잘 묻는다.

둘, 답이 맞는지 확인한다.

셋, 틀리면 고친다.

넷, 끌 줄 안다.

다섯, 책임은 사람이 진다.

여기 제일 중요한 비밀이 있어. "만든 사람한테 채점을 맡기지 마라."

AI한테 "이거 맞아?" 하고 물으면, AI는 거의 "맞아요!"라고 해. 자기가 만든 답이니까 무조건 맞다고 하는 거지.

그래서 크라우니는 '만드는 AI'와 '검사하는 AI'를 일부러 떼어 놨어. 한쪽이 답을 만들면, 다른 쪽이 그걸 채점하는 거야.

AI가 코드를 만들면, 501브리지라는 검사기가 그 코드를 진짜로 한번 돌려 봐. 정말 작동하는지 직접 시험하는 거지. 통과한 것만 믿고, 안 되는 건 거절해.

이 검사기는 사람이 정해 둔 시각에 자동으로 점검하고 기록을 남겨. 매일 부지런히 일하지. 하지만 이건 검사기가 '스스로' 똑똑해지는 게 아니야. 사람이 짜 둔 대로 성실하게 일하는 것뿐이야. 주인은 끝까지 사람이거든.