도구는 다스리는 것 — 만든 답은 검사한다

목수는 망치를 다스린다. 우리는 계산기를 다스린다. 도구는 우리를 부리는 게 아니라, 우리가 부리는 것이다. AI도 마찬가지다. 아무리 똑똑해 보여도, 다스리는 쪽은 언제나 사람이다.

다스리는 사람이 하는 다섯 가지

도구를 다스리는 사람은 다섯 가지를 한다.

첫째, 잘 묻는다. 무엇을 원하는지 또렷하게 말해야 쓸 만한 답이 나온다. 둘째, 답이 맞는지 확인한다. 그냥 받아 적지 않는다. 셋째, 틀리면 고친다. 넷째, 끌 줄 안다. 필요 없을 때 멈출 수 있어야 진짜 주인이다. 다섯째, 책임은 사람이 진다. 답이 맞든 틀리든, 그걸 쓴 결과는 도구가 아니라 사람의 몫이다.

가장 중요한 반전 — 만든 사람에게 채점을 맡기지 마라

여기 이 장에서 꼭 기억할 한 가지가 있다.

"만든 사람한테 채점을 맡기지 마라."

챗봇에게 '이거 맞아?'라고 물으면, 챗봇은 거의 언제나 '네, 맞아요!'라고 한다. 자기 답을 의심하도록 만들어진 도구가 아니기 때문이다. 시험을 본 학생이 자기 답안을 스스로 채점하면서 다 동그라미를 치는 것과 같다.

그래서 크라우니는 '만드는 AI'와 '검사하는 AI'를 일부러 떼어 놓았다. AI가 코드를 하나 만들면, 501브리지라는 검사기가 그걸 진짜로 컴퓨터에서 돌려 본다. 실제로 컴파일해서 통과하면 믿고, 안 되면 거절한다. '정말 작동하나?'를 말이 아니라 실행으로 확인하는 것이다. 통과한 것만 신뢰하고, 실패한 것은 버린다.

스스로 똑똑해지는 게 아니다

이 검사기는 사람이 정해 둔 시각에 자동으로 점검하고 기록을 남긴다. 크라우니에서는 501브리지 데몬(com.crowny.bridge501)이 매일 정해진 시각에 그날 만들어진 것들을 모아 검증하고 보고하며, 조금씩 다듬어 간다.

오해하지 말자. 이건 AI가 '스스로' 똑똑해지는 마법이 아니다. 사람이 짜 둔 절차대로 부지런히 일하는 것이다. 검사하고, 통과만 남기고, 기록한다. 그 단순하고 정직한 반복이 쌓여서, 시스템은 어제보다 조금 나아진다. 다스린다는 건 바로 이런 거다. 멋지게 만드는 것보다, 만든 것을 꼬박꼬박 검사하는 일.