AX 기업을 만들어가는 순서

AX 기업은 AI를 많이 쓰는 회사가 아닙니다. 기존 업무 위에 도구를 하나 얹으면 생산성은 조금 오르지만 회사의 옛 모양은 그대로 남습니다. AX기업의 이상적인 형태를 먼저 그려두고 거기서 거꾸로 걸어오면, AI를 도입하는 일은 순서상 한참 뒤에 옵니다. 대부분이 걸려 넘어지는 자리는 도입이 아니라 그 앞입니다.

순서가 있는 알고리즘

일론 머스크가 공장에서 쓴다는 다섯 단계가 있습니다. 2021년 스타베이스 공장 투어에서 정리된 형태로 처음 공개됐고, 월터 아이작슨의 전기 『Elon Musk』(2023)에 그 배경이 나옵니다.

1. 요구사항부터 의심한다 (make the requirements less dumb)
2. 부품이나 공정을 삭제한다
3. 단순화하고 최적화한다
4. 사이클 타임을 줄인다
5. 자동화한다

그가 강조하는 것은 다섯 개가 아니라 순서입니다. 가장 흔한 실수는 있으면 안 되는 공정을 최적화하는 것이고, 자신이 되풀이한 실수는 지우기와 단순화(2, 3단계)를 건너뛰고 자동화한 것이었다고 말합니다.

이 순서를 그대로 사무실로 가져오면, 지금 많은 회사가 하는 AX는 5번부터 시작합니다. 결재 라인은 그대로 두고 결재 문서를 AI가 써주게 하는 식입니다. 빨라지기는 합니다. 다만 빨라지는 것은 원래 없어도 됐을 일입니다.

지우기는 기술 과제가 아닙니다

진짜 어려운 자리는 1단계와 2단계이고, 이 둘은 기술 과제가 아닙니다. 권한과 평가, 즉 사람 문제입니다.

"이 결재 라인은 왜 있습니까"를 물으면 답할 사람이 없는 경우가 많습니다. 그 규칙을 만든 사람은 이미 회사에 없고, 남은 사람들은 그것이 원래 있던 것으로 알고 배웠기 때문입니다. 규칙이 남아 있는 이유는 필요해서가 아니라, 지울 권한을 가진 사람이 지울 이유를 모르기 때문입니다.

머스크의 두 번째 단계에는 조건이 하나 붙어 있습니다. 지우다 보면 잘못 지운 것이 나오고, 그건 나중에 되돌리게 됩니다. 그렇게 되돌린 것이 지운 것의 10%에도 못 미친다면 덜 지운 것입니다. 되돌릴 일이 없었다는 건 처음부터 지워도 안전한 것만 골랐다는 뜻이기 때문입니다. 되돌릴 것을 각오하고 지우라는 말입니다.

회사에서 이게 어려운 이유는 되돌리는 비용이 커서가 아니라, 지운 사람에게 그 실패의 이름이 붙기 때문입니다. 지우는 일은 성과로 세어지지 않고 되돌려진 일은 미숙함으로 평가됩니다. 그러면 아무도 지우지 않습니다.

그래서 AX가 실제로 걸리는 자리는 모델의 성능이 아니라 여기입니다. 지우는 일에 이름이 붙지 않는 회사여야 지울 수 있습니다. 이건 도구를 사서 되는 일이 아닙니다. 무엇을 성과로 집계하는지 바꿔야 하고, 그건 사람이 바꾸는 일입니다.

기록되지 않은 것은 없는 것입니다

자동화 앞에 하나가 더 있습니다. 가독성입니다.

AI 입장에서 회의실에서 구두로 오간 말은 존재하지 않습니다. 관리자의 머릿속에 있는 판단 기준도, "그건 원래 그렇게 해요"라는 한 문장도 존재하지 않습니다. 회사가 실제로 굴러가는 방식의 상당 부분이 문서 밖에 있고, 그게 AX가 도구 도입에서 멈추는 이유입니다. 사람은 문서에 없는 것을 알아서 채우지만, AI 에이전트는 없는 것을 없는 채로 실행합니다.

와이콤비네이터가 자기 회사에 이걸 해봤습니다. 파트너인 피트 쿠먼이 만든 내부 에이전트 인프라는 350개가 넘는 도구를 사용하고, 전부 하나의 데이터베이스를 봅니다. 밤이 되면 그날 오간 직원과 에이전트의 대화를 전부 읽고 조직의 스킬을 스스로 다시 씁니다(How To Build Superintelligence Inside Your Company, 2026).

예를 하나 들어보겠습니다. YC 파트너들은 한 기수에 수십 번씩, 스타트업 하나를 두 문장으로 소개하는 글을 손으로 씁니다. 이 일을 에이전트에게 처음 넘길 때 준 것은 사람이 쓴 프롬프트 한 장이 전부였습니다. 그 뒤로는 파트너가 창업팀을 만나는 자리에서 에이전트의 초안을 고쳐 말했고, 그 대화가 기록으로 남았습니다. 밤마다 그 기록이 다시 읽히면서 초안은 조금씩 나아졌습니다.

여기서 중요한 것은 고친 내용이 기록으로 남았다는 것입니다. 같은 지적을 회의실에서 말로만 하고 끝냈다면 과정은 아무 데도 쌓이지 않았을 것입니다.

다만 가독성은 감시와 종이 한 장 차이입니다. 모든 것을 기록하게 만들면 사람들은 곧 기록을 고르기 시작합니다. 남길 말과 남기지 않을 말을 나누고, 남기고 싶지 않은 이야기는 기록이 닿지 않는 자리에서 합니다. 그러면 기록은 늘어나는데 정작 중요한 것은 다시 문서 밖으로 나갑니다.

우리나라에서 중요한 결정은 담배 피우는 자리와 회식 자리에서 난다는 말이 있습니다. 정해지는 일은 기록이 닿지 않는 곳에서 벌어지는 경우가 많습니다. 기록을 요구하는 압력이 세질수록 가짜 정보만 남을 가능성이 높습니다. 그리고 AI는 잘못된 결정이유를 듣게 됩니다.

추후 AI 시대의 사람 평가에 대한 글도 작성해볼 계획입니다. 기록이 평가로 되돌아오는 조직에서는 반드시 일어나는 일입니다. 그래서 가독성이 성립하는 조건은 기술이 아니라 약속입니다. 남긴 기록으로 사람으로 판결(judge)하지 않는다는 약속입니다.

프롬프트는 생각보다 허술합니다

앞부분이 AI 에이전트가 알아야 할 것을 만드는 일이었다면, 이번에는 하면 안 되는 것을 막는 일입니다. 알게 하는 것과 못 하게 하는 것, 이 둘이 갖춰져야 자동화를 생각할 수 있습니다.

시스템 프롬프트에 "환불은 10만 원까지만 승인해"라고 적어두는 것은 규칙이 아닙니다. 부탁입니다. 대개는 지켜지고, 가끔 안 지켜지고, 안 지켜졌다는 사실은 한참 뒤에 압니다. 그 사이 에이전트는 사람보다 훨씬 빠르게 일하고 있습니다.

인사 규정을 생각하면 차이가 분명합니다. 취업규칙은 부탁이 아닙니다. 어기면 결재가 통과하지 않고, 결재가 통과하지 않으면 돈이 나가지 않습니다. 규칙을 강제하는 것은 문장이 아니라 그 문장이 걸려 있는 위치입니다. 사람에게는 결재선이 그 자리였습니다.

에이전트에게도 그런 자리가 필요합니다. 하면 안 되는 일을 프롬프트에 적어두는 대신, 에이전트가 실제로 실행하는 길목에 세워두는 것입니다. 결제를 누르려는 순간, 메일을 보내려는 순간, 그 앞에서 통과 여부를 판정하는 자리 하나를 두는 방식입니다. 사람에게 결재선이 그 자리였다면 에이전트에게는 실행 직전이 그 자리입니다.

판정하는 자리와 집행하는 자리를 나누는 오래된 설계이고, Open Policy Agent 같은 전담 엔진이 이미 있습니다. 개발자에게 이 문단을 보여줄 일이 있다면 PDP·PEP 라는 이름으로 부르면 됩니다.

모델 내부가 아닌 길목에 두는 이유는 하나입니다. 사람은 규정을 어길 때 어긴다는 것을 압니다. 모델은 모릅니다. 어겼다는 사실조차 모르는 상대에게는 사후 감사가 소용없습니다.

그래서 자동화가 마지막입니다

머스크의 알고리즘은 자동화에서 끝납니다. 제가 생각하는 AX에는 자동화 직전에 한 단계가 더 있습니다. 무엇을 자동화하지 않을지 정하는 일입니다.

머스크의 순서를 회사에 옮기고 거기에 그 하나를 더하면 이렇습니다. 번호가 그대로 옮겨오지는 않습니다. 첫 단계가 머스크의 앞쪽 셋을 묶은 것이고, 기록과 규칙은 회사에만 있는 단계입니다.

1. 지울 것을 먼저 지운다
2. 남은 일을 기록으로 남게 만든다
3. 규칙을 부탁이 아니라 절대 어기면 안되는 것으로 나눈다
4. 무엇을 사람에게 남길지 정한다
5. 그러고 나서 자동화한다

다섯 중 넷은 방법의 문제입니다. 맞는 답이 있고, 시간이 지나면 회사들은 가장 효율적인 방법으로 비슷해집니다. 네 번째(무엇을 사람에게 남길지) 하나만 선택의 문제입니다. 여기에는 정답이 없고, 그래서 회사의 얼굴이 되는 것도 여기입니다.

예를 들어 채용에서 떨어진 사람에게 보내는 통보는 AI가 더 빠르고 아마 더 정중하게 쓸겁니다. 그런데도 사람이 쓰기로 정하는 회사가 있습니다. 받는 쪽에서는 그 한 통이 그 회사의 이미지 전부이기 때문입니다. 반대로 AI가 보내기로 정하는 회사도 있습니다. 둘 다 답이 될 수 있고, 그래서 이건 알아내는 일이 아니라 정하는 일입니다.

AI를 쓰지 않기 위해 AX합니다에서 AX의 목적은 무엇을 맡기고 무엇을 남길지 결정하는 것이라고 썼습니다. 그 결정은 앞의 세 단계를 밟은 다음에야 내릴 수 있습니다.

자동화하지 않은 일과 자동화하지 않기로 정한 일은 겉으로 똑같아 보입니다. 둘 다 사람이 하고 있습니다. 다른 점은 하나입니다. 왜 그렇게 정했는지 말할 수 있는지 여부입니다.

그래서 다섯 단계 중 네 번째 단계가 가장 어렵습니다.

그 한 칸을 비워두고 자동화로 건너뛰어도 회사는 살아남습니다. 아마 꽤 잘 굴러갈 것입니다. 다만 그 안에서 일하는 사람은 자기 일이 왜 자기 몫인지 끝내 듣지 못합니다.

살아남는 것과 왜 있는지 말할 수 있는 것은 다른 얘기입니다. 저는 그 차이가 AI시대에 기업의 격차를 벌릴 것이라고 생각합니다.