들어가며

첫번째 사례 : 업무는 인수인계는 받았지만 일하는 방식은 인수인계 못받았어요

어떤 제조업 기업이 있습니다. 여기 생산 현장에서 일하던 실무자 A가 이직을 하면서 퇴사를 하게 되었습니다. 그래서 또 다른 B가 A의 업무를 인수인계를 받았습니다. 분명히 인수인계도 받았고 인수인계 문서와 메뉴얼도 숙지했지만 퇴사한 실무자 A가 하는 것 만큼 B는 할 수가 없었습니다. 계속 업무가 막히자 B는 계속 A에게 전화를 걸어 도움을 구했고, A는 한달 내내 전화에 시달리고 나서 이제 더이상 전화를 안해줬으면 좋겠다고 B에게 말하고 그 다음 B의 전화를 받지 않았습니다.

두번째 사례 : 분명히 같은 에이전트한테 일을 시키고 있는데

어떤 스타트업이 있습니다. 여기 마케팅 부서에서 일하는 마케터 C와 D가 있습니다. 이 마케팅 부서에서는 사내 에이전트를 구축했습니다. 그래서 이 에이전트는 사내 지식베이스를 바탕으로 질문에 대한 응답과 지시대로 산출물 생성이 가능했습니다. C는 의문이 생겼습니다. 분명히 같은 에이전트를 이용해서 결과물을 만들어 내는데 옆자리에 있는 D와 결과가 달랐기 때문입니다. D가 특별히 프롬프트를 더 정교하게 한다던가 그런것도 없지만 옆자리에 D가 더 결과 퀄리티가 좋았습니다.

세번째 사례 : 그때 그때 달라요

저희가 이번에 PE사 에이전트 구축 프로젝트를 하면서 현업 심사역들을 인터뷰를 했습니다. 저희는 에이전트를 만들어야 하니 그들의 업무하는 방식과 뷰를 정리할 필요가 있었죠. 기업을 볼 때 어떤 방식으로 어떤 흐름으로 보고 어떤 것을 중점적으로 보나요? 라고 질문을 드리니 기업마다 너무 천차만별이라서 기업의 특성과 상황에 따라서 다른것 같다라고 응답을 해주셨슴니다. 그리고 몇가지 사례와 예시를 말씀해주셨습니다.

왜 이런일들이 벌어질까요?

실제 내가 업무에 필요한 지식과 정보는 문서로만 존재하지 않습니다. 경험, 판단, 관점, 상황, 직관 이런 것들이 특히나 그 사람만이 가지고 있는 것들은 문서 밖에 흩뿌려져 있습니다. 이렇게 흩뿌려져 있는 맥락들은 문서로 정리가 안되어 있다보니 에이전트가 학습할 수도 조회할 수도 없습니다.

위 사례들을 대표하는 하나의 단어는 바로 암묵지입니다. 그리고 AX 성패를 가르는 핵심은 바로 이러한 암묵지를 자산화하는 것입니다. 지금부터 암묵지가 무엇인지 그리고 이것을 왜 자산화 해야 하는지 그리고 자산화를 어떻게 할 수 있는지 등을 같이 알아보겠습니다.

그래서 암묵지가 뭔데?

실제 업무 현장에서는 사람들에게 쌓인 지식이 중요합니다. 가령 어떤 현장에서는 이렇게 하는데 어떤 현장에서는 저렇게 한다던지 어떤 부서의 예산 집행 비용은 다른 부서와 다르게 특정 계정과목으로 처리한다던지 이 임원은 템플릿보다는 숫자를 더 선호하고 저 임원은 한눈에 들어오도록 직관적인 것을 더 중요하게 생각한다던지 우리만의 제품을 설계할 때는 이런식으로 접근을 한다던지 하는 그런 우리만의 규칙 또는 나만의 규칙 또는 판단이 중요합니다.
이러한 숙련자의 경험 감각 직관 경험 판단 등 문서화 되지 않고 메뉴얼화 될 수 없는 노하우를 암묵지라고 합니다.

그러면 노하우라고 하면 되지 왜 암묵지라고 표현하냐라고 할 수 있습니다. 만약에 제가 저의 에이전트 설계 및 개발 노하우를 전수하기 위해서 노하우를 메뉴얼로 만든다고 해봅시다. 자 메뉴얼을 만들었습니다. 이 메뉴얼을 본 사람이 이 메뉴얼대로만 하면 제가 에이전트를 설계하고 개발하는 대로 똑같이 할 수 있을까요? 저는 불가능하다고 생각이 듭니다. 과연 이 메뉴얼에는 제 ‘모든’ 노하우가 담긴 것이 맞을까요? 아주 디테일하게 정성껏 메뉴얼을 만들면 대부분 노하우가 담길 수는 있겠지만, 상황과 고객과 유저와 도메인에 따른 설계의 직관과 경험에 따른 업무방식의 변화는 메뉴얼에 담을 수는 없을 것입니다. 이러한 메뉴얼화 된 노하우를 우리는 형식지라고 합니다. 하지만 이렇게 메뉴얼화 되지 않은 저의 노하우를 우리는 암묵지라고 하는 겁니다.
즉 노하우=형식지+암묵지 인 것입니다.

에이전트와 암묵지 간의 간극

Panopto와 YouGov의 직장 내 지식 생산성 조사(2018)에 따르면, 직무 지식의 42%는 해당 개인에게만 존재하는 고유 지식이며, 그 직원이 퇴직하면 동료가 해당 직무의 42%를 수행할 수 없게 됩니다. 응답자의 81%는 “경험으로 얻은 지식이 가장 대체하기 어렵다”고 답했습니다.

예시로 포스코에서 20년 동안 근무한 시니어 엔지니어는 솔레노이드 밸브 설계 시 향후 사양 변경에 대비해 예비 접점을 반드시 확보한다고 합니다. 이는 해당 엔지니어에게는 일하면서 습득한 당연한 상식이지만 일반 도메인 지식을 학습한 에이전트는 현재 사양 기준으로 최소 필요 접점만 확보하면 된다고 응답합니다.

지금까지 기업에 AI를 도입한다고 했을 때는 “사내 여기 저기에 흩어져있는 문서와 데이터들을 활용해보자"라는 목적도 있었습니다. 그래서 여기 저기서 RAG기반의 쳇봇을 도입했습니다. 규정을 묻거나 기록된 특정 사항을 묻는 등의 일반적인 조회형 질문에는 아주 대답을 잘했습니다. 하지만 성장 추이 등을 묻는 종합 판단형 질문이라던지 이 비용은 왜 예외 처리가 되었는지를 묻는 등의 판단형 질문에는 문서와 사내 데이터만으로는 응답이 불가능했습니다.

그러다보니 AI 도입해도 뭐 별거 없네 라는 식의 목소리가 나오기 시작합니다. 그래서 이 AI를 보강하기 위해서 문서를 더 때려넣어보지만 이것을 해결할 수는 없습니다. 실제로 2026 한경 AX 서밋 (2026.7)에서 딜로이트 김수연 파트너는 “근로자 49%가 업무에 AI를 전혀 쓰지 않는다"고 지적합니다.

그래서 여러 컨설팅 회사 등에서는 이를 사용자의 AI사용 습관이 아직 형성되지 않았다던가 사용자에게 AI리터러시 교육이 제대로 되지 않았다는 것을 주요 원인으로 지적하고 이를 교육하여 도입 시 사용율을 올리려고 합니다.
하지만 실제 문제는 사용자가 효용성을 느끼지 못한다는 것입니다. 동작은 되는데 문서 내용 조회는 되는데 이것을 내 업무에 연결 시킬 수가 없기 때문입니다. 내 업무는 문서 밖에 있거든요

교육만으로 사람들에게 암묵지를 형식지로 전환하라고 할 수는 없습니다. 이는 숨쉬는 방법을 문서로 남기거나 자전거 타는 방법을 문서로 남기는 것과 비슷합니다. 가령 우리는 두발로 잘 걸어다니지만 이족보행 휴머로이드 개발에는 아주 오랜 시간이 걸렸습니다. 사진에서 고양이와 강아지를 분류하는 것조차 우리는 형식지로 만들지 못합니다.

그래서 우리의 AX과제 중 하나는 AI 에이전트의 도움을 받아 이 암묵지를 사람 안에 있는 판단 기준과, 시스템에 남지 않는 처리 과정까지 AI가 쓸 수 있게 만드는 것입니다. 그리고 AI가 뭘 모르는지 뭘 알아야 하는지를 정확히 정의해서 이것을 식별하고 간접적인 방법들을 사용해서 암묵지를 어떻게든 컨텍스트로써 사용할 수 있게 형식지화를 시켜야 합니다. 최근에 인기가 생긴 LLM위키라는 방식도 이러한 시도 중에 하나입니다.

암묵지를 자산화 하는 방법

업무 tracing

실질적으로 직접 본인의 업무의 모든 방식과 판단, 직관, 경험 등등의 노하우를 모두 문서화 할 수는 없습니다.
그렇다면 업무를 하는 동안의 나의 메일, 메신저, 행동, 회의 등등 업무하는 내용을 tracing할 필요가 있습니다.
그리고 이 tracing 한 내용을 그대로 원문 그대로 적재만 하는 것이 아니라 지식화를 하기 위한 가공을 해야 합니다.
가령 도입 현장에서는 메일 정리, 자동저장 등이 명시적 요구사항으로 나오는데 이 뿐만 아니라 메일을 통한 암묵지 추출도 중요한 요소입니다.

context graph 활용

이렇게 tracing하여 가공한 정보를 어떻게 저장하여 자산화를 할 수 있을까요? 여기에 대한 답으로 많은 기업에서 주목하는 것이 컨텍스트 그래프입니다. 흩어져 있던 업무 맥락을 AI가 따라 읽을 수 있는 하나의 지도로 엮은 것이죠. 아니 그럼 이거 예전부터 사용해오던 지식그래프 아닌가요? 기존의 triple 기반의 지식그래프는 enitty 간의 관계는 충분히 표현할 수 있지만, 시간/위치/출처 등 맥락적(context)인 정보를 표현하는데는 한계가 있었습니다. 이에 따라 제안된 개념인 Context Graph(CGs)는 트리플 구조의 표현을 확장함으로써 기존의 지식그래프 대비 정교하고 풍부한 정보를 표현할 수 있다는 특징이 있습니다.

그리고 기존 entity로 사용했던 고객·문서·정책 같은 대상뿐 아니라, 생성·검토·승인·반려·이관·해결 같은 ‘행위’도 그래프의 한 점(노드)이 됩니다. 즉 어떨 때 어떤 판단을 했고 어떤 순서대로 처리했으며, 어떤 결과에 이르렀는가가 기록되고 표현이 됩니다. 이러한 context graph를 에이전트가 참조한다면 에이전트가 이러한 내용들을 컨텍스트로 활용이 가능합니다.

멀티모달 레이어

암묵지의 주요 이슈는 글로 표현하기 힘든 데이터가 많다는 것입니다. 예를 들어 현장에서 이런 소리가 났을 때는 이런 문제가 있다와 같은 경험기반의 노하우에서는 “이런 소리"를 글로표현하기가 힘들어집니다. 그래서 이제 암묵지를 자산화하기 위해서는 다차원 데이터를 결합하여 추출해야 합니다.

시각 및 공간 데이터 (Vision & Spatial)

행동 패턴: 숙련공의 작업 동선, 시선 이동(Eye-tracking), 손가락의 미세한 움직임을 초고화질 카메라와 웨어러블 디바이스로 기록할 수 있습니다.
공간 맥락: 스마트 팩토리의 3D 라이다(LiDAR)나 컴퓨터 비전을 통해 작업 환경의 공간적 배치와 설비의 물리적 상태를 캡처

음성 및 환경 데이터 (Audio & Environment)

구두 노하우: 작업 중 숙련공이 혼잣말로 중얼거리는 판단 기준(“지금 소리가 살짝 탁하니까 압력을 줄여야 해”)을 무선 마이크로 수집(STT 변환)합니다. 제조현장이 아닌 곳에서는 내부 회의 밑 외부 미팅 시에 녹음 및 STT 변환하여 수집할 수 있습니다.
이상 징후 소리: 기계의 정상 작동음과 미세한 마찰음, 소음의 주파수를 공향 센서로 추출하여 ‘소리로 진단하는 감각’을 자산화합니다.

물리 센서 및 생체 데이터 (Sensors & Biometrics)

압력 및 촉각: 스마트 글러브나 햅틱 센서를 통해 숙련공이 부품을 조립할 때 가하는 미세한 힘(Torque)과 압력을 숫자로 수집합니다.
환경 지표: 판단 내릴 당시의 미세한 온도, 습도, 진동 변화를 IoT 센서로 동시 기록합니다.

AX는 이제 도입에서 운영의 단계로

많은 기업들이 AI를 도입하게 되면 도입만 하면 끝이라고 생각합니다. 일반적인 결정론적인 솔루션은 버그만 안나면 그대로 사용하지만 AX 솔루션 및 에이전트들은 비결정론적이며, 조직에서 어떻게 사용하냐 따라서 달라집니다. 즉 변화와 운영을 고려한 상태에서 도입을 해야 합니다.

암묵지를 자산화하는 것은 AI에이전트 도입시기보다는 운영시기에 주로 일어닙니다.

일반적으로 암묵지를 자산화하고자 할 때 오프보딩 시 퇴사자인터뷰를 진행하며 이를 도와주는 플랫폼도 있습니다.
하지만 이는 일회성 추출이므로 “그 시점의 지식"을 문서로 고정하는데, 판단 기준은 시장과 거래처가 바뀌면 같이 바뀝니다.

에이전트 도입 시에 AX컨설턴트 및 엔지니어 집단에서 현업 인터뷰를 진행하지만 판단 기준을 말해달라"고 하면 나오는 건 관계적 암묵지 중에서도 본인이 의식하는 부분만을 이야기하며, 도입 시기에 암묵지가 형식지로 전환되는 비율은 극히 낮습니다.
정말 중요한 기준은 에이전트가 실제 케이스를 처리해 왔을 때 유저가 업무를 처리하면서 “아니, 이건 이렇게 보면 안 돼"라고 교정하는 순간에 처음 언어화됩니다. 이것은 유저가 직접 에이전트를 사용하는 운영단계에서만 추출할 수 있습니다.

MIT 미디어랩이 지적하는 AX도입 프로젝트 중 95%가 실패하는 주요원인은 바로 “learning gap"입니다. 시스템이 피드백을 유지하지 않고, 맥락에 적응하지 않고, 시간이 지나도 개선되지 않는 것입니다. 도입 시점에 아무리 잘 만든 에이전트도 교정이 축적되지 않으면 6개월 뒤엔 또 하나의 안 쓰는 도구가 되고 맙니다.

AI에이전트는 똑똑하지만 우리 조직의 업무를 아직 잘 모르는 신입과 같습니다. 그래서 AI에이전트에게 암묵지를 한꺼번에 주입하는 형태가 아니라 운영하면서 사용하면서 점차 쌓아하는 것이 중요합니다. 이 때문에 저는 AX에 관련된 제언을 드릴 때 왠만하면 해당 조직에서 해당 업무를 잘 아는 분이 운영을 직접 하는 것이 좋다라고 말씀 드립니다.

하지만 많은 기업들이 이러한 운영인력을 확보하기에는 현실적으로 여유가 있지 않습니다. 암묵지를 자산화하기 위한 AI에이전트 운영에는 현업의 업무도 정확히 이해하는 동시에 AI에이전트의 오케스트레이션 tool들의 보완 및 개발, 에이전트 인프라 등의 엔지니어링도 종합적으로 이해하는 것이 유리합니다. 그래서 우리 엡실론델타가 여러분의 이러한 암묵지의 자산화와 AI운영에 도움을 드리고 있습니다. 언제든지 contact@epsilondelta.ai 로 메일 주시면 저희가 최대한 여러분 조직을 위해 도와드리곘습니다.