에이전틱 AI의 도입과 확장 사이에는 큰 간격이 있습니다. 맥킨지가 2026년 4월 발표한 분석에 따르면 조직의 62%가 AI 에이전트를 실험하거나 파일럿으로 운영하지만, 어떤 업무 기능에서도 ‘확장 중’이라고 답한 비율은 10%를 넘지 않았습니다. 파일럿에서 잘 작동한 에이전트가 실제 업무에 연결되는 순간 다른 문제가 시작된다는 뜻입니다.
맥킨지는 AI 워크로드가 늘면서 2030년까지 IT 인프라 비용이 2~3배 증가할 수 있지만 예산은 상대적으로 정체될 것으로 전망했습니다. 포레스터의 2026년 분석에서도 기업 리더의 75%가 에이전틱 AI를 도입 중이라고 답했지만, 의미 있는 프로덕션 운영과 확장된 멀티에이전트 시스템은 소수라고 설명합니다.
62%와 10%를 빼서 실패율로 계산할 수는 없습니다. 두 수치는 조직 단위의 실험 여부와 업무 기능 단위의 확장 상태를 각각 측정합니다. 다만 도입보다 확장이 훨씬 어렵다는 방향은 분명합니다.
왜 더 좋은 모델을 붙여도 성과가 늘지 않을까
파일럿이 막히면 조직은 더 좋은 모델이나 플랫폼을 찾기 쉽습니다. 그러나 맥킨지가 지목한 확장의 조건은 에이전트·도구·기간계 시스템을 잇는 공유 오케스트레이션 계층입니다. 이 계층이 없으면 팀마다 비슷한 에이전트를 새로 만들고, 결과는 사람이 다른 시스템으로 옮기며, 실패한 작업은 처음부터 다시 실행합니다.
전체 처리량은 가장 느린 연결 지점에 맞춰집니다. 요약 품질이 90점에서 95점으로 높아져도 다음 시스템에 복사·붙여넣기하고 승인을 기다리는 시간이 그대로라면 조직의 리드타임은 줄지 않습니다. 포레스터가 확장이 에이전트 수보다 과제 복잡도에서 실패한다고 진단한 이유도 같습니다.
이것이 증명하는 것은 모델 성능이 중요하지 않다는 사실이 아닙니다. 모델 개선만으로는 시스템 간 인계, 권한, 승인, 감사라는 운영 병목을 제거할 수 없다는 뜻입니다.
오케스트레이션 계층은 무엇을 연결할까
오케스트레이션은 에이전트 여러 개를 순서대로 실행하는 기능만을 뜻하지 않습니다. 맥락이 다음 단계로 넘어가고, 각 에이전트의 권한이 제한되며, 실패 지점부터 재시도할 수 있고, 실행 이유를 나중에 재구성할 수 있어야 합니다.
| 구성 요소 | 담당하는 일 | 없을 때 나타나는 증상 |
|---|---|---|
| 컨텍스트 인계 | 판단 근거와 상태를 다음 시스템에 전달 | 사람이 매번 다시 입력함 |
| 권한·정책 | 허용된 조회와 실행 범위를 통제 | 공용 계정과 과도한 권한이 생김 |
| 상태·재시도 | 실패 지점과 복구 절차를 기록 | 오류 때 처음부터 다시 시작함 |
| 관측·감사 | 입력·판단·실행 이력을 보존 | 사고 원인과 책임을 추적하지 못함 |
공유 계층은 재사용에도 영향을 줍니다. 에이전트의 목적, 소유자, 권한과 성능을 등록해 두지 않으면 팀마다 같은 기능을 다시 구매하거나 개발합니다. 인프라 비용이 늘고 예산은 정체되는 상황에서 이는 기술 취향이 아니라 운영 단가의 문제입니다.
실제 병목은 어디에서 찾을 수 있을까
병목은 모델 평가표보다 업무의 경계에서 잘 보입니다. 한 업무를 요청부터 완료까지 그린 뒤 시스템이 바뀌는 지점, 사람이 결과를 옮기는 지점, 승인이 오래 멈추는 지점에 표시하면 됩니다.
특히 세 가지 이상의 시스템을 가로지르고, 결과를 사람이 반복해서 옮기며, 오류가 나면 처음부터 다시 해야 하는 흐름은 우선 점검 대상입니다. 반대로 단일 시스템 안에서 입력과 결과가 고정된 작업은 복잡한 오케스트레이션 없이도 자동화 효과를 검증하기 쉽습니다.
- 팀마다 비슷한 에이전트를 따로 만들고 있지 않은가
- 시스템 경계를 넘을 때 맥락이 자동으로 전달되는가
- 에이전트마다 고유 계정, 최소 권한, 이름이 붙은 소유자가 있는가
- 실행 기록만으로 판단 이유와 실패 지점을 재구성할 수 있는가
도입 순서는 어떻게 바꿔야 할까
첫째, 에이전트 수보다 사람이 중계하는 인계 횟수를 셉니다. 둘째, 자율 실행 범위와 사람의 승인 지점을 함께 정합니다. 셋째, 데이터의 기준과 소유자를 먼저 지정합니다. 맥킨지가 지적하듯 에이전트는 일관성 없는 시스템 기록이나 불분명한 소유권을 대신 해결해 주지 않습니다.
작은 조직이라면 시스템 여러 개를 한 번에 연결하기보다 반복 빈도가 높고 결과 기준이 명확한 업무 하나에서 시작하는 편이 낫습니다. 해당 흐름에서 인계 시간, 재작업률, 승인 대기와 복구 시간을 도입 전후로 비교한 뒤 다음 업무로 넓힙니다.
자율 범위와 통제 설계는 AI 에이전트 사고를 막는 제로 트러스트와 좁은 스코프, 도입률과 성과의 차이는 AI 에이전트 97% 도입, 유의미한 ROI는 29%였다에서 더 자세히 확인할 수 있습니다.
에이전틱 AI의 성숙도는 몇 개의 에이전트를 돌리는가가 아니라 업무 경계를 몇 번 자동으로 넘기고, 그 실행을 얼마나 설명할 수 있는가로 측정하는 편이 정확합니다.
