Anthropic은 2026년 8월, 사내에서 연구·엔지니어링 업무를 수행하는 AI 에이전트 약 3만 개가 동시에 작동한다고 공개했습니다. 가장 많이 사용하는 내부 플랫폼 한 곳의 수치입니다. 이 플랫폼에서는 에이전트의 모든 행위를 실행 전과 실행 후에 각각 검사합니다.
Anthropic의 사례가 보여주는 실무 원칙은 모든 이상 행동을 곧바로 막는 것이 아닙니다. 되돌릴 수 없는 행동은 실행 전에 좁게 차단하고, 더 넓은 이상 징후는 실행 후에 탐지한 뒤, 사람이 실제로 검토할 수 있는 양만 최종 단계로 올리는 구조가 필요합니다.
Anthropic Institute가 공개한 측정 결과에 따르면 2026년 8월 한 달 동안 온라인 감시 장치가 확인한 결정은 10억 건을 넘었습니다. 그중 실행 전에 차단된 비율은 0.002%, 약 4만7천 건당 1건이었습니다. 사후 감시 장치는 매주 약 10만 건의 기록을 표시했고, 여러 자동 분류 단계를 거쳐 사람이 직접 확인하는 고우선순위 기록은 주당 약 50건이었습니다.
SiliconANGLE의 9월 17일 보도는 이번 공개가 에이전트 감독뿐 아니라 AI 주도 연구개발과 연산 자원 배분까지 같은 방식으로 반복 측정하려는 제안이라고 설명했습니다. 이 글에서는 세 영역 중 기업이 바로 적용해 볼 수 있는 에이전트 감독 구조에 집중합니다.
숫자만 보면 “거의 문제가 없었다”고 읽기 쉽습니다. 하지만 차단율만으로는 에이전트가 안전했다고 결론 내릴 수 없습니다. 감시 장치가 얼마나 엄격하게 설정됐는지, 차단하지 않고 기록만 남긴 사례가 무엇인지 알 수 없기 때문입니다. 이 발표에서 더 눈여겨볼 부분은 10억 건의 결정을 50건의 사람 검토로 줄이는 과정입니다.
세 가지 지표가 서로 다른 질문에 답한다
Anthropic은 에이전트 감독을 세 가지 지표로 나눴습니다. 감시 범위를 나타내는 커버리지, 문제가 얼마나 빨리 검토되는지를 나타내는 검토 지연 시간, 차단 또는 추가 검토로 넘어가는 비율인 에스컬레이션 비율입니다.
| 지표 | Anthropic 공개 내용 | 조직 차원에서 확인할 질문 |
|---|---|---|
| 커버리지 | 해당 플랫폼의 행위 100%가 사전 감시를 통과하고, 실행된 행위 100%가 사후 감시에 수집됨 | 감시를 거치지 않는 별도 자동화나 개인 계정이 있는가 |
| 검토 지연 시간 | 자동 검사는 실행 전 또는 실행 후에 이뤄지고, 차단된 행위는 일주일 안에 사람이 검토 | 결제·삭제·외부 발송처럼 기다릴 수 없는 행동을 언제 확인하는가 |
| 에스컬레이션 비율 | 사전 차단 0.002%, 사후 표시 0.1~0.2%, 사람 검토 약 50건/주 | 경고가 너무 많아 아무도 보지 않거나, 너무 적어 이상을 놓치고 있지 않은가 |
세 지표는 어느 하나로 대신할 수 없습니다. 커버리지가 높아도 검토가 몇 달 뒤에 이뤄지면 즉시 발생하는 사고를 막을 수 없습니다. 반대로 빠르게 차단하더라도 일부 실행 경로가 감시 밖에 있으면 그 수치는 전체 운영을 설명하지 못합니다.
무엇보다 3만 개라는 숫자는 Anthropic 전체의 모든 에이전트를 뜻하지 않습니다. 공식 글은 가장 많이 사용하는 내부 플랫폼 한 곳의 규모라고 범위를 제한합니다. 개인이 만든 별도 자동화나 다른 플랫폼까지 포함한 총량으로 확대해서 읽어서는 안 됩니다.
실행 전 검사와 실행 후 검사는 왜 나눠야 하나
두 감시 장치는 실패 비용이 다릅니다.
실행 전 감시는 위험하다고 판단한 행동을 바로 막습니다. 오탐이 발생하면 정상 업무도 멈춥니다. 따라서 모델 가중치 반출, 권한 변경, 외부 전송처럼 실행 뒤에 되돌리기 어려운 행동을 대상으로 높은 확신이 있을 때만 막는 편이 현실적입니다.
실행 후 감시는 이미 끝난 기록을 넓게 살펴봅니다. 정상 행동을 잘못 표시하더라도 당장 업무가 중단되지는 않습니다. 대신 검토 시간이 듭니다. 그래서 사전 차단보다 민감하게 설정하고, 반복되는 이상 징후를 찾거나 다음 차단 규칙을 만드는 데 활용할 수 있습니다.
Anthropic의 사후 표시 비율은 1,000건당 12건으로, 사전 차단율보다 50100배 높습니다. 두 번의 검사는 즉시 멈춰야 할 위험과 나중에 조사할 신호를 각각 맡습니다.
작은 조직도 같은 원리를 적용할 수 있습니다. 고객에게 메일을 보내거나 파일을 삭제하는 행동은 실행 직전에 승인받게 하고, 자료 검색이나 내부 초안 작성은 실행 후 표본 검토로 관리하는 식입니다. 모든 행동에 같은 승인 절차를 붙이면 업무가 느려지고, 모든 행동을 사후 로그로만 보면 사고가 먼저 일어날 수 있습니다.
경고는 많을수록 좋은가
경고는 사람이 확인할 때만 통제가 됩니다. 하루에 수백 건씩 쌓여 아무도 읽지 않는 알림은 기록일 뿐 안전장치가 아닙니다.
Anthropic이 공개한 깔때기를 아래에서 위로 읽으면 운영 원칙이 보입니다. 최종 단계에서 사람이 검토하는 양은 주당 약 50건입니다. 에이전트가 만들어내는 전체 기록에 비하면 극히 적습니다. 자동 분류기는 사람의 시간을 가장 판단하기 어려운 사례에 집중시키는 역할을 합니다.
따라서 조직은 감시 도구를 먼저 고르기보다 일주일에 실제로 몇 건을 검토할 수 있는지부터 정해야 합니다. 예를 들어 담당자가 주당 두 시간만 쓸 수 있고 한 건을 확인하는 데 10분이 걸린다면, 최종 경고는 12건 안팎이어야 합니다. 200건이 올라오도록 설정하고 12건만 임의로 읽는 것보다, 우선순위를 조정해 중요한 12건이 올라오게 만드는 편이 낫습니다.
에이전트가 늘면 기록량은 빠르게 늘지만 사람의 검토 시간은 같은 속도로 늘지 않습니다. 분류 기준을 개선해 사람이 볼 알림을 줄여야 합니다. 작업을 잘게 나누고 검수 지점을 정하는 방법은 AI 에이전트 오케스트레이션의 병목에서도 이어서 살펴볼 수 있습니다.
100% 감시를 좌우하는 실행 경로
‘100% 감시’라는 표현은 모든 회사가 비싼 시스템을 사야 한다는 뜻이 아닙니다. 더 먼저 확인할 것은 에이전트의 행동이 몇 개의 경로를 통과하는가입니다.
공식 자동화 플랫폼 한 곳을 통해서만 메일, 문서, 데이터베이스에 접근하도록 했다면 감시 관문도 한곳에 둘 수 있습니다. 반대로 담당자마다 개인 API 키를 만들고, 서로 다른 자동화 서비스와 브라우저 확장 프로그램을 연결하면 전체 경로를 파악하기 어려워집니다. 감시 제품이 좋아도 우회 경로가 있으면 커버리지를 계산할 수 없습니다.
이런 비공식 실행 경로가 늘어나는 문제는 섀도우 오퍼레이션과 에이전트 권한 관리에서 다룬 위험과 같습니다. 감시 시스템을 구매하기 전에 다음 목록부터 만들어야 합니다.
- 작동 중인 에이전트와 자동화의 이름
- 각 자동화가 사용하는 계정과 API 키
- 읽기, 수정, 삭제, 발송 중 가능한 행동
- 실행 전 승인이 필요한 행동
- 실행 기록이 저장되는 위치
- 경고를 확인하고 중단을 결정할 담당자
이 목록을 만들 수 있어야 ‘전수 감시’라는 표현도 검증 가능한 목표가 됩니다.
이 수치를 그대로 벤치마크로 쓰면 안 되는 이유
Anthropic의 공개는 구체적이지만 외부 감사 결과는 아닙니다. 책임 있는 운영을 보여줄 이해관계가 있는 회사가 자사 기준으로 측정한 수치입니다. 공식 글도 감시 체계를 운영한 기간이 아직 수개월이며, 모든 행동을 충분히 이해 가능한 형태로 만들었는지 확신하기 어렵다고 한계를 적었습니다.
0.002%라는 차단율 역시 목표값이 아닙니다. 조직마다 맡긴 업무, 허용한 권한, 되돌릴 수 있는 정도가 다릅니다. 금융 거래를 실행하는 에이전트와 내부 문서를 요약하는 에이전트가 같은 차단율을 가질 이유가 없습니다. Anthropic의 비율을 따라 하기보다 같은 정의로 매달 반복해서 측정할 수 있는 지표를 갖추는 편이 유용합니다.
실무에서는 다음 순서로 시작할 수 있습니다.
- 되돌릴 수 없는 행동을 골라 실행 전 관문에 둡니다.
- 나머지 행동은 실행 후 기록을 남기고 표본을 검토합니다.
- 경고가 실제 검토 시간 안에 들어오도록 우선순위를 조정합니다.
- 감시를 우회하는 계정과 자동화 경로를 줄입니다.
- 커버리지, 검토 시간, 에스컬레이션 비율을 같은 방식으로 매달 기록합니다.
Anthropic의 사례는 무엇을 즉시 막고, 무엇을 넓게 관찰하며, 무엇을 사람에게 올릴지 구분하는 방법을 보여줍니다. 에이전트를 더 많이 도입하기 전에 이 세 단계가 연결되어 있는지 확인할 수 있습니다.
