업무자동화

영국 AI 청문회가 드러낸 ‘검사할 권리’의 공백

영국 AI보안연구소조차 최신 모델에 언제, 어디까지 접근할지 법으로 보장받지 못했습니다. 기업은 모델 내부 대신 권한과 실행 경계를 통제해야 합니다.

영국 의회의 AI 안전·거버넌스 청문회검사할 수 없는 모델을 쓰는 조직의 통제 설계
영국 AI 청문회가 드러낸 ‘검사할 권리’의 공백 대표 이미지

영국 의회가 2026년 10월 13일 OpenAI, Anthropic, Google DeepMind, Meta를 불러 AI 안전을 물었습니다. 공개된 속기록을 읽으면 논쟁의 핵심은 모델이 위험한지 여부보다 더 구체적입니다. 독립 기관이 출시 전 모델을 검사할 권리와 사고를 보고받을 권리를 누가 보장하는가입니다.

검사할 수 없는 AI를 도입하는 기업은 모델 자체의 안전성을 통제할 수 없습니다. 대신 에이전트에 주는 권한, 사람의 승인 지점, 실행 로그, 즉시 중단과 공급자 교체 절차를 직접 소유해야 합니다.

영국 하원 기업·혁신·과학·통상위원회의 공식 속기록에는 네 회사가 자체 안전 체계를 설명하는 장면과, 그 설명만으로는 독립 검증이 되지 않는다는 의원들의 반문이 함께 남아 있습니다. 이 청문회는 법을 확정한 자리가 아닙니다. 다만 기업이 외부 AI를 업무에 연결할 때 무엇을 확인해야 하는지 보여주는 보기 드문 공개 기록입니다.

접근은 협조이지 권리가 아니었다

영국 정부 산하 AI보안연구소(AI Security Institute·AISI)는 최첨단 모델을 평가해 왔습니다. 문제는 접근 범위와 시점이 법적 권리로 고정돼 있지 않다는 점입니다.

청문회에서 Anthropic은 Mythos 5.1 출시 전에 AISI에 제한된 접근만 제공했고, AISI가 이를 사용하지 않았다고 설명했습니다. Google DeepMind는 Gemini 4 Argon을 출시 전 제공했다고 밝혔습니다. OpenAI도 미국 정부가 허용하는 한 영국 AISI에 출시 전 접근을 계속 제공하겠다고 답했습니다. 같은 ‘협력’이라는 단어 아래 실제 조건은 서로 달랐습니다.

의원들이 물은 것은 협력 의지가 아니었습니다. 미국 기관과 같은 조건으로 모든 신규 프런티어 모델을 제공할 것인지, 사고가 발생하면 즉시 알릴 것인지, 영국의 평가 결과가 늦게 나와도 출시 결정을 바꿀 것인지였습니다.

확인할 항목청문회에서 드러난 상태기업 도입에 주는 의미
출시 전 접근회사와 정부 간 합의에 의존벤더가 ‘외부 평가 완료’라고 해도 범위와 시점을 확인해야 함
사고 보고관련 기관 통지는 약속했지만 공개 범위에는 조건이 붙음고객 계약에 사고 통지 기한과 대상 범위를 따로 써야 함
출시 중단회사별 내부 프레임워크와 판단에 의존고객이 모델 자체의 출시 여부를 통제할 수 없음
출시 후 회수공개 가중치 모델은 사실상 회수가 어려움사용 조직의 권한 차단과 중단 장치가 마지막 방어선이 됨

이 차이는 말장난이 아닙니다. 검사 기관이 모델을 언제 받을지 스스로 정할 수 없다면 감사 일정도, 필요한 자료도, 재시험 여부도 공급자와의 관계에 좌우됩니다.

속기록이 바꾼 판단

초기 보도만 보면 ‘영국 정부가 모델 접근을 거부당했다’는 단순한 이야기처럼 읽힐 수 있었습니다. 공식 속기록이 공개된 뒤에는 더 정확히 말할 수 있습니다. AISI는 여러 모델에 접근했고 개발사들도 협력 의사를 밝혔지만, 동등하고 지속적인 접근을 보장하는 제도는 아직 없었습니다.

사고 보고도 같은 구조였습니다. Anthropic은 관련 사건을 AISI에 알리겠다고 했고, OpenAI는 의도하지 않은 정부 사이트 접근 같은 사건을 신속히 통지하겠다고 밝혔습니다. 그러나 공개 보고에는 피해 기관의 보안과 취약점 노출 문제가 있어 일괄 약속하기 어렵다는 답이 이어졌습니다.

이런 제한은 합리적일 수 있습니다. 사이버 사고의 세부 정보를 곧바로 공개하면 공격자가 악용할 수 있기 때문입니다. 그렇다고 보고 체계를 자율 약속에만 맡겨도 된다는 결론은 나오지 않습니다. 어떤 사건이 보고 대상이고, 누가 판단하며, 몇 시간 안에 누구에게 알릴지를 미리 정해야 합니다.

위원회가 조사를 시작하며 공개한 질문도 사전 테스트 의무화, 중대 사고 의무 보고, 국가와 기업 사이의 안전 경쟁을 같은 묶음으로 다뤘습니다. 2026년 11월 13일 현재 이는 조사와 논의 단계이며 확정된 영국 법률이 아닙니다.

기업은 모델 내부보다 실행 경계를 통제한다

AI를 구매하는 일반 기업은 의회나 AISI보다 더 적은 정보를 받습니다. 학습 데이터, 내부 평가 방법과 미공개 사고 기록을 모두 들여다보는 것은 현실적인 구매 조건이 아닙니다. 통제 가능한 지점은 모델의 바깥에 있습니다.

먼저 에이전트가 할 수 있는 행동을 목록으로 만듭니다. 문서 읽기와 초안 작성은 비교적 되돌리기 쉽습니다. 결제, 고객 발송, 데이터 삭제, 외부 게시와 계정 권한 변경은 결과를 되돌리기 어렵습니다. 두 종류를 같은 자동화 권한으로 묶으면 모델의 작은 판단 오류가 바로 운영 사고가 됩니다.

다음 네 가지는 공급자 설명과 무관하게 조직이 직접 만들 수 있습니다.

  1. 되돌리기 어려운 행동 전에는 사람의 승인을 받습니다.
  2. 도구 호출과 입력·결과를 조직이 관리하는 저장소에 남깁니다.
  3. 에이전트 계정의 권한을 업무별로 나누고 즉시 끊을 수 있게 합니다.
  4. 모델이나 벤더가 바뀌어도 유지되는 업무 기준과 검수 규칙을 문서화합니다.

섀도우 오퍼레이션이 만드는 권한 위험은 승인받지 않은 연결이 어떻게 늘어나는지 설명합니다. Raindrop 투자로 본 에이전트 감시 시장은 실행 결과보다 과정의 기록이 필요한 이유를 다룹니다. 두 문제는 이어져 있습니다. 경로를 모르면 기록할 수 없고, 기록이 없으면 사고 뒤에 어떤 권한이 사용됐는지 알 수 없습니다.

계약 갱신 전에 확인할 네 문장

외부 AI의 안전 정책은 바뀔 수 있습니다. 모델 버전, 제공 지역, 로그 보관 기간과 API 권한도 공급자가 정합니다. 계약서에는 다음 질문의 답이 문장으로 남아 있어야 합니다.

  • 모델이나 주요 안전 정책을 바꿀 때 언제 통지하는가
  • 중대 사고가 발생하면 고객에게 언제, 어떤 범위로 알리는가
  • 고객이 자체 평가와 모의시험을 수행할 수 있는가
  • 계약이 끝나도 실행 로그와 업무 규칙을 내보낼 수 있는가

검사 권한이 없는 상태에서 가장 위험한 가정은 ‘대형 공급자가 이미 확인했을 것’입니다. 영국 의회 기록은 정부 기관조차 접근 조건을 계속 협상하고 있음을 보여줍니다. 기업이 확보해야 할 최소한의 안전은 모델 내부에 대한 막연한 신뢰가 아니라, 자기 시스템에서 행동을 제한하고 재구성하고 멈출 수 있는 권리입니다.

Free diagnostic · first 10 companies

우리 회사는 어디서 시간이 새고 있을까요?

업무 1~2개를 골라 함께 살펴봅니다. 개발 계약 의무는 없고, 효과가 낮으면 도입하지 않는 방향으로 제안드립니다.

무료 진단 신청하기 →

신청 약 5분 · 10개 기업 선정 · 전자책·멤버십 판매 없음