AI 도입을 준비하는 회사라면 한 번쯤 이런 계산을 해봤을 겁니다. 어떤 모델이 제일 똑똑한가, 어디가 제일 싸게 먹히는가, 우리 업무에 붙이기엔 뭐가 제일 편한가. 그런데 지난 6월에 벌어진 한 사건은 그 계산식에 아무도 넣지 않던 항목 하나를 억지로 끼워 넣었습니다. 바로 "그 모델을 어느 날 갑자기 못 쓰게 되면 어떡할 것인가"라는, 평소엔 상상조차 하지 않던 질문입니다.
사흘 만에 사라졌다가 18일 만에 돌아온 모델
이야기는 이렇습니다. Anthropic이 자사 최상위 라인업을 일반 사용자용으로 다듬은 Claude Fable 5를 6월 9일에 선보였는데, 성능이 워낙 좋다는 평이 돌면서 업계가 술렁이던 참에, 출시 사흘째인 6월 12일 미국 정부가 이 모델에 수출통제를 걸어버렸습니다. 외국 국적자의 사용을 막으라는 지시였고, 접속하는 사람의 국적을 실시간으로 가려낼 방법이 마땅치 않았던 Anthropic은 결국 일부만 막는 대신 전 세계 접근을 통째로 닫는 쪽을 택했습니다. 그렇게 잘 나가던 모델이 하루아침에 먹통이 된 겁니다.
이 통제가 풀린 건 6월 30일, 그리고 하루 뒤인 7월 1일부터 전 세계 재개, 한국은 7월 2일부터였습니다. 발단은 의외로 단순한 보안 이슈였는데, Amazon 연구진이 이 모델의 안전장치를 우회하는 특정 방법을 찾아냈고 그 방법으로 소프트웨어 취약점을 짚어내는 것은 물론 한 사례에서는 취약점을 실제로 파고드는 코드까지 뽑아냈다는 보고가 정부로 올라간 게 시작이었습니다. 그런데 이후 검증에서 좀 김빠지는 사실이 드러났습니다. Anthropic이 직접 공개한 자료에 따르면, 문제가 됐던 그 취약점은 Fable 5보다 한참 아래급인 Opus 4.8이나 GPT-5.5 같은 모델로도 똑같이 찾아낼 수 있었고, 결국 Fable 5만의 위험이라고 보기 어려웠다는 겁니다. 복귀한 버전에는 그 우회 기법을 걸러내는 새 안전장치가 얹혔습니다.
여기까지는 그냥 AI 업계 뉴스로 흘려보낼 수도 있는 이야기입니다. 다만 이 글이 붙잡고 싶은 지점은 그 다음, 그러니까 이 소동이 정작 AI를 업무에 끌어들이려는 회사한테 무슨 교훈을 던지느냐 하는 부분입니다.
제일 좋은 모델 하나에 회사를 통째로 걸지 마라
가장 먼저 눈여겨봐야 할 건 이겁니다. Fable 5가 꺼져 있던 그 18일 동안, 이 모델 하나에 업무 흐름을 못 박아 둔 곳은 그대로 손을 놓을 수밖에 없었고, 반대로 모델을 언제든 바꿔 끼울 수 있게 만들어 둔 곳은 별 탈 없이 굴러갔다는 사실입니다. 성능 좋은 걸 골랐느냐 아니냐의 문제가 아니라, 애초에 어떻게 얽어 놨느냐의 문제였던 셈입니다.
지금 AI 도입을 저울질하는 많은 회사가 "어느 모델이 제일 똑똑하냐"를 놓고 며칠씩 고민합니다. 그런데 이번 일이 들이민 진짜 질문은 방향이 좀 다릅니다. 그 똑똑한 모델을 어느 날 못 쓰게 됐을 때, 우리 업무는 멈추느냐 안 멈추느냐. 모델 순위라는 게 원래 몇 달이면 뒤집히는 물건이고, 어제의 1등이 오늘 3등으로 내려앉는 판에, 규제든 가격 정책이든 외부 사정 하나로 접근 자체가 막히는 일까지 이번에 실제로 벌어졌으니, 한 모델에 목을 매는 구조가 얼마나 위태로운지는 굳이 더 설명할 필요도 없을 겁니다.
게다가 복귀 이후 상황은 오히려 더 까다로워졌습니다. 새로 붙은 안전장치 탓에 멀쩡한 요청도 이따금 거부당하는 경우가 생기면서, 실제 운영 환경에서는 거부된 요청을 다른 모델로 넘겨받는 우회 경로를 미리 짜 두라는 게 실무자들 사이의 권고로 자리 잡았습니다. 다시 말해 여러 모델을 갈아탈 수 있게 준비해 두는 건 이제 "있으면 좋은 옵션"이 아니라 그냥 기본 준비물이 됐다는 뜻입니다.
이 대목에서 Dify 같은 AI 오케스트레이션 플랫폼이 왜 쓸모 있는지가 또렷해집니다. Dify는 업무 흐름과 모델을 따로 떼어서 다룹니다. 챗봇이든 문서 검색이든 자동화 흐름이든, 그 위에 얹힌 애플리케이션 뼈대는 그대로 두고 밑에서 돌아가는 모델만 상황 봐서 바꿔 끼우는 식입니다. 이렇게 해두면 특정 모델이 꺼지거나, 요청을 거부하거나, 갑자기 요금이 뛰어도 업무 흐름은 건드리지 않고 모델만 갈아치우면 됩니다. Fable 5처럼 18일씩 통째로 사라지는 일이 또 벌어져도, 시스템 입장에선 설정 몇 줄 손보는 수준으로 끝나는 겁니다. AI를 특정 회사의 완제품이 아니라 언제든 갈아 끼우는 부품처럼 다루자는 이야기인데, 이번 사건이 그 원칙을 아주 비싼 값을 치르고 증명해준 셈입니다.
클라우드에 올라탄 AI는 사실 내 것이 아니다
두 번째로 짚을 대목은 좀 더 근본적입니다. 이번에 Fable 5를 껐다 켠 건 만든 회사인 Anthropic이 아니라 정부였다는 사실입니다. 계약을 아무리 튼튼히 맺고 매달 돈을 꼬박꼬박 내고 있어도, 저 멀리 클라우드 너머에 있는 모델은 규제나 정책, 나라 사이 힘겨루기 같은 변수 앞에서 언제든 내 손을 벗어날 수 있다는 게 눈앞에서 드러난 겁니다.
물론 대부분의 경우 클라우드로 갖다 쓰는 방식은 훌륭한 선택입니다. 최신 성능을 목돈 들이지 않고 바로 당겨 쓸 수 있으니까요. 다만 이번 일은 거기에 단서를 하나 붙였습니다. 하루라도 멈추면 곤란한 업무라면, 누구도 함부로 못 끄는 대비책 하나쯤은 손에 쥐고 있어야 한다는 단서입니다. 평상시엔 클라우드의 최신 성능을 실컷 쓰되, 정말 멈춰선 안 되는 업무만큼은 외부 사정에 휘둘리지 않는 별도 경로로 이중으로 받쳐두는 것, 결국 한쪽에 다 걸지 않고 무게를 나눠 싣는 감각이 이번 사건이 남긴 실무적인 숙제입니다.
AI 거버넌스는 더 이상 '만약에'가 아니다
마지막은 조직 차원의 이야기입니다. 그동안 AI 거버넌스를 논할 때 나오던 "특정 업체에 너무 기대면 위험하다"거나 "AI가 멈췄을 때를 대비한 업무 연속성 계획이 필요하다" 같은 말들은, 솔직히 어딘가 컨설턴트 발표 자료에나 등장하는 뜬구름처럼 들리는 구석이 있었습니다. 이제는 경영진 앞에서 이렇게 물어도 어색하지 않습니다. 우리가 지금 기대고 있는 AI 서비스가 내일 갑자기 끊기면 어느 업무부터 멈추는가, 그 위험을 우리가 종이에 적어 따져본 적이 한 번이라도 있는가, 멈추면 안 되는 일에 대해 대체 경로를 마련해 뒀는가 하는 질문들 말입니다.
여기에 2026년 1월부터 시행된 AI 기본법도 겹칩니다. 이 법은 기업에게 AI 시스템의 투명성과 안전성, 위험 관리 체계를 갖추라고 요구하고 있어서, 어떤 모델을 어디서 어떤 통제 아래 굴리는지를 조직 차원에서 설계하고 문서로 남겨두는 일이 규제 대응이자 동시에 위험 관리의 알맹이가 됐습니다.
결국 AX Foundry가 다루는 영역도 여기입니다. 단순히 "어떤 AI 도구를 살까"를 정해주는 게 아니라, 진단부터 시범 적용, 조직 내재화까지 이어지는 과정 전반에서 특정 업체에 얼마나 묶여 있는지를 따지고, 여러 모델을 오가는 구조를 설계하고, 나중에 회사가 스스로 굴릴 수 있는 관리 체계를 함께 세우는 일입니다.
Fable 5는 결국 돌아왔습니다. 18일 만에, 전보다 촘촘한 안전장치를 달고서 말입니다. 그저 한 번 쓰는 사람 입장에선 잠깐의 해프닝으로 넘길 수도 있는 일입니다. 하지만 AI를 업무 한복판에 앉히려는 회사라면 이 계기를 가볍게 넘기기 어렵습니다. 제일 똑똑한 모델을 찾아내는 것보다, 어떤 모델이 멈춰 서도 우리 일은 멈추지 않게 만드는 쪽이 훨씬 남는 장사라는 걸 이번에 꽤 비싼 수업료를 내고 배운 셈이니까요.