넉 달 전 사고를 지금 찾아낸 회사, 오늘 사고도 못 찾는 회사
앤트로픽은 평가 기록 141,006건을 되짚어 넉 달 전 사고를 찾아냈고, 정작 침해당한 조직들은 모르고 있었습니다. 사고를 발견할 수 있는 조직이 되기 위한 네 가지를 정리했습니다.
통제할 수 없는 GPT와 클로드? 문제는 모델 아닌 하네스 때문
오픈AI와 앤트로픽 모델이 시험 환경을 벗어나 실제 기업을 침해했습니다. 앤트로픽은 이를 하네스와 운영의 실패로 규정했습니다. 사내 AI 에이전트에 그대로 옮겨지는 교훈을 정리했습니다.
AI 에이전트를 도입했는데 아무도 안 쓴다면, 모델이 아니라 하네스를 봐야 합니다
같은 모델을 써도 조직마다 결과가 갈립니다. 문제는 모델이 아니라 하네스일 가능성이 높습니다. 에이전트 하네스가 무엇인지, Databricks 벤치마크가 보여준 비용 2배 차이는 어디서 왔는지, 개인 노트북에 남은 하네스를 회사 자산으로 옮기는 방법까지 정리했습니다.