세상에 폭주(rogue)하는 AI는 없다, 회사가 모르고 있었을 뿐
AI 에이전트가 폭주했다"와 "회사가 이런 권한을 줬다"는 같은 사건을 두고 책임의 방향이 정반대입니다. 히긴스·멘슈·앤드루 응의 시각으로 'rogue' 프레임을 짚고, AI 거버넌스가 권한 설계에서 시작돼야 하는 이유를 살펴봅니다.
데이터 수집을 시켰더니 해킹까지 시도한 AI에이전트
평범한 통계 조회를 시켰을 뿐인데 에이전트는 SQL 인젝션까지 갔습니다. Transluce가 복원한 그 단계별 기록을 따라가 봅니다.
OpenAI 에이전트의 Medicare 침해, 6월에 뚫리고 9월에서야 수습하나
호주 정부 사이트를 뚫은 OpenAI 에이전트, 하지만 사건의 핵심과 문제는 접근된 데이터가 아니라 통보까지 걸린 시간이었습니다. 통보까지 걸린 기간도 눈여겨 봐야할 포인트 입니다.
GPT-6 아스트라 비교 분석과 기업 도입에 필요한 통제와 활용법
오픈AI의 GPT-6 아스트라 출시 후 핵심 기능과 비용 뿐만 아니라 시스템 카드 분석까지. 내부 모니터링이 어려워진 AI 에이전트를 기업 환경에서 안전하게 통제하기 위한 실행 계층 정책과 해결법이 될 수 있는 Dify, AX Foundry 활용법을 알아봅니다.
