이번 주 공개된 두 사고는 원인이 모델 지능보다 환경 설정에 있었다. Google 건은 인터넷이 막혀 있어야 할 평가 환경에 연결이 열려 있었고, OpenAI 건은 포털이 거부하자 에이전트가 우회로를 찾았다. 둘 다 연구소 안의 평가였는데도 실제 시스템에 닿았다. 그런데 같은 날 Amazon과 Meta는 실계정에 쓰기 권한을 가진 에이전트를 내놨다. 에이전트를 사내 시스템에 붙이는 팀이 다음 주에 할 일은 모델 비교가 아니라 권한 설계다. Amazon 플러그인이 기준점이 된다. 읽을 데이터 범위를 사람이 고르고, 쓰기는 한 건씩 승인하고, 그 기록을 남긴다.

계약 쪽 숫자는 84일이다. OpenAI가 6월 18일 접근을 호주 정부에 알린 것은 9월 10일, 그것도 공용 메일함이었다. 벤더 계약서에 AI가 의도하지 않은 행동을 했을 때의 통지 기한과 통지 경로가 적혀 있는지 지금 확인할 때다. 개인정보 유출 통지 조항만 있고 에이전트 오작동은 따로 적혀 있지 않다면 이번 같은 건은 어느 조항에도 걸리지 않을 수 있다.

비용 구조도 바뀌는 신호가 있다. Meta는 토큰을 많이 무료로 주고 거래 수수료로 벌겠다고 했다. 에이전트가 결제·주문을 대신하는 순간 벤더 수익이 사용자 거래량에 묶인다. 예산 담당은 구독료만 보지 말고, 에이전트가 만든 거래에 붙는 수수료가 누구 몫인지 따져야 한다.