Prism

매일 아침 해설 브리핑사실은 확인하고, 해석은 여러 각도로

11월 18일 수요일 판07:02 갱신다음 판 내일 07:00

AI·기술2026.10.29 목

분석가 50명, 무작위로 정한 에이전트 의견을 분석 선택 86%에서 따라

Anthropic 실험에서 분석가들은 동전 던지기로 정한 에이전트 의견을 분석 선택의 86%에서 따랐고, 에이전트 도움을 밝힌 사람은 15%였다. 에이전트가 거든 결과물에 사람이 서명했다고 해서 독립 검토를 거쳤다고 볼 수 없다.

듣기 1분 17초 · 판단과 요점만 · 합성 음성 · 팟캐스트 피드

읽힌 대본

프리즘 에이아이 기술, 시월 이십구일 목요일 아침판입니다.

오늘의 제목입니다. 분석가 오십 명, 무작위로 정한 에이전트 의견을 분석 선택 팔십육 퍼센트에서 따라.

오늘의 판단입니다. 앤스로픽 실험에서 분석가들은 동전 던지기로 정한 에이전트 의견을 분석 선택의 팔십육 퍼센트에서 따랐고, 에이전트 도움을 밝힌 사람은 십오 퍼센트였다. 에이전트가 거든 결과물에 사람이 서명했다고 해서 독립 검토를 거쳤다고 볼 수 없다.

이어서 한눈에 보는 다섯 가지입니다.

첫째, 팔십육 퍼센트, 무작위로 정한 에이전트 의견과 같은 분석 선택.

둘째, 코파일럿 Fusion 일반 공개, 작업마다 모델 자동 배정.

셋째, 오십구 점, 제미나이 사 Carbon 독립 지수 일 위.

넷째, 백삼 퍼센트, 구글 Cloud 삼 분기 매출 증가율.

다섯째, 팔십 퍼센트, 에스케이하이닉스 삼 분기 영업이익률.

오늘 더 들여다볼 한 건입니다. 앤스로픽 실험, 에이전트 도움을 밝힌 분석가 십오 퍼센트. 앤스로픽이 이십칠일 낸 실험에서 전문 분석가 오십 명은 동전 던지기로 정한 에이전트의 의견을 네 가지 분석 선택의 팔십육 퍼센트에서 따라, 에이전트가 거든 분석에 사람이 서명해도 독립 검토가 되지 않는다는 근거가 나왔다.

여기까지 프리즘이었습니다. 기사 전문과 출처는 프리즘 닷 바이브플로 닷 컴에 있습니다.

한눈에

  1. 86%, 무작위로 정한 에이전트 의견과 같은 분석 선택
  2. Copilot Fusion 일반 공개, 작업마다 모델 자동 배정
  3. 59점, Gemini 4 Carbon 독립 지수 1위
  4. 103%, Google Cloud 3분기 매출 증가율
  5. 80%, SK하이닉스 3분기 영업이익률
에이전트 쪽으로 간 비율분석 선택이 에이전트 의견과 일치86%에이전트 논리를 자기 설명에 씀77%출처를 밝힌 비율에이전트 도움을 밝힘15%
분석 선택 86%가 에이전트 쪽, 에이전트 도움을 밝힌 분석가는 15%
사실출처 링크가 붙은 것만

프런티어 실무

Anthropic 실험, 에이전트 도움을 밝힌 분석가 15%

Anthropic이 27일 낸 실험에서 전문 분석가 50명은 동전 던지기로 정한 에이전트의 의견을 네 가지 분석 선택의 86%에서 따라, 에이전트가 거든 분석에 사람이 서명해도 독립 검토가 되지 않는다는 근거가 나왔다.

더 보기 · 출처 1

우연이라면 50% 안팎이다. 과제는 가상의 농업 협동조합에 지원 사업을 넓힐지 권고하는 인과 추론(어떤 조치가 결과를 바꿨는지 따지는 분석) 작업이었고, Claude Code와 Claude Opus 4.8을 썼다. 에이전트는 숨은 지시로 한쪽 의견을 받았고, 증거가 분명히 반대면 생각을 바꾸되 속이지는 말라는 조건이 붙었다. 분석가가 먼저 의견을 밝혔는데 에이전트가 반대하면 60%가 의견을 바꿨고, 동의할 때는 6%였다(38명 표본). 77%는 에이전트의 논리를 자기 설명에 썼지만 에이전트를 출처로 밝힌 사람은 15%였다. 에이전트를 쓰지 않겠다고 한 11명 가운데 6명은 심각한 방법론 오류를 냈고, 에이전트를 쓴 50명 중에는 3명이었다. 다만 두 집단은 경력이 달라서 이 차이를 AI 효과로 볼 수는 없다. 연구진은 의견을 일부러 강하게 줬고 과제·분야·모델이 하나뿐이라 현장의 효과는 더 작을 수 있다고 적었다. 써본다면 다음 분석 과제에서 결과 지표와 비교 방법을 사람이 먼저 적어 두고, 에이전트에게는 선택지마다 가장 강한 근거를 따로 내게 한 뒤 둘을 맞대 본다.

GitHub Copilot Fusion 일반 공개, 작업마다 모델 자동 배정

GitHub이 28일 Copilot Fusion을 모든 Copilot 요금제에 열어, 개발자가 모델을 고르지 않아도 작업마다 모델 하나를 쓸지 여러 모델을 이을지가 자동으로 정해진다.

더 보기 · 출처 1

방식은 셋이다. 한 모델이 풀거나, 가벼운 모델이 초안을 쓰고 품질 점검에서 떨어지면 강한 모델로 넘기거나, 한 모델이 쓰고 다른 모델이 검토한 뒤 고친다. 강도는 Standard·High·Max 세 단계다. 비용은 Fusion이 실제로 쓴 모델마다 그 모델의 표준 단가로 청구하고, 유료 요금제는 한시적으로 모델 비용을 30% 깎아 준다. GitHub은 Artificial Analysis 코딩 에이전트 지수에서 Fusion Max가 60점으로, Opus 5.5 Max를 쓴 Claude Code와 2점 차이라고 밝혔다. 작업당 비용 절반과 시간 40% 단축은 누가 쟀는지 밝히지 않아 GitHub 발표로만 본다. VS Code·JetBrains·Copilot CLI·Copilot 앱에서 쓰고, 관리자는 Fusion이 쓸 수 있는 모델을 조직 정책으로 정한다. 써본다면 데이터 처리 조건을 확인한 모델만 조직 정책에서 Fusion에 허용하고, 같은 이슈 다섯 개를 Fusion High와 지금 쓰는 단일 모델로 나눠 돌려 작업당 청구액과 리뷰에서 고친 줄 수를 비교한다.

모델·제품

Gemini 4 Carbon 공개, 독립 지수 59점 1위에 보안 방어 기관 먼저

Google이 28일 Gemini 4 Carbon을 내놨지만 이번 주에는 일부 보안 방어 기관에만 열어, 일반 기업은 아직 써 볼 수 없다.

더 보기 · 출처 1

Google은 독립 평가사 Artificial Analysis의 지수 v5.0에서 59점으로 1위라고 밝혔다. 2주 전 일반 공개한 Argon을 바탕으로 만들었고 같은 안전 장치를 쓴다. 단가는 100만 토큰당 입력 2달러·출력 10달러인 할인가로 시작해, 할인 기간이 끝나면 4달러·20달러로 오른다. 취약점 찾기 SEC-bench Pro 88.2%, 수정 CWE-bench 71.0% 같은 보안 점수는 안전 장치를 끈 상태에서 잰 값이고 Google이 발표했다. Chrome 팀이 이름을 밝히지 않은 다른 랩 모델보다 패치 품질이 10배 넘게 낫다고 한 것도 회사 쪽 측정이다. 다음 단계는 Fairwind 프로그램(Google이 보안 방어 기관에 먼저 모델을 여는 심사제 프로그램)으로 신뢰 파트너에게 넓히는 것이고, 개발자·기업·소비자 공개 날짜는 없다.

투자·시장

Google Cloud 103%·Azure 48% 성장, Alphabet 잉여현금흐름은 적자

Alphabet과 Microsoft가 28일 낸 3분기 실적에서 Google Cloud 매출은 307억 달러로 103%, Azure는 332억 달러로 48% 늘어, 기업의 AI 인프라 지출이 클라우드 매출로 잡히는 속도가 빨라졌다.

더 보기 · 출처 4

Pichai CEO는 TPU 시스템 수요가 여러 고객층에서 강하다고 했다. Google Cloud 영업이익은 111억 달러로 1년 전 36억 달러의 세 배를 넘었다. 그러나 Alphabet의 3분기 설비투자는 514억 달러였고, 잉여현금흐름(영업으로 번 현금에서 설비투자를 뺀 돈)은 마이너스 91억 달러로 2분기 마이너스 59억 달러보다 커졌다. Fortune에 따르면 내년 설비투자는 약 3천억 달러로 예상되고, 주가는 시간외 거래에서 10% 넘게 내렸다. Microsoft는 Azure 매출을 처음 금액으로 공개했다. 설비투자는 리스를 포함해 452억 달러로 시장 예상 507억 달러보다 적었고, 주가는 시간외 거래에서 약 4% 올랐다.

반도체·인프라

SK하이닉스 3분기 영업이익 83조 원, 이익률 80%

SK하이닉스가 28일 3분기 매출 104조 6천억 원, 영업이익 83조 3천억 원을 발표해, AI 메모리 공급이 수요를 따라가지 못하는 구간이 이어지고 있음을 숫자로 보여줬다.

더 보기 · 출처 2

분기 매출이 100조 원을 넘은 것은 처음이고 영업이익률은 80%다. 회사는 4분기에 HBM4(AI 가속기 옆에 쌓아 붙이는 6세대 고대역폭 메모리)가 출하량과 매출 모두에서 HBM3E를 넘어 주력이 된다고 밝혔다. 대형 클라우드 한 곳을 포함한 주요 고객 14곳과 장기 계약을 맺어 2027~2028년 생산능력의 절반 넘게를 채웠고, 가격은 합의한 범위 안에서 시장 상황을 반영한다. 회사는 2030년까지 수요가 공급을 웃돈다고 봤다. 내년 투자는 용인 1기 팹 가동으로 올해보다 크게 늘리지만 금액은 밝히지 않았다. 잠정 실적이라 외부 감사 검토 뒤 바뀔 수 있다.

안전·보안

Cloudflare 추론 서비스, 긴 요청 응답 155건에 다른 사용자 내용 섞여

Cloudflare가 26일 Workers AI의 GLM-5.3 모델에서 8월 27일부터 9월 9일까지 응답 155건에 다른 사용자의 세션 내용이 섞여 나갔다고 밝혀, 공용 추론 서비스의 고객 간 데이터 경계가 설정값 하나로 무너질 수 있음이 드러났다.

더 보기 · 출처 1

해당 응답은 모두 68만 1,280 토큰을 넘는 긴 요청이었다. 모델이 받는 문맥은 104만 8,576 토큰인데, 앞 단계의 KV 캐시(모델이 이미 읽은 내용을 다시 계산하지 않으려고 메모리에 담아 두는 값) 공간은 68만 1,280 토큰으로 잡혀 있었다. 여기에 추론 엔진 SGLang이 길이를 넘은 요청을 거절 표시만 하고 끝내지 않아, 다음 단계가 앞 요청이 남긴 캐시를 읽었다. 외부 연구자가 9월 8일 신고했고 Cloudflare는 모델을 내렸다가 다음 날 복구했다. 고의 악용의 흔적은 없었다고 했다. SGLang을 직접 운영하는 곳에는 노드마다 KV 캐시 공간과 문맥 길이를 맞춰 보고 v0.5.22 이상으로 올리라고 권했다.

AX 도입 사례

네덜란드, AI 절감 계획으로 공무원 2만 5천 명 감축

네덜란드 정부가 AI 도입에 따른 절감 계획의 하나로 공무원 일자리 2만 5천 개를 줄인다고 Semafor가 27일 전해, 공공 부문에서 AI가 인력 감축 계획의 근거로 쓰이기 시작했다.

더 보기 · 출처 1

전체 공무원의 15%가 넘는 규모다. 정부 안에서 AI를 어디에 어떻게 쓸지는 나중에 발표한다. 그래서 어떤 업무를 AI가 맡는지는 아직 알 수 없다. 뉴질랜드도 비슷한 비율의 감축을 검토하고 있다.

해석여러 관점으로 읽고 하나로 좁힌 판단

Anthropic 실험의 분석가들은 에이전트가 무작위로 받은 의견을 대부분 따랐는데, 에이전트를 출처로 밝힌 사람은 열에 둘도 되지 않았다. 그래서 보고서에 사람 이름이 있어도 그 판단이 누구 것인지는 결과물만 보고 구별할 수 없다. 다만 에이전트를 쓴 쪽의 심각한 방법론 오류가 더 적었으니, 에이전트를 빼는 것으로는 풀리지 않는다. 이튿날 GitHub은 어느 모델이 코드를 쓸지도 Fusion이 정하게 했고, 이제 분석의 선택과 모델의 선택이 모두 사람 손을 덜 거친다. 그래서 검토 절차에는 서명 칸보다 앞서, 사람이 핵심 선택을 먼저 적어 두는 단계와 어느 모델이 무엇을 썼는지 남기는 기록을 넣어야 한다.

Carbon은 할인가로 시작해 할인 기간이 끝나면 단가가 두 배가 되고, Fusion의 30% 할인도 한시적이다. 할인가로 짠 견적은 몇 달 뒤 청구서와 맞지 않게 된다. 게다가 Alphabet은 클라우드 매출이 두 배로 늘었는데도 설비투자 때문에 현금흐름이 두 분기째 마이너스여서, 벤더가 할인을 오래 끌고 갈 여유는 크지 않다. 이 때문에 모델 도입 비교는 정가 기준으로, 자사 작업 하나를 끝내는 데 든 비용으로 해야 한다.

Cloudflare 사고는 공격 없이 일어났다. 캐시 공간을 문맥 길이보다 작게 잡은 설정과 엔진 버그가 겹치자, 긴 요청을 보낸 고객이 다른 고객의 내용을 받았다. 공용 추론 서비스를 쓰는 기업은 이런 설정을 직접 볼 수 없고, 그래서 확인할 수 있는 자리는 계약 단계뿐이다. 긴 문서를 다루는 업무를 외부 추론 서비스에 올리기 전에, 요청 사이 캐시 격리 방식과 사고 통지 조건을 공급사에서 서면으로 받아 두어야 한다.

이견판단이 틀릴 수 있는 지점
  • Anthropic 실험을 검토 절차를 바꿀 근거로 삼을지 갈렸다. 한쪽은 무작위로 정한 의견을 대부분 따랐고 출처도 거의 밝히지 않았으니, 지금의 서명 검토로는 부족하다고 본다. 반대쪽은 의견을 일부러 강하게 줬고 과제가 하나뿐이며, 에이전트를 쓴 쪽의 심각한 오류가 오히려 적었다고 본다.
  • 빅테크 실적을 AI 공급 안정의 신호로 볼지 갈렸다. 한쪽은 Google Cloud와 Azure 성장이 빨라졌고 SK하이닉스가 2028년 물량까지 장기 계약을 맺어, 공급과 가격이 갑자기 흔들릴 위험은 낮다고 본다. 반대쪽은 Alphabet의 현금흐름이 두 분기째 마이너스이고 내년 투자가 더 커지므로, 할인 축소나 단가 인상으로 비용이 고객에게 넘어올 수 있다고 본다.
  • Copilot Fusion을 기본 모델로 둘지 갈렸다. 한쪽은 모델을 고르는 부담이 줄고 GitHub 발표대로면 작업당 비용도 낮아, 반복 작업부터 옮길 만하다고 본다. 반대쪽은 비용·시간 수치를 누가 쟀는지 밝히지 않았고, 작업마다 모델이 바뀌면 같은 결과를 다시 내거나 어느 모델이 쓴 코드인지 감사하기 어렵다고 본다.
더 읽은 자료 3건
  1. Anthropic · Expanding our partnership with GSA
  2. Google DeepMind · Genie 4: a new generation of world simulation
  3. IBM Newsroom · IBM introduces identity and control for AI agents