C01세부 흐름도AI 가속기·메모리

현행 큰 흐름 4 · 가속기·네트워크 ↗

외부 TPU·Trainium 구매형태를 하나로 합치지 않음

Google TPU 시스템의 직접 구매·GCP 임대와 AWS Trainium의 관리형 컴퓨트는 자산·SLA·고객 책임이 달라 다른 매출 모델

P0 · 우선 검증: 고객 지출·대체재·수익 해석이 크게 바뀔 수 있는 쟁점

확인할 이유: FP8 특정 Preview·모델링 TCO·외부구매/임대 채널의 차이가 GPU/TPU 투자판정을 크게 바꾸므로 우선 검증

최신 인과 감사 · 2026-10-16 · 세부 흐름 C01

외부 TPU·Trainium 구매형태를 하나로 합치지 않음

새 근거 반영

이전 분석에 새로 추가된 근거: ASIC-2026. 산업 가설의 재평가이며, 원문 모든 문장·그림과 고객 수주를 새로 전수 검증했다는 뜻은 아닙니다.

현행 7+1 소속 · 가속기·네트워크 ↗

최신 W2W↔D2W 전파감사 v2.2 ↗ · 세부흐름 최신 v2.0의 변경·반증 이력 ↗

기존 내러티브의 전제

Google TPU와 AWS Trainium은 GPU의 동등한 직접 판매 대안

수정한 인과·대안

Google TPU 시스템의 직접 구매·GCP 임대와 AWS Trainium의 관리형 컴퓨트는 자산·SLA·고객 책임이 달라 다른 매출 모델

경쟁·보완하는 세부 경로 3개

1

TPU 직접 시스템 판매

기존의 기대

내부 전용 ASIC 배치

바뀐 선택·조건

외부 고객 장비 소유·유지보수 부담 포함 구매

승패를 가를 실제 관측

계약 인도·실행 SW·TCO

2

GCP TPU 임대

기존의 기대

모든 TPU가 고객 소유

바뀐 선택·조건

Google 소유 클러스터의 사용량/장기 임대

승패를 가를 실제 관측

확정 예약 vs 실제 과금 시간

3

AWS Trainium

기존의 기대

TPU 직접구매와 같은 구조

바뀐 선택·조건

AWS 서버/운영자산을 통한 관리형 사용량 수익

승패를 가를 실제 관측

고객 모델 포팅·Bedrock SLA·이용률

제품 수요가 이동하는 경로

외부 고객 장비 구매/임대/서비스 사용량·동일 SLA 비용

기술

TPU 8t/8i·Trainium3 동일 모델 goodput/$/MW·포팅 비용

사용

독립 고객 계약·서버 가동·반복 사용과 갱신

정책

지역칩 접근·수출규제·클라우드 데이터 거버넌스

이 해석을 뒤집을 조건

내부 설계 성공·GW 계약이 외부 유료 고객의 실제 수익으로 이어지지 않음

이 수정에 연결된 새 근거 1건 ＋

ASIC-2026 · 외부 ASIC과 네트워크·관리형 서비스의 고객 경제성 분리 · 2026-04~10

근거 종류: 원문 6편 통합 + 공식 후속 일부

GPU 대안의 수요는 늘 수 있으나 TPU 직접 시스템 구매, 클라우드 Trainium 임대, 고객 자체 ASIC의 누가 자산/지원비 부담하는지 별도.

반론·미확인: 계약 GW와 실제 납품/가동, 내부 칩원가와 외부 고객 지불가는 다른 지표.

원장 또는 원자료 ↗

다른 흐름과의 조건부 연결 2건

두 산업의 변화를 기계적으로 연결하지 않습니다. 어떤 실제 조건에서 한쪽이 다른 쪽을 촉진·대체·잠식하는지 기록합니다.

C01C02상호 선택

성립 조건TPU 직접판매/임대·Trainium/Custom ASIC 등이 고객별 계약구조와 포팅 비용에서 다를 때

수혜 이동외부 ASIC 유료 구매가 GPU와 병존

금지할 비약모든 클라우드 ASIC을 하드웨어 직접판매 매출로 합산하지 않음

H02C01국가별 대체

성립 조건수출통제에 따른 가속기 접근 제한 시 지역 ASIC·메모리·Fabric 조합으로 목표 SLA를 충족하려 할 때

수혜 이동지역별 GPU/ASIC 구매 구조 재편

금지할 비약성능·컴파일러·전력비가 높아 실질 고객 비용 이익 없을 수 있음

기존 2026-10-14 인과 도식 · 변경 전 가설 보기
변화의 출발점

Google TPU의 외부 고객 사용 확대

내부 Gemini 운영·GCP TPU 임대·일부 대형고객 직접 구매를 구분

문제와 제약

외부 고객의 사용 가능한 모델·SLA·TCO 격차

Qwen3.5 397B FP8·8k/1k·No MTP 단일 Preview 결과를 실제 모든 외부 고객으로 일반화 불가

보완·독립 기능

4개 분석 경로

서로 다른 기능·원인 또는 보완 수단. 모두 필요한 연속 단계로 오인하지 않습니다.

병렬 경로 4개 · 좌우로 밀어 비교

대형 고객 직접 조달

현재 문제·제약

GPU 대신 TPU 칩·랙/용량 직접 구매와 공급 확보

대응·구매 후보

TPU 용량 계약·시스템 인수

관련 구매자

대형 AI 모델 연구소

Cloud TPU 임대

현재 문제·제약

직접 구매 대신 클라우드 가격·보장 용량·운영 범위

대응·구매 후보

TPU 클라우드 용량·SLA

관련 구매자

기업 AI·모델 서빙 고객

외부 서빙 SW·포팅

현재 문제·제약

PyTorch/JAX 실행과 모델별 정밀도·커널 지원 격차

대응·구매 후보

TorchTPU·vLLM/SGLang·Pallas

관련 구매자

모델 개발·서빙 플랫폼

추론 운영·메모리 관리

현재 문제·제약

P/D 분리·Spec Decode·Prefix/KV 캐시·장애 복구 단계별 구현

대응·구매 후보

TPU-Sync·KV Offload·Observability

관련 구매자

클라우드 추론 운영팀

수요 연결 · 검증 전 가설

외부 고객 채택을 가로막는 사용 가능성·운영·조달의 공동 검증

별도 판매/임대 채널과 이를 뒷받침하는 SW·운영 기능을 구분한다. 모든 기능이 독립 매출 항목이라는 뜻이 아님

가치 포착 여부는 별도 검증

고객 가치 포착과 경쟁조건

동일 모델·정밀도·p90 SLA에서 외부 구매자의 토큰/총비용과 공급자의 실현 매출·마진이 같이 성립하는가

이 구조는 기존 분석을 재표현한 것이며, 기술 채택·외부 유료 구매·기업 이익의 발생을 자동으로 뜻하지 않습니다.

핵심 검증 질문

내부 설계 성공·GW 계약이 외부 유료 고객의 실제 수익으로 이어지지 않음

기존 검증 질문(보존): 같은 실제 모델·정밀도·p90 SLA·구매 형태·포팅비용에서 TPU 외부고객 TCO와 재계약이 GPU 대비 유리한가?

P0 심층 근거 대조 · 2026-10-14

원문에서 무엇을 확인했고, 무엇이 아직 가설인가

GPT-6 · 세부 추론 강도 미확인 · 원문 1–403행 확인 · 직접 확인한 그림 44/44개

S · SemiAnalysis 원문

[S] 2025 Google TPU 직접판매/GCP 임대/시설 신용보강은 세 가지 거래 단위다. 40만 직접+60만 임대, $42B RPO, OpenAI 할인 30%는 SemiAnalysis 당시 추정. AWS Trainium은 AWS 운용 EC2 컴퓨트와 공랭/수랭 랙·Neuron SW의 다른 고객·계약 구조이며, R07 L575 vs583 FP4 표기와 L223 vs427 랙 XPU 수 분모가 충돌한다. R06 그림63/R07 그림98은 이번 독해에서 URL만 수집했다.

R06 2025-11-28 L69–117·L383–515 / R07 2025-12-04 L14–85·L635–750
U · 시계열 외부 검증

Broadcom SEC: Google TPU 개발·공급/네트워킹 장기계약 최대 2031년, Anthropic Broadcom 경유 약 3.5GW 접근 계획 조건부.

2026-04-06 공식 · R06 'Broadcom 제거·매입가 하락'은 조건부 전망이며 확정되지 않았고 가동·매출은 별도.근거 문서 확인 ↗
I · 자체 해석·검증 가설

[I] R06와 R07을 묶어 Google Merchant TPU의 직접 판매·GCP 임대와 AWS Trainium의 AWS-운영 서비스·시설 조달을 하나의 매출시장으로 합산하면 분모 오류. 시설 신용보강↔고객 RFS·토큰 실현원가를 연결해 기업별 이익을 따로 평가한다.

새로운 구매와 초과이익 발생은 아직 검증하지 못했음
구매시장별 단위·대체 경로 보기 ＋

외부 TPU 직접조달

구매자: 규모 큰 모델 연구소·하이퍼스케일러

거래단위: 자산 인도 GPU-equivalent / ASIC 랙 및 보증

기존 근거: SemiAnalysis L24·기존 R05 B 주장

대체·내재화: NVIDIA GPU·자체 ASIC·다른 임대 채널

Cloud TPU 임대

구매자: 기업 AI·모델 serving

거래단위: 유료 chip-hour·용량 예약/SLA

기존 근거: Google Cloud Ironwood GA + SemiAnalysis L34–80

대체·내재화: GPU/ASIC 다중 클라우드·bare-metal 자체 운영

모델·서빙 SW

구매자: AI 플랫폼·서빙 엔지니어

거래단위: 지원 모델버전·커널 포팅/검증 리드타임

기존 근거: TorchTPU Google 공식+SemiAnalysis L84–267

대체·내재화: TorchAX JAX 레거시/직접 TPU backend; 무료 OSS 번들

KV·PD 추론 운영

구매자: Cloud inference SRE

거래단위: 캐시 GB·p90 SLA 달성 유료 요청당

기존 근거: tpu-sync README + SemiAnalysis L343–389

대체·내재화: 기존 통합 서빙·GPU 캐시/메모리·서버 내 자체 구현

원문·그림 감사 범위와 전체 근거 ＋

저장 원문 403/403행, 그림/파일 마커 44/44개 직접 판독. FIG002=FIG032 관련기사 프리뷰 중복, FIG043 실제 BOM 핵심 셀은 검은색으로 가림. 모델/실거래 원시데이터 및 원문 문장별 역순 Gate 미완료.

원문 Drive Clipping ↗ · SemiAnalysis 발행 원문 ↗

원문 주장의 출처

R06 2025-11-28 L69–117·L383–515 / R07 2025-12-04 L14–85·L635–750: [S] 2025 Google TPU 직접판매/GCP 임대/시설 신용보강은 세 가지 거래 단위다. 40만 직접+60만 임대, $42B RPO, OpenAI 할인 30%는 SemiAnalysis 당시 추정. AWS Trainium은 AWS 운용 EC2 컴퓨트와 공랭/수랭 랙·Neuron SW의 다른 고객·계약 구조이며, R07 L575 vs583 FP4 표기와 L223 vs427 랙 XPU 수 분모가 충돌한다. R06 그림63/R07 그림98은 이번 독해에서 URL만 수집했다.

L34–80 · FIG003–010: [S] 비교는 Qwen3.5 397B FP8, 8k1k, aggregated, no MTP, SemiAnalysis 가정 외부 TPU TCO이다. 100 tokens/s/user에서 TPU $0.181 vs B200 $0.222 vs B300 $0.276/1M total tokens는 실고객 청구 원가가 아닌 모델 결과. 50.4%·96% perf/$ 우위는 20 tok/s/user 등 일부 선택점의 비교.

L54–76 · FIG005–010: [S] GPU는 특정 구간의 raw token throughput에서 우위, TPU는 modeled $/token에서 우위인 구간이 있다. TPU aggregated vs GB300 disaggregated는 최적화 단계가 달라 이질 비교. TPUv7 GPU FP4 성능/품질 동등성은 미검증.

L84–141 · FIG011–015: [S] JAX/TorchAX↔TorchTPU는 사용자 PyTorch native 지원의 변화다. XLA/StableHLO/Pallas TPU kernel 및 모델별 검증 필요성이 없어지는 것은 아님. TorchTPU 2026-10 공개 계획은 당시 전망.

L149–267 · FIG016–029: [S] DP attention, SparseCore 집합통신, GDN recurrent-state·paged KV와 tile-padding 개선은 특정 PR·shape·concurrency·kernel의 현장 최적화다. 각각의 속도증가를 더해 플랫폼 전체 이익률로 단순 합산할 수 없다.

L269–389 · FIG030–042: [S] Ironwood ICI Torus·향후 Boardfly·TPU-Sync KV Offload 및 분리 서빙 설계가 논의되지만 v8i 시점/외부 스택 일반 배포와 실제 상업사용은 별도로 확인.

L392–403 · FIG043–044: [S] TPU BOM의 상세 주요 셀은 가려지고 시간당 단가 표만 남아 모델 원시 원가 추적 불가. Google 자체 TPU ~$1.02/시간과 고객 외부 $1.21/시간 가정은 결코 동일 가격이 아니다.

시계열 공식·외부자료

2026-04-06 공식 · Broadcom SEC: Google TPU 개발·공급/네트워킹 장기계약 최대 2031년, Anthropic Broadcom 경유 약 3.5GW 접근 계획 조건부. — R06 'Broadcom 제거·매입가 하락'은 조건부 전망이며 확정되지 않았고 가동·매출은 별도.

2025-11-06 · 출시 시점 · Google Cloud가 Ironwood TPU Cloud 일반 제공(GA)을 발표. — 클라우드 제공 증거, TPU 직접 판매 계약이나 SemiAnalysis $/token 검증 아님.

2026-04-07 · 제품 설명 · Google 공식 TorchTPU 아키텍처 문서: native PyTorch 지원과 아직 남은 공개 Repo·동적 shape 개발 로드맵. — 내부 실행능력/방향 증거, 외부 모든 모델의 Day0 안정성 보증 아님.

2026-10 · 공개 저장소 현황 · google/tpu-sync README는 개발 진행 중이며 범용 이용을 권장하지 않는다고 명시. — 초기 API/예시와 상용 전체 Fleet 운영 안정성은 구분.

2026-04-22 Google 공식 · TPU 8t 학습·8i 저지연 서빙 분화 공개. 2025 내부 코드 TPUv8AX/v8X와 공식 8t/8i 일대일 대응 미검증. — 구글 자체 성능/$ 개선과 외부 고객 동일 SLA TCO는 다름.

독립 해석

[I] R06와 R07을 묶어 Google Merchant TPU의 직접 판매·GCP 임대와 AWS Trainium의 AWS-운영 서비스·시설 조달을 하나의 매출시장으로 합산하면 분모 오류. 시설 신용보강↔고객 RFS·토큰 실현원가를 연결해 기업별 이익을 따로 평가한다.

[I] 내부 Google AI 워크로드 성공, GCP 임대 GA, 외부 칩 직접 판매, 외부 사용자의 반복 유료 매출·마진은 서로 다른 사건과 분모다.

[I] 고객은 direct ASIC procurement와 GCP rental이라는 조달 경로를 고르고, TorchTPU/model kernel 및 KV/PD 운영을 채택할 수 있는지 각각 별개로 확인한다. 개발자 SW 지원은 반드시 별도 구매시장인 것은 아니다.

[I] SKU별 값이나 50% perf/$ 문구를 신규 NVL72 disaggregated, FP4, agentic trace에 이전할 때 모델·품질·p90 SLA를 다시 고정해야 한다.

아직 확인하지 않은 것

  • 2025 R06 515행/그림 링크63건(원본 픽셀0/63), R07 839행/마커98건(원본 픽셀0/98) 원문 범위 재방문. 기존 R06/R07 이미지를 판독 완료라고 주장할 수 없으며 기사 원시 계약 추정·TCO 독립 실사 OPEN.
  • 44/44 이미지 파일 판독은 완료, FIG043 BOM 금액 다수 가려짐; 외부 TCO 원본 모델 셀/세부가 미공개.
  • TorchTPU 일반 공개/다중 모델 Day0, TPUv8i 보드플라이 사양, 고객 실계약·TPU 직접 판매 가격 미독립 감사.
  • 원문 문장별 역순 무누락 검증·외부 GPU/TPU p90 같은모델 벤치 재현 미완료.

판단을 깨는 반례

  • 동일 FP4/p90 TTFT/PD 분리/AgentX trace에서 GPU가 비용·수율·지원비상 유리해지는 경우
  • 외부 ASIC 고객이 커널·지원·사용량·가용량 때문에 실제 서빙 가능 모델을 제한하는 경우
  • 저비용 자체 TPU 주장 대비 외부 고객 임대·할인·운영 부대비용으로 이익이 소멸
2026-10-14 구매시장 가설·기존 검증 지표 · 이전 분석

예상되는 구매자·기능 (독립 구매 검증 전)

  • TPU 용량 계약·시스템 인수 — 대형 AI 모델 연구소
  • TPU 클라우드 용량·SLA — 기업 AI·모델 서빙 고객
  • TorchTPU·vLLM/SGLang·Pallas — 모델 개발·서빙 플랫폼
  • TPU-Sync·KV Offload·Observability — 클라우드 추론 운영팀

실제로 관측할 지표

  • 동일 모델·8k/1k vs 장문맥·FP8/FP4 품질, No-MTP/MTP, Aggregated/Disaggregated, p90 TTFT·TPOT 고정
  • 고객별 실제 판매·임대 계약, TPU 칩 가용량·설치, 외부 서빙 SW Day0/DayN 포팅 지원 실적
  • 비교 대상별 외부 TCO 가정(시간당 TPU $1.21/B200 $1.73/B300 $2.26: SemiAnalysis 모델)과 전력·설치·운영·지원 비용
  • Torque: 동일 토큰 수·유료 고객 재방문·SLA 충족 Goodput/달러; 내재한 TPU ASIC 설계는 외부 고객 부가가치 매출 아님
  • 2026 공식 TPU 8t/8i와 Broadcom 2031 계약, Anthropic 2027+ 예상 3.5GW의 고객 주문→인도→실가동/지불 전환율 확인

반대 경로와 실패 조건

  • 원문 100 tokens/s/사용자 비용 우위는 모델링 조건부. FP4 GPU, Disaggregated NVL72, 실제 고객 할인·소프트웨어 변화에서 역전 가능
  • C01 FIG005 순 토큰/초 일부 구간 GPU가 높음. TPU가 모든 워크로드에서 하드웨어 처리량 우위라는 해석 금지
  • C01 FIG043 핵심 TPU BOM 셀 가려짐; 원가 모델 독립 재현 불가. FIG002와 FIG032는 동일 기사 미디어 반복
  • TPU-Sync README는 active development/not recommended for general use, TorchTPU 공개 출시 계획이 전 모델 Day0 지원과 동등하지 않음
  • Trainium은 별도 AWS 플랫폼이므로 TPU 자료만으로 Trainium 외부 공급/마진을 동시에 확정하지 않음

연결된 다른 세부 흐름

  • C01↔C02: Google 내부 ASIC 외부화와 외부 고객이 자체 ASIC 설계하는 현상은 다른 사업구조·수요 결정이다.
  • C01↔C03: 시스템 공동설계·모델 shape·MXU fill·Network hop·SW porting은 같은 SLA 원가에 공동 영향을 준다.
  • C01↔B03·B04: 장기 상태형 추론/분리 서빙/유휴 KV는 TPU external stack 개발 과제지만 이미 실증된 모든 고객 원가 절감은 아니다.
  • C01↔G03: Google Merchant TPU 직접 소유형 판매와 GCP 임대, AWS EC2 Trainium 및 NeoCloud site financing은 별도 거래 단위. R06 공급계약/신용보강은 고객 RFS를 자동 보장하지 않음.
기존 원문 근거 · 읽기 범위와 검증 Gate

분석 기준일:

2026-10-14 P0 정독: 2026-09-07 SemiAnalysis TPU Inference Externalization 저장 원문 403/403행, 이미지 파일/마커 44/44를 직접 열어 원문 텍스트·축·캡션 대조(002=032 관련기사 썸네일 중복). R05 403행·44/44 이미지 열람, 연결 R06 TPUv7 515/515행·R07 Trainium3 839/839행 순차 재독. R06 그림원본 픽셀0/63·R07 0/98의 증거 Gate는 미완료. 일부 수치·TCO·BOM은 SemiAnalysis 모델 [S]이며 원시 입력셀·외부 계약/마진 독립검증과 문장별 역순 1:1 누락 감사 OPEN. [S]/[U]/[I] 구분. GPT-6 / reasoning effort 미확인. 2026-10-14 연결원문 R06 515/515행·이미지 링크63(픽셀0) 및 R07 839/839행·이미지 마커98(픽셀0) 신규 선형 재독. Google TPU↔AWS Trainium 외부화의 조달주체·운영 책임 구분, Broadcom 2031 SEC 정보 추가. 전체 그림 픽셀·외부 계약 원시자료 Gate 아직 OPEN.