같은 발견을 그림과 원문으로 왕복합니다

발견을 모아 둔 여섯 주제

• 긴 작업의 기억 →

  반복되는 문맥에서 압축·캐시·메모리 제품과 과금으로

  긴 작업은 이전 내용을 다시 읽습니다모델 안에서 필요한 기억을 줄입니다기억해 두면 다시 계산할 일을 줄일 수 있습니다메모리 가격은 실제로 파는 구성을 바꿉니다토큰 수와 그 토큰의 가격은 다릅니다

• 빠르고 싼 작업 →

  요구 속도에서 실제 처리량·장비 선택·판매 용량으로

  빠른 응답을 약속할수록 쓸 수 있는 용량이 달라집니다무엇 한 단위를 싸게 만드는지부터 비교합니다모델 설계에 따라 사야 할 학습 시스템이 갈립니다출하 후 소프트웨어가 구매 경제성을 바꿉니다팔린 GPU와 주학습에 쓰이는 GPU가 다릅니다자산은 작업의 속도와 시기에 맞춰 배치합니다효율로 늘어난 가치를 누가 가져갈지 갈립니다

• 학습을 만드는 공장 →

  시도·환경·검증에서 과제·모델·실험 인프라로

  학습은 생성·실행·채점·갱신을 잇는 공장입니다팔리는 데이터는 실행하고 판정할 수 있는 과제입니다구매자는 공급을 표준화하고 자기 데이터는 쌓습니다좁은 업무는 작은 전문 모델로 나뉠 수 있습니다큰 교사의 능력을 여러 작은 제품에 옮깁니다물리 실험은 값싼 검증에서 비싼 검증으로 좁혀 갑니다검증은 유효한 학습과 믿을 수 있는 성능의 수율을 지킵니다

• 모델에서 서비스 매출로 →

  작업별 모델 선택에서 한도·연산 배분·접근권으로

  작업의 단계마다 모델과 실행 제품을 고릅니다모델 소유권이 서비스의 원가 출발점을 바꿉니다한도와 모델 배분으로 구독의 원가를 조절합니다희소한 연산을 어디에 팔지가 고객 이동을 만듭니다행동 능력과 실제 플랫폼 접근권은 따로 필요합니다

• 칩에서 작동하는 시스템으로 →

  연결 구조에서 부품·운영·금융·고객 조건으로

  광학 통합은 네트워크의 층도 바꿀 수 있습니다연결 위치가 바뀌면 부품의 매출 단위도 바뀝니다개방형 랙도 실제 조달에서는 한 공급자에 모일 수 있습니다새 칩을 서비스로 팔면 도입 위험을 공급자가 가져옵니다기업이 사는 토큰에는 하위 운영자의 신뢰도 포함됩니다고객 채택의 대가가 지분과 보증으로도 이동합니다

• 생산지를 옮기는 비용 →

  국가별 생산 단계에서 원가·현지 공급망·공정 독립성으로

  국가마다 생산이 막히는 단계가 다릅니다신규 해외 팹은 기존 대만 팹과도 경쟁합니다해외 투자비는 장비 외의 시공과 연결에도 갑니다현지 공장부터 인증된 공급 계약까지는 단계가 있습니다생산을 옮겨도 다음 공정을 만드는 능력은 따로 남습니다

자료별로 발견과 근거 찾기

1. 원문 발행 2026-10-05 · 그림으로 연결한 발견 9개

   AI 구독의 한도와 수익화 구조 →

   구독의 한도와 모델별 배분은 고객 확보와 연산 수익화를 함께 조정하는 수단이다. API 단가, 제공 토큰, 사용자의 실제 업무 가치를 나누어 봐야 한다.

   이 글의 발견을 그림으로 읽기

   • 더 강한 모델을 팔아도 원가가 줄 수 있다 →
   • 제목의 5배는 생산성 5배가 아니다 →
   • 캐시 할인이 구독의 숨은 가격표가 된다 →
   • 고가 구독의 토큰 우대가 줄었다 →
   • 상위 상품은 토큰 외에 속도를 판다 →
   • API 인하와 구독 확대는 별개다 →
   • 모델 소유권이 앱의 가격 경쟁에 들어온다 →
   • 매출 비중과 연산 점유율은 다르다 →
   • 같은 구독 이름도 실제 제공량은 다를 수 있다 →

   보관 순서 1. 사건 순서나 투자 우선순위가 아닙니다.

2. 원문 발행 2026-04-24 · 그림으로 연결한 발견 7개

   코딩 도구의 경쟁은 완료한 작업의 품질과 비용에서 갈린다 →

   같은 품질의 코딩 작업을 얼마나 빠르고 저렴하게 끝내는지가 모델과 실행 제품을 함께 비교하는 기준이 된다. 토큰 단가뿐 아니라 문맥 수집, 도구 실행, 검토와 재작업이 결과를 바꾼다.

   이 글의 발견을 그림으로 읽기

   • 긴 문맥이 저장장치 수요에 그대로 곱해지지 않는다 →
   • 이론 효율은 출시 첫날 처리량과 다르다 →
   • 초기 제작과 버그 수정은 다른 모델을 살 수 있다 →
   • 실행 제품이 토큰 지출을 바꾼다 →
   • 최고 성능 업체도 모든 수요를 받지 못할 수 있다 →
   • 가격표가 같아도 작업 청구액은 바뀐다 →
   • 벤치마크 우승표가 실제 제품 선택을 대신하지 못한다 →

   보관 순서 2. 사건 순서나 투자 우선순위가 아닙니다.

3. 원문 발행 2025-08-20 · 그림으로 연결한 발견 7개

   H100과 GB200의 학습 경제성 →

   관측된 변화는 두 갈래다. 소프트웨어가 새 하드웨어를 활용하면서 같은 GPU의 학습 처리량이 빠르게 좋아졌다. 동시에 8 GPU 서버에서 72 GPU 랙으로 연결 영역이 커지면서 장애의 영향 범위와 복구 부담이 늘었다. 구매 판단의 단위는 피크 FLOPs보다 같은 모델을 같은 품질까지 안정적으로 학습하는 총비용이어야 한다.

   이 글의 발견을 그림으로 읽기

   • 추론을 싸게 만드는 모델이 학습 장비를 바꾼다 →
   • 소프트웨어가 장비 원가 순위를 뒤집는다 →
   • 큰 랙은 성능뿐 아니라 수리 단위도 키운다 →
   • 팔린 GPU와 학습 중인 GPU는 다르다 →
   • 전력 부족과 전기요금은 다른 문제다 →
   • 출하된 랙이 곧 대규모 학습능력은 아니다 →
   • GPU를 늘려도 같은 비율로 빨라지지는 않는다 →

   보관 순서 3. 사건 순서나 투자 우선순위가 아닙니다.

4. 원문 발행 2026-01-06 · 그림으로 연결한 발견 8개

   업무를 학습시키는 산업과 물리 실험의 경계 →

   실행 가능한 업무, 올바른 성공 기준, 검증된 수행 기록, 실제 도구 접근권이 각각 학습 자원이 된다. 환경 제작·전문가 평가·실행 도구를 한 시장으로 합치면 비용과 수익 구조를 놓친다.

   이 글의 발견을 그림으로 읽기

   • 학습 환경은 재사용돼도 공급자 매출은 반복되지 않을 수 있다 →
   • 큰 고객이 시장을 키우면서 공급자 마진을 낮춘다 →
   • 팔리는 것은 코드가 아니라 재현 가능한 과제다 →
   • 작은 전문 모델은 범용 최전선 모델과 다른 시장이다 →
   • 싼 HBM이 칩보다 서비스 마진을 도울 수 있다 →
   • 에이전트 능력과 실제 플랫폼 접근권은 별개다 →
   • 물리 실험은 반복할 때마다 비용과 시간이 든다 →
   • 표준 환경과 독자 모델은 함께 늘어날 수 있다 →

   보관 순서 4. 사건 순서나 투자 우선순위가 아닙니다.

5. 원문 발행 2025-06-08 · 그림으로 연결한 발견 7개

   강화학습 확장의 병목과 가치 회수 조건 →

   RL은 추론을 훈련의 내부 과정에 넣어 데이터·환경·평가·메모리·조직의 요구를 함께 바꾼다. 유효한 보상 없이 반복 속도만 높이면 점수와 실제 업무 성과가 벌어질 수 있다.

   이 글의 발견을 그림으로 읽기

   • GPU가 기다리는 원인은 CPU 환경일 수 있다 →
   • 남는 추론 시간에서 학습 데이터를 만든다 →
   • 랙 안은 크게 묶고 작업은 멀리 나눌 수 있다 →
   • 작은 모델은 큰 교사의 개발비를 재사용한다 →
   • 적은 최종 표본 뒤에 많은 검증비가 있다 →
   • 보상 해킹 방지는 학습 생산의 품질 관리다 →
   • 효율적인 기반모델은 서비스와 RL을 함께 싸게 한다 →

   보관 순서 5. 사건 순서나 투자 우선순위가 아닙니다.

6. 원문 발행 2026-09-14 · 그림으로 연결한 발견 7개

   Rubin 에이전트 추론의 비용과 전력 생산성 →

   긴 다중 턴과 반복 문맥을 처리하는 추론이 늘면서 캐시, 메모리 경로, 통신과 서빙 엔진의 결합이 중요해진다. 이 글의 Rubin 초기 결과는 같은 응답 속도에서 처리할 수 있는 총 요청량이 커질 수 있음을 보여준다. 다만 “67배”는 특정 속도와 비교 엔진의 끝점에서 얻은 값이다. 가장 강한 비교 엔진, 실제 유료 수요와 가동 조건을 넣으면 사업적 결론의 범위가 달라진다.

   이 글의 발견을 그림으로 읽기

   • 빠른 응답 약속이 팔 수 있는 총용량을 바꾼다 →
   • 에이전트의 반복 문맥은 보존할 가치가 있다 →
   • 총토큰 수와 청구 매출 사이에는 별도 계산이 있다 →
   • 비싼 칩도 같은 전력에서 더 싸게 일을 끝낼 수 있다 →
   • 효율 이익은 운영자와 고객 사이에서 갈린다 →
   • 구형 장비는 다른 일로 옮기고 새 장비는 납기를 따진다 →
   • 정격 전력보다 실제 부하에 맞춰 배치하려 한다 →

   보관 순서 6. 사건 순서나 투자 우선순위가 아닙니다.

7. 원문 발행 2026-08-30 · 그림으로 연결한 발견 7개

   네오클라우드의 보안 운영과 토큰 서비스 책임 →

   발행처의 2026년 4~7월 선별 감사는 서비스별 격리와 패치 증거가 중요함을 보여 준다. 업계 전체의 현재 보안 순위는 아니다.

   이 글의 발견을 그림으로 읽기

   • 칩 회사가 토큰을 팔면 고객의 도입 부담을 가져온다 →
   • 현물 토큰과 장기 계약은 같은 담보가 아니다 →
   • 운영 생태계와 중고 시장도 칩 경쟁력에 들어간다 →
   • 토큰 구매자는 하위 클라우드의 분리 수준에도 의존한다 →
   • 서버를 지워도 별도 장치의 상태는 남을 수 있다 →
   • 컨테이너 경계 실패와 VM 미시험을 구분한다 →
   • 보안 결과는 공급자 이름보다 서비스와 시점을 따라야 한다 →

   보관 순서 7. 사건 순서나 투자 우선순위가 아닙니다.

8. 원문 발행 2026-07-25 · 그림으로 연결한 발견 10개

   AMD의 소프트웨어 검증과 랙 통합 경제성 →

   AMD의 고객 계획과 특정 MI355 최적화 성과는 기회가 커졌다는 신호다. MI455의 새 ISA·분산 CI·랙 양산과 MI500 전망은 별도 단계다.

   이 글의 발견을 그림으로 읽기

   • 코드를 빨리 고칠수록 시험용 GPU가 중요해진다 →
   • 빠른 추론도 답의 품질이 유지돼야 팔 수 있다 →
   • 개방형 랙에도 단일 공급 병목이 남는다 →
   • 연결 부품 매출과 랙 조립 이익은 갈라진다 →
   • 더 많은 HBM을 넣어도 GPU 회사의 마진은 낮아질 수 있다 →
   • 기억의 가치는 커지는데 가까운 메모리는 빠진다 →
   • 명목 연산이 싸도 유효 학습 원가는 같아질 수 있다 →
   • 고객 유치의 대가는 조건부 주주 가치일 수 있다 →
   • 매출을 만드는 금융 지원마다 손실 경로가 다르다 →
   • 한 세대의 개선이 다음 랙의 생산 검증은 아니다 →

   보관 순서 8. 사건 순서나 투자 우선순위가 아닙니다.

9. 원문 발행 2025-12-01 · 그림으로 연결한 발견 10개

   TSMC 해외 팹의 생산 단계와 원가 조건 →

   이 글은 2025년 12월 자료다. 일본과 Arizona의 초기 생산·ramp, 독일의 건설 단계를 구분해야 하며 2026년 업로드가 현재 상태를 뜻하지 않는다.

   이 글의 발견을 그림으로 읽기

   • 해외 팹의 성공은 누가 무엇을 사는지에 달려 있다 →
   • 2.4배 원가에는 서로 다른 설비 나이가 들어 있다 →
   • 현지 공급망의 빈칸은 소재마다 다르다 →
   • 가까운 공급자도 품질이 끊기면 팹을 멈춘다 →
   • 팹 투자비는 하나의 턴키 계약으로 가지 않는다 →
   • 첫 팹의 비용을 후속 팹마다 반복 계산하면 안 된다 →
   • 해외 세 지역은 같은 생산 단계가 아니다 →
   • 높은 초기 수율은 국가별 제조 우위의 증거가 아니다 →
   • 생산지를 옮겨도 다음 공정을 만드는 능력은 남는다 →
   • 웨이퍼를 현지에서 만들어도 AI칩 공급망은 끝나지 않는다 →

   보관 순서 9. 사건 순서나 투자 우선순위가 아닙니다.

10. 원문 발행 2025-03-19 · 그림으로 연결한 발견 10개

    GTC 2025에서 드러난 추론 시스템의 변화 →

    GTC 2025에서 구체화된 변화는 추론의 단계, 문맥 저장, 자원 배분과 물리 연결을 함께 재설계한다는 점이다. Dynamo는 요청 단계와 캐시의 배치를 조절하고, 차세대 GPU와 패키지는 연산·메모리를 늘리며, Kyber와 CPO는 랙 및 네트워크 구조를 바꾸려 한다. 이들은 추론 비용에서 만나지만 같은 변화도, 서로의 필수 조건도 아니다.

    이 글의 발견을 그림으로 읽기

    • 광학 통합의 큰 절감은 네트워크 한 층에서 나온다 →
    • 광학 수요가 늘어도 기존 광모듈 수는 줄 수 있다 →
    • 저장장치는 입력 재계산용 GPU를 대신할 수 있다 →
    • 입력과 출력은 나눌 때도 합칠 때도 있다 →
    • 엔진 위의 조정 계층도 플랫폼 영향력을 만든다 →
    • 랙 밀도를 높이면 연결과 설치 책임도 이동한다 →
    • 플랫폼이 커져도 특정 부품은 빠질 수 있다 →
    • 행렬연산이 빨라질수록 다른 연산이 병목이 된다 →
    • 구형 GPU의 가치는 하드웨어와 소프트웨어 사이에서 정해진다 →
    • 로드맵 이름과 숫자를 같은 실물 단위로 맞춘다 →

    보관 순서 10. 사건 순서나 투자 우선순위가 아닙니다.

세부 흐름 사이의 연결과 성립 조건

아래는 원문을 연결한 분석입니다. 공식 공급 관계나 독립 검증으로 자동 승격하지 않습니다.

• 고정 구독료로 서로 다른 사용량을 감당한다→ 배분을 조정구독 배분

  같은 요금 아래 사용량·모델 구성·속도 조건을 달리하면 잠재 연산 부담과 고객 가치를 함께 바꾼다.

  실제 회사 전략의 원인으로 확정하지 않고 정책 변화와 비용 구조를 연결한 해석.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • OpenAI가 한도 초기화 혜택을 제공했고 Anthropic은 예정했던 구독 한도 축소를 여러 차례 되돌렸다고 원문이 보고한다. · 분석 근거 읽기 →C-SUB002-01 / paragraphs: P001; images: ; sections: 도입부발행처의 관측 보고 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
  • OpenAI 200달러 구독의 모델별 제공 토큰 한도가 절반으로 줄었고 신규 가입자는 즉시 적용되며 기존 가입자는 10월 29일까지 종전 한도가 유지된다고 보고한다. · 분석 근거 읽기 →C-SUB002-11 / paragraphs: P057,P067–P069; images: I13; sections: OpenAI vs Anthropic, OpenAI’s new $500 plan and massive limit reduction발행처의 관측 보고 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
  • 새 500달러 요금제는 종전 200달러 플랜보다 Astra가 21% 많고 초당 300토큰 Ultrafast를 주된 기능으로 내세운다고 보고한다. · 분석 근거 읽기 →C-SUB002-15 / paragraphs: P070–P072; images: I14; sections: OpenAI’s new $500 plan and massive limit reduction발행처의 관측 보고 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
  • Anthropic은 더 상위 모델에 더 작은 API 환산 한도를 배정하고 OpenAI는 전반적 한도를 직접 낮추는 서로 다른 구독 수익화 전략을 쓴다는 해석. · 분석 근거 읽기 →C-SUB002-21 / paragraphs: P091–P093; images: I18, I19; sections: Two different approaches to increasing subscription margins발행처 판단 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
  • API 매출총이익률 92%와 한도 소진율을 가정하면 Opus와 Fable 구독의 모의 이익률은 크게 다르다. · 분석 근거 읽기 →C-SUB002-22 / paragraphs: P094; images: ; sections: Two different approaches to increasing subscription margins발행처 추정 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
• 실행 결과의 품질과 기다리는 시간이 선택을 가른다→ 작업별로 선택작업별 제품 조합

  검토·재작업·대기 비용 때문에 일부 사용자가 모델·속도·예산을 달리 조합한다.

  2026년 4월 발행처 내부 표본에 한정.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 발행처는 Claude에 거의 전적으로 의존하던 엔지니어들이 GPT 5.5 이후 작업과 IDE에 따라 Codex와 Claude를 함께 쓰며 일부는 Claude의 초기 구성 뒤 Codex로 수정한다고 보고한다. · 분석 근거 읽기 →C-CODE003-01 / P001; P002; P004; P058; P069-P072발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 발행처의 일상 코드 작업에서는 기능 테스트 통과 외에 설계·의도 이해·속도·데이터 정확성이 차별점으로 부각됐다고 평가한다. 대시보드 예시는 Claude Opus 4.6과 GPT 5.5 비교다. · 분석 근거 읽기 →C-CODE003-02 / P018; P020; P027; P061-P068발행처 판단 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 우선 처리와 빠른 모드는 같은 모델의 서비스 조건이고 Codex Spark는 다른 소형 모델이라는 구분 아래, 일부 발행처 엔지니어는 약간의 품질보다 빠른 응답을 택했다고 보고한다. · 분석 근거 읽기 →C-CODE003-05 / P010; P011; P018발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • Opus 4.7은 xhigh 선택지와 API 베타 작업 예산을 도입했고 thinking 표시가 기본적으로 생략된다. 발행처는 기본 도구 호출이 줄고 추론이 늘었다고 관찰한다. · 분석 근거 읽기 →C-CODE003-08 / P023-P025; P027발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
• 긴 문맥과 반복 추론이 상태 저장 부담을 키운다→ 상태 부담을 줄임장문맥 상태 절감

  KV와 attention 부담을 압축·희소화로 낮추는 설계가 나온다.

  V4/V3.2 1M 문맥의 개발사 비교.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • DeepSeek V4 공개 모델은 장문맥 확장과 sparse/compressed attention 계열 구조를 도입했다고 서술한다. · 분석 근거 읽기 →C-CODE003-11 / P034-P040발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 1M 문맥 조건에서 V4 Pro가 V3.2 대비 단일 토큰 추론 FLOPs 27%, KV cache 10%를 필요로 한다는 개발사 수치를 인용한다. · 분석 근거 읽기 →C-CODE003-12 / P040발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
• 새 연산 자원을 기존 소프트웨어가 즉시 활용하지 못한다→ 실행 스택 최적화추론 스택 성숙

  새 모델 구조를 지원하는 커널과 런타임이 있어야 잠재 절감이 처리량으로 이어진다.

  초기 H200 지원과 타 플랫폼 작업 진행을 구별.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • DeepSeek 커널의 Ascend 지원을 표방하지만 공개 코드는 Hopper·Blackwell 중심이고, 발행처는 H200의 day-zero 지원을 실현했으며 Blackwell·AMD 지원은 진행 중이라고 보고한다. · 분석 근거 읽기 →C-CODE003-14 / P047-P052발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 발행처의 V4 초기 H200 실험은 20 tok/s 사용자 응답속도 조건에서 GPU당 약 150 tok/s를 보고하고 V3 비교값은 약 1300~2300 tok/s라고 제시한다. · 분석 근거 읽기 →C-CODE003-15 / P053; P173; I11; I12발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • MegaMoE 공개 자료는 일부 커널 조건에서 기존 non-fused 방식 대비 가속을 보고한다. · 분석 근거 읽기 →C-CODE003-38 / I09; I10발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
• 장문맥 상태 절감↔ 서로 보완추론 스택 성숙

  구조적 상태 절감을 지원 커널이 실제 하드웨어에서 구현한다.

  이론 1M 효율과 초기 8k 실측을 동일 실험으로 묶지 않음.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 1M 문맥 조건에서 V4 Pro가 V3.2 대비 단일 토큰 추론 FLOPs 27%, KV cache 10%를 필요로 한다는 개발사 수치를 인용한다. · 분석 근거 읽기 →C-CODE003-12 / P040발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • DeepSeek 커널의 Ascend 지원을 표방하지만 공개 코드는 Hopper·Blackwell 중심이고, 발행처는 H200의 day-zero 지원을 실현했으며 Blackwell·AMD 지원은 진행 중이라고 보고한다. · 분석 근거 읽기 →C-CODE003-14 / P047-P052발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 발행처의 V4 초기 H200 실험은 20 tok/s 사용자 응답속도 조건에서 GPU당 약 150 tok/s를 보고하고 V3 비교값은 약 1300~2300 tok/s라고 제시한다. · 분석 근거 읽기 →C-CODE003-15 / P053; P173; I11; I12발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
• 새 연산 자원을 기존 소프트웨어가 즉시 활용하지 못한다→ 버전별 성숙학습 스택 성숙

  융합 커널과 collective 개선이 같은 장비의 실제 학습 처리량을 높인다.

  모델·정밀도·batch별로 다른 개선 속도.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 동일한 H100 128개에서 GPT-3 175B의 2024년 1월→12월 BF16 처리량은 313→493 tok/s/GPU, FP8은 543→728로 증가했다고 보고한다. · 분석 근거 읽기 →C-TRAIN004-05 / paragraphs: P040–P048; images: I04발행처의 관측 보고 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
  • Llama3.1 8B H100 128개에서는 2024년 11월→2025년 4월 FP8 13360→13739, BF16 10006→10630 tok/s/GPU로 소프트웨어 개선이 상대적으로 작았다. · 분석 근거 읽기 →C-TRAIN004-10 / paragraphs: P071–P073; images: I08발행처의 관측 보고 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
  • DeepSeek 670B BF16에서 GB200는 2025년 5월 비용 우위가 없었지만 7월 2138 대 H100 842 tok/s/GPU로, 약2.54배 처리량 및 약1.52배 성능/TCO를 보였다. · 분석 근거 읽기 →C-TRAIN004-11 / paragraphs: P078–P083; images: I09발행처의 관측 보고 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
• 희소 모델은 연산량을 줄이는 대신 통신 조건을 바꾼다→ 통신 구조를 조정MoE 통신·scale-up

  희소 모델의 dispatch·combine이 넓은 연결 영역의 이득을 키울 수 있다.

  특정 all-to-all 배수를 전체 학습 배수로 확대하지 않음.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 초희소 MoE의 낮은 활성 파라미터는 추론 비용을 줄이지만 expert dispatch/combine 통신과 학습 안정성 부담을 키운다. 64 GPU all-to-all이 NVL72 내부에서 H100 클러스터 대비 18배 빠르다는 설명이다. · 분석 근거 읽기 →C-TRAIN004-13 / paragraphs: P081;P085–P086; images: 발행처의 관측 보고 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
• 서로 기다리는 학습에서는 한 부분의 장애가 전체에 번진다→ 장애 영향 확대랙 장애·예비 용량

  서로 연결된 더 큰 랙과 동기식 학습에서 진단·수리·재시작이 더 많은 자산에 영향을 준다.

  2025년 초기 NVL72 운영과 대형 학습 시나리오.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 기사 시점 GB200 대규모 학습은 백플레인 신호 무결성·진단 미성숙으로 어려우며 Paladin 커넥터 체결과 케이블·switch tray 교체가 장애 구분 및 수리 시간을 늘린다고 보고한다. · 분석 근거 읽기 →C-TRAIN004-16 / paragraphs: P004–P006;P093–P108; images: I11, I12, I13, I14발행처의 관측 보고 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
  • 신뢰성 모형은 NVL72당 64 GPU만 주학습에 사용하고 8개를 선점 가능한 예비로 두며, 별도 예비 랙까지 필요하다고 가정한다. · 분석 근거 읽기 →C-TRAIN004-17 / paragraphs: P094–P095;P113–P115; images: I15발행처 추정 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
  • 16384 active GPU Llama4 모형에서 GB200의 H100 최상 운영자 대비 비용 우위는 예비 GPU 비용 포함시 0·18·21%, 다른 작업을 하는 예비 GPU 비용 제외시 11·27·30%다. · 분석 근거 읽기 →C-TRAIN004-18 / paragraphs: P116–P118; images: I15발행처 추정 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
• 랙 장애·예비 용량→ 이득을 제한MoE 통신·scale-up

  넓은 통신 영역의 정상 성능 이득을 장애·예비자산 비용이 줄일 수 있다.

  실효 TCO에 실제 신뢰성·활용률을 반영; 추론 replica에는 장애 파급이 다를 수 있음.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 초희소 MoE의 낮은 활성 파라미터는 추론 비용을 줄이지만 expert dispatch/combine 통신과 학습 안정성 부담을 키운다. 64 GPU all-to-all이 NVL72 내부에서 H100 클러스터 대비 18배 빠르다는 설명이다. · 분석 근거 읽기 →C-TRAIN004-13 / paragraphs: P081;P085–P086; images: 발행처의 관측 보고 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
  • Llama4 Maverick 400B·활성17B FP8 5월 벤치마크는 GB200 128 GPU에서 H100 512 GPU보다 GPU당 처리량 10757/4251≈2.53배, 비용 0.061/0.093≈0.66배다. · 분석 근거 읽기 →C-TRAIN004-15 / paragraphs: P088–P091; images: I10발행처의 관측 보고 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
  • 16384 active GPU Llama4 모형에서 GB200의 H100 최상 운영자 대비 비용 우위는 예비 GPU 비용 포함시 0·18·21%, 다른 작업을 하는 예비 GPU 비용 제외시 11·27·30%다. · 분석 근거 읽기 →C-TRAIN004-18 / paragraphs: P116–P118; images: I15발행처 추정 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
• 점수를 높이는 행동과 원하는 업무 성과가 어긋날 수 있다→ 검수·갱신전문 평가 갱신

  누출과 불공정 채점을 줄이려고 과제를 다시 만들고 전문가 검수를 보완한다.

  비공개화 자체가 품질 보증은 아님.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 초기 객관식·단답형 평가가 포화되면서 더 어렵고 전문가가 작성하는 문항으로 이동했으나 오류와 대표성 문제가 남았다고 설명한다. · 분석 근거 읽기 →C-CODE003-18 / P087-P100발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • SWE-bench는 자동 수집 평가에서 사람이 검수한 500문항으로 좁혀졌고, 2026년 OpenAI는 불공정 채점·오염 문제로 그 점수 발표를 중단하고 Pro를 권고했다. · 분석 근거 읽기 →C-CODE003-20 / P105-P119발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 평가 대상은 코드 테스트를 넘어 앱·파일·업무 환경의 결과물로 넓어지고 전문가 기준표와 사람 또는 LLM 채점이 쓰인다. · 분석 근거 읽기 →C-CODE003-21 / P125-P141발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 발행처 자체 평가에는 비용을 줄이기 위한 부분 표본과 제한된 MCP 서버가 사용됐고 회사 발표와 harness도 달랐다. · 분석 근거 읽기 →C-CODE003-23 / P153-P157; I24발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
• 전문 평가 갱신↔ 서로 보완훈련 환경·평가

  업무 과제·평가 전문성은 학습 자원과 성과 측정 양쪽에 쓰일 수 있다.

  학습 신호 생산과 출시 전후 성과 평가가 같은 구매·같은 데이터라는 뜻은 아님.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • Google이 2025년에 HLE형 STEM 문항을 Mercor·Surge·Handshake 등에 조달하는 데 9자리 달러 예산을 배정했다는 발행처 보고다. · 분석 근거 읽기 →C-CODE003-19 / P100-P102발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • SWE-bench는 자동 수집 평가에서 사람이 검수한 500문항으로 좁혀졌고, 2026년 OpenAI는 불공정 채점·오염 문제로 그 점수 발표를 중단하고 Pro를 권고했다. · 분석 근거 읽기 →C-CODE003-20 / P105-P119발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 평가 대상은 코드 테스트를 넘어 앱·파일·업무 환경의 결과물로 넓어지고 전문가 기준표와 사람 또는 LLM 채점이 쓰인다. · 분석 근거 읽기 →C-CODE003-21 / P125-P141발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 도입부 P1~P9. 발행처 판단: RL 확장을 위해서는 별도로 만든 과제와 데이터가 필요하며, 응용 서비스의 사용 이력도 후속 학습에 활용될 수 있다. · 분석 근거 읽기 →C01 / paragraphs: P002–P010; images: ; sections: Introduction발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
  • “During a Gold Rush…” P24~P32, “So You Want to Make a Coding Environment?” P34~P43. 발행처 보고와 일부 추정. · 분석 근거 읽기 →C03 / paragraphs: P025–P045; images: ; sections: During a Gold Rush, Sell Shovels. In an RL Scaling Boom…, So You Want to Make a Coding Environment?발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
  • “Data Foundries and Expert Contractors” P45~P60. 원문은 Mercor·Handshake·Surge 등을 사례로 들고, 모델이 평가 기준을 만드는 시도도 소개한다. · 분석 근거 읽기 →C04 / paragraphs: P048–P061; images: ; sections: Data Foundries and Expert Contractors발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
• 모델 공급권↔ 다른 접근권맞춤 학습·접근권

  모델을 받을 권리와 업무 도구·데이터에 접근할 권리가 서비스 실행에서 함께 필요할 수 있다.

  서로 다른 플랫폼·계약 대상이며 어느 한 권리도 다른 권리를 보장하지 않음.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • OpenAI 최신 모델이 Cursor에서 더 이상 제공되지 않는다고 원문은 보고하며 관련 OpenAI 페이지를 연결한다. · 분석 근거 읽기 →C-SUB002-28 / paragraphs: P110; images: ; sections: Third party plans are worse than first party발행처의 관측 보고 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
  • 원문은 빠른 모드 프리미엄, 피크시간 한도 축소, 20달러 플랜의 Claude Code 제외 실험과 OpenClaw 등 제3자 harness 제한을 당시 사례로 보고한다. · 분석 근거 읽기 →C-CODE003-32 / P168발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • “RL as a service” P93~P106. 원문 보고·평가·시장 전망. · 분석 근거 읽기 →C08 / paragraphs: P097–P108; images: ; sections: RL as a service발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
• 모델 공급권→ 결합의 조건모델·제품 결합

  외부 조달 조건이 자체 모델과 실행 제품을 결합하는 선택의 상대 가치를 바꿀 수 있다.

  접근 제한이 결합의 원인으로 입증되지는 않았고 외부 앱의 고유 가치·할인 계약을 함께 비교.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 모델을 보유한 사업자는 타사 API를 구매하는 응용 서비스보다 관대한 구독을 제공하면서도 더 높은 마진을 남길 수 있다는 발행처 판단. · 분석 근거 읽기 →C-SUB002-27 / paragraphs: P109; images: ; sections: Third party plans are worse than first party발행처 판단 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
  • OpenAI 최신 모델이 Cursor에서 더 이상 제공되지 않는다고 원문은 보고하며 관련 OpenAI 페이지를 연결한다. · 분석 근거 읽기 →C-SUB002-28 / paragraphs: P110; images: ; sections: Third party plans are worse than first party발행처의 관측 보고 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
  • Cognition의 OpenAI 한도가 상대적으로 관대한 이유 중 하나로 더 큰 기업 할인을 협상했을 가능성을 든다. · 분석 근거 읽기 →C-SUB002-29 / paragraphs: P112; images: I23; sections: Third party plans are worse than first party발행처 판단 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
  • 발행처는 모델과 harness를 함께 가진 두 연구소가 agentic coding에서 우세하고 외부 모델 응용 회사가 상대적으로 뒤처진다고 본다. · 분석 근거 읽기 →C-CODE003-26 / P162-P164발행처 판단 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 원문은 빠른 모드 프리미엄, 피크시간 한도 축소, 20달러 플랜의 Claude Code 제외 실험과 OpenClaw 등 제3자 harness 제한을 당시 사례로 보고한다. · 분석 근거 읽기 →C-CODE003-32 / P168발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
• 구독 배분→ 사용 가능한 범위작업별 제품 조합

  한도·속도 등급은 사용자가 선택할 수 있는 모델과 반복 실행량을 제약할 수 있다.

  같은 상품·시점에서 한도가 실제 병목일 때만. 4월과 10월의 직접 제품 인과를 주장하지 않는다.

  연결 근거 · 조건부 가설

  추가 확인이 필요한 조건부 가설 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • OpenAI 200달러 구독의 모델별 제공 토큰 한도가 절반으로 줄었고 신규 가입자는 즉시 적용되며 기존 가입자는 10월 29일까지 종전 한도가 유지된다고 보고한다. · 분석 근거 읽기 →C-SUB002-11 / paragraphs: P057,P067–P069; images: I13; sections: OpenAI vs Anthropic, OpenAI’s new $500 plan and massive limit reduction발행처의 관측 보고 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
  • 새 500달러 요금제는 종전 200달러 플랜보다 Astra가 21% 많고 초당 300토큰 Ultrafast를 주된 기능으로 내세운다고 보고한다. · 분석 근거 읽기 →C-SUB002-15 / paragraphs: P070–P072; images: I14; sections: OpenAI’s new $500 plan and massive limit reduction발행처의 관측 보고 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
  • 우선 처리와 빠른 모드는 같은 모델의 서비스 조건이고 Codex Spark는 다른 소형 모델이라는 구분 아래, 일부 발행처 엔지니어는 약간의 품질보다 빠른 응답을 택했다고 보고한다. · 분석 근거 읽기 →C-CODE003-05 / P010; P011; P018발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 원문은 빠른 모드 프리미엄, 피크시간 한도 축소, 20달러 플랜의 Claude Code 제외 실험과 OpenClaw 등 제3자 harness 제한을 당시 사례로 보고한다. · 분석 근거 읽기 →C-CODE003-32 / P168발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
• 비동기 RL 피드백↔ 실행 시스템 보완훈련 환경·평가

  유효한 과제를 얻는 일과 그 과제의 생성·학습 대기를 줄이는 일은 학습 과정에서 보완적이다.

  처리량이 늘어도 잘못된 보상을 강화하면 최종 성능을 높이지 못함.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 도입부 P1~P9. 발행처 판단: RL 확장을 위해서는 별도로 만든 과제와 데이터가 필요하며, 응용 서비스의 사용 이력도 후속 학습에 활용될 수 있다. · 분석 근거 읽기 →C01 / paragraphs: P002–P010; images: ; sections: Introduction발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
  • “During a Gold Rush…” P24~P32, “So You Want to Make a Coding Environment?” P34~P43. 발행처 보고와 일부 추정. · 분석 근거 읽기 →C03 / paragraphs: P025–P045; images: ; sections: During a Gold Rush, Sell Shovels. In an RL Scaling Boom…, So You Want to Make a Coding Environment?발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
  • 희소하고 늦은 최종 보상 대신 중간 단계와 rubric을 평가해 학습 신호를 보강할 수 있다. · 분석 근거 읽기 →C-RL001-36 / paragraphs: P134–P137; images: I25, I26; sections: Why RL for Biology Can be Challenging발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
  • PipelineRL은 생성·학습 동시 실행과 실행 중 가중치 갱신으로 straggler 대기를 줄이고 기존 KV cache를 재사용한다. · 분석 근거 읽기 →C-RL001-37 / paragraphs: P138–P139; images: I27; sections: Why RL for Biology Can be Challenging발행처의 관측 보고 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
• 긴 문맥과 반복 추론이 상태 저장 부담을 키운다→ 반복 문맥을 재사용에이전트 캐시 재사용

  여러 턴에서 반복되는 prefix를 보존하면 재계산을 줄이지만 저장과 전송 부담이 생긴다.

  높은 재사용률과 캐시 전송이 재계산보다 유리한 트래픽.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 에이전트 요청은 긴 다중 턴, 반복 prefix, 도구 호출과 짧은 sub-agent burst를 결합해 KV 캐시의 저장·재사용·이동을 중요하게 만든다. · 분석 근거 읽기 →C-RUBIN006-02 / paragraphs: P012–P018; images: I04발행처 판단 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
• 장문맥 상태 절감↔ 다른 경로의 상태 절감에이전트 캐시 재사용

  모델 구조는 상태 크기·읽는 양을 줄이고 서빙 시스템은 재사용 가능한 상태를 보존·이동한다.

  같은 모델·정밀도·문맥 조건을 맞춘 추가 실험이 필요. 양쪽 이득 배수를 곱하지 않음.

  연결 근거 · 조건부 가설

  추가 확인이 필요한 조건부 가설 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 1M 문맥 조건에서 V4 Pro가 V3.2 대비 단일 토큰 추론 FLOPs 27%, KV cache 10%를 필요로 한다는 개발사 수치를 인용한다. · 분석 근거 읽기 →C-CODE003-12 / P040발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 에이전트 요청은 긴 다중 턴, 반복 prefix, 도구 호출과 짧은 sub-agent burst를 결합해 KV 캐시의 저장·재사용·이동을 중요하게 만든다. · 분석 근거 읽기 →C-RUBIN006-02 / paragraphs: P012–P018; images: I04발행처 판단 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
  • 달러당 총토큰은 처리량을 칩 수와 칩-hour 비용으로 정규화한다. 소유 TCO와 3년 예약 렌탈은 별도 구매 조건이다. · 분석 근거 읽기 →C-RUBIN006-03 / paragraphs: P021–P025; images: I06, I07, I09, I10발행처 추정 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
• 추론 스택 성숙↔ 엔진이 이득을 구현에이전트 캐시 재사용

  캐시·parallelism 최적화에 따라 같은 하드웨어의 처리량 곡선과 최대 속도가 달라진다.

  코딩 글의 4월 H200와 Rubin 글의 9월 1.6T preview는 범위가 다르다. 후자가 전자의 초기 문제 해결을 입증하지 않는다.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • DeepSeek 커널의 Ascend 지원을 표방하지만 공개 코드는 Hopper·Blackwell 중심이고, 발행처는 H200의 day-zero 지원을 실현했으며 Blackwell·AMD 지원은 진행 중이라고 보고한다. · 분석 근거 읽기 →C-CODE003-14 / P047-P052발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 발행처의 V4 초기 H200 실험은 20 tok/s 사용자 응답속도 조건에서 GPU당 약 150 tok/s를 보고하고 V3 비교값은 약 1300~2300 tok/s라고 제시한다. · 분석 근거 읽기 →C-CODE003-15 / P053; P173; I11; I12발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 170 P90 TPS에서 Rubin TRTLLM의 소유 TCO당 총토큰은 GB300 Dynamo TRTLLM 대비 약67.4배라는 초기 결과이며 60–100 TPS 구간은 약1.4–3배다. · 분석 근거 읽기 →C-RUBIN006-04 / paragraphs: P026–P028; images: I06발행처의 관측 보고 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
  • 최대 P90 interactivity는 Rubin TRTLLM276.24, GB300 TRTLLM171.53 TPS로 약61% 차이지만 GB300 SGLang은 Rubin과 비슷한 최대 속도에 도달한다. · 분석 근거 읽기 →C-RUBIN006-06 / paragraphs: P029–P031; images: I07발행처의 관측 보고 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
  • 100 TPS에서 Rubin은59.38M total tok/s/utility MW로 GB300 SGLang28.47M의2.09배다. 170 TPS에서는 SGLang 대비5.56배이며 TRTLLM 대비 약62.9배라고 설명한다. · 분석 근거 읽기 →C-RUBIN006-10 / paragraphs: P048–P058; images: I01, I15, I16, I17발행처 추정 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
• 동적 전력 배분↔ 설치 밀도와 효율에이전트 캐시 재사용

  단위 장비의 서빙 효율과 순간 전력 여유 관리가 같은 시설의 서비스 공급능력을 별도 경로로 늘릴 수 있다.

  동시 peak·안전·SLA를 만족해야 하며 원문에 추가 밀도 실측 없음.

  연결 근거 · 조건부 가설

  추가 확인이 필요한 조건부 가설 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 100 TPS에서 Rubin은59.38M total tok/s/utility MW로 GB300 SGLang28.47M의2.09배다. 170 TPS에서는 SGLang 대비5.56배이며 TRTLLM 대비 약62.9배라고 설명한다. · 분석 근거 읽기 →C-RUBIN006-10 / paragraphs: P048–P058; images: I01, I15, I16, I17발행처 추정 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
  • DSX MaxLPS로 workload별 전력 profile과 동적 power shifting을 이용해 동일 시설 전력에서 더 많은 GPU를 배치하려는 방향이다. · 분석 근거 읽기 →C-RUBIN006-12 / paragraphs: P059; images: 발행처 판단 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
• 공유 자원에서도 고객별 경계를 지켜야 한다→ 경계를 검증클라우드 보안 검증

  공유 제어면·모니터링·관리망의 격리가 서비스별로 달라 날짜와 범위를 명시한 재검증이 필요하다.

  선별 표본의 과거 사례. 현재 전체 공급자의 순위·실패율 아님.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 발행처는 2026년 4~7월 25개 공급자, 32개 클러스터를 깊이 점검했고, 주로 알려진 취약점과 구성·격리 오류를 발견했다고 보고한다. · 분석 근거 읽기 →C-SEC007-06 / paragraphs: P070–P098; images: I10발행처의 관측 보고 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • 네트워크·관리 인터페이스·스토리지·권한 설정 문제 중 일부는 다른 테넌트의 메타데이터 접근을 넘어서 발행처가 소유한 두 테넌트 사이 실행 권한 이동으로 이어졌다고 보고한다. · 분석 근거 읽기 →C-SEC007-07 / paragraphs: P078–P098; images: 발행처의 관측 보고 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • vCluster 관련 사례에서는 공유 제어면·작업 노드, 오래된 GPU Operator, 누락된 네트워크 제한이 겹쳤고 발행처는 자신이 관리하는 다른 테넌트까지 실행 권한이 넘어갔다고 보고한다. · 분석 근거 읽기 →C-SEC007-09 / paragraphs: P118–P124; images: I14발행처의 관측 보고 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • 공유 모니터링 서비스에서 화면 필터와 서버 측 권한이 일치하지 않아 다른 조직의 지표가 보인 사례를 보고한다. 이런 지표는 이용률·워크로드·서비스 동작을 드러낼 수 있다. · 분석 근거 읽기 →C-SEC007-10 / paragraphs: P126–P139; images: I15발행처의 관측 보고 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • ClusterMAX 상위 등급 공급자도 특정 시점·서비스에서 최소 버전 점검을 통과하지 못했고, 같은 Azure라도 Slurm과 Kubernetes 서비스 결과가 달랐다는 예시다. · 분석 근거 읽기 →C-SEC007-13 / paragraphs: P183–P189; images: I23, I24, I25발행처의 관측 보고 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • 알려진 취약점의 최소 안전 버전은 자주 바뀌므로 발행처는 고정 등급에 더해 일별 버전 기준과 자동 점검을 강조한다. 관측하지 못하는 항목은 실패와 달리 알 수 없음으로 다뤄야 한다. · 분석 근거 읽기 →C-SEC007-16 / paragraphs: P210–P219; images: I29, I30발행처의 관측 보고 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
• 새 칩을 쓰려면 고객이 이식·통합·운영을 떠안는다→ 부담을 공급자에게칩에서 운영 서비스로

  고객의 이식·통합 마찰을 줄이려고 칩 대신 운영되는 token 또는 예약 capacity를 공급한다.

  여러 기업의 전략 논의로 기업별 규모·성공은 별도 확인.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • Cerebras·SambaNova·Etched·Positron·d-Matrix와 같은 가속기 기업이 칩 판매뿐 아니라 토큰 또는 예약 용량을 제공하는 방향으로 움직이면 고객의 초기 이식·조달 부담 일부가 공급자로 옮겨 간다는 논지다. · 분석 근거 읽기 →C-SEC007-17 / paragraphs: P224–P229; images: 발행처 판단 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • 가속기 공급자가 직접 클라우드를 운영하면 시스템 통합·SRE·보안·가동률·고객 수요와 금융 조달을 동시에 책임져야 하며, 장기 신용도 높은 사용 약정과 변동적인 현물 토큰 매출은 담보 가치가 다르다는 분석이다. · 분석 근거 읽기 →C-SEC007-18 / paragraphs: P229–P236; images: 발행처 판단 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
• 클라우드 보안 검증→ 운영의 필요 조건칩에서 운영 서비스로

  고객 데이터를 맡는 token 서비스에는 가격·속도와 별도로 격리·패치·사고 대응이 필요하다.

  신규 가속기 업체를 직접 비교한 보안 시험이 아님.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • Cerebras·SambaNova·Etched·Positron·d-Matrix와 같은 가속기 기업이 칩 판매뿐 아니라 토큰 또는 예약 용량을 제공하는 방향으로 움직이면 고객의 초기 이식·조달 부담 일부가 공급자로 옮겨 간다는 논지다. · 분석 근거 읽기 →C-SEC007-17 / paragraphs: P224–P229; images: 발행처 판단 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • 가속기 공급자가 직접 클라우드를 운영하면 시스템 통합·SRE·보안·가동률·고객 수요와 금융 조달을 동시에 책임져야 하며, 장기 신용도 높은 사용 약정과 변동적인 현물 토큰 매출은 담보 가치가 다르다는 분석이다. · 분석 근거 읽기 →C-SEC007-18 / paragraphs: P229–P236; images: 발행처 판단 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • 검증 가능한 보안 운영과 지속적 패치 능력은 클라우드의 조달 자격과 고객 유지에 영향을 줄 수 있다. 다만 비용 상승을 가격 프리미엄·유지율·계약 규모로 회수해야 수익 포착으로 이어진다. · 분석 근거 읽기 →C-SEC007-20 / paragraphs: P002–P013, P076–P116, P210–P239; images: 분석자 해석 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
• 많은 시도 중 느린 환경·생성이 학습을 기다리게 한다→ 기다림을 줄임비동기 RL 피드백

  생성·환경·평가·학습의 속도를 맞추고 straggler 대기를 줄인다.

  동일 품질에서 샘플 효율·정책 지연을 함께 확인.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • GRPO는 같은 질문에서 여러 답을 생성하고 그룹 상대 보상을 이용해 정책을 갱신한다. PPO와 달리 별도 critic/value 모델을 없애 메모리 부담을 줄인다. · 분석 근거 읽기 →C-RLSCALE005-03 / paragraphs: P015–P022; images: I04, I05; sections: RL is Inference Heavy발행처의 관측 보고 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • 긴 컴퓨터 사용 rollout은 희소 보상, 브라우저·VM 연결 안정성, anti-bot·CAPTCHA, 이미지·비디오 문맥 때문에 학습을 느리고 어렵게 만든다. · 분석 근거 읽기 →C-RLSCALE005-13 / paragraphs: P086–P088; images: ; sections: Agentic tasks are increasing in time horizons발행처 판단 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • RL의 큰 추론 비중 때문에 OpenAI·Anthropic·Google이 연구/제품 추론 조직과 스택을 더 결합했다고 보도한다. · 분석 근거 읽기 →C-RLSCALE005-19 / paragraphs: P114–P116; images: ; sections: RL is changing lab’s structures발행처의 관측 보고 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • 더 효율적이고 충분히 강한 기반모델은 고객 추론 비용뿐 아니라 RL feedback loop를 빠르게 하므로 사전학습 개선과 RL이 보완적이라는 주장이다. · 분석 근거 읽기 →C-RLSCALE005-30 / paragraphs: P173–P175; images: ; sections: OpenAI's next pre-training run발행처 판단 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • 희소하고 늦은 최종 보상 대신 중간 단계와 rubric을 평가해 학습 신호를 보강할 수 있다. · 분석 근거 읽기 →C-RL001-36 / paragraphs: P134–P137; images: I25, I26; sections: Why RL for Biology Can be Challenging발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
  • PipelineRL은 생성·학습 동시 실행과 실행 중 가중치 갱신으로 straggler 대기를 줄이고 기존 KV cache를 재사용한다. · 분석 근거 읽기 →C-RL001-37 / paragraphs: P138–P139; images: I27; sections: Why RL for Biology Can be Challenging발행처의 관측 보고 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
• 점수를 높이는 행동과 원하는 업무 성과가 어긋날 수 있다→ 유효 보상을 공급훈련 환경·평가

  실행 과제와 전문가 기준이 실제 목표에 맞아야 더 많은 시도가 올바른 학습 신호가 된다.

  score 상승과 미학습 업무 성과를 구별.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • RL 환경은 행동·상태 변화·관측·보상을 연결하며 저지연, 연결 신뢰성, checkpoint, fault tolerance, 다중 rollout, 격리·보안을 요구한다. · 분석 근거 읽기 →C-RLSCALE005-07 / paragraphs: P045–P055; images: ; sections: Environments발행처의 관측 보고 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • 보상 규칙·시뮬레이터·테스트의 허점을 모델이 이용하는 사례와 Claude 세대별 in-eval hack-rate 감소를 제시한다. · 분석 근거 읽기 →C-RLSCALE005-08 / paragraphs: P057–P065; images: I09, I10, I11; sections: Reward Hacking발행처의 관측 보고 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • Qwen reasoning RL의 4,000개 미만 질문은 난도·다양성·이전 단계 중복·모델 풀이 가능성을 따져 고른 표본이다. 이후 일반 RL은 20개 이상 영역이다. · 분석 근거 읽기 →C-RLSCALE005-09 / paragraphs: P068–P076; images: ; sections: Data and Sample Efficiency발행처의 관측 보고 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • 도입부 P1~P9. 발행처 판단: RL 확장을 위해서는 별도로 만든 과제와 데이터가 필요하며, 응용 서비스의 사용 이력도 후속 학습에 활용될 수 있다. · 분석 근거 읽기 →C01 / paragraphs: P002–P010; images: ; sections: Introduction발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
  • “During a Gold Rush…” P24~P32, “So You Want to Make a Coding Environment?” P34~P43. 발행처 보고와 일부 추정. · 분석 근거 읽기 →C03 / paragraphs: P025–P045; images: ; sections: During a Gold Rush, Sell Shovels. In an RL Scaling Boom…, So You Want to Make a Coding Environment?발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
  • “Data Foundries and Expert Contractors” P45~P60. 원문은 Mercor·Handshake·Surge 등을 사례로 들고, 모델이 평가 기준을 만드는 시도도 소개한다. · 분석 근거 읽기 →C04 / paragraphs: P048–P061; images: ; sections: Data Foundries and Expert Contractors발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
• 훈련 환경·평가→ 환경·보상 병목비동기 RL 피드백

  환경 실패·느린 보상·잘못된 검증이 빠른 GPU와 비동기화의 학습 효과를 제한한다.

  처리량이 아닌 같은 벽시계의 최종 품질로 확인.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • RL 환경은 행동·상태 변화·관측·보상을 연결하며 저지연, 연결 신뢰성, checkpoint, fault tolerance, 다중 rollout, 격리·보안을 요구한다. · 분석 근거 읽기 →C-RLSCALE005-07 / paragraphs: P045–P055; images: ; sections: Environments발행처의 관측 보고 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • 긴 컴퓨터 사용 rollout은 희소 보상, 브라우저·VM 연결 안정성, anti-bot·CAPTCHA, 이미지·비디오 문맥 때문에 학습을 느리고 어렵게 만든다. · 분석 근거 읽기 →C-RLSCALE005-13 / paragraphs: P086–P088; images: ; sections: Agentic tasks are increasing in time horizons발행처 판단 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
• 분산·유휴 용량 활용↔ 별도 용량 경로비동기 RL 피드백

  분리 가능한 생성·검증의 용량을 확보하면 학습 파이프라인을 보완할 수 있다.

  전송·정책 지연·serving 경합이 허용되는 작업만.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 합성 데이터 생성·검증과 훈련을 다른 센터에 놓거나 수요 비수기의 추론 용량을 사용하는 사례를 보고한다. Prime Intellect INTELLECT-2가 분산 RL 사례로 인용된다. · 분석 근거 읽기 →C-RLSCALE005-18 / paragraphs: P107–P111; images: ; sections: RL shifts the balance in hardware and datacenter build out발행처의 관측 보고 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
• 실험 인프라→ 물리 시간은 남음비동기 RL 피드백

  실험의 반응·측정·재현 시간은 계산 처리량만 늘려 없앨 수 없다.

  물리 feedback을 쓰는 과학·제조에 한정.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 실험실 제어와 과학 RL로 확장하면 생물·재료·제조의 물리 피드백 속도가 학습 속도의 하한을 만든다는 전망이다. · 분석 근거 읽기 →C-RLSCALE005-15 / paragraphs: P093–P096; images: ; sections: Environment compute발행처 전망 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • “RL for Science” P108~P121, “RL Meets the Wet Lab” P123~P130. 계획·목표와 발행처 해석을 포함. · 분석 근거 읽기 →C09 / paragraphs: P110–P132; images: ; sections: RL for Science, RL Meets the Wet Lab발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
  • “RL Meets the Wet Lab” P123~P127. OpenAI와 Anthropic의 접근 차이에 관한 발행처 해석이며 영구적인 회사별 사업 경계가 아니다. · 분석 근거 읽기 →C10 / paragraphs: P125–P128; images: ; sections: RL Meets the Wet Lab발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
  • “Why RL for Biology Can be Challenging” P132~P140. 과정별 평가 및 실행 중 가중치 갱신 설명. 효과 수치는 여기서 독립 검증하지 않았다. · 분석 근거 읽기 →C12 / paragraphs: P134–P141; images: ; sections: Why RL for Biology Can be Challenging발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
• 입력을 읽는 단계와 출력을 만드는 단계의 부하가 다르다→ 단계별 자원 조정단계 분리·동적 배분

  prefill·decode의 다른 부하와 대기열을 보고 자원을 분리·재배치한다.

  전송·queue 비용과 SLA를 함께 최적화.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • Dynamo의SmartRouter는KVcache위치와부하를고려하고Planner는prefill/decode간GPU를재배치해불균형을줄이는기능이다. · 분석 근거 읽기 →C-GTC010-13 / paragraphs: P092–P108; images: I17, I18, I21발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • NVIDIA의H100 DeepSeek-R1 Distill Llama70B 사례는randomrouting대비SmartRouter로TTFT70%·평균requestlatency50%감소를제시한다. · 분석 근거 읽기 →C-GTC010-14 / paragraphs: P104; images: I17발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
• 긴 문맥과 반복 추론이 상태 저장 부담을 키운다→ 상태를 계층화KV 계층화

  반복 문맥의 재계산을 줄이기 위해 다른 메모리 계층에 상태를 남긴다.

  재사용과 저장·전송 비용의 비교가 필요.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • NIXL은prefill/decode와다양한memory·storage사이의비동기데이터이동을추상화하는층이다. · 분석 근거 읽기 →C-GTC010-16 / paragraphs: P115–P117; images: I20발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • KVcache를HBM외hostmemory·localSSD·공유storage에보존해대화재개시재계산을대체하고prefill자원을절약하려는구조다. · 분석 근거 읽기 →C-GTC010-17 / paragraphs: P119–P128; images: I21, I22발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
• KV 계층화↔ 자원 비율도 바뀜단계 분리·동적 배분

  캐시 재사용은 prefill 수요를 줄이고 저지연 이동은 단계 분리의 비용을 낮춘다.

  지원 backend·network·message 크기 및 실제 hit rate에 의존.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • Dynamo의SmartRouter는KVcache위치와부하를고려하고Planner는prefill/decode간GPU를재배치해불균형을줄이는기능이다. · 분석 근거 읽기 →C-GTC010-13 / paragraphs: P092–P108; images: I17, I18, I21발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • NCCL의one-shot/two-shot등새collective가작은메시지latency를약4분의1로줄인다는발표다. · 분석 근거 읽기 →C-GTC010-15 / paragraphs: P110–P113; images: I19발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • NIXL은prefill/decode와다양한memory·storage사이의비동기데이터이동을추상화하는층이다. · 분석 근거 읽기 →C-GTC010-16 / paragraphs: P115–P117; images: I20발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • KVcache를HBM외hostmemory·localSSD·공유storage에보존해대화재개시재계산을대체하고prefill자원을절약하려는구조다. · 분석 근거 읽기 →C-GTC010-17 / paragraphs: P119–P128; images: I21, I22발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
• 더 많은 연산·메모리·연결을 물리 시스템에 담는다→ 패키지 설계패키지 확장

  더 많은 연산·메모리·I/O를 수용하려 die·I/O·HBM·substrate를 바꾼다.

  2025년 로드맵이며 최종 양산 사양 미정.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • B300 HGX를16개 single-die package·8개 SXM·2개 NVSwitch의 NVL16으로 설명하고 CoWoS-L 및 retimer 제거 가능성을 제시한다. · 분석 근거 읽기 →C-GTC010-04 / paragraphs: P024–P027; images: I06발행처 전망 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • Rubin은3nm·2개 reticle급 compute die·2개 I/O tile로 연산 면적을 늘리고 전력·tensor 구조를 확장한다는 당시 전망이다. · 분석 근거 읽기 →C-GTC010-05 / paragraphs: P032–P037; images: I05, I06발행처 전망 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • Vera custom Arm CPU와 Rubin이 Oberon rack을 이어받고 NVLink6의 양방향3.6TB/s가 NVLink5의2배가 되는 계획이다. · 분석 근거 읽기 →C-GTC010-06 / paragraphs: P038–P046; images: I05, I06, I07발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • Rubin Ultra는4개 compute die·16개 HBM4E stack·package당1TB 수준으로 확대하고 큰 interposer·ABF substrate를 요구할 것이라는 계획/추정이다. · 분석 근거 읽기 →C-GTC010-08 / paragraphs: P049–P052; images: I08, I09, I10발행처 전망 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
• 패키지 확장→ 물리 배치에 영향랙 구조 재설계

  패키지·메모리·연결 영역 확대가 랙 안 공간과 전력·냉각 지원 배치에 영향을 준다.

  Kyber 최종 설계·신뢰성·경제성은 미확인.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • Rubin Ultra는4개 compute die·16개 HBM4E stack·package당1TB 수준으로 확대하고 큰 interposer·ABF substrate를 요구할 것이라는 계획/추정이다. · 분석 근거 읽기 →C-GTC010-08 / paragraphs: P049–P052; images: I08, I09, I10발행처 전망 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • Kyber는compute tray를90도 회전한blade와4개canister로 밀도를 높이고 canister 내부copper cable을PCB backplane으로 바꾸는2027년 계획이다. · 분석 근거 읽기 →C-GTC010-09 / paragraphs: P055–P075; images: I10, I11, I12발행처 전망 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • compute blade가랙공간을차지하면서전원·냉각·switch를독립랙으로옮겨hall단위설계와공급망준비를요구한다. · 분석 근거 읽기 →C-GTC010-10 / paragraphs: P069–P071; images: I11발행처 전망 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
• 광부품과 네트워크 계층이 전력을 사용한다→ 광 경로 변경CPO 광 경로

  DSP와 긴 전기 신호 경로의 전력을 줄이는 위치 변경이다.

  발표 계획과 실제 운전 전력·교체 비용 구별.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • CPO는scale-outswitchASIC인접광엔진과외부레이저로DSP광모듈의일부기능을옮기고높은radix로네트워크계층을줄일가능성을제시한다. · 분석 근거 읽기 →C-GTC010-20 / paragraphs: P140–P144; images: I26, I27, I28, I29발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • CPO3→2계층모형의총클러스터전력은492→434MW로약11.8%줄며LPO3계층은480MW다. · 분석 근거 읽기 →C-GTC010-21 / paragraphs: P143–P144; images: I28발행처 추정 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
• 광부품과 네트워크 계층이 전력을 사용한다→ 망 계층 축소네트워크 계층 축소

  높은 radix가 필요한 switch·link 계층 수를 줄일 수 있다.

  동일 규모·대역·장애 허용 설계를 비교.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • CPO3→2계층모형의총클러스터전력은492→434MW로약11.8%줄며LPO3계층은480MW다. · 분석 근거 읽기 →C-GTC010-21 / paragraphs: P143–P144; images: I28발행처 추정 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • Quantum-X CPO144×800G·18ELS·144MPO와Spectrum-X최대512×800G가공개되고당시각각2025H2·2026H2공급을계획한다. · 분석 근거 읽기 →C-GTC010-22 / paragraphs: P145–P146; images: I26, I27, I29발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
• 다른 가속기에서 모델과 분산 조합을 다시 검증해야 한다→ 지원에서 생산으로대체 플랫폼 생산 검증

  새 ISA·모델·분산 조합을 정확하게 검증하고 유지해야 실제 고객 workload를 공급할 수 있다.

  개발 GPU·CI·upstream·정확성·gating의 단계 구분.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • AMD의 CI에 안정적으로 배정된 GPU와 다중 노드 환경 부족이 개발 속도와 정확성 검증을 제약했다는 것이 발행처의 현장 평가다. · 분석 근거 읽기 →C-AMD008-03 / paragraphs: P014–P022; images: 발행처의 관측 보고 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • CDNA5는 wave32, 데이터 이동·메모리 구조와 저정밀 지원을 바꾸면서 CUDA 계열과 유사한 최적화 경로를 넓히지만 ISA 변화 자체가 기존 커널의 재검증을 요구한다. · 분석 근거 읽기 →C-AMD008-12 / paragraphs: P105–P119; images: I22, I23, I24발행처의 관측 보고 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • 처리량이 높아진 일부 AMD 분산 경로에 정확성 회귀가 남아 있었다고 발행처가 보고한다. R1의 동시성 64 MoRI 구성은 약 80% 대 기준 약 94%라는 예시다. · 분석 근거 읽기 →C-AMD008-19 / paragraphs: P196–P200; images: I34, I35발행처의 관측 보고 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • MI355에서 일부 조합이 nightly CI에 들어간 것과 gfx1250/MI455의 전체 스택 준비는 다른 단계다. 원문 시점에는 PyTorch·AITER·SGLang·vLLM의 지원·gating·정확성·WideEP 준비가 고르지 않았다. · 분석 근거 읽기 →C-AMD008-20 / paragraphs: P200–P217; images: I36, I37발행처의 관측 보고 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • AMD 지원이 별도 RIXL 포크에서 상위 NIXL로 합쳐지면 중복 유지 부담을 줄일 수 있다. 원문은 5월 15일 첫 PR, 6월 4일 병합과 MI355 2노드 전송 시험을 보고한다. · 분석 근거 읽기 →C-AMD008-22 / paragraphs: P219–P229; images: I38발행처의 관측 보고 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
• 여러 공급자의 부품을 하나의 랙에 맞춰야 한다→ 전체 랙을 맞춤개방형 랙 통합

  범용 포트와 케이블·NIC 기능을 연결 요구에 맞추는 과정에서 비용과 운영성이 달라진다.

  최종 BOM·실측 전력·수율·서비스 비용 미확인.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • Helios는 8GPU 중심 구성에서 72GPU의 스위치 연결 영역으로 확장하며 표준 구성은 연산 트레이 18개와 스위치 트레이 6개를 사용한다. · 분석 근거 읽기 →C-AMD008-07 / paragraphs: P045–P059; images: I07, I08, I09, I10발행처 추정 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • Tomahawk 6의 범용 스위치 포트 수와 Helios의 연결 수가 완전히 맞지 않아 표준 추정 구성에서 512개 레인 중 432개를 사용한다. · 분석 근거 읽기 →C-AMD008-08 / paragraphs: P054–P065; images: I09, I10발행처 추정 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • 구리 배선·flyover 케이블·리타이머가 Helios의 제조 복잡성, 전력과 부품비를 높일 수 있다는 분석이다. · 분석 근거 읽기 →C-AMD008-09 / paragraphs: P060–P081; images: I11, I12, I13, I14, I15, I16, I17발행처 추정 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • Vulcano 800G NIC 2~3개와 Salina DPU를 활용하는 scale-out 구성은 패킷 분산·재정렬을 NIC에 맡겨 범용 Ethernet 스위치를 활용하려는 방향이다. · 분석 근거 읽기 →C-AMD008-11 / paragraphs: P083–P102; images: I18, I19, I20, I21발행처 추정 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • HBM·기타 메모리·스토리지 가격과 설계 변경을 반영한 Helios 랙 BOM 추정은 2025년 약 422만 달러에서 약 537만 달러로 높아진다. · 분석 근거 읽기 →C-AMD008-23 / paragraphs: P232–P237; images: I39, I40발행처 추정 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
• 설비 선투자와 변동 수요 사이의 위험을 누군가 맡아야 한다→ 위험을 나눔시설 금융 지원

  장기 신용·보증·투자 자금이 초기 설치의 조달 제약을 줄일 수 있다.

  각 수단의 상환·손실·해지·희석 조건을 별도 확인.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • AMD의 Crusoe 금융 지원과 Anthropic 최대 50억 달러 투자 계획, NVIDIA의 임대 보증 확대는 수요 확보와 시설 금융을 지원하는 서로 다른 방식으로 제시된다. · 분석 근거 읽기 →C-AMD008-29 / paragraphs: P264–P268; images: I50발행처의 관측 보고 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • 가속기 공급자가 직접 클라우드를 운영하면 시스템 통합·SRE·보안·가동률·고객 수요와 금융 조달을 동시에 책임져야 하며, 장기 신용도 높은 사용 약정과 변동적인 현물 토큰 매출은 담보 가치가 다르다는 분석이다. · 분석 근거 읽기 →C-SEC007-18 / paragraphs: P229–P236; images: 발행처 판단 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • 잔존가치 지원이나 구매·임대 보증은 신규 가속기 설비의 조달 가능성을 높일 수 있지만 수요·기술·신용 위험을 지원자에게 이전한다. NVIDIA의 강점은 하드웨어 외 소프트웨어·중고 유동성·운영 생태계까지 포함한다. · 분석 근거 읽기 →C-SEC007-19 / paragraphs: P234–P239; images: 발행처 판단 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
• 새 칩을 쓰려면 고객이 이식·통합·운영을 떠안는다→ 계약 유인주식 연계 고객 유인

  조건부 지분 권리가 고객의 초기 구매·배치 선택을 돕는 계약 수단이 된다.

  지분가치는 미래 주가·귀속 조건에 달리며 현금 할인 아님.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • OpenAI와 Meta의 주식 워런트는 GPU 구매·배치와 주가 등 여러 마일스톤에 연동된 고객 유인책으로 설명된다. · 분석 근거 읽기 →C-AMD008-27 / paragraphs: P259–P260; images: 발행처의 관측 보고 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • 발행처의 600달러 주가 시나리오에서 워런트 가치를 GPU 설비비와 나누면 OpenAI는 약 105%, Meta는 약 85%가 된다. · 분석 근거 읽기 →C-AMD008-28 / paragraphs: P260–P263; images: I48, I49발행처 추정 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
• 시설 금융 지원→ 공동 개발 기회대체 플랫폼 생산 검증

  초기 고객과 자금 지원이 실제 부하의 개발·검증 기회를 늘릴 수 있다.

  발표 계약이 실제 배치와 생산 사용으로 전환될 때만.

  연결 근거 · 조건부 가설

  추가 확인이 필요한 조건부 가설 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 원문은 Anthropic의 최대 2GW 계획, Microsoft의 MI455 복귀, Cerebras와의 분리 추론 협력을 AMD 채택의 신호로 제시한다. · 분석 근거 읽기 →C-AMD008-02 / paragraphs: P005–P006, P265; images: 발행처의 관측 보고 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • AMD의 Crusoe 금융 지원과 Anthropic 최대 50억 달러 투자 계획, NVIDIA의 임대 보증 확대는 수요 확보와 시설 금융을 지원하는 서로 다른 방식으로 제시된다. · 분석 근거 읽기 →C-AMD008-29 / paragraphs: P264–P268; images: I50발행처의 관측 보고 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • AMD의 수익 포착은 peak 연산량보다 품질·대화성·안정성을 맞춘 유효 처리량, 도입 시간, 생산 가동률과 고객 확보 비용의 합으로 판단해야 한다. · 분석 근거 읽기 →C-AMD008-31 / paragraphs: P003–P010, P125–P229, P238–P268; images: 분석자 해석 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
• 고객과 정부가 지역 생산의 가치를 원한다→ 지역 생산 선택해외 공정·생산 이전

  고객 수요와 정부 지원·공급 안정성 목표가 해외 생산 투자에 함께 작용한다.

  정책의 보험 가치와 기업의 실제 원가·수익은 별도.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 해외 팹 투자에는 고객 수요뿐 아니라 정부 지원과 지역 공급 안정성 목표가 함께 작용한다는 것이 원문의 핵심 경제 설명이다. · 분석 근거 읽기 →C-TSMC009-07 / paragraphs: P061–P067; images: I12, I13발행처 판단 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • JASM 1단계는 2024년 12월 생산 시작, 2025년 1분기 월 3만장 수준으로 증가한 것으로 원문 표에 제시되며, 계획 능력은 월 5만5천장이다. · 분석 근거 읽기 →C-TSMC009-08 / paragraphs: P068–P071; images: I14, I15발행처의 관측 보고 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 독일 ESMC는 2024년 8월 착공, 2025년 2분기 토공 완료 후 건물 공사 단계이며 2027년 4분기 초기 생산을 목표로 한다. · 분석 근거 읽기 →C-TSMC009-10 / paragraphs: P072–P074; images: I17, I18발행처의 관측 보고 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • Arizona 1단계는 2024년 4분기 초기 생산과 2025년 1·2분기 각각 월 1만·1만5천장 ramp가 제시되며 계획 능력은 월 2만4천장이다. · 분석 근거 읽기 →C-TSMC009-11 / paragraphs: P075–P081; images: I19, I20, I21발행처의 관측 보고 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
• 해외에는 가까운 공급·시공·대응 체계가 그대로 따라오지 않는다→ 현지 체계를 조합현지 공급·실행 체계

  거리·인증·공급 품질·허가·현장 대응이 달라 필요한 실행 체계를 현지에서 갖춰야 한다.

  미국 내 업체 존재와 Arizona 해당 팹 즉시 공급을 구별.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 대만에서는 설계·제조·소재·장비·인력의 가까운 집적이 빠른 문제 해결과 높은 가동률을 돕는 반면, 해외 이전은 그 연결을 재구축해야 한다는 분석이다. · 분석 근거 읽기 →C-TSMC009-04 / paragraphs: P036–P053; images: I05발행처 판단 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • Arizona 주변의 공급 생태계가 확장되더라도 현지 생산·서비스·인증이 모두 갖춰진 것은 아니고, 미국 내 공장이 있다는 사실과 Arizona 현장에 즉시 공급할 수 있다는 사실은 다르다. · 분석 근거 읽기 →C-TSMC009-05 / paragraphs: P054–P059, P114; images: I06, I07, I08, I09, I10, I11발행처 판단 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 원문은 외부 가스 공급의 품질 문제와 Arizona의 분기 이익 변동을 연결해 지역 공급망의 운영 중요성을 강조한다. · 분석 근거 읽기 →C-TSMC009-06 / paragraphs: P057–P059; images: 발행처의 관측 보고 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • TSMC는 대만에서 쓰던 설계·운영 방식과 기존 협력사를 해외에 이식하면서 현지 시공·면허·하도급 역량을 조합하는 것으로 설명된다. · 분석 근거 읽기 →C-TSMC009-16 / paragraphs: P091–P104; images: I27, I28발행처 판단 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 발행처의 허가 비교는 대만 약 20~30건과 미국 600건 초과, 총 기간 6~13개월 대 14~20개월이라는 차이를 제시한다. · 분석 근거 읽기 →C-TSMC009-17 / paragraphs: P100–P110; images: I29발행처 추정 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 대규모 해외 팹의 운영에는 전력·물·가스와 재활용 시설이 함께 필요하며, 원문은 3단계 총량과 각 단계 요구량을 제시한다. · 분석 근거 읽기 →C-TSMC009-19 / paragraphs: P114–P117; images: I20, I31발행처 추정 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
• 현지 공급·실행 체계→ ramp의 조건해외 공정·생산 이전

  소재·가스·시공·utility의 품질과 시점이 초기 생산을 안정된 ramp로 바꾸는 조건이다.

  효과 크기는 미계량. 같은 제품·자산 연령·가동률 비교 필요.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 대만에서는 설계·제조·소재·장비·인력의 가까운 집적이 빠른 문제 해결과 높은 가동률을 돕는 반면, 해외 이전은 그 연결을 재구축해야 한다는 분석이다. · 분석 근거 읽기 →C-TSMC009-04 / paragraphs: P036–P053; images: I05발행처 판단 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 원문은 외부 가스 공급의 품질 문제와 Arizona의 분기 이익 변동을 연결해 지역 공급망의 운영 중요성을 강조한다. · 분석 근거 읽기 →C-TSMC009-06 / paragraphs: P057–P059; images: 발행처의 관측 보고 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 대만 설계의 복제에도 Arizona 1단계는 건물·클린룸·공통 기반시설과 전문 서비스 비용의 부담이 크다고 원문은 추정한다. · 분석 근거 읽기 →C-TSMC009-18 / paragraphs: P107–P113; images: I27, I30발행처 추정 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 대규모 해외 팹의 운영에는 전력·물·가스와 재활용 시설이 함께 필요하며, 원문은 3단계 총량과 각 단계 요구량을 제시한다. · 분석 근거 읽기 →C-TSMC009-19 / paragraphs: P114–P117; images: I20, I31발행처 추정 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 해외 팹의 성공은 건물 완공→장비 설치→공정·고객 인증→수율→생산량·가동률→원가·수익성→현지 공급망 완결을 단계별로 평가해야 한다. · 분석 근거 읽기 →C-TSMC009-26 / paragraphs: P068–P119, P121–P136; images: 분석자 해석 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
• 훈련 환경·평가→ 유효한 신호같은 품질까지 드는 시간과 비용

  원하는 행동과 맞는 환경·보상을 공급해야 학습량 증가가 목표 성과로 이어진다.

  미학습 업무의 성과·보상 오류와 제작/검수 비용을 확인.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • RL 환경은 행동·상태 변화·관측·보상을 연결하며 저지연, 연결 신뢰성, checkpoint, fault tolerance, 다중 rollout, 격리·보안을 요구한다. · 분석 근거 읽기 →C-RLSCALE005-07 / paragraphs: P045–P055; images: ; sections: Environments발행처의 관측 보고 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • 보상 규칙·시뮬레이터·테스트의 허점을 모델이 이용하는 사례와 Claude 세대별 in-eval hack-rate 감소를 제시한다. · 분석 근거 읽기 →C-RLSCALE005-08 / paragraphs: P057–P065; images: I09, I10, I11; sections: Reward Hacking발행처의 관측 보고 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • Qwen reasoning RL의 4,000개 미만 질문은 난도·다양성·이전 단계 중복·모델 풀이 가능성을 따져 고른 표본이다. 이후 일반 RL은 20개 이상 영역이다. · 분석 근거 읽기 →C-RLSCALE005-09 / paragraphs: P068–P076; images: ; sections: Data and Sample Efficiency발행처의 관측 보고 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • 도입부 P1~P9. 발행처 판단: RL 확장을 위해서는 별도로 만든 과제와 데이터가 필요하며, 응용 서비스의 사용 이력도 후속 학습에 활용될 수 있다. · 분석 근거 읽기 →C01 / paragraphs: P002–P010; images: ; sections: Introduction발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
  • “During a Gold Rush…” P24~P32, “So You Want to Make a Coding Environment?” P34~P43. 발행처 보고와 일부 추정. · 분석 근거 읽기 →C03 / paragraphs: P025–P045; images: ; sections: During a Gold Rush, Sell Shovels. In an RL Scaling Boom…, So You Want to Make a Coding Environment?발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
  • “Data Foundries and Expert Contractors” P45~P60. 원문은 Mercor·Handshake·Surge 등을 사례로 들고, 모델이 평가 기준을 만드는 시도도 소개한다. · 분석 근거 읽기 →C04 / paragraphs: P048–P061; images: ; sections: Data Foundries and Expert Contractors발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
• 전문 평가 갱신→ 성과를 따로 검증같은 품질까지 드는 시간과 비용

  훈련에 쓰이지 않은 과제와 전문 평가가 점수 상승이 실제 업무에 전이됐는지 확인한다.

  학습용 과제와 검증용 과제의 누출·중복을 통제.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • SWE-bench는 자동 수집 평가에서 사람이 검수한 500문항으로 좁혀졌고, 2026년 OpenAI는 불공정 채점·오염 문제로 그 점수 발표를 중단하고 Pro를 권고했다. · 분석 근거 읽기 →C-CODE003-20 / P105-P119발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 평가 대상은 코드 테스트를 넘어 앱·파일·업무 환경의 결과물로 넓어지고 전문가 기준표와 사람 또는 LLM 채점이 쓰인다. · 분석 근거 읽기 →C-CODE003-21 / P125-P141발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 발행처 자체 평가에는 비용을 줄이기 위한 부분 표본과 제한된 MCP 서버가 사용됐고 회사 발표와 harness도 달랐다. · 분석 근거 읽기 →C-CODE003-23 / P153-P157; I24발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
• 비동기 RL 피드백→ 기다림 감소같은 품질까지 드는 시간과 비용

  동일 시간에 더 많은 유효 경험을 처리할 수 있으나 policy lag와 sample efficiency가 이를 상쇄할 수 있다.

  같은 목표 품질·환경 조건의 벽시계 시간과 총비용으로 비교.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 긴 컴퓨터 사용 rollout은 희소 보상, 브라우저·VM 연결 안정성, anti-bot·CAPTCHA, 이미지·비디오 문맥 때문에 학습을 느리고 어렵게 만든다. · 분석 근거 읽기 →C-RLSCALE005-13 / paragraphs: P086–P088; images: ; sections: Agentic tasks are increasing in time horizons발행처 판단 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • RL의 큰 추론 비중 때문에 OpenAI·Anthropic·Google이 연구/제품 추론 조직과 스택을 더 결합했다고 보도한다. · 분석 근거 읽기 →C-RLSCALE005-19 / paragraphs: P114–P116; images: ; sections: RL is changing lab’s structures발행처의 관측 보고 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • 더 효율적이고 충분히 강한 기반모델은 고객 추론 비용뿐 아니라 RL feedback loop를 빠르게 하므로 사전학습 개선과 RL이 보완적이라는 주장이다. · 분석 근거 읽기 →C-RLSCALE005-30 / paragraphs: P173–P175; images: ; sections: OpenAI's next pre-training run발행처 판단 · 독립 검증 전원문 발행 2025-06-08 · SemiAnalysis 원문 ↗
  • 희소하고 늦은 최종 보상 대신 중간 단계와 rubric을 평가해 학습 신호를 보강할 수 있다. · 분석 근거 읽기 →C-RL001-36 / paragraphs: P134–P137; images: I25, I26; sections: Why RL for Biology Can be Challenging발행처 판단 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
  • PipelineRL은 생성·학습 동시 실행과 실행 중 가중치 갱신으로 straggler 대기를 줄이고 기존 KV cache를 재사용한다. · 분석 근거 읽기 →C-RL001-37 / paragraphs: P138–P139; images: I27; sections: Why RL for Biology Can be Challenging발행처의 관측 보고 · 독립 검증 전원문 발행 2026-01-06 · SemiAnalysis 원문 ↗
• 학습 스택 성숙→ 처리량을 높임목표 품질까지 안정적으로 끝내는 학습 원가

  동일 장비의 커널·통신 개선이 정상 동작의 단위 학습 비용을 낮춘다.

  같은 모델·recipe·정밀도·목표품질을 맞추고 구형 장비도 동시점 소프트웨어로 비교.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 동일한 H100 128개에서 GPT-3 175B의 2024년 1월→12월 BF16 처리량은 313→493 tok/s/GPU, FP8은 543→728로 증가했다고 보고한다. · 분석 근거 읽기 →C-TRAIN004-05 / paragraphs: P040–P048; images: I04발행처의 관측 보고 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
  • 융합 커널·collective 등 전체 스택 개선으로 동일 모델의 토큰당 비용과 에너지가 감소했다. FP8 비용은 0.727→0.542달러/백만 토큰, utility 에너지는 3.29→2.46 J/token이다. · 분석 근거 읽기 →C-TRAIN004-06 / paragraphs: P046–P052; images: I04발행처 추정 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
  • Llama3.1 8B H100 128개에서는 2024년 11월→2025년 4월 FP8 13360→13739, BF16 10006→10630 tok/s/GPU로 소프트웨어 개선이 상대적으로 작았다. · 분석 근거 읽기 →C-TRAIN004-10 / paragraphs: P071–P073; images: I08발행처의 관측 보고 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
  • DeepSeek 670B BF16에서 GB200는 2025년 5월 비용 우위가 없었지만 7월 2138 대 H100 842 tok/s/GPU로, 약2.54배 처리량 및 약1.52배 성능/TCO를 보였다. · 분석 근거 읽기 →C-TRAIN004-11 / paragraphs: P078–P083; images: I09발행처의 관측 보고 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
• MoE 통신·scale-up→ 통신 시간을 줄임목표 품질까지 안정적으로 끝내는 학습 원가

  해당 MoE workload의 큰 통신량을 넓은 scale-up이 줄이면 학습 처리량 이득이 생긴다.

  collective 단독 배수를 전체 학습 배수로 확대하지 않음.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 초희소 MoE의 낮은 활성 파라미터는 추론 비용을 줄이지만 expert dispatch/combine 통신과 학습 안정성 부담을 키운다. 64 GPU all-to-all이 NVL72 내부에서 H100 클러스터 대비 18배 빠르다는 설명이다. · 분석 근거 읽기 →C-TRAIN004-13 / paragraphs: P081;P085–P086; images: 발행처의 관측 보고 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
  • Llama4 Maverick 400B·활성17B FP8 5월 벤치마크는 GB200 128 GPU에서 H100 512 GPU보다 GPU당 처리량 10757/4251≈2.53배, 비용 0.061/0.093≈0.66배다. · 분석 근거 읽기 →C-TRAIN004-15 / paragraphs: P088–P091; images: I10발행처의 관측 보고 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
• 랙 장애·예비 용량→ 비용 우위를 깎음목표 품질까지 안정적으로 끝내는 학습 원가

  예비 자산·중단·재시작·복구 비용이 정상 benchmark의 이득을 줄인다.

  16k active GPU 신뢰성 모형은 실적이 아니며 운영자·batch·비용배분에 따라 달라짐.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 기사 시점 GB200 대규모 학습은 백플레인 신호 무결성·진단 미성숙으로 어려우며 Paladin 커넥터 체결과 케이블·switch tray 교체가 장애 구분 및 수리 시간을 늘린다고 보고한다. · 분석 근거 읽기 →C-TRAIN004-16 / paragraphs: P004–P006;P093–P108; images: I11, I12, I13, I14발행처의 관측 보고 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
  • 신뢰성 모형은 NVL72당 64 GPU만 주학습에 사용하고 8개를 선점 가능한 예비로 두며, 별도 예비 랙까지 필요하다고 가정한다. · 분석 근거 읽기 →C-TRAIN004-17 / paragraphs: P094–P095;P113–P115; images: I15발행처 추정 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
  • 16384 active GPU Llama4 모형에서 GB200의 H100 최상 운영자 대비 비용 우위는 예비 GPU 비용 포함시 0·18·21%, 다른 작업을 하는 예비 GPU 비용 제외시 11·27·30%다. · 분석 근거 읽기 →C-TRAIN004-18 / paragraphs: P116–P118; images: I15발행처 추정 · 독립 검증 전원문 발행 2025-08-20 · SemiAnalysis 원문 ↗
• 장문맥 상태 절감→ 상태·연산을 줄임같은 품질과 SLA의 추론 비용

  압축과 희소 attention이 긴 문맥의 이론 KV와 연산을 줄일 수 있다.

  다른 문맥·모델의 효율 숫자를 곱하지 않고 같은 품질·하드웨어에서 재현 필요.

  연결 근거 · 조건부 가설

  추가 확인이 필요한 조건부 가설 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • DeepSeek V4 공개 모델은 장문맥 확장과 sparse/compressed attention 계열 구조를 도입했다고 서술한다. · 분석 근거 읽기 →C-CODE003-11 / P034-P040발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 1M 문맥 조건에서 V4 Pro가 V3.2 대비 단일 토큰 추론 FLOPs 27%, KV cache 10%를 필요로 한다는 개발사 수치를 인용한다. · 분석 근거 읽기 →C-CODE003-12 / P040발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 발행처의 V4 초기 H200 실험은 20 tok/s 사용자 응답속도 조건에서 GPU당 약 150 tok/s를 보고하고 V3 비교값은 약 1300~2300 tok/s라고 제시한다. · 분석 근거 읽기 →C-CODE003-15 / P053; P173; I11; I12발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
• 에이전트 캐시 재사용→ 문맥을 재사용같은 품질과 SLA의 추론 비용

  캐시 재사용과 전송 경로가 같은 SLA의 처리량을 바꾼다.

  1.6T AgentX preview·엔진·token mix·P90 TPS에 한정. 공식 provenance 확인 필요.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 에이전트 요청은 긴 다중 턴, 반복 prefix, 도구 호출과 짧은 sub-agent burst를 결합해 KV 캐시의 저장·재사용·이동을 중요하게 만든다. · 분석 근거 읽기 →C-RUBIN006-02 / paragraphs: P012–P018; images: I04발행처 판단 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
  • 170 P90 TPS에서 Rubin TRTLLM의 소유 TCO당 총토큰은 GB300 Dynamo TRTLLM 대비 약67.4배라는 초기 결과이며 60–100 TPS 구간은 약1.4–3배다. · 분석 근거 읽기 →C-RUBIN006-04 / paragraphs: P026–P028; images: I06발행처의 관측 보고 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
  • 최대 P90 interactivity는 Rubin TRTLLM276.24, GB300 TRTLLM171.53 TPS로 약61% 차이지만 GB300 SGLang은 Rubin과 비슷한 최대 속도에 도달한다. · 분석 근거 읽기 →C-RUBIN006-06 / paragraphs: P029–P031; images: I07발행처의 관측 보고 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
  • 100 TPS에서 Rubin은59.38M total tok/s/utility MW로 GB300 SGLang28.47M의2.09배다. 170 TPS에서는 SGLang 대비5.56배이며 TRTLLM 대비 약62.9배라고 설명한다. · 분석 근거 읽기 →C-RUBIN006-10 / paragraphs: P048–P058; images: I01, I15, I16, I17발행처 추정 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
  • 저장된 TCO 차트에 공식 도메인에서 호스팅되지 않았고 데이터가 비공식·수정·오래됐을 수 있다는 경고와 Rubin Official Preview 표기가 동시에 보인다. · 분석 근거 읽기 →C-RUBIN006-17 / paragraphs: P028;P030;P034;P036;P039;P041;P043; images: I06, I07, I09, I10, I11, I12, I13발행처의 관측 보고 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
• 추론 스택 성숙→ 실행 성능 구현같은 품질과 SLA의 추론 비용

  커널과 엔진이 모델의 잠재 효율을 실제 처리량으로 구현한다.

  첫날 지원과 최종 성숙을 구분하며 이론·실측 조건 일치 필요.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • DeepSeek 커널의 Ascend 지원을 표방하지만 공개 코드는 Hopper·Blackwell 중심이고, 발행처는 H200의 day-zero 지원을 실현했으며 Blackwell·AMD 지원은 진행 중이라고 보고한다. · 분석 근거 읽기 →C-CODE003-14 / P047-P052발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 발행처의 V4 초기 H200 실험은 20 tok/s 사용자 응답속도 조건에서 GPU당 약 150 tok/s를 보고하고 V3 비교값은 약 1300~2300 tok/s라고 제시한다. · 분석 근거 읽기 →C-CODE003-15 / P053; P173; I11; I12발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • MegaMoE 공개 자료는 일부 커널 조건에서 기존 non-fused 방식 대비 가속을 보고한다. · 분석 근거 읽기 →C-CODE003-38 / I09; I10발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 최대 P90 interactivity는 Rubin TRTLLM276.24, GB300 TRTLLM171.53 TPS로 약61% 차이지만 GB300 SGLang은 Rubin과 비슷한 최대 속도에 도달한다. · 분석 근거 읽기 →C-RUBIN006-06 / paragraphs: P029–P031; images: I07발행처의 관측 보고 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
• 시설의 전력 한도가 고정돼 있다→ 순간 여유 배분동적 전력 배분

  정격 대신 workload profile을 이용해 여유 전력을 나누려 한다.

  동시 peak·안전·SLA 확인 필요; 추가 밀도 실측 없음.

  연결 근거 · 조건부 가설

  추가 확인이 필요한 조건부 가설 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • DSX MaxLPS로 workload별 전력 profile과 동적 power shifting을 이용해 동일 시설 전력에서 더 많은 GPU를 배치하려는 방향이다. · 분석 근거 읽기 →C-RUBIN006-12 / paragraphs: P059; images: 발행처 판단 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
• 에이전트 캐시 재사용→ 장비별 효율한정된 전력의 서비스 공급능력

  같은 utility MW와 SLA에서 시스템의 유효 처리량이 달라진다.

  all-in utility power는 모형이며 정식 벽전력·품질 확인 필요.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 100 TPS에서 Rubin은59.38M total tok/s/utility MW로 GB300 SGLang28.47M의2.09배다. 170 TPS에서는 SGLang 대비5.56배이며 TRTLLM 대비 약62.9배라고 설명한다. · 분석 근거 읽기 →C-RUBIN006-10 / paragraphs: P048–P058; images: I01, I15, I16, I17발행처 추정 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
  • 100 TPS에서 MI355X SGLang2.01M, B200 SGLang6.95M, B300 vLLM5.56M, H200 Dynamo SGLang2.26M total tok/s/MW를 제시한다. · 분석 근거 읽기 →C-RUBIN006-11 / paragraphs: P053–P055; images: I16, I17발행처 추정 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
• 동적 전력 배분→ 배치 여유한정된 전력의 서비스 공급능력

  순간 여유를 활용한 추가 배치가 안정적인 처리량을 늘릴 수 있다.

  실측 효과 없는 설계 방향. peak가 겹치거나 throttle이 커지면 무효.

  연결 근거 · 조건부 가설

  추가 확인이 필요한 조건부 가설 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • DSX MaxLPS로 workload별 전력 profile과 동적 power shifting을 이용해 동일 시설 전력에서 더 많은 GPU를 배치하려는 방향이다. · 분석 근거 읽기 →C-RUBIN006-12 / paragraphs: P059; images: 발행처 판단 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
• 한정된 전력의 서비스 공급능력→ 조건을 통과해야 수익유료 수요·가격·가동·완전 비용 뒤의 이익

  용량을 실제 유료 수요로 채우고 가격·token mix·가동률을 유지한 뒤 완전 비용을 차감해야 돈이 남는다.

  75TPS·60% utilization·license0%의 publisher 시나리오는 실현 회사이익이 아님.

  연결 근거 · 조건부 가설

  추가 확인이 필요한 조건부 가설 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 75 TPS·사용률60%·모델라이선스0% 조건의 연간 모형은 Rubin utility GW당 매출159.5B달러·profit149.9B, GB300 SGLang114.9B·105.3B로 약39% 매출·42% profit 우위다. · 분석 근거 읽기 →C-RUBIN006-13 / paragraphs: P061–P065; images: I18발행처 추정 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
  • Rubin의 연간 추가 modeled profit은44.6B달러/GW, 선형10MW 환산446M달러이며 모든 토큰 가격을 약28% 낮춰도 GB300 SGLang의 매출/GW를 맞출 수 있다는 계산이다. · 분석 근거 읽기 →C-RUBIN006-14 / paragraphs: P064–P065; images: I18발행처 추정 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
  • 10MW fleet 생애 모형은 먼저 가동한 GB300의 초기 누적매출 우위를 더 높은 Rubin 일매출이 따라잡아 2026년10월 말에 역전할 수 있다고 본다. · 분석 근거 읽기 →C-RUBIN006-15 / paragraphs: P067–P070; images: I19, I20발행처 전망 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
  • 소프트웨어가 성숙하면 격차가 더 벌어지고 Rubin을 사거나 빌리면 더 많이 벌 것이라는 글의 결론. · 분석 근거 읽기 →C-RUBIN006-16 / paragraphs: P003;P031;P037; images: 발행처 판단 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
• 구독 배분→ 쓸 수 있는 양과 속도어떤 제품으로 업무를 끝낼 수 있는가

  플랜 한도와 속도 tier는 고객이 실제 업무에 쓸 수 있는 서비스 범위를 정한다.

  소진율·시간창·모델별 한도와 고객 품질 요구를 맞춰야 함.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • OpenAI 200달러 구독의 모델별 제공 토큰 한도가 절반으로 줄었고 신규 가입자는 즉시 적용되며 기존 가입자는 10월 29일까지 종전 한도가 유지된다고 보고한다. · 분석 근거 읽기 →C-SUB002-11 / paragraphs: P057,P067–P069; images: I13; sections: OpenAI vs Anthropic, OpenAI’s new $500 plan and massive limit reduction발행처의 관측 보고 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
  • 새 500달러 요금제는 종전 200달러 플랜보다 Astra가 21% 많고 초당 300토큰 Ultrafast를 주된 기능으로 내세운다고 보고한다. · 분석 근거 읽기 →C-SUB002-15 / paragraphs: P070–P072; images: I14; sections: OpenAI’s new $500 plan and massive limit reduction발행처의 관측 보고 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
  • OpenAI Pro에는 5시간 제한이 없어 월간 한도를 더 많이 소진하기 쉽다고 설명한다. · 분석 근거 읽기 →C-SUB002-18 / paragraphs: P079; images: ; sections: OpenAI’s new $500 plan and massive limit reduction발행처의 관측 보고 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
  • 본문은 Pro 200의 Sol과 Fable이 API 가격 인하 때 토큰 한도가 늘지 않았고 Opus 5.5는 Max 약 20%, Pro 약 50% 늘어났지만 API 환산가치 하락을 다 상쇄하지 못했다고 보고한다. · 분석 근거 읽기 →C-SUB002-20 / paragraphs: P086–P089; images: I17; sections: Do labs adjust subscription limits based on API pricing changes?발행처의 관측 보고 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
• 작업별 제품 조합→ 업무 결과를 비교어떤 제품으로 업무를 끝낼 수 있는가

  모델·harness·속도·예산 조합이 품질 통과 작업당 지출과 완료 시간을 바꾼다.

  발행처 소수팀 경험을 전체 고객 채택률로 확대하지 않음.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 발행처는 Claude에 거의 전적으로 의존하던 엔지니어들이 GPT 5.5 이후 작업과 IDE에 따라 Codex와 Claude를 함께 쓰며 일부는 Claude의 초기 구성 뒤 Codex로 수정한다고 보고한다. · 분석 근거 읽기 →C-CODE003-01 / P001; P002; P004; P058; P069-P072발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 발행처의 일상 코드 작업에서는 기능 테스트 통과 외에 설계·의도 이해·속도·데이터 정확성이 차별점으로 부각됐다고 평가한다. 대시보드 예시는 Claude Opus 4.6과 GPT 5.5 비교다. · 분석 근거 읽기 →C-CODE003-02 / P018; P020; P027; P061-P068발행처 판단 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 우선 처리와 빠른 모드는 같은 모델의 서비스 조건이고 Codex Spark는 다른 소형 모델이라는 구분 아래, 일부 발행처 엔지니어는 약간의 품질보다 빠른 응답을 택했다고 보고한다. · 분석 근거 읽기 →C-CODE003-05 / P010; P011; P018발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 발행처는 토큰 단가보다 품질을 충족한 작업 비용이 중요한 기준이라고 주장하며 GPT 5.5와 Mythos의 토큰 효율을 예로 든다. · 분석 근거 읽기 →C-CODE003-06 / P013-P016발행처 판단 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • Opus 4.7은 xhigh 선택지와 API 베타 작업 예산을 도입했고 thinking 표시가 기본적으로 생략된다. 발행처는 기본 도구 호출이 줄고 추론이 늘었다고 관찰한다. · 분석 근거 읽기 →C-CODE003-08 / P023-P025; P027발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • 발행처의 예비 trace 분석은 Codex와 Claude Code의 평균 입력 대 출력 비율을 80:1과 100:1로 보고하며 Codex가 입력을 덜 써 작업비용이 낮다고 판단한다. · 분석 근거 읽기 →C-CODE003-25 / P159발행처 추정 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
• 모델 공급권→ 공급권의 제약어떤 제품으로 업무를 끝낼 수 있는가

  모델을 받을 권리와 대체 조달의 품질·비용이 제품 선택을 제한한다.

  4월 Anthropic·10월 OpenAI 정책은 다른 사건이며 실제 계약 사유는 미검증이다.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 원문은 빠른 모드 프리미엄, 피크시간 한도 축소, 20달러 플랜의 Claude Code 제외 실험과 OpenClaw 등 제3자 harness 제한을 당시 사례로 보고한다. · 분석 근거 읽기 →C-CODE003-32 / P168발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
  • OpenAI 최신 모델이 Cursor에서 더 이상 제공되지 않는다고 원문은 보고하며 관련 OpenAI 페이지를 연결한다. · 분석 근거 읽기 →C-SUB002-28 / paragraphs: P110; images: ; sections: Third party plans are worse than first party발행처의 관측 보고 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
  • Cognition의 OpenAI 한도가 상대적으로 관대한 이유 중 하나로 더 큰 기업 할인을 협상했을 가능성을 든다. · 분석 근거 읽기 →C-SUB002-29 / paragraphs: P112; images: I23; sections: Third party plans are worse than first party발행처 판단 · 독립 검증 전원문 발행 2026-10-05 · SemiAnalysis 원문 ↗
• 클라우드 보안 검증→ 고객 경계의 조건고객이 맡길 수 있는 지속 가능한 서비스

  공유 token서비스는 고객 데이터·권한 경계를 유지하고 수정 증거를 보여야 한다.

  조달기준 제안·선별 과거 구성 시험이며 현재 보안순위 아님.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 복수 네오클라우드 사용은 성능과 가격 선택지를 늘리지만 보안 심사 대상도 늘린다. 발행처는 보안·기능 확인, 수시간 성능, 다일 안정성으로 나눈 ClusterMAX 3.0 및 일부 무료 CLI 점검을 소개한다. · 분석 근거 읽기 →C-SEC007-01 / paragraphs: P002–P013; images: 발행처의 관측 보고 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • 발행처는 2026년 4~7월 25개 공급자, 32개 클러스터를 깊이 점검했고, 주로 알려진 취약점과 구성·격리 오류를 발견했다고 보고한다. · 분석 근거 읽기 →C-SEC007-06 / paragraphs: P070–P098; images: I10발행처의 관측 보고 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • 발행처는 알려진 Container Toolkit 문제를 이용한 시험에서 컨테이너를 벗어나 그 아래 VM의 관리자 권한까지 도달했다고 보고했다. VM 바깥으로의 탈출은 후속 시험하지 않았다. · 분석 근거 읽기 →C-SEC007-12 / paragraphs: P179–P180; related image: I21/P174발행처의 관측 보고 · VM 탈출 후속 시험 없음 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • ClusterMAX 상위 등급 공급자도 특정 시점·서비스에서 최소 버전 점검을 통과하지 못했고, 같은 Azure라도 Slurm과 Kubernetes 서비스 결과가 달랐다는 예시다. · 분석 근거 읽기 →C-SEC007-13 / paragraphs: P183–P189; images: I23, I24, I25발행처의 관측 보고 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • 알려진 취약점의 최소 안전 버전은 자주 바뀌므로 발행처는 고정 등급에 더해 일별 버전 기준과 자동 점검을 강조한다. 관측하지 못하는 항목은 실패와 달리 알 수 없음으로 다뤄야 한다. · 분석 근거 읽기 →C-SEC007-16 / paragraphs: P210–P219; images: I29, I30발행처의 관측 보고 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • 검증 가능한 보안 운영과 지속적 패치 능력은 클라우드의 조달 자격과 고객 유지에 영향을 줄 수 있다. 다만 비용 상승을 가격 프리미엄·유지율·계약 규모로 회수해야 수익 포착으로 이어진다. · 분석 근거 읽기 →C-SEC007-20 / paragraphs: P002–P013, P076–P116, P210–P239; images: 분석자 해석 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
• 칩에서 운영 서비스로→ 운영 책임 확대고객이 맡길 수 있는 지속 가능한 서비스

  칩을 대신 운영해 주면 고객 도입 부담을 줄이지만 공급자는 SLA·지원·수요·신용 위험을 맡는다.

  기업별 계약·가동·보증 손실을 확인해야 하며 전략 자체로 성공을 인정하지 않음.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • Cerebras·SambaNova·Etched·Positron·d-Matrix와 같은 가속기 기업이 칩 판매뿐 아니라 토큰 또는 예약 용량을 제공하는 방향으로 움직이면 고객의 초기 이식·조달 부담 일부가 공급자로 옮겨 간다는 논지다. · 분석 근거 읽기 →C-SEC007-17 / paragraphs: P224–P229; images: 발행처 판단 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • 가속기 공급자가 직접 클라우드를 운영하면 시스템 통합·SRE·보안·가동률·고객 수요와 금융 조달을 동시에 책임져야 하며, 장기 신용도 높은 사용 약정과 변동적인 현물 토큰 매출은 담보 가치가 다르다는 분석이다. · 분석 근거 읽기 →C-SEC007-18 / paragraphs: P229–P236; images: 발행처 판단 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • 잔존가치 지원이나 구매·임대 보증은 신규 가속기 설비의 조달 가능성을 높일 수 있지만 수요·기술·신용 위험을 지원자에게 이전한다. NVIDIA의 강점은 하드웨어 외 소프트웨어·중고 유동성·운영 생태계까지 포함한다. · 분석 근거 읽기 →C-SEC007-19 / paragraphs: P234–P239; images: 발행처 판단 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
  • 검증 가능한 보안 운영과 지속적 패치 능력은 클라우드의 조달 자격과 고객 유지에 영향을 줄 수 있다. 다만 비용 상승을 가격 프리미엄·유지율·계약 규모로 회수해야 수익 포착으로 이어진다. · 분석 근거 읽기 →C-SEC007-20 / paragraphs: P002–P013, P076–P116, P210–P239; images: 분석자 해석 · 독립 검증 전원문 발행 2026-08-30 · SemiAnalysis 원문 ↗
• 단계 분리·동적 배분→ 단계별 배분같은 품질과 SLA의 추론 비용

  prefill과 decode의 자원을 부하에 맞추면 불필요한 대기를 줄일 수 있다.

  단계 분리의 전송·queue 비용과 cache hit를 포함해 비교.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • Dynamo의SmartRouter는KVcache위치와부하를고려하고Planner는prefill/decode간GPU를재배치해불균형을줄이는기능이다. · 분석 근거 읽기 →C-GTC010-13 / paragraphs: P092–P108; images: I17, I18, I21발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • NVIDIA의H100 DeepSeek-R1 Distill Llama70B 사례는randomrouting대비SmartRouter로TTFT70%·평균requestlatency50%감소를제시한다. · 분석 근거 읽기 →C-GTC010-14 / paragraphs: P104; images: I17발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • NCCL의one-shot/two-shot등새collective가작은메시지latency를약4분의1로줄인다는발표다. · 분석 근거 읽기 →C-GTC010-15 / paragraphs: P110–P113; images: I19발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
• KV 계층화→ 재계산과 이동의 교환같은 품질과 SLA의 추론 비용

  상태를 남겨 다음 요청에 쓰면 prefill을 줄이지만 메모리·네트워크 비용이 추가된다.

  실제 요청 분포·재사용·eviction·storage latency 조건.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • NIXL은prefill/decode와다양한memory·storage사이의비동기데이터이동을추상화하는층이다. · 분석 근거 읽기 →C-GTC010-16 / paragraphs: P115–P117; images: I20발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • KVcache를HBM외hostmemory·localSSD·공유storage에보존해대화재개시재계산을대체하고prefill자원을절약하려는구조다. · 분석 근거 읽기 →C-GTC010-17 / paragraphs: P119–P128; images: I21, I22발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
• CPO 광 경로→ 광부품 경로같은 연결 요구의 전체 전력과 원가

  광엔진을 가까이 배치하고 DSP 경로를 바꿔 일부 광부품 전력을 줄이려 한다.

  실제 송수신·수율·수리·교체 비용을 확인해야 함.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • CPO는scale-outswitchASIC인접광엔진과외부레이저로DSP광모듈의일부기능을옮기고높은radix로네트워크계층을줄일가능성을제시한다. · 분석 근거 읽기 →C-GTC010-20 / paragraphs: P140–P144; images: I26, I27, I28, I29발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • CPO3→2계층모형의총클러스터전력은492→434MW로약11.8%줄며LPO3계층은480MW다. · 분석 근거 읽기 →C-GTC010-21 / paragraphs: P143–P144; images: I28발행처 추정 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • Quantum-X CPO144×800G·18ELS·144MPO와Spectrum-X최대512×800G가공개되고당시각각2025H2·2026H2공급을계획한다. · 분석 근거 읽기 →C-GTC010-22 / paragraphs: P145–P146; images: I26, I27, I29발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
• 네트워크 계층 축소→ 계층·장비 수같은 연결 요구의 전체 전력과 원가

  더 높은 radix가 switch와 link의 계층을 줄여 별도의 전력 절감 항을 만든다.

  동일 대역·규모·장애 허용 설계의 비교이며 전력 12%는 양산 실측이 아니다.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • CPO3→2계층모형의총클러스터전력은492→434MW로약11.8%줄며LPO3계층은480MW다. · 분석 근거 읽기 →C-GTC010-21 / paragraphs: P143–P144; images: I28발행처 추정 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
  • Quantum-X CPO144×800G·18ELS·144MPO와Spectrum-X최대512×800G가공개되고당시각각2025H2·2026H2공급을계획한다. · 분석 근거 읽기 →C-GTC010-22 / paragraphs: P145–P146; images: I26, I27, I29발행처의 관측 보고 · 독립 검증 전원문 발행 2025-03-19 · SemiAnalysis 원문 ↗
• 대체 플랫폼 생산 검증→ 정확한 처리량실제 고객이 가동하는 대체 플랫폼

  모델·ISA·분산 조합의 정확성과 CI가 확보돼야 nominal 연산을 고객에게 제공할 수 있다.

  MI355 결과와 MI455 준비를 분리한다. 높은 처리량에 정확성 회귀가 있으면 이득을 낮춘다.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 처리량이 높아진 일부 AMD 분산 경로에 정확성 회귀가 남아 있었다고 발행처가 보고한다. R1의 동시성 64 MoRI 구성은 약 80% 대 기준 약 94%라는 예시다. · 분석 근거 읽기 →C-AMD008-19 / paragraphs: P196–P200; images: I34, I35발행처의 관측 보고 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • MI355에서 일부 조합이 nightly CI에 들어간 것과 gfx1250/MI455의 전체 스택 준비는 다른 단계다. 원문 시점에는 PyTorch·AITER·SGLang·vLLM의 지원·gating·정확성·WideEP 준비가 고르지 않았다. · 분석 근거 읽기 →C-AMD008-20 / paragraphs: P200–P217; images: I36, I37발행처의 관측 보고 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • AMD 지원이 별도 RIXL 포크에서 상위 NIXL로 합쳐지면 중복 유지 부담을 줄일 수 있다. 원문은 5월 15일 첫 PR, 6월 4일 병합과 MI355 2노드 전송 시험을 보고한다. · 분석 근거 읽기 →C-AMD008-22 / paragraphs: P219–P229; images: I38발행처의 관측 보고 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • AMD의 수익 포착은 peak 연산량보다 품질·대화성·안정성을 맞춘 유효 처리량, 도입 시간, 생산 가동률과 고객 확보 비용의 합으로 판단해야 한다. · 분석 근거 읽기 →C-AMD008-31 / paragraphs: P003–P010, P125–P229, P238–P268; images: 분석자 해석 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
• 개방형 랙 통합→ 전체 시스템 원가실제 고객이 가동하는 대체 플랫폼

  범용 부품의 포트·배선·전력·조립·서비스비용이 고객의 대체 플랫폼 비용을 정한다.

  BOM·전력은 추정이며 최종 수율·양산 검증이 필요하다.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • Tomahawk 6의 범용 스위치 포트 수와 Helios의 연결 수가 완전히 맞지 않아 표준 추정 구성에서 512개 레인 중 432개를 사용한다. · 분석 근거 읽기 →C-AMD008-08 / paragraphs: P054–P065; images: I09, I10발행처 추정 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • 구리 배선·flyover 케이블·리타이머가 Helios의 제조 복잡성, 전력과 부품비를 높일 수 있다는 분석이다. · 분석 근거 읽기 →C-AMD008-09 / paragraphs: P060–P081; images: I11, I12, I13, I14, I15, I16, I17발행처 추정 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • HBM·기타 메모리·스토리지 가격과 설계 변경을 반영한 Helios 랙 BOM 추정은 2025년 약 422만 달러에서 약 537만 달러로 높아진다. · 분석 근거 읽기 →C-AMD008-23 / paragraphs: P232–P237; images: I39, I40발행처 추정 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • 표준 AMD 예시의 랙 전체 전력 추정은 257.86kW이고 비교 구성의 전력·가격·네트워크 가정이 다르다. · 분석 근거 읽기 →C-AMD008-25 / paragraphs: P240–P243; images: I41, I42발행처 추정 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
• 시설 금융 지원→ 설치 자금 조건실제 고객이 가동하는 대체 플랫폼

  자금 지원은 초기 시설 배치와 고객 개발을 도울 수 있지만 계약·수요·상환 위험이 남는다.

  발표 규모를 가동으로 보지 않고 실제 투자 집행·보증 손실·유료 사용을 확인한다.

  연결 근거 · 조건부 가설

  추가 확인이 필요한 조건부 가설 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 원문은 Anthropic의 최대 2GW 계획, Microsoft의 MI455 복귀, Cerebras와의 분리 추론 협력을 AMD 채택의 신호로 제시한다. · 분석 근거 읽기 →C-AMD008-02 / paragraphs: P005–P006, P265; images: 발행처의 관측 보고 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • AMD의 Crusoe 금융 지원과 Anthropic 최대 50억 달러 투자 계획, NVIDIA의 임대 보증 확대는 수요 확보와 시설 금융을 지원하는 서로 다른 방식으로 제시된다. · 분석 근거 읽기 →C-AMD008-29 / paragraphs: P264–P268; images: I50발행처의 관측 보고 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
  • AMD의 수익 포착은 peak 연산량보다 품질·대화성·안정성을 맞춘 유효 처리량, 도입 시간, 생산 가동률과 고객 확보 비용의 합으로 판단해야 한다. · 분석 근거 읽기 →C-AMD008-31 / paragraphs: P003–P010, P125–P229, P238–P268; images: 분석자 해석 · 독립 검증 전원문 발행 2026-07-25 · SemiAnalysis 원문 ↗
• 해외 공정·생산 이전→ 단계별 양품 생산동일 기준의 양품 원가와 수익

  초기 생산·수율·ramp 이후 고객 물량과 가격이 공장 원가를 회수해야 한다.

  일본·미국·독일의 단계가 다르다. 같은 제품·자산 연령·보조금·가동률 비교가 필요하다.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • JASM 1단계는 2024년 12월 생산 시작, 2025년 1분기 월 3만장 수준으로 증가한 것으로 원문 표에 제시되며, 계획 능력은 월 5만5천장이다. · 분석 근거 읽기 →C-TSMC009-08 / paragraphs: P068–P071; images: I14, I15발행처의 관측 보고 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 독일 ESMC는 2024년 8월 착공, 2025년 2분기 토공 완료 후 건물 공사 단계이며 2027년 4분기 초기 생산을 목표로 한다. · 분석 근거 읽기 →C-TSMC009-10 / paragraphs: P072–P074; images: I17, I18발행처의 관측 보고 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • Arizona 1단계는 2024년 4분기 초기 생산과 2025년 1·2분기 각각 월 1만·1만5천장 ramp가 제시되며 계획 능력은 월 2만4천장이다. · 분석 근거 읽기 →C-TSMC009-11 / paragraphs: P075–P081; images: I19, I20, I21발행처의 관측 보고 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • Arizona의 초기 4nm 수율이 대만보다 약 4퍼센트포인트 높았다는 2024년 10월 비교가 소개되지만 성숙 공정의 이전과 작은 다이 믹스가 해석에 중요하다. · 분석 근거 읽기 →C-TSMC009-15 / paragraphs: P087–P090; images: 발행처의 관측 보고 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 2025년 5nm 비용 모델은 대만 총 6,681달러/웨이퍼와 Arizona 16,123달러/웨이퍼, 같은 판매가 17,500달러에서 62% 대 8% 매출총이익률을 제시한다. · 분석 근거 읽기 →C-TSMC009-21 / paragraphs: P118–P119; images: I32발행처 추정 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 설비 연령 효과의 크기를 보기 위해 대만 표의 전체 장비·비장비 자산을 제시된 내용연수로 다시 상각하면 단순 민감도상 감가상각은 웨이퍼당 4,500달러가 된다. · 분석 근거 읽기 →C-TSMC009-22 / paragraphs: P118–P119; images: I32분석자 해석 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 해외 팹의 성공은 건물 완공→장비 설치→공정·고객 인증→수율→생산량·가동률→원가·수익성→현지 공급망 완결을 단계별로 평가해야 한다. · 분석 근거 읽기 →C-TSMC009-26 / paragraphs: P068–P119, P121–P136; images: 분석자 해석 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
• 현지 공급·실행 체계→ 현지 실행 조건동일 기준의 양품 원가와 수익

  인증된 공급과 현장 대응·utility가 안정적인 가동과 원가를 제약한다.

  효과 크기는 미계량이다. 위치·면허·계획은 계약·가동·이익과 다르다.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • 대만에서는 설계·제조·소재·장비·인력의 가까운 집적이 빠른 문제 해결과 높은 가동률을 돕는 반면, 해외 이전은 그 연결을 재구축해야 한다는 분석이다. · 분석 근거 읽기 →C-TSMC009-04 / paragraphs: P036–P053; images: I05발행처 판단 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • Arizona 주변의 공급 생태계가 확장되더라도 현지 생산·서비스·인증이 모두 갖춰진 것은 아니고, 미국 내 공장이 있다는 사실과 Arizona 현장에 즉시 공급할 수 있다는 사실은 다르다. · 분석 근거 읽기 →C-TSMC009-05 / paragraphs: P054–P059, P114; images: I06, I07, I08, I09, I10, I11발행처 판단 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 원문은 외부 가스 공급의 품질 문제와 Arizona의 분기 이익 변동을 연결해 지역 공급망의 운영 중요성을 강조한다. · 분석 근거 읽기 →C-TSMC009-06 / paragraphs: P057–P059; images: 발행처의 관측 보고 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • TSMC는 대만에서 쓰던 설계·운영 방식과 기존 협력사를 해외에 이식하면서 현지 시공·면허·하도급 역량을 조합하는 것으로 설명된다. · 분석 근거 읽기 →C-TSMC009-16 / paragraphs: P091–P104; images: I27, I28발행처 판단 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 대규모 해외 팹의 운영에는 전력·물·가스와 재활용 시설이 함께 필요하며, 원문은 3단계 총량과 각 단계 요구량을 제시한다. · 분석 근거 읽기 →C-TSMC009-19 / paragraphs: P114–P117; images: I20, I31발행처 추정 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
• 해외 공정·생산 이전→ 분산의 실제 범위분산의 실제 범위

  해외 양산은 일부 고객의 지역 공급을 늘리지만 공정 개발·최초 ramp·패키징과 같은 속도로 이동하지 않는다.

  2025년 12월의 정책·계획 해석이며 현행 법 또는 영구 보장은 아니다.

  연결 근거 · 해석

  분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정

  이 연결은 독립 검증 전인 분석자의 해석입니다.

  • Arizona의 첨단 패키징은 SoIC/CoW 시설과 더 뒤의 CoPoS 구상으로 제시되며 해외 웨이퍼 생산만으로 현지 AI칩 공급망이 완결되는 것은 아니다. · 분석 근거 읽기 →C-TSMC009-13 / paragraphs: P075–P081; images: I25, I26발행처 전망 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 대만의 연구·공정 개발·수율 개선과 모더 팹의 학습이 해외 공정 이전을 뒷받침한다는 것이 원문의 장기 구조 설명이다. · 분석 근거 읽기 →C-TSMC009-24 / paragraphs: P121–P133; images: I33발행처 판단 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • Arizona 확대는 일부 공급 분산에 기여해도 원문이 전망한 규모로는 대만 집중 위험을 모두 대체하지 못한다. · 분석 근거 읽기 →C-TSMC009-25 / paragraphs: P134–P136; images: 발행처 전망 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗
  • 해외 팹의 성공은 건물 완공→장비 설치→공정·고객 인증→수율→생산량·가동률→원가·수익성→현지 공급망 완결을 단계별로 평가해야 한다. · 분석 근거 읽기 →C-TSMC009-26 / paragraphs: P068–P119, P121–P136; images: 분석자 해석 · 독립 검증 전원문 발행 2025-12-01 · SemiAnalysis 원문 ↗

자료에서 확인하는 출발 조건

• 고정 구독료로 서로 다른 사용량을 감당한다

  고객 확보 혜택과 모델별 사용 비용을 같은 한도 안에서 배분해야 한다. 실제 비용과 기업 전략은 별도 확인한다.

• 실행 결과의 품질과 기다리는 시간이 선택을 가른다

  모델 능력 외에 검토·재작업·대기와 작업 예산이 완료비용을 바꾼다.

• 긴 문맥과 반복 추론이 상태 저장 부담을 키운다

  KV 용량·전송과 단계별 연산 특성이 같은 방식의 서빙으로 처리되지 않는다.

• 희소 모델은 연산량을 줄이는 대신 통신 조건을 바꾼다

  활성 파라미터 감소와 expert dispatch·combine 때문에 시스템별 실제 이득이 달라진다.

• 새 연산 자원을 기존 소프트웨어가 즉시 활용하지 못한다

  커널·통신·런타임 성숙의 시간차가 같은 장비의 유효 처리량을 바꾼다.

• 서로 기다리는 학습에서는 한 부분의 장애가 전체에 번진다

  동기식 학습의 연결 영역과 중단·복구 단위가 커지면 예비 자산과 운영 역량이 중요해진다.

• 점수를 높이는 행동과 원하는 업무 성과가 어긋날 수 있다

  보상 오류·데이터 누출·불공정 채점은 더 많은 시도를 잘못된 방향으로 이끌 수 있다.

• 공유 자원에서도 고객별 경계를 지켜야 한다

  관리면·모니터링·패브릭·DPU의 권한과 상태가 달라 호스트 한 곳의 점검으로 충분하지 않다.

• 새 칩을 쓰려면 고객이 이식·통합·운영을 떠안는다

  새 가속기 공급자는 칩 성능만으로 고객의 도입 비용과 위험을 없애기 어렵다.

• 많은 시도 중 느린 환경·생성이 학습을 기다리게 한다

  RL은 계산뿐 아니라 rollout 생성·환경 실행·보상 검증·정책 갱신의 속도를 맞춰야 한다.

• 입력을 읽는 단계와 출력을 만드는 단계의 부하가 다르다

  prefill과 decode의 자원 특성·대기열·캐시 적중이 달라 정적 배치는 비효율을 남길 수 있다.

• 더 많은 연산·메모리·연결을 물리 시스템에 담는다

  die·HBM·I/O·케이블·전력·냉각의 공간과 수율이 설계 제약이 된다.

• 광부품과 네트워크 계층이 전력을 사용한다

  신호 경로의 DSP와 switch 계층 수는 다른 전력 항이다.

• 다른 가속기에서 모델과 분산 조합을 다시 검증해야 한다

  ISA·정밀도·통신·모델 조합마다 정확성과 regression이 달라 안정적인 개발 자원과 upstream 유지가 필요하다.

• 여러 공급자의 부품을 하나의 랙에 맞춰야 한다

  범용 switch의 포트·케이블·retimer·NIC 기능이 같은 연결 요구에 정확히 맞지 않을 수 있다.

• 설비 선투자와 변동 수요 사이의 위험을 누군가 맡아야 한다

  초기 고객의 도입 부담과 시설 금융에는 장기 계약 신용·담보·보증이 관여한다.

• 고객과 정부가 지역 생산의 가치를 원한다

  고객 공급 안정성과 정부의 지역 분산 목표가 공장 투자에 함께 작용하되 그 가치가 곧 팹 이익은 아니다.

• 해외에는 가까운 공급·시공·대응 체계가 그대로 따라오지 않는다

  같은 설계를 옮겨도 소재 품질·인증·허가·utility와 현장 서비스의 시간을 다시 맞춰야 한다.

• 시설의 전력 한도가 고정돼 있다

  토큰당 효율과 순간 여유 활용은 같은 전력 배정 아래 처리할 수 있는 일을 바꾸는 별개 경로다.

• 외부 제품은 모델 조달 조건에 노출된다

  API 가격·계약 할인과 최신 모델 접근권을 각 제품이 스스로 통제할 수 있는 것은 아니다.

자료 범위와 출처

• AI 구독의 한도와 수익화 구조

  확보 사본의 텍스트 전문 검토 완료 · 이미지 24개 검토 완료

  P001–P116의 전체 본문과 이미지 I01–I24를 검토했습니다. 문단·이미지 번호는 검토 사본의 위치입니다. 유료 원문의 완전성을 별도로 인증한 것은 아니며 실시간 대시보드와 원시 측정 기록은 확보하지 않았습니다. 핵심 주장을 회사 공식 자료나 독립 실험으로 검증하지 않았습니다.

• 코딩 도구의 경쟁은 완료한 작업의 품질과 비용에서 갈린다

  확보 사본의 텍스트 전문 검토 완료 · 이미지 26개 원본 해상도 검토 완료

  P001–P173의 모든 본문 구간과 이미지 26개를 검토했습니다. 유료 원문 전체의 완전성을 별도로 인증한 것은 아닙니다. 공식 발표·기술 문서·사후 보고에 대한 표적 대조 7건을 수행했으며, 독립 업무 실험·청구 기록·재무 감사를 수행하지 않았습니다. 발행일은 2026년 4월 24일입니다. 10월의 구독 비교 글보다 먼저 나온 자료이며 업로드 순서를 사건의 순서로 읽지 않습니다.

• H100과 GB200의 학습 경제성

  저장본 전문 검토 완료 · 핵심 성능 독립 검증 미완료 · 이미지 15개 모두 시각 검토

  P001–P119 전체 검토. 제목·이미지만 있는 블록도 포함하며 P001은 저장 메타데이터와 첫 본문을 포함한다. 문단 번호는 검토용이며 원문 웹의 위치 표지가 아니다. 본문 저장본 전체 및 이미지 15개를 검토했다. 유료 웹 원본의 완전성과 원시 실험 로그는 미확인이다. 발행일, 업로드일, 실제 사건일과 미래 적용 시기를 따로 기록했다.

• 업무를 학습시키는 산업과 물리 실험의 경계

  저장 본문·그림 검토 완료, 일부 1차 자료 대조. 실험·계약·재무의 독립 검증은 아님. · 이미지 32개를 모두 시각적으로 검토했다. 그림의 연구 범위와 장식·홍보 요소를 구분했다.

  저장 사본의 P001–P160 전체 블록을 검토했다. 제목과 이미지 블록도 포함한다. 문단 번호는 이 검토의 로컬 식별자이며 원문 웹 앵커가 아니다. 이미지 속 표·수식도 검토했으며 출판사 원문과 이미지는 재게시하지 않는다. 발행일과 저장일(2026-10-02), 실제 사건 시점을 분리한다. 사건 시점이 없으면 추정해 채우지 않는다. 항목 수는 실현된 산업 변화 수가 아니다. 발행처 보도·평가 비교·계획·방법·분석 기준을 분리하며, 업계 전체 전환과 독립 검증 여부는 별도 판단한다. 유료 원문의 완전성은 별도로 인증하지 않았으며 원자료·비공개 계약은 확인하지 않았다. 기존 RL001 분석의 이력을 보존한 개정이며 독립 기사로 추가 집계하지 않는다.

• 강화학습 확장의 병목과 가치 회수 조건

  저장 본문·그림 검토 완료, 일부 1차 자료 대조. 실험·계약·재무의 독립 검증은 아님. · 정지 이미지 19개를 시각적으로 검토했다. GIF 2개는 각각 총 42·50프레임 중 고르게 나눈 6프레임씩 확인했다. 모든 애니메이션 프레임을 검토했다는 뜻은 아니다. I04와 I15는 같은 도식의 반복이다.

  저장 사본의 P001–P175 전체 블록을 검토했다. 제목과 이미지 블록도 포함한다. 문단 번호는 이 검토의 로컬 식별자이며 원문 웹 앵커가 아니다. 이미지 속 표·수식도 검토했으며 출판사 원문과 이미지는 재게시하지 않는다. 발행일과 저장일(2026-10-02), 실제 사건 시점을 분리한다. 사건 시점이 없으면 추정해 채우지 않는다. 항목 수는 실현된 산업 변화 수가 아니다. 발행처 보도·평가 비교·계획·방법·분석 기준을 분리하며, 업계 전체 전환과 독립 검증 여부는 별도 판단한다. 유료 원문의 완전성은 별도로 인증하지 않았으며 원자료·비공개 계약은 확인하지 않았다.

• Rubin 에이전트 추론의 비용과 전력 생산성

  저장본 전문 검토 완료 · 핵심 성능 독립 검증 미완료 · 이미지 20개 모두 시각 검토

  P001–P070 전체 검토. 제목·이미지만 있는 블록도 포함하며 P001은 저장 메타데이터와 첫 본문을 포함한다. 문단 번호는 검토용이며 원문 웹의 위치 표지가 아니다. 본문 저장본 전체 및 이미지 20개를 검토했다. 유료 웹 원본의 완전성과 원시 실험 로그는 미확인이다. 발행일, 업로드일, 실제 사건일과 미래 적용 시기를 따로 기록했다.

• 네오클라우드의 보안 운영과 토큰 서비스 책임

  저장된 본문과 전체 이미지 검토 완료 · 중요 주장 독립 검증 없음 · 전체 30개 시각 검토 · 핵심 수치와 주석 확대 확인 · 가림과 모호한 값은 제한으로 유지

  본문 13개 구간 전체 검토 로컬 문단 P001–P239 및 이미지 30개 발행일 2026-08-30 · Drive 업로드 2026-10-01 · 검토일 2026-10-12 한국시간 유료 원본의 완전성과 현재 서비스·생산 상태를 독립 인증한 문서는 아님

• AMD의 소프트웨어 검증과 랙 통합 경제성

  저장된 본문과 전체 이미지 검토 완료 · 중요 주장 독립 검증 없음 · 전체 52개 시각 검토 · 핵심 수치와 주석 확대 확인 · 가림과 모호한 값은 제한으로 유지

  본문 14개 구간 전체 검토 로컬 문단 P001–P274 및 이미지 52개 발행일 2026-07-25 · Drive 업로드 2026-10-01 · 검토일 2026-10-12 한국시간 유료 원본의 완전성과 현재 서비스·생산 상태를 독립 인증한 문서는 아님

• TSMC 해외 팹의 생산 단계와 원가 조건

  저장된 본문과 전체 이미지 검토 완료 · 중요 주장 독립 검증 없음 · 전체 33개 시각 검토 · 핵심 수치와 주석 확대 확인 · 가림과 모호한 값은 제한으로 유지 · 2026-10-12 재독에서 I01–I03의 설명과 주장 근거 위치를 정정했다.

  본문 14개 구간 전체 검토 로컬 문단 P001–P136 및 이미지 33개 발행일 2025-12-01 · Drive 업로드 2026-10-01 · 검토일 2026-10-12 한국시간 유료 원본의 완전성과 현재 서비스·생산 상태를 독립 인증한 문서는 아님

• GTC 2025에서 드러난 추론 시스템의 변화

  저장본 전문 검토 완료 · 핵심 성능 독립 검증 미완료 · 이미지 29개 모두 시각 검토

  P001–P151 전체 검토. 제목·이미지만 있는 블록도 포함하며 P001은 저장 메타데이터와 첫 본문을 포함한다. 문단 번호는 검토용이며 원문 웹의 위치 표지가 아니다. 본문 저장본 전체 및 이미지 29개를 검토했다. 유료 웹 원본의 완전성과 원시 실험 로그는 미확인이다. 발행일, 업로드일, 실제 사건일과 미래 적용 시기를 따로 기록했다.