큰 흐름의 한 갈래 · 릴리스·지원 진행·초기 실험
새 모델의 공개 지원을 실제 서빙으로 옮긴다
2026년 4월 H200 첫날 지원과 Blackwell·AMD 후속 작업은 단계가 다르다. 처음 느렸다는 사실이 최종 성능을 확정하지는 않는다.
가중치를 확보해도 새 구조의 커널·런타임이 준비되지 않을 수 있다.
공개 커널·하드웨어별 지원·최적화가 실제 처리량을 뒤따라 개선한다.
소프트웨어 최적화의 필요성은 학습과 공유하지만 추론 workload·하드웨어·시점이 달라 같은 성능 이력을 합치지 않는다.
지원 발표·릴리스·벤치마크·고객 가동을 분리.
적용 범위 · 2026년4월 모델/하드웨어별 서로 다른 단계
이 흐름의 원인과 다른 흐름의 연결
새 모델 구조를 지원하는 커널과 런타임이 있어야 잠재 절감이 처리량으로 이어진다.
초기 H200 지원과 타 플랫폼 작업 진행을 구별.
연결 근거 · 해석
분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정
이 연결은 독립 검증 전인 분석자의 해석입니다.
- DeepSeek 커널의 Ascend 지원을 표방하지만 공개 코드는 Hopper·Blackwell 중심이고, 발행처는 H200의 day-zero 지원을 실현했으며 Blackwell·AMD 지원은 진행 중이라고 보고한다. · 분석 근거 읽기 →C-CODE003-14 / P047-P052발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
- 발행처의 V4 초기 H200 실험은 20 tok/s 사용자 응답속도 조건에서 GPU당 약 150 tok/s를 보고하고 V3 비교값은 약 1300~2300 tok/s라고 제시한다. · 분석 근거 읽기 →C-CODE003-15 / P053; P173; I11; I12발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
- MegaMoE 공개 자료는 일부 커널 조건에서 기존 non-fused 방식 대비 가속을 보고한다. · 분석 근거 읽기 →C-CODE003-38 / I09; I10발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
구조적 상태 절감을 지원 커널이 실제 하드웨어에서 구현한다.
이론 1M 효율과 초기 8k 실측을 동일 실험으로 묶지 않음.
연결 근거 · 해석
분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정
이 연결은 독립 검증 전인 분석자의 해석입니다.
- 1M 문맥 조건에서 V4 Pro가 V3.2 대비 단일 토큰 추론 FLOPs 27%, KV cache 10%를 필요로 한다는 개발사 수치를 인용한다. · 분석 근거 읽기 →C-CODE003-12 / P040발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
- DeepSeek 커널의 Ascend 지원을 표방하지만 공개 코드는 Hopper·Blackwell 중심이고, 발행처는 H200의 day-zero 지원을 실현했으며 Blackwell·AMD 지원은 진행 중이라고 보고한다. · 분석 근거 읽기 →C-CODE003-14 / P047-P052발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
- 발행처의 V4 초기 H200 실험은 20 tok/s 사용자 응답속도 조건에서 GPU당 약 150 tok/s를 보고하고 V3 비교값은 약 1300~2300 tok/s라고 제시한다. · 분석 근거 읽기 →C-CODE003-15 / P053; P173; I11; I12발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
캐시·parallelism 최적화에 따라 같은 하드웨어의 처리량 곡선과 최대 속도가 달라진다.
코딩 글의 4월 H200와 Rubin 글의 9월 1.6T preview는 범위가 다르다. 후자가 전자의 초기 문제 해결을 입증하지 않는다.
연결 근거 · 해석
분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정
이 연결은 독립 검증 전인 분석자의 해석입니다.
- DeepSeek 커널의 Ascend 지원을 표방하지만 공개 코드는 Hopper·Blackwell 중심이고, 발행처는 H200의 day-zero 지원을 실현했으며 Blackwell·AMD 지원은 진행 중이라고 보고한다. · 분석 근거 읽기 →C-CODE003-14 / P047-P052발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
- 발행처의 V4 초기 H200 실험은 20 tok/s 사용자 응답속도 조건에서 GPU당 약 150 tok/s를 보고하고 V3 비교값은 약 1300~2300 tok/s라고 제시한다. · 분석 근거 읽기 →C-CODE003-15 / P053; P173; I11; I12발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
- 170 P90 TPS에서 Rubin TRTLLM의 소유 TCO당 총토큰은 GB300 Dynamo TRTLLM 대비 약67.4배라는 초기 결과이며 60–100 TPS 구간은 약1.4–3배다. · 분석 근거 읽기 →C-RUBIN006-04 / paragraphs: P026–P028; images: I06발행처의 관측 보고 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
- 최대 P90 interactivity는 Rubin TRTLLM276.24, GB300 TRTLLM171.53 TPS로 약61% 차이지만 GB300 SGLang은 Rubin과 비슷한 최대 속도에 도달한다. · 분석 근거 읽기 →C-RUBIN006-06 / paragraphs: P029–P031; images: I07발행처의 관측 보고 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
- 100 TPS에서 Rubin은59.38M total tok/s/utility MW로 GB300 SGLang28.47M의2.09배다. 170 TPS에서는 SGLang 대비5.56배이며 TRTLLM 대비 약62.9배라고 설명한다. · 분석 근거 읽기 →C-RUBIN006-10 / paragraphs: P048–P058; images: I01, I15, I16, I17발행처 추정 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
커널과 엔진이 모델의 잠재 효율을 실제 처리량으로 구현한다.
첫날 지원과 최종 성숙을 구분하며 이론·실측 조건 일치 필요.
연결 근거 · 해석
분석자의 연결 해석 · 기록 2026-10-12 · 실제 시작 시점 미확정
이 연결은 독립 검증 전인 분석자의 해석입니다.
- DeepSeek 커널의 Ascend 지원을 표방하지만 공개 코드는 Hopper·Blackwell 중심이고, 발행처는 H200의 day-zero 지원을 실현했으며 Blackwell·AMD 지원은 진행 중이라고 보고한다. · 분석 근거 읽기 →C-CODE003-14 / P047-P052발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
- 발행처의 V4 초기 H200 실험은 20 tok/s 사용자 응답속도 조건에서 GPU당 약 150 tok/s를 보고하고 V3 비교값은 약 1300~2300 tok/s라고 제시한다. · 분석 근거 읽기 →C-CODE003-15 / P053; P173; I11; I12발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
- MegaMoE 공개 자료는 일부 커널 조건에서 기존 non-fused 방식 대비 가속을 보고한다. · 분석 근거 읽기 →C-CODE003-38 / I09; I10발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
- 최대 P90 interactivity는 Rubin TRTLLM276.24, GB300 TRTLLM171.53 TPS로 약61% 차이지만 GB300 SGLang은 Rubin과 비슷한 최대 속도에 도달한다. · 분석 근거 읽기 →C-RUBIN006-06 / paragraphs: P029–P031; images: I07발행처의 관측 보고 · 독립 검증 전원문 발행 2026-09-14 · SemiAnalysis 원문 ↗
어떤 역할을 맡는 기업인가
| 기업·주체 | 연결되는 역할 |
|---|---|
| DeepSeek·vLLM·SGLang·TRT-LLM | 공개 커널과 런타임 |
| NVIDIA·AMD·Huawei | 서로 다른 하드웨어 지원 단계 |
연결된 자료에 등장한 역할 사례입니다. 공식 계약·현재 실적이나 선두 지위의 확인표, 상장주 추천 목록은 아닙니다.
흐름이 이어지는지 확인할 것
- 공개 코드·재현 성능·고객 실제 가동
- 동일 지연 조건의 처리량·청구 비용
이 판단을 만든 글과 근거
- DeepSeek 커널의 Ascend 지원을 표방하지만 공개 코드는 Hopper·Blackwell 중심이고, 발행처는 H200의 day-zero 지원을 실현했으며 Blackwell·AMD 지원은 진행 중이라고 보고한다. · 분석 근거 읽기 →C-CODE003-14 / P047-P052발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
- 발행처의 V4 초기 H200 실험은 20 tok/s 사용자 응답속도 조건에서 GPU당 약 150 tok/s를 보고하고 V3 비교값은 약 1300~2300 tok/s라고 제시한다. · 분석 근거 읽기 →C-CODE003-15 / P053; P173; I11; I12발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
- MegaMoE 공개 자료는 일부 커널 조건에서 기존 non-fused 방식 대비 가속을 보고한다. · 분석 근거 읽기 →C-CODE003-38 / I09; I10발행처의 관측 보고 · 독립 검증 전원문 발행 2026-04-24 · SemiAnalysis 원문 ↗
원문 주장을 연결한 해석입니다. 같은 원문을 여러 해설에서 사용해도 독립 증거가 늘어나지는 않습니다. 기술·계약의 실제 시작 시점이 불명확한 관계는 미확정으로 남겼습니다.