B01세부 흐름도모델·추론 서빙

현행 큰 흐름 3 · 추론·메모리 ↗

전체 HBM 수요 감소가 아니라 연산·조회 경로별 절감

KV 압축·희소 Attention·MoE 전송 감소는 다른 최적화이며 같은 요청의 처리량·정확도를 맞춘 뒤 중복절감 없이 합산

P1 · 다음 검증: 직접 변화와 제품별 경제성을 구체화할 쟁점

확인할 이유: 압축·희소조회·MoE 통신은 다른 메커니즘이며 절감 합산 오해 위험

최신 인과 감사 · 2026-10-16 · 세부 흐름 B01

전체 HBM 수요 감소가 아니라 연산·조회 경로별 절감

새 근거 반영

이전 분석에 새로 추가된 근거: MEM-2410. 산업 가설의 재평가이며, 원문 모든 문장·그림과 고객 수주를 새로 전수 검증했다는 뜻은 아닙니다.

현행 7+1 소속 · 추론·메모리 ↗

최신 W2W↔D2W 전파감사 v2.2 ↗ · 세부흐름 최신 v2.0의 변경·반증 이력 ↗

기존 내러티브의 전제

모든 상태를 HBM에 두고 더 크게 만든다

수정한 인과·대안

KV 압축·희소 Attention·MoE 전송 감소는 다른 최적화이며 같은 요청의 처리량·정확도를 맞춘 뒤 중복절감 없이 합산

경쟁·보완하는 세부 경로 3개

1

KV 압축

기존의 기대

기존 세션의 상태 전체 유지

바뀐 선택·조건

lossless/lossy KV 압축으로 가용 세션 늘리기

승패를 가를 실제 관측

압축·해제 시간과 답변 품질

2

Sparse / 선택적 읽기

기존의 기대

모든 과거 토큰 조회

바뀐 선택·조건

상위K·블록별 접근으로 필요한 KV만 읽기

승패를 가를 실제 관측

인덱서·routing 연산비와 attention 품질

3

MoE / 통신 최적화

기존의 기대

모든 expert의 무조건 통신 가정

바뀐 선택·조건

토큰별 expert만 통신·재배치

승패를 가를 실제 관측

NoC·네트워크 혼잡과 실제 전체 지연

제품 수요가 이동하는 경로

입력 길이×실제 읽은 바이트/토큰, 정확도, TTFT/TPOT

기술

SLA 동일 조건의 end-to-end 바이트·FLOP 계측

사용

실제 긴 세션·고동시성 유료 트래픽이 해당 최적화를 사용하는가

정책

수출통제는 메모리 장비 선택에 영향 가능하나 알고리즘 자체 보조금은 미확인

이 해석을 뒤집을 조건

품질 저하·선택 연산 오버헤드가 메모리 절감 이득을 초과

이 수정에 연결된 새 근거 1건 ＋

MEM-2410 · 메모리 최적 층수·대역폭·Host DRAM 경쟁 · 2026-09~10

근거 종류: 분석 통합 + 저자 전망

고적층 수요·용량 성장과 고대역폭 수요를 분리한다. 저적층 제품·DRAM 오프로딩은 HBM 매출 구성요소와 서버 DRAM 수익성을 동시에 바꿀 수 있음.

반론·미확인: 한 모델·특정 SLA에서 저적층 유리하다는 것은 전체 제품/출하 구조의 확정이 아니며 더 긴 모델/KV 및 동시성에서 역전.

원장 또는 원자료 ↗

다른 흐름과의 조건부 연결 1건

두 산업의 변화를 기계적으로 연결하지 않습니다. 어떤 실제 조건에서 한쪽이 다른 쪽을 촉진·대체·잠식하는지 기록합니다.

B01C04대체·상쇄

성립 조건KV 압축·희소화가 동일 품질에서 HBM 유효 용량/읽기량을 줄이는 경우

수혜 이동HBM GB/워크로드 증가율 하방 가능

금지할 비약HBM BW·XPU 수 증가나 다른 동시성 증가까지 동시에 감소했다고 일반화 금지

기존 2026-10-14 인과 도식 · 변경 전 가설 보기
변화의 출발점

긴 문맥과 MoE 사용 확대

변화 방향 · 전 상태 저장·읽기 → 압축·선택적 조회

문제와 제약

모든 상태를 저장·읽고 Expert를 이동할 때의 비용

긴 문맥의 전체 KV와 expert 이동 비용을 줄이는 각기 다른 알고리즘 등장

보완·독립 기능

3개 분석 경로

서로 다른 기능·원인 또는 보완 수단. 모두 필요한 연속 단계로 오인하지 않습니다.

병렬 경로 3개 · 좌우로 밀어 비교

상태 압축

현재 문제·제약

KV·Recurrent 용량 부담

대응·구매 후보

압축 캐시·정확성 검사

관련 구매자

모델·서빙 개발

선택적 읽기

현재 문제·제약

전체 문맥 반복 탐색

대응·구매 후보

Sparse Attention 인덱서

관련 구매자

AI 모델 개발

전문가 통신

현재 문제·제약

GPU간 All-to-all 지연

대응·구매 후보

Expert Dispatch·Collective

관련 구매자

네트워크·엔진

수요 연결 · 검증 전 가설

메모리·선택·통신 비용을 한 모델에서 공동 측정

구매·기능 후보 · KV·recurrent 압축·Sparse Attention·MoE dispatch

가치 포착 여부는 별도 검증

가치사슬과 기업 경쟁력 변화

전체 End-to-end SLA 비용이 개선될 때 가치 발생

이 구조는 기존 분석을 재표현한 것이며, 기술 채택·외부 유료 구매·기업 이익의 발생을 자동으로 뜻하지 않습니다.

핵심 검증 질문

품질 저하·선택 연산 오버헤드가 메모리 절감 이득을 초과

기존 검증 질문(보존): 압축·희소조회·전문가 통신의 부분 효과를 합산하지 않을 때 전체 지연과 품질은 어떻게 변하는가?

2026-10-14 구매시장 가설·기존 검증 지표 · 이전 분석

예상되는 구매자·기능 (독립 구매 검증 전)

  • 압축 캐시·정확성 검사 — 모델·서빙 개발
  • Sparse Attention 인덱서 — AI 모델 개발
  • Expert Dispatch·Collective — 네트워크·엔진

실제로 관측할 지표

  • 같은 품질의 end-to-end bytes/token·p90 지연
  • 연구·실증·채택·계약·양산·운영 단계별 사실을 구분
  • 대체품·내재화·기존 부품 감소를 차감한 순수요·마진

반대 경로와 실패 조건

  • 선택기 오버헤드·품질 손실·동시성 상승
  • 기술 유용성만으로 독립 유료 매출과 종목 수혜를 단정하지 않음

연결된 다른 세부 흐름

  • B01·B02→B03·C04·C06 / 재배치: 압축/희소조회·학습형 기억은 메모리 접근 최적점을 바꾸지만 HBM/DRAM/SSD 총수요 증가의 증거는 아니다.
기존 원문 근거 · 읽기 범위와 검증 Gate

분석 기준일:

B01: 기존 SemiAnalysis 분석 R01, R12, R18를 승계하여 2026-10-14 재구성한 잠정적 인과 흐름입니다. 이번 페이지 작성 과정에서 원문·그림·수식 전체를 새로 전수 판독하거나 독립적인 최신 거래·양산 실적을 검증한 것은 아닙니다. 교차 변화·제품별 구매·기업 가치 포착은 확인할 가설입니다.