토큰 하나를 만들 때 메모리에서 일어나는 일: multi-head부터 batching까지
multi-head와 GQA, prefill과 decode, KV cache 크기, roofline, batching을 같은 4차원 예시와 Llama-3-70B 숫자로 끝까지 따라간다.
Category
Transformer, inference, serving, agent workload, token-level memory traffic.
multi-head와 GQA, prefill과 decode, KV cache 크기, roofline, batching을 같은 4차원 예시와 Llama-3-70B 숫자로 끝까지 따라간다.
작은 행렬 하나로 embedding, Q/K/V, attention, residual, FFN, 다음 토큰 선택, KV cache까지 모든 계산을 직접 따라간다.
embedding: token을 숫자로 바꾸는 법
embedding: token을 숫자로 바꾸는 법
LLM 답변은 왜 틀릴 수 있는가
1주차 복습: LLM에게 질문이 들어가면
prompt와 context window
확률, logit, sampling의 역할
다음 token 예측이라는 한 문장
token은 단어와 어떻게 다른가
검색, 규칙 기반 프로그램, LLM이 각각 잘 맞는 문제를 비교해 본다.