토큰 하나를 만들 때 메모리에서 일어나는 일: multi-head부터 batching까지
multi-head와 GQA, prefill과 decode, KV cache 크기, roofline, batching을 같은 4차원 예시와 Llama-3-70B 숫자로 끝까지 따라간다.
Tag
1개의 글이 이 태그에 연결되어 있습니다.
multi-head와 GQA, prefill과 decode, KV cache 크기, roofline, batching을 같은 4차원 예시와 Llama-3-70B 숫자로 끝까지 따라간다.