숫자로 끝까지 따라가는 Attention: 토큰 ID에서 다음 토큰까지
작은 행렬 하나로 embedding, Q/K/V, attention, residual, FFN, 다음 토큰 선택, KV cache까지 모든 계산을 직접 따라간다.
Tag
6개의 글이 이 태그에 연결되어 있습니다.
작은 행렬 하나로 embedding, Q/K/V, attention, residual, FFN, 다음 토큰 선택, KV cache까지 모든 계산을 직접 따라간다.
embedding: token을 숫자로 바꾸는 법
embedding: token을 숫자로 바꾸는 법
1주차 복습: LLM에게 질문이 들어가면
확률, logit, sampling의 역할
다음 token 예측이라는 한 문장