attention의 직관: 임베딩만으로는 왜 부족한가
embedding: token을 숫자로 바꾸는 법
Category
Transformer, inference, serving, agent workload, token-level memory traffic.
embedding: token을 숫자로 바꾸는 법
embedding: token을 숫자로 바꾸는 법
LLM 답변은 왜 틀릴 수 있는가
1주차 복습: LLM에게 질문이 들어가면
prompt와 context window
확률, logit, sampling의 역할
다음 token 예측이라는 한 문장
token은 단어와 어떻게 다른가
검색, 규칙 기반 프로그램, LLM이 각각 잘 맞는 문제를 비교해 본다.