2장
말의 지도를 만드는 AI
언어모델은 어떻게 작동하는가
핵심 정리
사용자가 질문하면 챗봇은 입력 문맥을 토큰으로 나누고, 토큰 사이의 관계를 계산한 뒤 다음 토큰의 확률 분포를 만든다. 그중 하나를 선택하는 과정을 반복하면서 답변을 생성한다. ‘이해한다’는 말은 결과가 그렇게 보인다는 뜻이지, 인간과 같은 방식이라는 뜻은 아니다. 사전 학습은 폭넓은 언어 처리 능력의 기반을 만들고, 사후 학습은 지시를 따르는 방식과 말투, 안전 행동을 조정한다. 이 구분은 앞으로 다룰 환각과 아첨을 이해하는 열쇠가 된다.
이 장의 본문은 책에서 읽을 수 있습니다.
출간 이후 달라진 것
책이 나온 뒤 바뀐 사실, 새 통계, 실제 사례의 후속 소식을 저자가 적습니다.
아직 이 장에 덧붙인 내용이 없습니다.
참고 자료
부록 8에 밝힌 이 장의 출처입니다. 주소가 있는 자료는 바로 열 수 있습니다.
- Peter Lee, ‘Learning from Tay’s introduction’, Microsoft Official Blog, 2016-03-25 · 원문 열기 (새 창)
- Vaswani et al., ‘Attention Is All You Need’, NeurIPS 2017 · 원문 열기 (새 창)
- Radford et al., ‘Language Models are Unsupervised Multitask Learners’, OpenAI, 2019 · 원문 열기 (새 창)
- Ouyang et al., ‘Training language models to follow instructions with human feedback’, NeurIPS 2022 · 원문 열기 (새 창)
- Hoffmann et al., ‘Training Compute-Optimal Large Language Models’, arXiv:2203.15556, 2022 (친칠라 scaling 연구) · 원문 열기 (새 창)