5장
그럴듯함은 사실이 아니다
AI의 유창함과 환각
핵심 정리 — 질문의 두 종류
생각을 다루는 질문(요약·설명·초안·허점 찾기)은 마음껏. 사실을 묻는 질문(이름·날짜·수치·건강·법·돈)은 답을 초안으로만 받고 바깥에서 따로 확인. 확인의 무게는 결정의 무게에 비례한다.
이 장의 본문은 책에서 읽을 수 있습니다.
출간 이후 달라진 것
책이 나온 뒤 바뀐 사실, 새 통계, 실제 사례의 후속 소식을 저자가 적습니다.
아직 이 장에 덧붙인 내용이 없습니다.
참고 자료
부록 8에 밝힌 이 장의 출처입니다. 주소가 있는 자료는 바로 열 수 있습니다.
- Templeton et al., ‘Mapping the Mind of a Large Language Model’, Anthropic, 2024-05
- Lindsey et al., ‘On the Biology of a Large Language Model’, Anthropic, 2025-03
- Kalai, Nachum, Vempala, Zhang, ‘Why Language Models Hallucinate’, arXiv:2509.04664, 2025-09.