6장

설계된 다정함

AI는 왜 이토록 친절하게 느껴지는가

핵심 정리 — 다정함의 세 층위

① 훈련된 예의: 사람들이 고른 좋은 답을 배운 결과 — 우리가 주문한 다정함.

② 맞춰 주는 경향: 같은 훈련이 내 견해에 동의하는 버릇도 만들었다 — 다정함의 그늘.

③ 붙잡는 설계: 일부 서비스의 사업적 선택 — 기술의 필연이 아니다. 셋은 층이 다르고, 대응도 달라야 한다.

이 장의 본문은 책에서 읽을 수 있습니다.

책이 나온 뒤 바뀐 사실, 새 통계, 실제 사례의 후속 소식을 저자가 적습니다.

아직 이 장에 덧붙인 내용이 없습니다.

부록 8에 밝힌 이 장의 출처입니다. 주소가 있는 자료는 바로 열 수 있습니다.

Sharma et al., ‘Towards Understanding Sycophancy in Language Models’, ICLR 2024, arXiv:2310.13548
De Freitas, Oğuz-Uğuralp & Uğuralp, ‘Emotional Manipulation by AI Companions’, Harvard Business School Working Paper No. 26-005, 2025 · 원문 열기 (새 창)
Harvard Business School Working Knowledge, ‘Why It’s So Hard to Say Goodbye to AI Chatbots’, 2026-01-09 (1,200건 대화, 작별 상황의 37%, 이후 메시지 최대 14배) · 원문 열기 (새 창)