3장
채팅창을 나서는 AI
AI 에이전트와 자율성의 경계
핵심 정리
에이전트는 스스로 목표를 정하지 않는다 — 사람이 정한 목적 안에서 하위 목표를 나누어 수행할 뿐이다. 권한이 커질수록 오류는 되돌리기 어려운 사고가 되므로, 초안·추천·실행의 권한을 나누고 인간 감독을 남겨두어야 한다. 미래를 맞히려 하기보다 ‘누가 목표를 정하는가, 무엇을 맡기는가, 누가 멈추는가’를 묻는 편이 현실적이다.
이 장의 본문은 책에서 읽을 수 있습니다.
출간 이후 달라진 것
책이 나온 뒤 바뀐 사실, 새 통계, 실제 사례의 후속 소식을 저자가 적습니다.
아직 이 장에 덧붙인 내용이 없습니다.
참고 자료
부록 8에 밝힌 이 장의 출처입니다. 주소가 있는 자료는 바로 열 수 있습니다.
- OECD, ‘Exploring possible AI trajectories through 2030’, 2026 · 원문 열기 (새 창)
- ILO, ‘Generative AI and Jobs: A Refined Global Index of Occupational Exposure’, Working Paper 140, 2025
- 고용노동부, 「APEC 미래 일자리 포럼(AI와 인구구조 변화) 개최」, 2026-04-06
- Hans Moravec, Mind Children: The Future of Robot and Human Intelligence, Harvard University Press, 1988 (모라벡의 역설)
- David Ha & Jürgen Schmidhuber, ‘World Models’, arXiv:1803.10122, 2018 · 원문 열기 (새 창)