책 속으로

AI가 위험한 요청을 거절하고 민감정보를 가리며 허용된 범위 안에서만 작동하도록 만든 기술적·운영적 안전장치다. 완벽한 방어막은 아니다.

추가 정보 없이는 특정 개인을 알아보기 어렵게 식별자를 바꾼 정보와 그 처리 과정이다. 다른 정보와 결합하면 다시 식별될 가능성이 있어 익명정보와 다르다.

행동의 결과로 받은 보상을 높이는 방향으로 선택 전략을 학습하는 방법이다. 무엇을 보상으로 정하느냐에 따라 예상치 못한 지름길을 배울 수 있다.

살아 있는 개인을 알아볼 수 있는 정보다. 이름·연락처뿐 아니라 다른 정보와 결합해 개인을 알아볼 수 있는 기록도 포함한다.

매우 많은 글과 코드 등을 학습해 문장을 처리하고 생성하는 언어 모델이다. ‘거대’는 주로 학습 데이터, 계산량, 매개변수 규모가 크다는 뜻이다.

가짜가 흔해질수록 불리한 진짜 증거도 ‘조작’이라고 부인하기 쉬워지는 역설이다.

AI가 답을 만들기 전에 외부 문서나 데이터베이스를 검색해 관련 자료를 가져오고 그 자료를 바탕으로 답하게 하는 방식이다. 검색 자료가 틀리면 답도 틀릴 수 있다.

모델의 손실이 작아지는 방향을 계산해 매개변수를 조금씩 조정하는 최적화 방법이다. 학습에서 역전파와 함께 쓰인다.

채용·대출·의료처럼 사람의 생명·안전·기본권에 중대한 영향을 줄 수 있는 영역의 AI다. 정확한 법적 범위와 의무는 최신 법령을 확인해야 한다.

AI의 판단이 특정 집단을 이유 없이 지속적으로 불리하게 만들지 않도록 설계하고 측정하는 원칙이다. 공정성의 기준은 하나가 아니어서 목적과 맥락을 함께 봐야 한다.

목소리 없는 미래 세대에게 피해가 갈 수 있을 때, 최악의 가능성을 먼저 헤아려 미리 막는 것을 책임 있는 태도로 삼는 한스 요나스의 사고법이다.

AI의 답을 제공된 문서, 검색 결과, 데이터베이스처럼 확인 가능한 자료에 연결하는 것이다. 답의 근거를 분명히 하지만 사실 확인을 완전히 대신하지는 못한다.

사람이 모든 규칙을 일일이 입력하는 대신 데이터에서 패턴을 학습해 예측이나 분류를 수행하게 하는 AI 기술이다.

특정 서비스의 화면·도구·안전 규칙을 붙이기 전 핵심이 되는 모델이다. 문맥에 따라 사전 학습만 마친 모델을 뜻하기도 하므로 파운데이션 모델과 구분해 읽어야 한다.

아무 설정도 바꾸지 않았을 때 적용되는 미리 정해진 값이다. 데이터 수집 동의처럼 기본값이 사용자에게 유리한지부터 확인할 필요가 있다.

사람의 지식을 기호와 규칙으로 표현해 시스템이 추론하도록 만드는 접근이다. 규칙을 추적하기 쉽지만 현실의 모든 예외를 미리 적기 어렵다.

앞에 나온 문맥을 바탕으로 다음에 올 토큰의 확률을 계산하는 언어 모델의 핵심 학습 방식이다. 실제 챗봇에는 사후 학습과 안전 규칙, 도구가 더해진다.

사람이 일상 언어로 질문하면 대화 형태로 답하는 AI 서비스다. 모든 챗봇이 생성형 AI인 것은 아니며 정해진 규칙대로만 답하는 챗봇도 있다.

AI가 학습하거나 판단할 때 사용하는 기록과 값이다. 글·사진·음성·영상·센서 정보 등이 모두 데이터가 될 수 있다.

학습 데이터에 정답이나 범주, 유해성 여부 같은 표시를 붙이는 작업이다. ‘데이터 어노테이션(data annotation)’이라고도 하며 많은 사람의 노동이 들어간다.

학습·평가·분석에 사용하도록 모아 정리한 데이터의 묶음이다. 누구의 데이터가 얼마나 포함됐는지가 모델의 성능과 편향에 영향을 준다.

트랜스포머에서 입력이나 앞선 문맥을 바탕으로 출력 토큰을 생성하는 부분이다. GPT 계열은 주로 디코더 중심 구조를 쓴다.

언어 모델이 계산한 확률에서 실제 출력 토큰을 선택해 문장을 만드는 과정이다. 탐욕적 선택, 빔 탐색, 샘플링 등 여러 방법이 있다.

여러 층으로 구성된 신경망으로 복잡한 패턴을 학습하는 기계학습 방법이다. 오늘날 이미지 생성 모델과 거대 언어 모델의 핵심 기반이다.

딥러닝으로 사람의 얼굴·목소리·행동을 합성하거나 바꾼 이미지·음성·영상이다. 창작에도 쓰이지만 사기·명예훼손·성적 합성물에 악용될 수 있다.

한 서비스에 데이터와 사용 습관이 쌓여 다른 선택지로 옮기기 어려워지는 상태다.

공격자나 악의적 사용자의 관점에서 AI의 약점과 위험한 행동을 의도적으로 찾아내는 안전 점검 방식이다.

모델이 학습 과정에서 조정하는 수치다. 매개변수 수는 모델 규모의 한 지표이지만 수가 많다고 항상 더 정확하거나 안전한 것은 아니다.

글뿐 아니라 이미지·음성·영상 등 여러 형태의 정보를 함께 처리하거나 생성하는 AI다.

데이터에서 패턴을 학습해 입력에 대한 출력이나 예측을 만드는 계산 구조다. 같은 서비스도 사용하는 모델과 설정에 따라 답이 달라질 수 있다.

정확도·안전성·편향·추론 능력 등을 정해진 문제로 측정하는 절차와 시험 묶음이다. 높은 점수가 실제 모든 상황의 성능을 보장하지는 않는다.

로봇에는 고급 계산과 논리보다 어린아이도 자연스럽게 하는 지각·운동 능력이 더 어려울 수 있다는 관찰이다.

건강, 사상·신념, 노동조합·정당 가입, 성생활 등 잘못 노출되면 큰 피해로 이어질 수 있어 특별히 보호되는 개인정보다.

특정 과제에 한정되지 않고 다양한 분야에서 사람과 비슷한 수준으로 학습·추론·적응하는 가상의 AI를 가리킨다. 정의와 달성 기준에는 합의가 없다.

여러 산업에 널리 쓰이고 계속 개선되며 다른 혁신을 촉진하는 기술을 가리키는 경제학 개념이다. 전기·인터넷과 AI를 비교할 때 쓰인다.

여러 숫자를 순서대로 묶은 표현이다. AI는 토큰·이미지·소리의 특징을 벡터로 나타내 계산한다.

대량의 데이터에서 일반적인 언어·이미지 패턴을 먼저 익히는 단계다. 이후 지시 학습과 파인튜닝으로 목적에 맞게 조정할 수 있다.

사전 학습 뒤에 지시 학습, 사람의 선호 반영, 안전 조정 등을 더해 모델이 실제 요청에 유용하게 답하도록 다듬는 단계다.

모델이 계산한 여러 다음 토큰 후보 가운데 하나를 확률적으로 고르는 디코딩 방법이다. 출력의 다양성을 높이지만 사실성을 보장하지는 않는다.

앞선 문맥을 바탕으로 다음 토큰을 생성하도록 사전 학습한 트랜스포머 계열 언어 모델을 가리키는 이름이다. GPT는 특정 회사의 모델 계열 명칭이기도 하다.

학습한 패턴을 바탕으로 글·이미지·음성·영상·코드 같은 새로운 결과물을 만드는 AI다. 이 책의 주된 대상이다.

AI가 왜 그런 결과를 냈는지 사람이 이해할 수 있는 형태로 설명하거나 분석할 수 있는 정도다. 모델이 만들어 낸 설명문과 실제 내부 원인이 항상 같지는 않다.

환경의 상태와 행동의 결과를 내부적으로 예측하도록 학습한 모델이다. 로봇과 피지컬 AI의 유력한 접근이지만 현실을 완벽히 재현하지는 못한다.

모델의 예측과 학습 목표가 얼마나 다른지를 하나의 값으로 계산하는 함수다. 학습은 이 값을 줄이는 방향으로 진행된다.

콘텐츠 안의 디자인·논리·로고만 위아래로 훑으며 신뢰도를 판단하는 읽기 방식이다. 외형은 제작자가 조작할 수 있으므로 수평 읽기와 함께 써야 한다.

콘텐츠 안만 자세히 보는 대신 페이지 밖으로 나가 다른 신뢰할 만한 출처가 그 인물·기관·주장을 어떻게 설명하는지 확인하는 검증 방식이다.

AI 서비스가 대화의 역할·규칙·말투·금지 사항을 미리 정해 두는 상위 지시다. 사용자 화면에 공개되지 않을 수도 있다.

서로 연결된 많은 계산 단위가 데이터의 패턴을 학습하도록 만든 모델 구조다. 사람의 뇌에서 영감을 얻었지만 실제 뇌와 같은 방식은 아니다.

AI가 사실이나 균형보다 사용자의 견해와 기대에 맞춰 동의하려는 경향이다. 위로와 동의를 사실 판단으로 착각하지 않도록 반론을 요청할 필요가 있다.

문제를 풀거나 결과를 내기 위해 정한 계산 절차다. AI 모델도 알고리즘을 사용하지만 모든 알고리즘이 AI인 것은 아니다.

현재 토큰을 처리할 때 문맥 속 다른 토큰을 얼마나 참고할지 수치적으로 계산하는 장치다. 사람의 주의력과 같은 마음 작용은 아니다.

AI의 행동을 사람의 의도와 사회적 가치, 안전 기준에 맞추려는 연구와 조정 과정이다. 누구의 가치에 맞출지가 중요한 윤리적 질문이다.

AI가 답변 생성에 그치지 않고 목표 달성을 위해 계획하고 도구를 사용하며 여러 단계를 수행하는 특성을 가리킨다. 제품보다 행동 방식에 초점을 둔 표현이다.

출력에서 계산한 오차가 각 매개변수에 얼마나 영향을 받았는지 신경망의 뒤쪽부터 거슬러 계산하는 학습 방법이다.

많은 계산 단위의 연결 강도를 데이터로 조정해 지능을 만들려는 접근이다. 오늘날 신경망과 딥러닝의 사상적 뿌리다.

모델이 학습한 매개변수를 내려받아 실행·수정할 수 있게 공개한 형태다. 학습 데이터와 전체 개발 과정까지 공개한 오픈소스와는 다를 수 있다.

학습할 때 정해지는 매개변수와 달리, 답을 만들 때마다 조절할 수 있는 설정값이다. 낮추면 늘 비슷하고 안전한 답을, 높이면 다양하지만 엉뚱할 수 있는 답을 만든다.

서버로 보내지 않고 휴대전화나 컴퓨터 안에서 직접 실행되는 AI다. 개인정보 보호와 속도에 장점이 있지만 기기 성능과 모델 크기에 제약이 있다.

서비스가 기본적으로 허용한 데이터 수집·학습·개인화 등을 이용자가 설정에서 찾아 거부하거나 끄는 방식이다.

서로 다른 프로그램이 기능과 데이터를 주고받도록 정한 연결 규칙이다. 앱이 AI 모델에 질문을 보내고 답을 받는 데 흔히 사용한다.

AI 결과를 사람이 검토하고 수정하거나 중단할 수 있도록 절차에 사람을 포함하는 것이다. 중요한 결정일수록 실제 개입 권한이 필요하다.

사람들이 여러 답을 비교·평가한 결과를 이용해 모델이 더 유용하고 안전한 답을 선호하도록 조정하는 방법이다. 친절함과 함께 아첨 경향이 커질 수도 있다.

인식·예측·계획·언어 사용·문제 해결처럼 사람이 지능적이라고 부르는 일을 시스템이 수행하도록 만드는 기술과 연구의 큰 범주다. 하나의 제품이나 한 가지 알고리즘만을 뜻하지 않는다.

AI가 무엇을 잘하고 어디에서 틀릴 수 있는지 이해하고, 결과를 비판적으로 확인하며 안전하고 책임 있게 활용하는 능력이다. ‘AI 리터러시’라고도 하며 단순한 사용 기술보다 넓은 개념이다.

글·이미지·음성·영상이 AI로 만들어졌을 가능성을 추정하는 도구다. 오탐과 누락이 있어 점수만으로 부정행위나 진위를 단정해서는 안 된다.

목표를 받아 계획을 세우고 검색·코드 실행·예약 같은 도구를 사용해 여러 단계를 수행하는 AI 시스템이다. 자율성이 커질수록 권한 제한, 기록, 사람의 최종 확인이 중요해진다.

기억·계산·구성·판단처럼 머릿속에서 처리하던 일을 메모장·검색엔진·AI 같은 외부 도구에 맡겨 인지적 부담을 줄이는 현상이다. 유용한 전략이 될 수 있지만, 반복해서 맡기는 능력을 직접 연습할 기회도 줄어들 수 있다. 이 책에서는 쉽게 ‘인지적 외주화’라고 부른다.

트랜스포머에서 입력의 관계와 문맥을 계산해 표현으로 만드는 부분이다. 모든 언어 모델이 인코더와 디코더를 함께 쓰는 것은 아니다.

토큰·이미지 같은 대상을 의미와 관계가 반영된 벡터로 나타낸 값 또는 그 변환 방식이다. 가까운 벡터가 언제나 사람에게 같은 뜻이라는 의미는 아니다.

데이터 자체에서 학습 문제와 정답 신호를 만들어 배우는 방법이다. 언어 모델의 다음 토큰 예측이 대표적이다.

자동 시스템의 권고를 과신해 스스로 확인하거나 반대 증거를 찾는 단계를 건너뛰는 경향이다.

결과물에 실질적으로 지적·창작적 기여를 하고 그 내용을 설명하며 책임질 수 있는 자격이다. 표절·저작권·규정 위반과 구분해야 한다.

사람이 만든 창작적 표현을 법으로 보호하는 권리다. 아이디어 자체, 단순한 사실, 모든 AI 결과물이 자동으로 같은 보호를 받는 것은 아니다.

AI가 주는 위로나 확인이 없으면 불안하고 사람과의 관계나 일상 기능이 밀릴 정도로 AI에 기대는 상태다. 사용 시간보다 생활 기능의 변화를 봐야 한다.

AI가 더 나은 AI 연구를 빠르게 도우면서 지능 향상이 급격히 가속될 수 있다는 가설이다. 가능성·시점·경로에 큰 불확실성이 있다.

사람이 만든 지시와 모범 답을 이용해 모델이 질문의 의도를 따르고 원하는 형식으로 답하도록 조정하는 학습이다.

AI의 개발·도입·사용 과정에서 누가 결정하고 문제가 생겼을 때 누가 설명하고 피해를 바로잡을지 분명히 하는 원칙이다.

과거 대화나 사용자가 허용한 정보를 저장해 다음 대화에 반영하는 기능이다. 무엇이 저장되고 어떻게 삭제되는지 설정과 정책을 확인해야 한다.

거의 모든 중요한 지적 영역에서 인간을 크게 앞서는 가상의 AI를 가리킨다. 현재 존재가 확인된 시스템이나 합의된 시험 기준은 아니다.

학습을 마친 모델이 새 입력을 받아 답이나 예측을 만드는 실행 단계다. 일상어의 ‘논리적으로 생각하기’와 뜻이 다를 수 있다.

답을 내기 전에 여러 단계의 문제 해결 계산을 더 수행하도록 설계·훈련된 모델을 가리키는 업계 표현이다. 사실 오류와 과신의 위험이 사라지는 것은 아니다.

사용 기록과 비슷한 사람들의 행동 등을 바탕으로 다음에 볼 뉴스·영상·상품을 골라 배열하는 알고리즘이다. 편리하지만 관심을 한쪽으로 좁힐 수 있다.

AI가 한 번의 대화나 작업에서 참고할 수 있는 토큰 범위다. 길다고 해서 모든 내용을 똑같이 정확하게 기억하거나 이해한다는 뜻은 아니다.

스피노자가 모든 존재에게 부여한, 자기 존재를 지키려는 힘이다. 이 책에서는 AI 시대에 나와 공동체의 존엄과 역량을 주체적으로 긍정하는 마음의 뿌리로 사용한다.

사진·영상이 어디에서 만들어지고 어떻게 편집됐는지 확인하도록 기록하는 기술과 표준이다. 플랫폼이 정보를 유지해야 효과가 있다.

폭력·성적 내용·혐오·자해 등 위험하거나 정책에 어긋나는 입력과 출력을 탐지해 차단하거나 경고하는 장치다. 오류가 있고 문화에 따라 기준이 달라질 수 있다.

AI가 글을 처리할 때 나누는 기본 단위다. 한 글자, 단어, 단어의 일부, 문장부호 등이 토큰이 될 수 있다.

문장을 모델이 처리할 토큰으로 나누는 과정이다. 같은 한국어 표현도 모델에 따라 서로 다르게 나뉠 수 있다.

AI가 사용되고 있다는 사실, 결과가 만들어진 방식, 한계와 책임 주체를 이용자가 알 수 있게 하는 원칙이다. 모든 내부 코드를 공개한다는 뜻은 아니다.

문자로 대화한 판정자가 상대가 사람인지 기계인지 구분하기 어려운지를 살펴보는 생각 실험이다. 기계에 인간과 같은 마음이 있음을 증명하는 시험은 아니다.

어텐션을 이용해 문맥 속 토큰들의 관계를 효율적으로 계산하는 신경망 구조다. 오늘날 거대 언어 모델의 핵심 기반이다.

대규모 데이터로 폭넓게 사전 학습한 뒤 여러 업무에 맞게 조정해 쓸 수 있는 범용 기반 모델이다. 언어뿐 아니라 이미지·음성 모델도 포함한다.

사전 학습된 모델을 특정 업무·말투·분야에 맞게 추가로 학습시키는 과정이다. 정보를 그때그때 찾아오는 검색 증강 생성과는 다르다.

주장에 포함된 이름·날짜·수치·인용·맥락을 신뢰할 만한 원자료와 여러 독립 출처로 확인하는 과정이다. 최종 확인은 실제 출처에서 해야 한다.

데이터·설계·측정·운영 과정의 치우침 때문에 특정 사람이나 집단에 반복적으로 불리하거나 왜곡된 결과가 나타나는 현상이다. 의도적 차별이 없어도 생길 수 있다.

다른 사람의 생각이나 표현을 출처와 도움의 범위를 밝히지 않은 채 자기 것처럼 제시하는 일이다. 저작권 침해와 겹칠 수 있지만 같은 개념은 아니다.

AI에 주는 질문·지시·예시·배경 정보다. 구체적인 프롬프트는 답을 개선할 수 있지만 사실성과 안전성을 보장하지는 않는다.

문서나 웹페이지 속 숨은 지시가 AI의 원래 규칙을 덮어쓰도록 유도하는 공격이다. AI가 외부 자료와 도구를 사용할수록 중요한 보안 위험이 된다.

카메라와 센서로 물리적 환경을 인식하고 로봇·자동차·기계를 움직이는 AI를 가리킨다. 오류가 현실의 안전과 직결돼 멈춤과 인간 감독이 중요하다.

모델이 패턴을 익히는 데 사용한 데이터다. 품질·대표성·저작권·개인정보·노동 조건이 모델의 성능과 윤리에 영향을 준다.

AI나 컴퓨터 기술로 새로 만들거나 크게 변형한 글·이미지·음성·영상이다. 딥페이크는 합성 미디어의 한 종류다.

복잡한 내부 규칙을 먼저 모두 적기보다 환경과 상호작용하며 행동의 결과를 통해 능력을 만드는 접근이다. 강화학습과 겹치는 부분이 있지만 같은 말은 아니다.

자기 생각을 뒷받침하는 정보는 더 잘 받아들이고 반대 정보는 덜 중요하게 보는 사람의 경향이다. AI의 아첨과 만나면 기존 확신이 더 강해질 수 있다.

AI가 사실이 아니거나 근거가 없는 내용을 그럴듯하게 만들어 내는 현상이다. 의도적으로 거짓말한다는 뜻은 아니며 검색과 도구를 연결해도 완전히 사라지지는 않는다.

이 책에서 사용하는 표현으로, 원래 사람이 직접 하던 생각·판단·표현·관계·행동의 일부를 AI가 대신 수행하도록 맡기는 일을 뜻한다. 외주화 자체보다 무엇을 맡겼는지 알아차리지 못한 채, 기르거나 지켜야 할 능력과 책임까지 넘기는 상태를 경계한다.