직접 코딩 0% — CLAUDE CODE로 진짜 서비스 만들고 배포·운영까지

1장. 생성형 AI의 작동 원리 이해하기

AI는 천재처럼 보이지만, 원리는 놀라울 정도로 단순합니다.

1장 · 탐구 질문

AI는 왜 같은 질문에
매번 다른 답을 할까요?

원리를 알면 이상한 답의 이유가 보이고,
왜 통제가 필요한지도 이해됩니다.

1장의 흐름

오늘 다룰 다섯 가지

1.1다음 토큰을 예측하는 전문가

1.2토큰·확률·온도

1.3할루시네이션

1.4프롬프트를 넘어 통제로

1.5Claude 계정 만들기

오늘의 학습목표

수업을 마치면 할 수 있는 것

01 · 설명

텍스트 생성 원리를 다음 토큰 예측으로 설명한다.

02 · 구분

토큰·확률·온도의 역할을 구분한다.

03 · 검증

할루시네이션을 식별하고 중요한 정보를 확인한다.

04 · 판단

프롬프트만으로 부족한 이유와 통제의 필요성을 설명한다.

1.1 다음 토큰 예측

생성형 AI의 핵심 원리는 하나

지금까지의 문맥을 바탕으로
다음에 올 토큰을 예측합니다.

오늘 날씨가좋다흐리다춥다…

실제 서비스는 예측 모델에 대화 기록·지침·검색·도구 사용을 결합합니다.

1.1 다음 토큰 예측

선택하고, 붙이고, 다시 예측합니다

1문맥 읽기오늘 날씨가

→

2후보 평가좋다·흐리다·춥다

→

3토큰 선택“흐리다”

↺

4반복문장→문단→글

1.1 비유

아주 똑똑한 ‘단어 자판기’

문장 입력

다음 토큰

출력

방대한 자료에서 익힌 패턴으로
그럴듯한 다음 토큰을 뽑습니다.

같은 버튼을 눌러도
다른 결과가 나올 수 있습니다.

1.1 중요한 구분

예측은 사실 보장이 아닙니다

AI가 잘하는 것

문맥에 어울리는
답 만들기

AI가 보장하지 않는 것

답이 실제로
사실인지 확인하기

AI가 사람과 같은 방식으로 이해한다고 단정할 수 없습니다.

1.1 미니 활동

다음에 올 말은 하나뿐일까요?

① 오늘 날씨가 _____

② 한국의 수도는 _____

③ 오늘 저녁에는 _____

각 문장에 올 수 있는 후보를 3개씩 적고, 후보가 여러 개인 이유를 생각해 보세요.

1.2 토큰

AI가 글을 처리하는 작은 단위

안녕하세요→

[안녕하세요]또는[안] [녕] [하] [세요]

토큰을 나누는 방식은 모델마다 다릅니다.
한 번에 처리할 수 있는 토큰 수에는 한계가 있습니다.
한국어가 영어보다 더 많은 토큰을 쓰는 경우가 있습니다.

위 분할은 설명용 예시입니다. 실제 분할은 모델마다 다릅니다.

1.2 토큰

토큰을 알아야 하는 이유

양의 한계

긴 대화와 문서는 한 번에 모두 처리하지 못할 수 있습니다.

조건의 차이

모델·요금제·파일 제한·대화 길이에 따라 달라집니다.

실전 대응

지나치게 길면 나누거나 먼저 요약합니다.

이 책의 실습에서는 한국어로 충분히 자세히 지시해도 됩니다.

1.2 확률

AI는 후보마다 가능성을 매깁니다

뭐25%

치킨15%

같이12%

비가8%

기타…

“오늘 저녁에” 뒤의 후보를 설명하기 위한 가상 수치입니다.

1.2 확률

가장 높은 후보만 고르는 것은 아닙니다

서비스의 생성 방식에 따라
가장 높은 후보를 우선할 수도,
여러 후보 중 확률적으로 선택할 수도 있습니다.

그래서 같은 질문에도 다른 답이 나올 수 있습니다.

1.2 온도

주사위의 무게를 바꾸는 설정

낮은 온도

●

일관성 ↑

높은 확률 후보에 집중
보고서·번역 등에 적합

높은 온도

◆

다양성 ↑

낮은 확률 후보 기회 증가
아이디어·창작 등에 적합

1.2 온도 · 오해 방지

온도 하나로 모든 것이 결정되지는 않습니다

높은 온도가 모든 후보를 같은 확률로 만들지는 않습니다.
일반 대화 서비스에서는 온도를 직접 조절하지 못할 수 있습니다.
대화 기록·시스템 지침·검색 결과·모델 업데이트도 답을 바꿉니다.
온도를 낮춰도 사실성이 자동으로 보장되지는 않습니다.

1.2 생성 흐름

다음 토큰 예측과 선택의 반복

01토큰으로 나눔

→

02후보 확률 계산

→

03생성 설정으로 선택

↺

04글이 될 때까지 반복

이 한 문장이면 충분합니다.

1.2 개념 활동

설명을 알맞은 개념에 연결하세요

AAI가 글을 나누어 처리하는 단위

B다음 후보에 매겨지는 가능성

C후보 선택의 다양성에 영향을 주는 설정

토큰확률온도

1.3 할루시네이션

AI는 확신에 찬 오답을 만들 수 있습니다

Hallucination

존재하지 않는 것을 있다고 말하거나,
틀린 것을 맞다고 주장하는 현상

문맥에 맞는 답을 만드는 능력과 사실 확인 능력은 다릅니다.
질문이 모호하거나 근거가 없을 때 그럴듯한 답을 만들 수 있습니다.
검색·외부 데이터가 있어도 잘못 해석하면 틀릴 수 있습니다.

1.3 할루시네이션

실제로 벌어지는 다섯 가지 유형

01없는 사실

02틀린 숫자

03없는 기능·명령

04가짜 인용

05앞뒤 모순

유창하고 논리적인 어조는 정확성의 증거가 아닙니다.

1.3 핵심 위험

모르는 것을
아는 것처럼 말합니다

“모르겠습니다”보다 위험한 것은
확인하지 않은 답을 “확실합니다”라고 말하는 것입니다.

1.3 판별 활동

무엇을 확인해야 할까요?

“서울 인구는 약 ○○명입니다.”확인할 것: __________________

“이 논문은 네이처에 실렸습니다.”확인할 것: __________________

“이 명령어를 실행하면 됩니다.”확인할 것: __________________

“아인슈타인이 이렇게 말했습니다.”확인할 것: __________________

1.3 지금 할 수 있는 대응

할루시네이션에 대처하는 세 가지

01

직접 확인

숫자·날짜·이름은 공식 자료와 교차 검증

02

검색으로 출처 요구

기억이 아니라 실제 링크를 찾게 요청

03

다시 질문

답이 크게 달라지면 불안정성 신호로 판단

핵심은 출처를 믿는 것이 아니라 출처를 직접 열어보는 것입니다.

1.3 대응의 한계

같은 답이 두 번 나와도 사실이라는 뜻은 아닙니다

수동 확인원문·공식 출처 대조

근거 연결회사 문서에서 출처 제시

자동 검증결과 테스트와 재검사

실제 데이터근거 없는 생성 가능성 축소

어떤 장치도 정확성을 완전히 보장하지 않습니다. 중요한 결과는 사람이 최종 확인합니다.

1.4 통제가 필요한 이유

프롬프트는 시작일 뿐입니다

프롬프트“이것을 해줘”

＋

통제

“이것은 하지 마”
“이 조건을 넘지 마”
“결과를 시험해”
“실패하면 복구해”
“현재 상태를 보여줘”

1.4 통제 장치

불확실한 AI에 다섯 가지 고삐를 채웁니다

규칙금지·원칙울타리범위·한도검증테스트·근거안전벨트실패·복구모니터링상태·비용

프롬프트와 하네스는 대체 관계가 아니라 함께 사용하는 구조입니다.

1.4 실제 서비스의 책임

AI가 답해도 책임은 사라지지 않습니다

고객 응대 챗봇

할인 규정을 잘못 안내

→운영 기업

챗봇 안내에 대한 책임

정책 근거 · 검증 · 사람의 개입이 필요합니다.

1.4 책의 여정

통제를 향해 한 단계씩 나아갑니다

PART 1잘 말하기그래도 다르게 답하면?

PART 2실제 일 맡기기결과를 믿을 수 있나?

PART 3구조적으로 통제규칙·검증·복구

PART 4배포·운영실세계 책임

1.5 Claude 계정 만들기

무료로 시작하고, 필요할 때 업그레이드

가입 화면과 순서는 계정·시점에 따라 달라질 수 있습니다.
플랜 화면에서는 먼저 무료(Free)를 선택합니다.
데스크톱 앱 설치는 선택 사항이며 건너뛸 수 있습니다.

1.5 계정·비용 주의

결제 전에 반드시 확인하세요

가격

국가·세금·결제 방식과 정책에 따라 달라질 수 있음

주기

월간·연간 구독과 실제 청구 금액 확인

정보

인증 코드·비밀번호·결제 정보를 공유하지 않기

무료 플랜도 사용량 제한이 있으며, 한도와 초기화 안내는 화면에서 확인합니다.

1장 형성평가

설명할 수 있으면 1장 완료

1 생성형 AI가 텍스트를 만드는 핵심 원리는?

2 토큰·확률·온도는 각각 무엇인가?

3 할루시네이션이 특히 위험한 이유는?

4 출처 링크를 받았을 때 반드시 해야 할 일은?

5 프롬프트만으로 부족한 이유는?

NEXT · 2장

이제 AI에게 말을 걸어
첫 번째 작품을 만듭니다

Claude 웹에서 결과물을 만들고,
링크로 친구에게 공유합니다.