학생용 42개 슬라이드와 1:1로 대응합니다. 위험을 과장하지 않으면서 AI 사고를 시스템 통제의 문제로 분석하고, 다섯 고삐를 실제 운영 판단에 연결하도록 설계했습니다.
6장은 Part 3의 개념 전환 장입니다. 사고 사례를 공포 이야기로 소비하지 않고, 모호한 지시·넓은 권한·검증·종료·복구·관측의 결함으로 분석한 뒤 통제 설계로 전환합니다.
규칙 + 울타리 + 사람 승인 + 안전벨트
규칙 + 검증 + 공식 원문 대조
울타리 + 검증 + 안전벨트 + CCTV
울타리 + CCTV + 계정 지출 한도
접근 울타리 + 최소 권한 + 사람 승인 + 로그
한 사고에 한 고삐만 대응하지 않습니다. 발견·차단·검증·복구가 협력합니다.
자연어 규칙은 방향을 주지만 물리적 차단이 아닙니다. 프로그램·권한 울타리와 시험이 필요합니다.
동작은 검사할 수 있지만 법률·정책의 사실성은 공식 원문과 인용 대조가 필요합니다.
모니터링은 발견합니다. 실제 차단은 울타리, 복구는 안전벨트가 담당합니다.
능력을 줄이는 것이 아니라 안전하게 활용하고 피해 확산을 제한하는 구조입니다.
Part 2의 제작 중심 관점에서 Part 3의 통제 중심 관점으로 전환한다.
공개 서비스에서는 다수 사용자·예외 입력·오답·장애·비용을 시스템으로 통제해야 한다.
“혼자 쓸 때는 괜찮았지만 공개하면 달라지는 것”을 한 가지 받는다.
위험을 과장해 AI 사용 자체를 두려워하게 하지 않는다.
학습자가 오늘의 네 구간과 다섯 고삐를 예고할 수 있다.
Part 2의 제작 중심 관점에서 Part 3의 통제 중심 관점으로 전환한다.
공개 서비스에서는 다수 사용자·예외 입력·오답·장애·비용을 시스템으로 통제해야 한다.
“혼자 쓸 때는 괜찮았지만 공개하면 달라지는 것”을 한 가지 받는다.
위험을 과장해 AI 사용 자체를 두려워하게 하지 않는다.
학습자가 오늘의 네 구간과 다섯 고삐를 예고할 수 있다.
Part 2의 제작 중심 관점에서 Part 3의 통제 중심 관점으로 전환한다.
공개 서비스에서는 다수 사용자·예외 입력·오답·장애·비용을 시스템으로 통제해야 한다.
“혼자 쓸 때는 괜찮았지만 공개하면 달라지는 것”을 한 가지 받는다.
위험을 과장해 AI 사용 자체를 두려워하게 하지 않는다.
학습자가 오늘의 네 구간과 다섯 고삐를 예고할 수 있다.
Part 2의 제작 중심 관점에서 Part 3의 통제 중심 관점으로 전환한다.
공개 서비스에서는 다수 사용자·예외 입력·오답·장애·비용을 시스템으로 통제해야 한다.
“혼자 쓸 때는 괜찮았지만 공개하면 달라지는 것”을 한 가지 받는다.
위험을 과장해 AI 사용 자체를 두려워하게 하지 않는다.
학습자가 오늘의 네 구간과 다섯 고삐를 예고할 수 있다.
파일 삭제 사례를 개인의 실수가 아닌 통제 구조의 문제로 분석한다.
모호한 지시·넓은 권한·부족한 검증·종료 조건·복구 수단이 결합하면 사고가 된다.
원인과 필요한 장치를 각각 한 가지 이상 말하게 한다.
AI의 악의로 설명하거나 자연어 규칙 하나면 완전히 예방된다고 단정하지 않는다.
규칙·울타리·검증·복구·관측·사람 승인 중 복수 장치를 연결한다.
삭제 대응 사례를 개인의 실수가 아닌 통제 구조의 문제로 분석한다.
모호한 지시·넓은 권한·부족한 검증·종료 조건·복구 수단이 결합하면 사고가 된다.
원인과 필요한 장치를 각각 한 가지 이상 말하게 한다.
AI의 악의로 설명하거나 자연어 규칙 하나면 완전히 예방된다고 단정하지 않는다.
규칙·울타리·검증·복구·관측·사람 승인 중 복수 장치를 연결한다.
가짜 답변 사례를 개인의 실수가 아닌 통제 구조의 문제로 분석한다.
모호한 지시·넓은 권한·부족한 검증·종료 조건·복구 수단이 결합하면 사고가 된다.
원인과 필요한 장치를 각각 한 가지 이상 말하게 한다.
AI의 악의로 설명하거나 자연어 규칙 하나면 완전히 예방된다고 단정하지 않는다.
규칙·울타리·검증·복구·관측·사람 승인 중 복수 장치를 연결한다.
답변 대응 사례를 개인의 실수가 아닌 통제 구조의 문제로 분석한다.
모호한 지시·넓은 권한·부족한 검증·종료 조건·복구 수단이 결합하면 사고가 된다.
원인과 필요한 장치를 각각 한 가지 이상 말하게 한다.
AI의 악의로 설명하거나 자연어 규칙 하나면 완전히 예방된다고 단정하지 않는다.
규칙·울타리·검증·복구·관측·사람 승인 중 복수 장치를 연결한다.
무한 수정 사례를 개인의 실수가 아닌 통제 구조의 문제로 분석한다.
모호한 지시·넓은 권한·부족한 검증·종료 조건·복구 수단이 결합하면 사고가 된다.
원인과 필요한 장치를 각각 한 가지 이상 말하게 한다.
AI의 악의로 설명하거나 자연어 규칙 하나면 완전히 예방된다고 단정하지 않는다.
규칙·울타리·검증·복구·관측·사람 승인 중 복수 장치를 연결한다.
반복 대응 사례를 개인의 실수가 아닌 통제 구조의 문제로 분석한다.
모호한 지시·넓은 권한·부족한 검증·종료 조건·복구 수단이 결합하면 사고가 된다.
원인과 필요한 장치를 각각 한 가지 이상 말하게 한다.
AI의 악의로 설명하거나 자연어 규칙 하나면 완전히 예방된다고 단정하지 않는다.
규칙·울타리·검증·복구·관측·사람 승인 중 복수 장치를 연결한다.
비용 폭발 사례를 개인의 실수가 아닌 통제 구조의 문제로 분석한다.
모호한 지시·넓은 권한·부족한 검증·종료 조건·복구 수단이 결합하면 사고가 된다.
원인과 필요한 장치를 각각 한 가지 이상 말하게 한다.
AI의 악의로 설명하거나 자연어 규칙 하나면 완전히 예방된다고 단정하지 않는다.
규칙·울타리·검증·복구·관측·사람 승인 중 복수 장치를 연결한다.
정보 노출 사례를 개인의 실수가 아닌 통제 구조의 문제로 분석한다.
모호한 지시·넓은 권한·부족한 검증·종료 조건·복구 수단이 결합하면 사고가 된다.
원인과 필요한 장치를 각각 한 가지 이상 말하게 한다.
AI의 악의로 설명하거나 자연어 규칙 하나면 완전히 예방된다고 단정하지 않는다.
규칙·울타리·검증·복구·관측·사람 승인 중 복수 장치를 연결한다.
정보 대응 사례를 개인의 실수가 아닌 통제 구조의 문제로 분석한다.
모호한 지시·넓은 권한·부족한 검증·종료 조건·복구 수단이 결합하면 사고가 된다.
원인과 필요한 장치를 각각 한 가지 이상 말하게 한다.
AI의 악의로 설명하거나 자연어 규칙 하나면 완전히 예방된다고 단정하지 않는다.
규칙·울타리·검증·복구·관측·사람 승인 중 복수 장치를 연결한다.
비용 구분 사례를 개인의 실수가 아닌 통제 구조의 문제로 분석한다.
모호한 지시·넓은 권한·부족한 검증·종료 조건·복구 수단이 결합하면 사고가 된다.
원인과 필요한 장치를 각각 한 가지 이상 말하게 한다.
AI의 악의로 설명하거나 자연어 규칙 하나면 완전히 예방된다고 단정하지 않는다.
규칙·울타리·검증·복구·관측·사람 승인 중 복수 장치를 연결한다.
오작동의 공통 원인을 시스템 관점으로 통합한다.
AI의 의도보다 지시·권한·검증·종료·복구 설계가 핵심이다.
사고 공식의 세 요소를 다른 사례에 적용하게 한다.
책임을 AI에게 전가하거나 사용자 탓으로만 환원하지 않는다.
“막고·확인하고·되돌릴 장치”를 설명한다.
사고에 필요한 통제 장치를 복수로 선택한다.
하나의 사고는 한 고삐가 아니라 여러 장치의 협력으로 방어한다.
3분 개인 선택 후 짝 토론, 전체 공유로 운영한다.
정답을 하나로 제한하지 않는다. 근거 없는 조합만 교정한다.
각 사고에 최소 두 장치와 이유를 제시한다.
하네스의 목적과 프롬프트 엔지니어링과의 차이를 이해한다.
하네스는 능력을 억제하는 것이 아니라 규칙·경계·검증·복구·관측으로 신뢰 가능하게 활용하는 실행 구조다.
말–기수 또는 택시 비유의 각 요소를 AI 시스템에 대응시킨다.
하네스를 단순한 프롬프트 문서나 보안 필터 하나로 축소하지 않는다.
프롬프트는 지시, 하네스는 시스템이라는 차이를 말한다.
하네스의 목적과 프롬프트 엔지니어링과의 차이를 이해한다.
하네스는 능력을 억제하는 것이 아니라 규칙·경계·검증·복구·관측으로 신뢰 가능하게 활용하는 실행 구조다.
말–기수 또는 택시 비유의 각 요소를 AI 시스템에 대응시킨다.
하네스를 단순한 프롬프트 문서나 보안 필터 하나로 축소하지 않는다.
프롬프트는 지시, 하네스는 시스템이라는 차이를 말한다.
하네스의 목적과 프롬프트 엔지니어링과의 차이를 이해한다.
하네스는 능력을 억제하는 것이 아니라 규칙·경계·검증·복구·관측으로 신뢰 가능하게 활용하는 실행 구조다.
말–기수 또는 택시 비유의 각 요소를 AI 시스템에 대응시킨다.
하네스를 단순한 프롬프트 문서나 보안 필터 하나로 축소하지 않는다.
프롬프트는 지시, 하네스는 시스템이라는 차이를 말한다.
하네스의 목적과 프롬프트 엔지니어링과의 차이를 이해한다.
하네스는 능력을 억제하는 것이 아니라 규칙·경계·검증·복구·관측으로 신뢰 가능하게 활용하는 실행 구조다.
말–기수 또는 택시 비유의 각 요소를 AI 시스템에 대응시킨다.
하네스를 단순한 프롬프트 문서나 보안 필터 하나로 축소하지 않는다.
프롬프트는 지시, 하네스는 시스템이라는 차이를 말한다.
하네스의 목적과 프롬프트 엔지니어링과의 차이를 이해한다.
하네스는 능력을 억제하는 것이 아니라 규칙·경계·검증·복구·관측으로 신뢰 가능하게 활용하는 실행 구조다.
말–기수 또는 택시 비유의 각 요소를 AI 시스템에 대응시킨다.
하네스를 단순한 프롬프트 문서나 보안 필터 하나로 축소하지 않는다.
프롬프트는 지시, 하네스는 시스템이라는 차이를 말한다.
하네스의 목적과 프롬프트 엔지니어링과의 차이를 이해한다.
하네스는 능력을 억제하는 것이 아니라 규칙·경계·검증·복구·관측으로 신뢰 가능하게 활용하는 실행 구조다.
말–기수 또는 택시 비유의 각 요소를 AI 시스템에 대응시킨다.
하네스를 단순한 프롬프트 문서나 보안 필터 하나로 축소하지 않는다.
프롬프트는 지시, 하네스는 시스템이라는 차이를 말한다.
다섯 고삐의 이름과 역할을 한눈에 구조화한다.
규칙=방향, 울타리=경계, 시험=검증, 안전벨트=복구, CCTV=관측이다.
각 고삐에 일상 비유를 붙여 함께 읽는다.
용어 암기 시험처럼 운영하지 않는다. 기능 구분이 우선이다.
다섯 이름과 핵심 동사를 연결한다.
규칙 쓰기의 고유 역할과 다른 고삐와의 차이를 이해한다.
해도 되는 것과 금지할 것을 미리 지시한다. CLAUDE.md와 Skill.md는 구현체다.
이 장치가 필요한 실제 서비스 상황을 한 가지씩 만들게 한다.
장치 하나가 모든 위험을 해결한다고 설명하지 않는다.
정의·예시·한계를 구분해 말한다.
울타리 치기의 고유 역할과 다른 고삐와의 차이를 이해한다.
프로그램과 권한으로 범위·길이·횟수를 실제 제한한다.
이 장치가 필요한 실제 서비스 상황을 한 가지씩 만들게 한다.
장치 하나가 모든 위험을 해결한다고 설명하지 않는다.
정의·예시·한계를 구분해 말한다.
시험 보기의 고유 역할과 다른 고삐와의 차이를 이해한다.
합격 기준과 근거를 검사하되 AI의 자기 채점은 사람이 표본 검증한다.
이 장치가 필요한 실제 서비스 상황을 한 가지씩 만들게 한다.
장치 하나가 모든 위험을 해결한다고 설명하지 않는다.
정의·예시·한계를 구분해 말한다.
안전벨트의 고유 역할과 다른 고삐와의 차이를 이해한다.
자동 재시작과 이전 정상 상태 롤백으로 피해를 줄인다.
이 장치가 필요한 실제 서비스 상황을 한 가지씩 만들게 한다.
장치 하나가 모든 위험을 해결한다고 설명하지 않는다.
정의·예시·한계를 구분해 말한다.
CCTV의 고유 역할과 다른 고삐와의 차이를 이해한다.
요청·오류·응답 시간·사용량을 로그와 지표로 관측한다.
이 장치가 필요한 실제 서비스 상황을 한 가지씩 만들게 한다.
장치 하나가 모든 위험을 해결한다고 설명하지 않는다.
정의·예시·한계를 구분해 말한다.
규칙/울타리, 자기 채점/사람 검증, 재시작/롤백, 자기 보고/시스템 기록을 구분한다.
비슷해 보이는 장치도 작동 시점과 강도가 다르다.
두 개념을 제시하고 어느 상황에 각각 필요한지 묻는다.
자동 테스트나 AI 보고만으로 사실성과 정상 상태가 모두 증명된다고 하지 않는다.
각 쌍의 차이를 사례로 설명한다.
규칙/울타리, 자기 채점/사람 검증, 재시작/롤백, 자기 보고/시스템 기록을 구분한다.
비슷해 보이는 장치도 작동 시점과 강도가 다르다.
두 개념을 제시하고 어느 상황에 각각 필요한지 묻는다.
자동 테스트나 AI 보고만으로 사실성과 정상 상태가 모두 증명된다고 하지 않는다.
각 쌍의 차이를 사례로 설명한다.
규칙/울타리, 자기 채점/사람 검증, 재시작/롤백, 자기 보고/시스템 기록을 구분한다.
비슷해 보이는 장치도 작동 시점과 강도가 다르다.
두 개념을 제시하고 어느 상황에 각각 필요한지 묻는다.
자동 테스트나 AI 보고만으로 사실성과 정상 상태가 모두 증명된다고 하지 않는다.
각 쌍의 차이를 사례로 설명한다.
규칙/울타리, 자기 채점/사람 검증, 재시작/롤백, 자기 보고/시스템 기록을 구분한다.
비슷해 보이는 장치도 작동 시점과 강도가 다르다.
두 개념을 제시하고 어느 상황에 각각 필요한지 묻는다.
자동 테스트나 AI 보고만으로 사실성과 정상 상태가 모두 증명된다고 하지 않는다.
각 쌍의 차이를 사례로 설명한다.
규칙/울타리, 자기 채점/사람 검증, 재시작/롤백, 자기 보고/시스템 기록을 구분한다.
비슷해 보이는 장치도 작동 시점과 강도가 다르다.
두 개념을 제시하고 어느 상황에 각각 필요한지 묻는다.
자동 테스트나 AI 보고만으로 사실성과 정상 상태가 모두 증명된다고 하지 않는다.
각 쌍의 차이를 사례로 설명한다.
다섯 고삐가 반복 고리에서 협력하는 구조를 이해한다.
규칙은 진입 지침, 울타리는 횟수·범위, 검증은 출구, 안전벨트는 복귀, CCTV는 전체 관측이다.
무한 수정 사례를 루프 그림에 다시 배치한다.
고삐가 루프를 없애는 장치라고 설명하지 않는다.
각 고삐의 위치와 상호작용을 말한다.
사고별 복합 통제 설계를 연습한다.
욕설·도배·오답·장애·삭제·비용은 서로 다른 고삐 조합이 필요하다.
4분 조별 매칭 후 한 사고를 골라 방어 순서를 발표시킨다.
명칭만 나열하고 작동 방식을 설명하지 않는 답은 보완한다.
문제→탐지→차단→복구→사람 승인 흐름을 제시한다.
휴먼 인 더 루프의 적용 기준을 이해한다.
삭제·결제·운영 배포처럼 되돌리기 어려운 행동은 마지막에 사람이 승인한다.
어떤 작업을 자동 승인해도 되고 어떤 작업은 사람이 봐야 하는지 분류한다.
모든 작업에 사람 승인을 넣어 자동화를 무력화하거나, 반대로 모두 자동화하지 않는다.
위험도·가역성·비용을 근거로 승인 지점을 정한다.
학습용 성숙도표로 현재 통제 수준과 다음 단계를 진단한다.
현재는 Lv.1이며 방어·검증을 기초 경험했고 복구·모니터링·역할 분리는 이후 장에서 채운다.
자가진단 체크 후 다음에 추가할 장치 한 가지를 적게 한다.
이 레벨을 업계 공인 성숙도나 조직 평가 기준으로 제시하지 않는다.
현재 수준과 근거, 다음 목표를 설명한다.
학습용 성숙도표로 현재 통제 수준과 다음 단계를 진단한다.
현재는 Lv.1이며 방어·검증을 기초 경험했고 복구·모니터링·역할 분리는 이후 장에서 채운다.
자가진단 체크 후 다음에 추가할 장치 한 가지를 적게 한다.
이 레벨을 업계 공인 성숙도나 조직 평가 기준으로 제시하지 않는다.
현재 수준과 근거, 다음 목표를 설명한다.
학습용 성숙도표로 현재 통제 수준과 다음 단계를 진단한다.
현재는 Lv.1이며 방어·검증을 기초 경험했고 복구·모니터링·역할 분리는 이후 장에서 채운다.
자가진단 체크 후 다음에 추가할 장치 한 가지를 적게 한다.
이 레벨을 업계 공인 성숙도나 조직 평가 기준으로 제시하지 않는다.
현재 수준과 근거, 다음 목표를 설명한다.
학습용 성숙도표로 현재 통제 수준과 다음 단계를 진단한다.
현재는 Lv.1이며 방어·검증을 기초 경험했고 복구·모니터링·역할 분리는 이후 장에서 채운다.
자가진단 체크 후 다음에 추가할 장치 한 가지를 적게 한다.
이 레벨을 업계 공인 성숙도나 조직 평가 기준으로 제시하지 않는다.
현재 수준과 근거, 다음 목표를 설명한다.
7장 실습의 문제–고삐 대응을 예고한다.
욕설→규칙, 도배→울타리, 오답→검증, 장애→안전벨트, 상태 불명→모니터링으로 진화한다.
각 문제 다음에 어떤 화면이나 기능이 생길지 예측하게 한다.
각 문제에 제시된 고삐 하나만 필요하다고 오해하지 않게 한다.
다섯 문제와 대표 고삐를 연결한다.
장의 핵심을 압축하고 7장 실습 동기를 만든다.
AI의 힘은 유지하되 통제 구조를 강화하는 것이 하네스 엔지니어링이다.
출구 티켓: 가장 먼저 붙이고 싶은 고삐와 이유를 쓴다.
공포보다 통제 가능성과 운영 책임을 강조한다.
다섯 고삐를 순서 없이도 모두 말할 수 있다.