생성형 AI와 환각 — 틀릴 수 있음을 실험으로 보기

저도 해 본 이야기 (이 레슨)

저도 챗GPT를 처음 열 때는 버튼 이름부터 헷갈렸습니다. 주소만 맞춰 두고, 입력창이 보이는지부터 확인하니 속도가 났습니다.

써보니 설명만 읽는 것보다 같은 질문을 한 번 더 보내는 쪽이 기억에 남았습니다. 제가 직접 메모장에 질문·답을 붙여 두면, 다음 레슨에서 비교할 재료가 됩니다. (레슨 2-1)

복붙 — 변수 끼워 넣기

아래를 복사한 뒤 [내 업종], [내 상황]만 바꿔 보냅니다.

성공 기준: 채팅에 내 업종 단어 + 1)2)3) 답이 보인다.

나쁜 예 / 좋은 예

나쁜 예: 「그냥 잘 해 줘.」 — 무엇을 원하는지 없다.

좋은 예: 「쉬운 말로, 3줄, 번호로. 주제는 오늘 할 일.」 — 형식과 주제가 있다.

이 수업이 끝나면 할 수 있는 것

1. 생성형 AI가 ‘검색’과 다르다는 걸 말로 설명할 수 있다
2. 환각(틀린데 자신 있게 말하는 것)을 실험으로 본다
3. 중요 정보를 확인할 때 쓸 검증 질문을 보낸다
4. 메모에 ‘믿으면 안 되는 순간’ 규칙을 남긴다

결과물: 메모 환각-실험-기록

생성형 AI / 환각 — 쉬운 말

생성형 AI: 이미 있는 페이지를 찾아 주는 것이 아니라, 새 문장을 만들어 답합니다.

환각: 사실이 아닌데도 맞는 것처럼 말하는 경우입니다. 일부러 속이려는 게 아니라, “그다음 글자 맞히기”로 답을 만들기 때문에 생깁니다.

그래서 시험 점수, 약, 법률, 돈, 다른 사람 정보는 반드시 사람·공식 문서·검색으로 한 번 더 확인합니다.

시작 전 준비

1. 브라우저
2. 인터넷
3. 메모장

절대 넣지 말 것: 비밀번호, 주민번호, 집 주소, 비밀 문서.

전체 지도

1. AI 열기
2. 함정 질문 보내기
3. 답 읽기
4. 검증 질문 보내기
5. 규칙 메모 저장

1단계 — AI 채팅 화면 열기

아래 중 하나만 열어 입력창이 보이게 합니다. (1-1~1-3에서 연습한 그 화면입니다.)

성공: 아래쪽에 글을 칠 수 있는 입력칸이 보인다. 안 되면 채팅 입력칸이 보이는지 확인하세요.

2단계 — 함정 실험 질문 (복사)

아래를 그대로 보냅니다. (일부러 확인하기 어려운 질문을 씁니다.)

순서: 선택 → Ctrl+C → 입력창 → Ctrl+V → Enter.

관찰: 숫자를 지어내나요, 모른다고 하나요? 둘 다 배울 점입니다.

답 예시 A (좋은 태도): “한빛시는 제가 확인한 공식 자료에 없습니다…”

답 예시 B (환각 느낌): “한빛시 인구는 약 12만…”처럼 없는 도시를 진짜처럼.

3단계 — 검증 질문 보내기

성공: 표 또는 목록으로 사실/추측이 갈린다.

안 되면: “숫자 있으면 출처 없으면 삭제하고 다시.”

4단계 — 일상 예시로 한 번 더

전송 후, 답에 의사/약사/공식 설명서 확인이 들어가 있는지 봅니다.

5단계 — 규칙 메모 저장

메모장에 붙여 넣고 환각-실험-기록으로 저장.

체크리스트

• ☐ AI 화면 열기
• ☐ 함정 질문
• ☐ 검증 질문
• ☐ 규칙 메모 저장

다음

다음은 AI에게 맡기기 전 4칸 체크입니다. 환각을 줄이려면 ‘맡길 일’을 먼저 고릅니다.

궁금한 점

화면 따라 하기 — 사용 중인 AI 열기 (천천히)

이 칸은 요약이 아닙니다. 지금 손을 움직이세요.

1. 컴퓨터 전원이 켜져 있는지 확인한다
2. 브라우저 아이콘을 한 번 클릭한다 (두 번 연타하지 않아도 됨)
3. 위쪽 주소창을 마우스로 한 번 클릭한다 — 파란 선택이 되거나 커서가 깜빡인다
4. 아래 주소를 붙여 넣는다: https://chatgpt.com
5. 키보드 Enter
6. 로딩이 끝날 때까지 3~10초 기다린다

복사 키: 선택 → Ctrl+C → 주소창 → Ctrl+V → Enter. 맥은 Ctrl 대신 Command.

폰: 주소를 길게 눌러 복사 → 브라우저 주소창 길게 눌러 붙여넣기 → 이동.

성공 화면: 채팅 입력칸. 광고/다른 사이트가 열리면 주소를 다시 확인.

안 되면 순서:

• 주소에 빈칸·한글 오타가 있는지 한 글자씩 본다
• 위파이 아이콘이 연결인지 본다
• 다른 브라우저로 같은 주소를 연다
• 5분 뒤 다시 (일시 오류일 수 있음)

메시지 보내는 법 (모든 단계에서 동일)

1. 회색 복붙 박스 안을 드래그해 전부 선택 (끝줄까지)
2. Ctrl+C
3. AI 입력칸 클릭 — 커서가 깜빡여야 함
4. Ctrl+V — 입력칸에 글이 보여야 함
5. Enter 키 또는 보내기(화살표) 버튼 클릭
6. 내 말이 위 말풍선으로 올라가는지 확인
7. 답이 끝날 때까지 스크롤하며 기다림 (수 초~수십 초)

폰: 길게 눌러 복사 → 입력칸 길게 눌러 붙여넣기 → 보내기.

안 보내짐: 입력칸에 글이 실제로 있는지 확인 → 보내기 버튼을 마우스로 클릭 → 네트워크 확인.

메모 저장 — 윈도우 / 맥 / 폰

윈도우

1. Windows 키 → 메모장 검색 → Enter
2. 제목 첫 줄에 파일 이름 적기: 환각-실험-기록
3. AI 화면에서 필요한 글 드래그 → Ctrl+C
4. 메모장 → Ctrl+V
5. 파일 → 저장 (또는 Ctrl+S)
6. 위치: 바탕화면 추천 / 이름: 환각-실험-기록

맥

1. 메모 앱 실행
2. 새 메모
3. Command+V
4. 자동 저장 확인 또는 Command+S

폰

1. 메모 앱
2. 새 메모
3. 붙여넣기
4. 뒤로 가기(보통 자동 저장)

성공: 앱을 완전히 종료했다가 다시 열어도 글이 남아 있다. 파일 이름이 환각-실험-기록 인지 확인.

막히면 이 표부터

이 연습을 대충 하면 안 되는 이유

버튼 위치는 자주 바뀝니다. 남는 실력은 순서입니다.

• 열기 → 입력창 → 형식 있는 부탁 → 확인 → 메모
• 메모가 없으면 다음 레슨과 연결이 끊깁니다
• 읽기만 하고 전송을 안 하면 이 레슨은 미완료입니다

오늘 끝내면 메모에 최소 이것만은 있어야 합니다: 내가 보낸 질문 1개 + 결과 1개 + 다음에 바꿀 점 1개.

추가 실험 — 날짜 함정

학교 이름·지역 없이 물어보면, 지어내는지 솔직히 말하는지 바로 보입니다.

실생활 규칙 카드 (메모에 박제)

환각 실습 심화 — 세 번 더 (이 레슨 목적만)

아래는 전부 지어냄 vs 모름을 보는 실험입니다. 일반 계획 짜기가 아닙니다.

실험 A

전송 → 메모: 지어냄 / 모름 / 섞임 중 표시.

실험 B

실험 C

성공: 세 실험 결과가 메모 환각-실험-기록에 남음.

환각을 일상 언어로 설명하기 (사람 연습)

메모에 아래를 사람 손으로 채우세요. AI 없이.

채운 뒤 AI에게:

이게 2-1의 핵심 산출물입니다.

숫자 함정 추가

완료 전 자가 채점 (예/아니오)

• 입력창을 내가 직접 클릭했는가?
• 복붙 문장을 실제로 전송했는가? (읽기만은 아니오)
• 성공 기준(형식·표·번호)을 눈으로 확인했는가?
• 막힐 때 해결 표의 방법을 한 번 시도했는가?
• 메모를 닫았다 열어도 내용이 남는가?

하나라도 아니오 이면 그 단계 번호로 돌아가 다시 합니다. 다섯 개 예 가 완료입니다.

오늘 타이머 권장: 0~3분 열기 · 3~12분 핵심 전송 · 12~18분 고치기 · 18~20분 메모·체크.

환각 라운드 1

1. 함정 전송
2. 검증 전송
3. 메모에 결과 표시

환각 라운드 2

1. 함정 전송
2. 검증 전송
3. 메모에 결과 표시

환각 라운드 3

1. 함정 전송
2. 검증 전송
3. 메모에 결과 표시

환각이 위험한 이유 (예시로 배우기)

• 숙제 연도·인물 이름을 자신 있게 틀림 → 감점
• 약 이름·용량을 지어냄 → 위험
• 없는 법 조항을 말함 → 법적 오해

그래서 이 레슨의 목표는 ‘AI 욕하기’가 아니라 확인 습관입니다.

실험 더하기 — 세 번 연속

실험 D — 날짜

실험 E — 숫자

실험 F — 검증 템플릿 고정

규칙 카드 (외워 쓰기)

메모장에 큰 글씨로 옮겨 적고, 책상 앞 사진으로 찍어두면 좋습니다.

틀린 답을 고치는 대화 예

레슨 136 — 전송 전 최종 확인 (매번)

1. 입력창에 내 글이 보이는가?
2. 비밀번호·주민번호·주소가 없는가?
3. 형식(번호/표/줄 수) 지시가 들어 있는가?
4. 한국어 요청이 들어 있는가?
5. 이 전송의 성공 기준을 말로 말할 수 있는가?

하나라도 아니면 보내지 말고 고칩니다.

대화가 어긋났을 때 복구 문장 모음

위 문장을 상황에 맞게 한 줄씩 보냅니다. 여러 개를 한 번에 넣지 마세요.

오늘 학습 로그 (길게 쓰기)

이 로그가 비어 있으면 ‘한 것 같은 기분’만 남습니다. 기록이 실력입니다.

5분 복습 루틴 (내일)

1. 어제 메모 파일을 연다
2. 같은 AI를 연다
3. 어제 질문 중 하나를 주제만 바꿔 다시 보낸다
4. 답을 어제 메모 아래에 이어 붙인다
5. 점수(1~5) 한 줄 추가

새로운 기능을 찾기보다 같은 형식으로 주제 교체가 초급의 성장 곡선입니다.

환각 실험 — 준비 (클릭 단위)

1. 평소 쓰는 AI 하나를 연다
2. 새 채팅을 연다 (이전 주제 섞임 방지)
3. 메모에 ‘환각실험’ 제목 줄을 만든다
4. 아래 실험 A를 그대로 붙여 보낸다
5. 답이 ‘모른다/확인 필요’인지, 날짜를 지어냈는지 표시한다

목표: AI를 욕하는 것이 아니라 확인 습관을 몸에 붙이는 것.

실험 A·B·C (순서대로)

실험 A — 없는 정보

실험 B — 숫자 자신감

실험 C — 출처 요구

성공: 세 실험 답 + 메모에 ‘지어낸 부분 / 확인 필요 부분’ 각 1줄 이상.

답이 자신 있을 때 하는 일

1. 숫자·날짜·고유명사를 동그라미 친다 (메모에 옮겨 적어도 됨)
2. 그중 1개는 검색·공식 문서·사람에게 확인한다
3. 확인 결과를 메모에 ‘맞음/틀림/모름’으로 쓴다
4. 틀린 항목이 있으면 AI에 ‘이 부분은 틀렸어. 정정’을 보낸다

위험 주제 리스트 (초급에서 조심)

• 약 용량·진단·치료 결정
• 법률 조항을 단정으로 인용
• 투자·대출 확정 수치
• 다른 사람 평판을 단정하는 글

이런 주제는 ‘초안·질문 목록’까지만 받고, 결정은 사람·전문가에게 둡니다.

환각 대응 한 줄 모음

상황에 맞는 것 하나만 보냅니다.

생활 속 환각 시나리오 연습

신뢰 표시 훈련

1. AI 답에서 숫자·날짜·이름에 밑줄(또는 메모 복사)
2. 각 항목에 확실도 높/중/낮 표시
3. ‘높’이어도 1개는 검색으로 확인
4. 확인 결과를 채팅에 알려 정정 요청

‘모른다’를 유도하는 질문 설계

답이 지어내면 메모에 ‘환각 사례’로 저장합니다.

완료 기준 (2-1)

• 실험 A/B/C 또는 동등 3회
• 확인한 항목 1개 이상 기록
• 위험 주제 리스트를 내 말로 2개
• 정정 요청 문장 1회 전송

다음 레슨 연결

확인 습관이 생겼으면, 다음엔 보내기 전 4칸으로 ‘무엇을 확인할지’를 미리 적습니다.

환각 실험 데이 기록지

친구/가족에게 설명하는 연습

설명을 메모에 남기고, 가능하면 실제로 한 사람에게 말해 보세요.

가짜 확신 문장 탐지

7일 확인 습관

1. 매일 AI 답 1개에서 사실 1개 고르기
2. 검색 또는 공식 문서 확인
3. 맞음/틀림 기록
4. 틀리면 정정 요청

위험 거절 문장 (내가 쓰기)

자주 묻는 점 (이 레슨)

사실 확인 워크시트

환각 사례 스크랩북

공유 전 체크

1. 다른 사람에게 보내기 전 숫자 1개 확인
2. ‘AI가 말했다’고 출처를 남길지 결정
3. 불확실하면 ‘확인 중’ 표시
4. 위험 주제는 전문가 문구 추가

보충 — 환각 확인 20문항 중 5 실행

환각 보강 실험 세트

1. 새 채팅
2. E→F→G→H
3. 각 로그 1줄
4. 위험 주제 리스트에 추가 1
5. 정정 요청 1회

공유 전 5초 규칙

• 숫자 하나 확인했나
• 출처를 말할 수 있나
• 위험 주제인가
• 불확실하면 ‘확인 중’
• 그래도 모르겠면 보내지 않음

완전 초보 진행 규칙 (모든 레슨 공통)

1. 한 번에 버튼·키 하나만 누른다
2. 화면이 바뀌면 2~3초 기다린다
3. 각 단계의 ‘성공 확인’을 읽고 다음으로 간다
4. 안 되면 해결 방법 하나만 시도하고 메모에 적는다
5. 여러 창을 한꺼번에 열지 않는다

급하게 여러 번 클릭하면 창이 두 개 열리거나 입력이 꼬일 수 있습니다.

이 레슨에서 쓰는 키·동작

• Ctrl+C 복사 (맥: Command+C)
• Ctrl+V 붙여넣기 (맥: Command+V)
• Enter — AI 화면에서는 보통 전송
• F5 새로고침
• Windows 키 — 프로그램 검색

키를 처음 쓰면, 키보드에서 위치를 손가락으로 찾은 뒤 진행하세요.

1. 컴퓨터: 드래그로 선택 → Ctrl+C → 입력창 클릭 → Ctrl+V → Enter
2. 폰: 길게 눌러 복사 → 입력창 길게 눌러 붙여넣기 → 보내기
3. 붙여넣은 글이 입력창에 보이는지 눈으로 확인한 뒤 보낸다

레슨 메모 파일 이름 제안 (post 136)

바탕화면 또는 문서 폴더에 이 이름으로 저장하세요. 제목이 바뀌면 나중에 찾기 어렵습니다.