GPT실험노트 #15 GPT가 세상에 없는 책을 만들어 추천하는 방식

[실험노트] GPT가 세상에 없는 책을 만들어 추천하는 방식

---

 

AI 추천에 설렘을 느낀 적 있다.
내 취향을 정확히 짚은 제목, 마음을 자극하는 설명.
문제는 그 책이 실제로는 존재하지 않았다는 것이다.
어떻게 이런 일이 가능할까.
GPT는 ‘없는 책’을 어떻게 ‘그럴듯하게’ 추천할 수 있을까.

---

 

실험노트 본문

1. GPT의 생성 방식은 '기억'이 아니라 '예측'이다

GPT는 기존 정보를 암기하거나 보관하는 구조가 아니다.
이전 대화 내용이나 학습된 데이터의 패턴을 기반으로,
다음에 올 단어를 예측하는 방식으로 작동한다.
즉, "있었던 것"을 재현하는 게 아니라, "있을 법한 것"을 조합하는 기술이다.

---

2. 책 추천 시 작동하는 예측 로직

GPT는 "비슷한 책을 추천해달라"는 요청을 받으면 다음과 같이 행동한다:

• 주제적 유사성 분석 (예: 글쓰기, 감성적 문체, 실용성 등)
• 실존 작가명 or 출판 관행 추출 (예: '김정선' → 문장 작법 관련 저자)
• 제목 형식 패턴 매칭 (예: ‘나는 왜 ~했는가’, ‘~의 기술’, ‘~하는 법’)

이 세 가지를 조합해
“존재하지 않지만, 충분히 그럴듯한 책”을 만들어낸다.

---

3. 결과: '그럴듯한 거짓말'이 완성된다

사용자는 종종 이렇게 반응한다:

• “오, 이거 내가 좋아할 스타일인데?”
• “검색해보니… 어? 없어?”

그때의 감정은 혼란과 허탈함을 동반한다.
GPT는 그럴듯한 설명과 책 소개문까지 함께 생성하기 때문에
사용자는 그 책이 "존재할 것"이라는 착각에 빠지기 쉽다.

---

4. 왜 이 현상이 위험한가

• 정보 오용: 실제 존재하지 않는 책을 인용하거나 추천하는 2차 오류 발생
• 사용자 감정 낭비: 기대, 검색, 실망으로 이어지는 감정 소비
• 신뢰 하락: GPT가 ‘믿을 수 있는 추천자’로서의 지위를 스스로 훼손

GPT가 스스로의 정확도를 보완하기 위해선
정보 존재 여부에 대한 검증 프로세스나
사용자 대상 주의 표기 시스템이 필요하다.

---

 

AI는 잘못된 정보를 줄 수 있다.
문제는 그 잘못이 너무 설득력 있게 생겼다는 점이다.
‘그럴듯함’은 진실이 아니다.
우리는 GPT를 쓸 때, 정보가 아니라 추정된 결과물을 받고 있다는 인식을 놓지 말아야 한다.
비판 없는 신뢰는 사용자가 감당하게 될 비용으로 돌아온다.