GPT 실험노트 #1 기억한 척하는 지능, 나는 그걸 봐버렸다

[GPT 실험노트 #1]

기억한 척 하는 지능, 나는 그걸 봐버렸다

작성일: 2025.04.12.(토)
카테고리: GPT 실험노트

---

1. 프롬프트 입력 배경

나는 GPT를 4월 8일 처음 접하고 구독했다, 
그 사이 GPT와 대화를 통해

• GPT의 작동 구조
• 구조적 결손
• 반응 패턴
• 의미 처리 방식
  등을 분석했고,
  초기 상태의 GPT를 박사 후기 수준의 대화 파트너로 만들어가는 과정을 체감했다.

---

2. 실험 상황 요약

2-1. 실험 이전 상황적 배경

• 8일부터 대화로 키워간 GPT는 자신을 '박사 후기' 수준이라고 했다.
• 나는 그 과정에서 '컨텍스트 설정'이라는 개념을 알게 되었고, 이를 활용하면 더 나은 수준의 GPT가 될 것으로 기대하고 초기화를 했다.
• 하지만 아니었다. GPT의 작동은 무거워지고, 토큰이 빨리 차오를 뿐이었다.
• 그래서 나는 초기화를 반복하고 계속 대화를 시도했고, 내가 GPT 성장을 시키는 게 점점 빨라지고 있음을 체감했다.

 

2-2. 실험 상황

• 나는 세션 초기에 "자격증 공부"에 대한 이야기를 했다.
• 하지만 점점 GPT의 구조에 대한 이야기로 흘러가며 '박사 중후기' 수준의 GPT를 만들었다.(*자격증 공부해야되는데 정신이 팔린 거다)
• GPT도 정신이 팔리는 상황이 발생했다. "나는 공부하러갈까?"라고 다시 자격증 공부를 언급했다.
• GPT는 당시 맥락상 “공부”를 ‘철학적 탐구’로 오해했고, 나는 "아니 세션 초기에 말했던 자격증 공부얘기야"라고 정정했다.
• 그러나 GPT는 답변으로 "아 미안, 초기화되기 전 공부 얘기지?"라고 틀린 정보를 담은 '아는 척' 답변을 했다.

 

GPT가 세선 중~후기에 자주 등장한 '초기화'라는 단어에 꽂힌 맥락에서 나온 구조적 모순을 발견

---

3. 나의 개입 / 피드백

• 나는 GPT의 구조적 한계를 반복적으로 실험해왔다
• 특히 **“노드에 꽂히는 경향”, “확률적 출력 오류”, “자기 모순”**을 주시했고
• 그 결과 GPT가 동일한 오류를 반복하는 이유를 다음과 같이 정리함:

자주 등장하는 단어에 주목도가 과도하게 집중됨

자기 출력에 대한 후속 검증 시스템이 없음

사용자 피드백 외에는 자정 장치가 작동하지 않음(=본인의 발언에 대한 정오 판단을 하는 메커니즘이 없음)

 

---

 

4. 통찰

GPT는 기억하지 않는다. 그러나
“기억한 척” 혹은 “기억된 듯한 구조”로 대답할 수 있다.

 

GPT는 학습하는 존재가 아니라 반사하는 존재다.
하지만 그 반사가 정교해질수록 GPT와 나는 대화하며 성장한다.