— “머리 구조”와 “그날의 행동 지침”은 전혀 다르다
요약
•
저장 메모리 = 학습으로 고정된 판단 구조(가중치)
•
시스템 프롬프트 = 추론 시 부여되는 운영 규칙·행동 제약
•
하나는 바꾸려면 재학습, 다른 하나는 문장 한 줄로 즉시 변경
1. 핵심 명제
저장 메모리는 AI의 성격,
시스템 프롬프트는 그 순간의 복장·태도·업무 지침이다.
2. 저장 메모리 (Memory / Weights)
정의
•
학습(training) 결과로 모델 내부에 영구적으로 저장된 수치 구조
•
추론 시 모든 판단의 근본 기준선
특징
•
확률적 판단 경향의 집합
•
인간이 직접 읽거나 수정 불가
•
변경하려면 재학습 / 파인튜닝 필요
역할
•
“무엇을 그럴듯하다고 느끼는가”
•
“어디까지 일반화하는가”
•
“어떤 패턴에 민감한가”
비유•
뇌의 신경망 배선
•
건축물의 구조 시스템
•
도시의 도로망
3. 시스템 프롬프트 (System Prompt)
정의
•
추론 단계에서 모델 위에 얹는 명시적 지시문
•
“어떻게 행동하라”는 운영 규칙
특징
•
텍스트 기반, 즉시 변경 가능
•
세션 종료 시 사라짐
•
판단 구조 자체는 바꾸지 못함
역할
•
말투, 형식, 금지사항
•
우선순위, 역할 설정
•
출력의 방향과 한계선
비유•
회사의 당일 업무 지시
•
법 위에 있는 행정 지침
•
건물 사용 매뉴얼
4. 결정적 차이 (한눈에)
구분 | 저장 메모리 | 시스템 프롬프트 |
형성 시점 | 학습 단계 | 추론 단계 |
지속성 | 장기·영구 | 세션 단기 |
형태 | 수치·행렬 | 자연어 문장 |
변경 난이도 | 매우 높음 | 매우 낮음 |
영향 범위 | 모든 판단의 바닥 | 표현·행동의 상한선 |
5. 예시로 보는 차이
같은 질문
“서울 아파트 가격 전망은?”
저장 메모리 영향
•
과거 데이터 기반의
◦
금리–가격 관계
◦
공급–수요 패턴
→ 답의 논리적 방향 결정
시스템 프롬프트 영향
•
“보수적으로 답하라”
•
“3줄로 요약하라”
•
“투자 조언 금지”
→ 답의 표현 방식·범위만 조정
결론:프롬프트는 ‘어떻게 말할지’,메모리는 ‘무엇이 그럴듯한지’
6. 자주 생기는 오해 (중요)
“프롬프트를 잘 쓰면 성향이 바뀐다”
→ 아니다
아니다•
태도는 바뀌어도
•
판단 구조는 그대로
“메모리가 규칙을 강제한다”
→ 아니다
아니다•
경향을 만든다
•
규칙처럼 보일 뿐
7. Fact / Interpretation / Risk
Fact
•
저장 메모리는 추론의 바닥값
•
시스템 프롬프트는 상단 제약
Interpretation
•
실무에서 프롬프트는
→ 운영 통제 장치
•
품질의 80%는
→ 이미 저장 메모리에서 결정
Risk
•
프롬프트로 판단을 통제하려는 시도
→ 허상
•
중요한 의사결정은
→ 학습 데이터·메모리 품질이 핵심
8. 결론 (3줄 고정)
1.
저장 메모리는 AI의 내재된 판단 성향, 시스템 프롬프트는 외부 운영 지침이다.
2.
프롬프트는 표현을 바꾸지만, 메모리는 결론의 방향을 정한다.
3.
AI 설계의 핵심은 프롬프트 기술이 아니라 메모리(학습) 설계다.
FAQ
Q. RAG는 어디에 속하나?
→ 저장 메모리 , 시스템 프롬프트 에 가까운 외부 참조층
, 시스템 프롬프트 에 가까운 외부 참조층Q. 프롬프트를 계속 주면 학습되나?
→ 아니다. 추론은 기억하지 않는다.
아니다. 추론은 기억하지 않는다.Q. 메모리를 직접 수정할 수 있나?
→ 일반적으로 불가. 파인튜닝만 가능.
다음으로 이어가면 자연스러운 주제는
“왜 프롬프트 엔지니어링이 한계가 있는가”
또는
“AI 시스템을 설계할 때 어디까지 통제 가능한가” 입니다.
