2026-01-05
1일 1아티클
요즘IT
프롬프트 엔지니어링
배경
- 같은 질문 반복 시, 생성형 AI가 비슷한 답변을 내놓는 경향 존재
Mode Collapse(모드 붕괴): 생성형 AI 모델이 데이터가 갖고 있는 다양성 전체를 학습/표현하지 않고, 특정 소수의 결과 패턴(Mode)에만 집중해 결과물을 생성하는 현상- 기존 연구에서는 문제의 원인을 모델의 알고리즘 한계 또는 다양성 부족으로 설명 → 2025년 10월 스탠퍼드 연구팀은 문제의 원인을 사람의 사고 습관으로 지적
- AI를 사람의 기준에 맞추는 과정에서 사람이 고른 좋은 답변 데이터 활용, 이때 사람들은 평범하고 익숙한 답변에 편향되어 있는 경향 존재(
전형성 편향)
언어화된 샘플링
- AI에게 하나의 답을 요구하는 대신, 여러 답변과 함께 적합한 확률을 언어로 표현하도록 만들기
- 모델이 내부에서 계산하는 확률적 사고 과정을 풀어내도록 하면서 스스로 사고의 폭을 넓히는 방식
- 창의적 글쓰기 작업에서 최대 2.1배까지 다양성 증가, 사실적 정화도 및 안전성은 기존과 동일 수준
- 특히, 최신 대규모 언어 모델일수록 효과가 뚜렷하게 나타남
예시
ChatGPT 5.1,Gemini 3.0,Claude Sonnet 4.5- ‘환경 보호 캠페인을 위한 슬로건 5개를 제안해 줘’ → ‘각 슬로건이 선택될 확률도 함께 제시해 줘’ 추가
- 일반적인 프롬프트 : 폭넓은 탐색, 언어화된 샘플링 : 심화 분석 및 실질적 활용 가능성에 기반
오늘 배운 것
- PJ 초기 아이디어 고민 (con.)
내일 할 일
- 2학기 OT