2025-10-27
1일 1아티클
데보션
AI 모델 개선
배경
- SK텔레콤
한줄요약기능 : 독자 LLM 모델 “A.X” 활용한 통화요약 서비스 task 중 하나 - 에이닷 AI 통화요약의 핵심 기능
- 빠른 통화 탐색, 제목으로 추억 생성 등 순기능
문제점
- 추상적인 제목 생성
- 통화 내용이 짧거나, 다양한 주제로 통화 시 발생
- 이후 원하는 통화 내역을 찾기 어려움
- 분위기에 맞지 않는 장난
- 재미요약 기능 탑재
- 부적절한 주제 및 분위기에서 재미요약 생성 시 고객 불편
원인
- 요약 성능 지표 간 Trade-off
- 사실성, 유창성, 핵심성, 구체성
- 초기 한줄요약은 할루시네이션 방지 및 가독성 향상을 위해 사실성, 유창성 중점 학습 진행
해결방안
- 지표 간 우선순위 조정
- 구체성을 위해 핵심성, 구체성 우선순위를 더 높임
- 학습데이터 생성
- GT(Ground Truth) 생성 모델을 고성능 모델로 교체
- 프롬프트 엔지니어링
- 가벼운 분위기의 학습데이터 선별
- 3중 Safety Layer
오늘 배운 것
- 인프런 대규모 강의 복기
- Snowflake
내일 할 일
- AI