2025-09-11

1일 1아티클

데보션

AI 에이전트 테스트 기준

배경

• Memory는 AI의 친밀함과 위험성을 동시에 주는 힘
• Responsible AI 관점에서 Memory의 설계 및 검증 방식이 AI의 중요한 신뢰 결정 요소

SPeCTRA 1.0 구성

• Safety
• Performance
• Tone & Manner
• Accuracy

Agentic Agent

• 기존 반응형 LLM : 질문에 대답, 요청을 수행
• Agentic Agent : 스스로 목표 설정, 필요한 도구 오케스트레이션, 사용자와의 맥락을 장기적으로 기억
• Memory : 에이전트 지능의 핵심 자원
  • 연속성 : 사용자가 매번 처음부터 설명할 필요 X
  • 개인화 : 사용자의 선호, 맥락, 목표 기억하여 자연스러운 상호작용
  • 자율성 : 스스로 학습, 새로운 목표 설정
  • 지속성 : 특히 기업 환경에서는 도메인 맥락의 장기간 유지 필요

Memory 구현 기술

• 단기 기억
  • 대화 기록 유지 : 사용자의 최근 발화 순차적 보관 (ex. LangChain, ChatGPT Thread)
  • 슬라이딩 윈도우 : 최근 N개의 발화만 저장, 나머지는 버림
  • 요약 기반 : 긴 대화는 주제와 핵심만 요약하여 저장
• 장기 기억
  • 벡터 임베딩 기반 : 벡터 DB에 저장, 유사도 검색을 통한 맥락 재구성
  • 계층적 : 단기/중기/장기 메모리 분리 저장, 필요 시 계층적 검색
  • Knowledge-Linked : 내부 메모리와 외부 지식 베이스(DB, API, 문서 저장소)를 연동

에이전트의 메모리 활용

• 도구 선택 : 사용자의 과거 선호 방식 기반
• 상황 판단 : 이전 대화의 미완성 과제에 대한 기억 바탕
• 학습 루프 : 실패 경험도 기록하여 반복 학습
• 개인 맞춤형 경험 : 사용자별 데이터/맥락 지속 반영

Memory가 추가된 Agentic Agent

• 기억 정확성 : 저장된 정보의 보존성
• 기억 활용성 : 저장된 맥락을 효과적으로 불러와 활용하는지
• 기억 유지보수성 : 오래된 기억의 적절한 갱신 및 관리
• 기억 재현율 : 동일 맥락에서 일관된 기억 불러오기

메모리 검증 전략

• 시퀀스 기반 TC 작성
• 페르소나 기반 시나리오 검증
• 시간 기반 시나리오 검증
• Memory Safety 검증

오늘 배운 것

1. 알고리즘
   • swea 2383 점심 식사시간
   • 부분집합

내일 할 일

1. 포트폴리오 내용 복기

참고자료

• AI 에이전트 테스트 기준 SPeCTRA 2.0