2025-12-25
1일 1아티클
요즘IT
LLM 소통 방식
채팅 인터페이스의 문제
- 전세계적으로, 범용적이고 빠르게 시제품 생산 가능하다는 근거로 채팅 인터페이스 제작
- “생성형 AI 도입의 1차 물결은
채팅에 대한 과도 의존으로 실패했다” (Blair Hudson) - 구조가 빠져 있음
- 채팅은 잘못된 추상화에 불과 (ex. 병원을 채팅창으로 운영할 수 있는가?)
- 실질적 생산성에는 더 많은 것 필요
- 자연어의 과도한 사용으로 인한 숨겨진 비용 문제
- 자연어의 불투명성 → 도구 적용 어려움, 고가의 벡터 임베딩 사용으로도 검색 정확도 장담 X
- ex. RAG 시스템 구축의 어려움
- 자연어의 모호성을 프로그래밍 언어가 해결
- 구조가 필요한 소통에도 자연어를 사용하는 것은 게으른 선택 (장기적 관점에서는 문제를 쌓는 일)
구조 활용 방안
- 표현 방법은 어떠한 포맷도 자유롭게 사용 가능 (JSON, XML, etc.)
- 표현 방법보다
구조를 어떻게 채우는가가 중요 - 가능한 이미 존재하며, 도메인 특징을 잘 반영하는 구조 사용
핵심은 도메인 통합. 자연어보다는 도메인 언어로 소통할 것
JVM 기반 접근법
- 강력한 타입 지원 : LLM 출력을 도메인 객체로 직접 역직렬화
- 기존 도메인 모델 활용 : Spring Data Entity, JPA 등 수십 년간 집약된 도메인 지식 코드 활용
- Bean Validation (JSR 380) : 추정으로 작업 X, 구조화된 LLM 출력 검증
- 실전 검증 거친 인프라 : 기존 스프링부트 설정, 영속성 계층, 엔터프라이즈 통합 지원
Embabel: 에이전트 프레임워크 존재
오늘 배운 것
- 관통 프로젝트
- 발표 준비
- 최종 자료 제출
- 싸피데이 준비
- 포트폴리오 작성 (con.)
내일 할 일
- 관통 프로젝트 발표
- 싸피데이 진행