[비욘드포스트 이봉진 기자] 서강대학교(총장 심종혁)는 컴퓨터공학과 DISCOS 연구실의 김영재 교수 연구팀이 작성한 논문이 지난 6월 24일부터 26일까지 제주국제컨벤션센터에서 열린 '2026 한국컴퓨터종합학술대회(KCC 2026)'에서 컴퓨터시스템 부문 최우수논문상을 수상했다고 27일 밝혔다.

수상 논문은 「SurrogateKV: 어텐션 안정화 기반 의미보존 KV 캐시 압축」으로, 김준원 학생(컴퓨터공학과 21학번)이 제1저자로 참여하고 유정현 박사과정 연구원과 김영재 교수가 공동 저자로 이름을 올렸다.

대규모 언어 모델(LLM)은 연산 효율을 높이기 위해 이전 토큰의 계산 결과를 'KV 캐시'에 저장한다. 그러나 장문의 문맥을 처리할 경우 KV 캐시 용량이 비대해져 GPU 메모리 부담이 늘어나고 답변 출력 속도가 저하되는 문제가 발생한다. 기존 압축 방식은 중요도가 낮은 영역을 무작위로 삭제해 문맥 정보가 손실되거나 연산 오류가 발생하는 한계가 있었다.

연구팀이 개발한 'SurrogateKV' 기술은 불필요한 구간을 무조건 삭제하는 대신, 해당 구간을 대표하는 하나의 대체(Surrogate) 토큰으로 치환하는 방식이다. 핵심 문맥은 원본 그대로 유지하면서, 제어 대상 구간은 압축된 표현으로 남겨 어텐션 연산의 안정성을 유지하도록 설계했다.

실험 검증 결과, KV 캐시 용량을 25% 수준으로 줄인 상태에서도 기존 대표 기술(PyramidKV) 대비 9.73점 높은 성능을 기록했다. 또한 최고 성능(FullKV) 대비 첫 토큰 출력 시간(TTFT)의 증가폭을 최대 22.9ms 내로 제어해 실제 서비스 적용 가능성을 입증했다.

이번 기술은 장문 질의응답, 문서 요약, 검색 증강 생성(RAG) 등 대용량 텍스트를 다루는 LLM 인프라의 운영 비용을 절감하고 응답 속도를 개선하는 데 기여할 것으로 보인다.

제1저자인 김준원 학생은 "학부생 연구원으로서 직접 연구를 설계하고 실증 실험까지 수행한 과정이 좋은 결과로 이어져 뜻깊다"라며 "지도해 주신 김영재 교수님과 유정현 연구원에게 감사하며, 앞으로도 인공지능 시스템 분야의 연구 역량을 계속해서 강화해 나가겠다"라고 밝혔다.

bjlee@beyondpost.co.kr