오는 10월, 세계 보안 분야 최고 권위 학술대회 ‘ACM CCS 2025’서 발표될 예정
최근 대규모 언어모델(LLM) 활용 서비스가 급속히 확산되면서 개인정보를 보호하면서도 안정적으로 모델을 운영할 수 있는 암호 기술의 필요성이 커지고 있다.
그러나 기존 동형암호(Homomorphic Encryption) 기반 기술은 대규모 행렬 연산의 비효율성이나 모델 구조를 변경하고 재학습해야 하는 제약 때문에 실제 적용에는 한계가 있었다.
김 교수팀은 이러한 문제를 해결하기 위해 행렬을 대각선 방향으로 암호화하고 암호문 패킹 기술을 적용하는 새로운 연산 방식을 개발했다. 이를 통해 암호화된 상태에서도 행렬 연산을 효율적으로 수행할 수 있게 됐다.
2018년 김 교수 연구팀이 제안해 최고 성능으로 평가받아 온 기존 동형암호 기반 행렬곱 방식보다 최대 10배 향상된 성능을 달성했다. 연구팀은 개발된 행렬 연산 알고리즘을 LLM 추론에 적용해, 별도의 재학습 없이도 동형암호 환경에서 LLM을 실행할 수 있는 프레임워크를 구축했다.
모든 추론 과정은 연산 서버에서 복호화 과정 없이 안전하게 이뤄지며, 이를 BERT-base 모델에 적용한 결과 단일 GPU 환경에서 약 10분 내 추론 완료가 가능함을 확인했다.
김 교수는 “이번 연구는 동형암호 기반 행렬 연산의 속도와 확장성 한계를 극복해 실질적인 LLM 추론을 구현했다는 점에서 의의가 크다”며 “향후 안전하고 신뢰할 수 있는 인공지능 서비스로 이어질 것”이라고 밝혔다.
이어 “최근 수행한 동형암호 기반 강화학습 연구가 『Nature Machine Intelligence』에 게재 예정인 만큼, 동형암호의 인공지능 응용 범위를 계속 확장해 나갈 것”이라고 덧붙였다.
이번 연구는 한국연구재단(NRF), 정보통신기획평가원(IITP), 미국국립보건원(NIH)의 지원을 받아 수행됐으며, 해당 논문 「THOR: Secure Transformer Inference with Homomorphic Encryption」에는 한양대 문정호 연구원이 제1저자, 연세대 유동우 연구원과 미국 휴스턴 UTHealth의 Xiaoqian Jiang 교수가 공동저자로, 한양대 김미란 교수가 교신저자로 참여했다.
한편, 해당 논문은 기술의 독창성과 우수성을 인정받아 오는 10월 13일부터 닷새간 열리는 전 세계 보안 분야 최고 권위 학술대회인 ‘ACM CCS 2025’ (ACM Conference on Computer and Communications Security 2025)에서 발표될 예정이다.
bjlee@beyondpost.co.kr
