자연어 기반 보안 정책 설정·개인정보 탐지 지원
젠가드는 AI 서비스에 입력되는 요청과 생성된 응답을 기업이 설정한 보안 정책에 따라 판정하고 차단하는 솔루션이다. 기존 생성형 AI 플랫폼 '제노스(GenOS)'에서 운영하던 보안 기능을 독립 제품으로 개발했으며, 제노스 도입 여부와 관계없이 사용할 수 있도록 설계했다.
핵심 기능은 자연어를 활용한 보안 정책 설정이다. 별도의 모델 재학습 없이 '개별 종목 추천 차단'과 같은 정책을 입력하면 AI가 요청과 응답을 분석해 해당 기준을 적용한다. AI의 안전장치를 우회하는 탈옥(Jailbreak) 시도와 프롬프트 공격에도 대응할 수 있도록 했다.
개인정보 보호 기능도 갖췄다. 주민등록번호와 계좌번호, 카드 정보뿐 아니라 이름과 주소 등 비정형 정보도 문맥을 분석해 탐지한다. 외부 AI 서비스로 개인정보가 전송되는 것을 막기 위해 해당 정보를 차단하거나 마스킹할 수 있다. 기업은 정책 적용 전 관찰 모드에서 차단 결과를 확인하고 오탐 여부를 점검할 수 있으며, 내부 서버나 폐쇄망에서도 솔루션을 운영할 수 있다.
제논은 제품 출시와 함께 자체 개발한 경량 가드레일 모델 'GenGuard 1.0 Light'와 한국어 서비스 정책 평가 데이터셋 'KSPG-Bench'도 공개했다. 회사 측에 따르면 GenGuard 1.0 Light는 공개 가드레일 모델 5종과 비교한 평가에서 평균 84.3점으로 가장 높은 점수를 기록했다. 응답 시간은 평균 점수 2위 모델의 약 15분의 1 수준으로 나타났다. 다만 해당 성능은 회사가 제시한 비교 평가 결과다.
명대우 제논 부사장(CTO)은 "기업의 AI 활용이 본격화될수록 보안은 단순한 위험 관리 수단을 넘어 AI 서비스의 신뢰성과 경쟁력을 결정하는 핵심 요소가 될 것"이라며 "국내 기업 환경에 최적화된 AI 보안 기술로 시장을 선도해 나가겠다"고 말했다.
sglee640@beyondpost.co.kr
