개인정보 유출·데이터 보안 등 위험 대응
한전KPS는 지난 5월부터 감사업무에 특화한 AI 에이전트 '감사해'를 운영하고 있다. 감사보고서 작성 지원과 문장·어문법 검토, 과거 징계사례 분석, 감사 질의응답, 공사설계 및 안전관리비 적정성 점검 등을 지원하는 시스템이다.
회사는 AI 활용 범위가 넓어지면서 감사 과정에서 다루는 민감정보와 개인정보, 데이터 보안 등에 대한 관리 필요성이 커졌다고 설명했다. 이에 감사실을 중심으로 관련 부서가 참여하는 'KPS AI AEGIS' 구축 전담반을 꾸리고 지난 2일 첫 회의를 열었다.
전담반은 AI 활용 과정에서 발생할 수 있는 위험을 줄이기 위한 감사 프레임워크를 마련한다. 기술의 안전성과 신뢰성을 확보하는 동시에 AI와 감사인의 역할을 구분하는 운영 기준도 검토한다.
첫 회의에서는 사람이 시스템 운영과 감독, 최종 의사결정에 참여하는 '휴먼인더루프(Human in the Loop)' 원칙을 적용하는 방안이 논의됐다. AI가 감사 판단을 대신하기보다 데이터 분석과 이상징후 탐지 등을 통해 감사인의 판단을 지원하도록 운영한다는 방향이다.
이성규 한전KPS 상임감사는 "감사업무 AI는 민감한 정보를 다루는 만큼 높은 수준의 윤리성과 리스크 관리가 필요하다"며 "AI 결과의 공정성과 신뢰성, 정보 보안을 우선해 활용 체계를 발전시키겠다"고 말했다.
sglee640@beyondpost.co.kr
