GPU Slicing·Internal AI 기반 AI 교육 인프라 운영 방향 논의
18일 관련 업계에 따르면 협의회 소속 총장단은 지난 14일 틸론 본사를 찾아 AI 교육·연구 인프라 운영 모델과 AI Native Campus 구축 방향을 논의했다.
디지텍 고등직업교육협의회는 전국 공학계열 중심 전문대학 10개교가 참여하는 협의체다. 산업 현장 중심 공학교육 혁신과 실무형 기술 인재 양성을 목표로 운영되고 있다. 현재 연성대학교 권민희 총장이 제5대 회장을 맡고 있다.
이번 방문은 교육부의 AI·디지털 전환 정책 확대와 AI 인재 양성 기조에 맞춰 실제 대학 현장에 적용 가능한 인프라 운영 사례를 살펴보기 위해 마련됐다.
최근 대학가에서는 생성형 AI 활용 수요가 빠르게 증가하고 있지만, GPU 장비 확보와 운영 비용 부담이 주요 과제로 떠오르고 있다. 특히 실습 비중이 높은 전문대학은 제한된 예산 안에서 안정적인 AI 실습 환경을 구축해야 하는 상황이다.
이날 틸론은 GPU 자원을 사용자별·업무별로 분할해 동시에 사용할 수 있는 GPU Slicing 기술과 GPU 가상화 기반 AI 실습 환경을 시연했다. 참석자들은 학생 개인 장비 성능과 관계없이 안정적으로 AI 실습을 운영할 수 있는 구조를 직접 확인했다.
지난 4월 출시된 AI 플랫폼 ‘iStation’ 시연도 함께 진행됐다. iStation은 자체 대규모언어모델(LLM)과 상용 AI를 결합해 조직 맞춤형 Internal AI를 구축할 수 있는 플랫폼이다.
특히 자체 개발 토크나이저 ‘iTokenize’를 활용해 상용 AI 사용 비용을 종량제로 전환하고, 사용자별 활용 현황과 업무 성과를 분석할 수 있는 기능도 소개됐다.
틸론은 향후 시계열 영상분석 AI와 문서작업 자동화 기능 등을 추가해 학사·행정 업무까지 AI 적용 범위를 확대할 계획이라고 밝혔다.
틸론은 VDI 기반 구조를 통해 데이터는 중앙 서버에 저장하고 사용자에게 화면만 전달하는 방식으로 보안성과 운영 효율성을 동시에 확보할 수 있다고 설명했다.
김영도 한국전문대학교육협의회 회장은 “AI 교육은 단순 활용을 넘어 실제 산업 현장에서 운영 가능한 환경을 제공하는 방향으로 변화하고 있다”며 “전문대학 역시 AI를 직접 운영·관리할 수 있는 실무형 인재 양성이 중요해지고 있다”고 말했다.
sglee640@beyondpost.co.kr
