[비욘드포스트 이봉진 기자] 이화여자대학교는 전자전기공학전공 박형곤 교수 연구팀이 끊김과 손실이 잦은 네트워크 환경에서 AI의 학습 성능을 안정적으로 유지할 수 있는 ‘연합학습(Federated Learning) 핵심 기술’을 신규 개발했다고 3일 밝혔다.

이번 연구는 6G·사물인터넷(IoT)·모바일 엣지 컴퓨팅(MEC) 등 대규모 분산 AI 환경에서 지속적으로 제기되어 온 패킷 손실과 지연 문제를 구조적으로 해결했다는 점에서 높은 평가를 받고 있다.

패킷은 데이터를 나누어 전송하는 단위로, 일부가 손실되면 AI가 불완전한 정보를 학습하게 된다. 이러한 문제는 특히 스마트폰, 센서, 차량 등 여러 기기가 각자 학습한 모델을 서버로 보내 전체 AI 모델을 완성하는 연합학습(Federated Learning) 환경에서 매우 중요하다.

연합학습에서는 각 기기의 학습 결과를 정확히 전달해야 전체 AI 모델의 성능이 유지되므로, 패킷 손실이나 전송 지연은 곧 모델 정확도와 안정성 저하로 이어질 수 있다.

스마트폰, 웨어러블, 센서, 자율주행차, 로봇 등 수십억 개 기기가 동시에 데이터를 생성, 처리하는 시대가 도래했지만, 실제 무선 네트워크에서 널리 사용하는 전송 제어 프로토콜(TCP) 기반 방식은 패킷 손실에 따른 전송 지연이 잦아 AI 학습 속도와 정확도에 영향을 미치는 한계가 있었다.

또한 사용자 데이터그램 프로토콜(UDP) 기반 방식은 전송 속도는 빠르지만 일부 패킷 손실로 인해 AI가 불완전한 정보를 학습하는 구조적 한계가 존재했다.

박형곤 교수팀은 이러한 문제를 해결하기 위해 ‘저랭크 근사(Low-Rank Approximation)’와 ‘체계적 네트워크 코딩(SysNC)’을 결합한 새로운 패킷 복구 알고리즘을 개발했다.
연구팀은 대규모 AI 모델에서 정확도에 가장 큰 영향을 주는 핵심 정보를 우선 전송하고, 상대적으로 중요도가 낮은 정보는 수학적 근사를 활용해 나중에 복원 가능하도록 설계함으로써 전체 지연을 크게 줄였다. 또한 중요한 정보는 ‘체계적 네트워크 코딩’으로 보강해 일부 정보가 유실되더라도 정확도를 안정적으로 유지하도록 했다.

실험 결과, 해당 기술은 패킷 손실률 10%의 열악한 환경에서도 정상 전송 대비 96% 이상의 학습 정확도를 유지했으며, 전송 지연 현상도 기존 방식보다 약 50% 감소한 것으로 확인이 됐다.

이는 MNIST, CIFAR-10 등 다양한 데이터셋에서 기존 알고리즘 대비 가장 높은 정확도와 안정성을 보였으며, FedAvg·FedProx·FedALA 등 대표적인 연합학습 알고리즘에 적용했을 때도 일관된 성능 향상 효과가 나타났다.

이번 성과는 ▲IoT·엣지 디바이스 환경 ▲5G 및 6G 기반 지능형 서비스 ▲헬스케어·모빌리티 AI 등 등 실시간 안정성이 중요한 분야에서 즉시 활용 가능한 핵심 원천 기술로 평가된다.

박형곤 교수는 “본 연구는 패킷 손실이라는 현실적 한계를 수학적 근사기법과 네트워크 코딩을 결합해 해결한 첫 사례”라며 “앞으로 대규모 분산 AI 학습 시스템의 안정성과 효율성을 획기적으로 향상시킬 것”이라고 밝혔다.

본 연구를 담은 논문 ‘근사 기법을 활용한 연합학습용 효율적·강인한 패킷 복구(Efficient and Resilient Packet Recovery for Federated Learning via Approximation)’는 저명 SCIE 저널 ‘IEEE Transactions on Mobile Computing’에 게재됐다.

이번 연구는 박형곤 교수(교신저자)와 본 연구실 졸업생 권정민 강원대 교수(1저자)의 공동연구로 수행됐으며, 정보통신기획평가원(IITP)의 ‘분산·협력 AI 기반 5G+ 네트워크 데이터 분석 기능 및 제어 기술 개발’ 과제, 한국연구재단의 중견연구사업(창의연구형) 및 기초연구사업(세종과학펠로우십)의 지원을 받았다.

bjlee@beyondpost.co.kr