메모리 사용량 최대 6배나 감소할 수 있어...장기적으론 메모리시장에 긍정적인 영향 미칠 것이란 분석도 나와
이날 엔비디아가 4% 넘게 하락한 것을 비롯해 필라델피아반도체지수 4.8%, 마이크론 7%, 대만 TSMC도 6% 넘게 급락했다.
메모리 반도체 시장에 충격을 준 구글의 터보퀀트는 인공지능(AI) 모델의 메모리 사용량을 줄여주는 기술이다.
정확도 저하 없이 모델의 크기를 극단적으로 축소하는 압축 기법을 이용해 AI의 메모리 사용량을 6분의 1로 줄였다.
챗봇을 비롯한 AI 모델은 추론하고 답변을 생성하는 데 사용자와의 이전 대화와 검색 결과 등 주요 맥락 정보가 필요하다.
대화가 오래 계속되면 메모리에 저장되는 맥락 데이터도 늘어나게 되고, 메모리 사용량도 그만큼 늘어나게 마련이다.
구글은 터보퀀트에서 이와 같은 맥락 데이터의 크기를 줄이는 '극좌표양자화'(폴라퀀트)와, 오차를 줄이는 'QJL'(양자화 존슨-린덴스트라우스 변환) 기술을 바탕으로 이 같은 성과를 거뒀다.
폴라퀀트 기술은 AI가 다루는 데이터의 구조를 직교좌표계에서 극좌표계로 바꾸는 방식으로 크기를 줄인다.
동서남북 네 방향밖에 없는 2차원 공간에서는 이와 같은 변화가 데이터 크기를 그다지 줄이지 못하지만, 실제로 AI가 사용하는 데이터는 수백∼수천차원 벡터 구조로 돼 있기 때문에 효과가 크다.
구글은 이를 통해 기존 방식에서 발생하던 메모리 낭비를 줄일 수 있었다고 설명했다.
이와 같은 압축 과정에서 발생할 수 있는 미세한 오차는 QJL 기술을 이용해 바로잡는다.
단 1비트만을 소모하는 이 기술은 메모리를 거의 사용하지 않고도 일종의 '수학적 오류 검사기' 역할을 하게 된다.
그러나 장기적으로는 오히려 메모리 시장에 긍정적인 영향을 미칠 것이라는 게 시장 분석가들의 설명이라고 블룸버그 통신은 전했다.
숀 김 모건스탠리 분석가는 "모델이 성능 저하 없이 메모리 요구량을 낮춰 실행할 수 있다면 비용이 크게 감소해 AI 도입의 수익성이 높아질 것"이라며 "비용이 낮아지면 제품 채택 수요도 증가해 장기적으로 메모리 제조사에도 이익이 될 것"이라고 내다봤다.
영국 경제학자 윌리엄 제번스가 주창한 대로 기술의 효율성이 높아질수록 제품의 채택과 수요가 오히려 늘어난다는 '제번스의 역설'이 적용될 것이란 전망이다.
오터스 어드바이저스의 앤드루 잭슨 분석가는 "극심한 (메모리) 공급 제약 상황을 고려할 때 구글의 이번 기술이 수요에 미치는 영향은 미미할 것"이라고 평가했다.
이성구 전문위원 ttintl1317@beyondpost.co.kr
