인공지능(AI) 모델이 새로 출시될 때마다 천문학적인 비용과 시간을 들여 처음부터 다시 학습시켜야 했던 '비효율의 시대'가 막을 내릴 전망입니다.
KAIST 김현우 교수팀과 고려대 연구팀이 서로 다른 구조와 크기를 가진 AI 모델 사이에서도 지식을 자유자재로 이식할 수 있는 혁신 기술 '트랜스미터(TransMiter)'를 개발했다고 27일 밝혔습니다.
이번 기술의 핵심은 AI의 '뇌 구조(아키텍처)'가 달라도 지식 전달이 가능하다는 점입니다. 기존에는 모델의 뼈대가 다르면 학습 내용을 재사용하기 어려워, 새로운 거대언어모델(LLM)이 나올 때마다 방대한 데이터를 처음부터 다시 주입해야 했습니다.
하지만 연구팀은 데이터 그 자체가 아니라, AI가 학습하며 축적한 '적응 노하우'만을 어댑터 형태로 추출해 다른 모델에 심는 방식을 고안해냈습니다.
이는 마치 컴퓨터 소프트웨어에 보안 패치를 덧입히듯, 작은 AI 모델이 습득한 지식을 거대 모델에 즉시 적용할 수 있게 된 셈입니다.
특히 주목할 점은 결과값만 흉내 내는 기존의 '지식 증류(Distillation)' 방식과는 차원이 다르다는 것입니다.
트랜스미터는 학습의 과정과 방식을 그대로 옮겨오기 때문에, 가볍고 빠른 소형 모델에서 먼저 학습한 데이터를 대형 모델로 이식해 성능을 효율적으로 끌어올릴 수 있습니다.
김현우 교수는 이 기술이 상용화되면 새로운 모델이 등장할 때마다 반복되는 막대한 사후 학습(Fine-tuning) 비용을 획기적으로 줄이고, 필요한 전문 지식만 골라 실시간으로 업데이트하는 '맞춤형 AI 패치' 시대를 열 것으로 내다봤습니다.