‘아마존 세이지메이커 점프스타트’ 활용…AWS 마켓플레이스 내 배포

[아이티데일리] 아마존웹서비스(AWS)는 국내 인공지능(AI) 스타트업 업스테이지(Upstage)가 AWS에서 주력 제품인 소형언어모델(SLM) ‘솔라 미니(Solar Mini)’를 출시했다고 21일 밝혔다.

솔라 미니는 한국어와 영어로 이해와 요약, 번역 및 새로운 콘텐츠 예측 등 다양한 언어 작업을 수행하도록 쉽게 맞춤화하고 미세 조정할 수 있는 다목적 모델이다. 추후 태국어와 일본어로도 제공될 예정이다. 업스테이지는 고객이 솔라 미니를 통해 모델을 처음부터 훈련시킬 필요 없이 생성형 AI를 손쉽게 개발·활용하고, 산업별 사용 사례에 적합한 새로운 애플리케이션을 출시할 수 있도록 지원한다.

SLM은 수천억 개의 파라미터를 사용하는 대규모 언어 모델(LLM)에 비해 경량으로, 200억 개 미만의 파라미터를 사용한다. 솔라 미니는 107억 개의 파라미터로 구성된 더 작은 학습 데이터세트로 추론을 더 낮은 비용으로 실행할 수 있다.

업스테이지는 솔라 미니를 학습시키고 한국어에 특화된 LLM 개발을 위해 ML 모델 개발 및 배포 서비스인 ‘아마존 세이지메이커(Amazon SageMaker)’를 활용했다. 학습 데이터는 업스테이지가 설립한 얼라이언스인 ‘1T 클럽(1조 토큰 클럽)’에서 제공한 데이터를 사용했다. 뿐만 아니라, 업스테이지는 ‘할루시네이션(환각현상)’을 방지하고자 자사의 고급 데이터 전처리와 검색 증강 생성(RAG) 등의 미세 조정 기술도 활용했다.

이를 통해 솔라 미니는 지난해 12월 글로벌 AI 플랫폼 허깅페이스(HuggingFace)의 ‘오픈 LLM 리더보드(Open LLM Leaderboard)’에서 우수한 설계를 인정받아 74.2점을 기록하며 최고의 오픈소스 대규모 SLM AI 모델로 평가받았다는 게 회사 측 설명이다.

현재 솔라 미니는 파운데이션 모델(FM)을 제공하는 머신러닝(ML) 허브인 ‘아마존 세이지메이커 점프스타트(Amazon SageMaker JumpStart)’와 타사 소프트웨어(SW) 공급업체의 솔루션을 쉽게 배포할 수 있는 AWS의 디지털 카탈로그인 ‘AWS 마켓플레이스(AWS Marketplace)’에서 이용해 볼 수 있다. 또한 메타버스 엔터테인먼트(Metaverse Entertainment), 쿼라(Quora), 커넥트웨이브(ConnectWave), 콴다(Qanda) 등 국내외 기업에서 이미 사용하고 있는 도메인별 학습 데이터를 활용해 솔라 미니를 미세 조정할 수 있다.

AWS코리아 윤정원 공공부문 대표는 “AWS상에 구축된 업스테이지의 솔라 미니는 모든 규모의 기업이 다양한 지역의 요구사항에 따라 생성형 AI를 쉽게 도입할 수 있도록 지원하는 강력한 솔루션이다”라며 “언어 모델은 빠르게 진화하고 있으며, 이러한 혁신의 최전선에는 AWS의 안전하고 확장 가능한 스택(stack)이 있다. 업스테이지는 이런 역량을 활용해 AI 제품을 확장하고, 다양한 산업에 생성형 AI를 애플리케이션에 쉽게 배포할 수 있는 도구를 제공하고 있다”고 말했다.

업스테이지 김성훈 대표는 “업스테이지는 사업 시작 단계부터 글로벌 AI 플레이어로 거듭날 수 있도록 준비해 왔다. 업스테이지는 AWS를 클라우드 우선 사업자로 선정하고, 크레딧과 기술 지원을 제공하는 ‘AWS 액티베이트(AWS Activate)’ 등의 지원 프로그램을 통해 업스테이지의 스타트업 여정을 시작하고 비즈니스를 빠르게 확장했다”며 “아마존 세이지메이커 점프스타트에서의 솔라 미니 모델 출시로 전 세계 기업들이 한국에서 가장 높은 다목적성을 갖춘 LLM을 이용할 수 있는 새로운 가능성을 열었으며, 이를 통해 AWS와의 협업을 한층 강화하게 돼 기쁘다. 업스테이지는 AI 환경을 재정의하고 기업 애플리케이션을 위한 가장 안정적이고 혁신적인 AI 솔루션을 제공하기 위해 최선을 다하고 있다”고 말했다.

한편 AWS는 클라우드 서비스에 대한 국내 고객의 수요 증가에 대응하기 위해 2027년까지 국내 클라우드 인프라에 7조 8,500억 원을 투자할 계획을 밝힌 바 있다.

저작권자 © 아이티데일리 무단전재 및 재배포 금지