소프트웨어

마음AI, Llama 3.1 기반으로 On-premise LLM 제품 업그레이드


  • 신근호 기자
    • 기사
    • 프린트하기
    • 크게
    • 작게

    입력 : 2024-08-19 10:44:05

    ▲ ©마음에이아이

    인공지능 회사 마음에이아이는 약 3주 만에 자사의 주력 On-premise LLM 제품인 ‘MAAL(Multilingual Adaptive Augmentation Language-model)’을 Llama 3 기반에서 Llama 3.1 기반으로 업그레이드했다고 공식 발표했다. 마음에이아이는 "이번 모델 고도화를 통해 마음AI의 MAAL은 현존하는 온프레미스 LLM 중 최고 수준의 성능을 갖추게 되었다"고 밝혔다.

    특히 마음AI의 MAAL은 한국어 언어모델의 다분야 사고력을 측정하는 LogicKor 평가에서 높은 점수(7.23점)를 기록하며, 오픈소스 기반 모델이 공통적으로 겪는 ‘한국어 능력이 크게 떨어지는’ 문제를 극복했다. Llama 3.1 모델도 이전 Llama 3 기반 모델에 비해 성능이 크게 개선되었으나, 여전히 한국어 처리 능력에서 부족한 점이 있다. 이에 마음AI는 CoIT(Conversion of Intelligence Technique) 기법을 적용해 기존 모델의 우수한 영어 능력을 한국어로 치환함으로써, 한국어에서도 탁월한 성능을 발휘하도록 만들었다고 밝혔다.

    이번 모델 성능 향상에 따라 고객사는 더욱 체계적인 답변을 받을 수 있게 되었다. 예를 들어, ‘원격 근무가 대중화됨에 따라 발생하는 사회적 변화가 무엇이 있는지 설명해달라’라는 요청에 대해, 기존 모델은 단순히 다양한 변화를 나열하며 응답한 것과 달리, 최신 모델은 이 변화들을 긍정적인 측면과 부정적인 측면으로 나눠 답하며 더욱 심층적인 결과를 제공했다.

    특히 ‘가드레일(안전하고 의도된 방향의 답변을 제공하기 위해 사전에 설정된 제약 조건)’ 등 기업 내에서 중요하게 사용되는 테스크에 대해서도 ChatGPT 4 Omni 못지않은 최상급 성능을 보였다. 이러한 성능 향상은 사내 LLM 활용도를 높임으로써 On-premise LLM 시장 규모가 실질적으로 크게 확대되는 데 기여할 것으로 예측된다.

    이번 마음AI의 모델 업그레이드는 Llama 3.1 오픈소스 모델이 공개된 지 불과 약 3주 만에 완료되었다는 점에서 큰 의의가 있다. 마음AI는 자사의 학습 최적화 기술(Distributed Learning)을 활용하여 신속한 제품화를 이루었으며, 기존 고객사의 제품도 빠르게 최신 모델로 업그레이드하고 있다고 강조했다.


    베타뉴스 신근호 기자 (danielbt@betanews.net)
    Copyrights ⓒ BetaNews.net