(서울=뉴스1) 유수연 기자 = 카카오(035720)는 개인화 인공지능(AI) 에이전트 개발에 활용할 수 있는 임베딩 모델 '카나나-2 임베딩(Kanana-2-embedding)' 2종을 오픈소스로 공개했다고 29일 밝혔다.
임베딩 모델은 문장의 의미를 수치로 변환해 관련 정보를 검색할 수 있도록 돕는 기술이다. 이용자가 정확한 단어를 기억하지 못하더라도 과거 대화나 저장된 정보에서 의미가 유사한 내용을 찾을 수 있다.
예를 들어 이용자가 '전에 이야기했던 조용한 식당'을 찾을 때 식당 이름을 입력하지 않아도 '대화하기 좋은 곳'처럼 비슷한 의미로 남아 있는 과거 정보를 찾도록 도울 수 있다.
카카오는 지난 '이프카카오26'에서도 흩어진 일상의 맥락을 연결하는 임베딩 기술을 개인화 AI 에이전트의 출발점으로 강조한 바 있다.
이번에 공개한 모델은 30억 매개변수(파라미터) 규모의 '카나나-2-3b-임베딩'과 13억 매개변수 규모의 '카나나-2-1.3b-임베딩'이다.
두 모델은 유사 규모의 공개 임베딩 모델인 '라마-네모트론-임베디드-1b-v2', '큐웬3-임베딩-4B'와 비교한 평가에서 가장 높은 한국어 성능과 유사한 수준의 영어 성능을 보였다. 큐웬3-임베딩 대비 높은 추론 효율을 기록했다.
또 기존 카나나 임베딩 모델 시리즈보다 검색 성능을 개선하고 메모리 사용과 추론 속도 측면에서 수십 배 이상의 효율성 향상을 확인했다.
카카오는 자체 SLM '카나나-2-SLM'의 언어 이해 능력을 정보 검색에 활용할 수 있도록 학습시켜 3B 모델을 개발했다.
이어 큰 모델이 학습한 정보를 작은 모델에 전달하는 지식 증류 기법을 적용해 1.3B 모델을 구축했다.
텍스트의 의미를 숫자들의 묶음으로 표현한 '임베딩 벡터'에서 사용하는 숫자의 개수를 조절할 수 있는 'MRL'(Matryoshka Representation Learning) 기법을 적용해 서비스 운영 환경에 맞춰 효율을 조정할 수 있도록 했다.
개발자는 서비스에 필요한 검색 성능, 저장 공간, 처리 속도를 고려해 벡터의 크기를 선택할 수 있다.
아울러 연구·개발뿐 아니라 라이선스 조건에 따른 상업적 활용도 가능한 '카나나 오픈 라이선스'(Kanana Open License)를 적용했다.
국내외 연구자와 기업은 공개된 모델을 직접 검증하고 개인화 기반 AI 에이전트와 의미 기반 검색 서비스 개발에 활용할 수 있다.
노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "AI 에이전트는 흩어진 정보 속에서 필요한 정보를 정확히 찾아내는 기술이 중요하다"며 "연구자와 개발자들이 한국어에 강점을 가진 임베딩 기술을 서비스에 활용할 수 있도록 돕고 검색 성능과 효율을 높이는 연구를 이어갈 것"이라고 말했다.
shushu@news1.kr
