SKT 독파모 개발총괄 "답하는 AI 넘어 일하는 AI로 무게추 이동"

(서울=뉴스1) 이기범 기자 = SK텔레콤(017670)의 독자 인공지능(AI) 파운데이션 모델 개발 총괄이 자사 최신 모델을 놓고 "답하는 AI에서 스스로 계획하고 실행하는 AI로 무게 중심을 옮겼다"고 평가했다.

김태윤 SK텔레콤 파운데이션모델 담당은 4일 SK텔레콤 뉴스룸을 통해 최근 공개한 '에이닷엑스 케이투'(A.X K2)의 가장 큰 변화로 에이전틱 AI 시대에 걸맞은 추론 역량을 꼽았다. 특히 수학과 한국어 영역에서 두드러진 성과를 냈다고 밝혔다.

SK텔레콤이 지난 7월 29일 공개한 A.X K2는 매개변수 6880억 개(688B) 규모의 거대언어모델(LLM)로, 직전 모델인 519B 규모의 A.X K1 대비 모델 규모를 키워 수학 및 과학 추론 능력, 한국 지식 및 장문 추론 능력을 강화한 점이 특징이다. 이전 모델 대비 국내외 14개 벤치마크 평균 성능이 32.2%포인트(p) 향상됐다. 특히 장문 이해와 에이전트 관련 평가에서 약 83.9%p 개선됐다.

이를 두고 김 담당은 "전체 모델 규모는 688B로 키웠지만, 추론 과정에서 실제로 활성화되는 매개변수는 33B로 유지했다"며 "이에 따라 모델 규모를 확장하면서도 추론 비용은 늘리지 않았다. 단순히 매개변수만 늘린 것이 아니라 데이터 품질과 독자 아키텍처, 정교한 사후 학습이 복합적으로 작용한 결과"라고 설명했다.

김 담당은 이번 모델이 자체 개발한 SGA(Sparse Gated Attention) 구조를 토대로 모델의 효율과 안정성을 높였다고 밝혔다. AI가 긴 문맥을 처리할 때 관련성이 높은 정보만 선별해 참조하는 구조를 적용해 토큰 효율성을 높였다는 설명이다.

김 담당은 "입력 길이가 32K(보고서 한 편, 50장 전후 단편소설 한 권 분량)를 넘어서면 A.X K2의 처리량과 지연 시간 측면의 이점이 본격적으로 나타나며, 120K(회의록 수십 건, 300페이지가 넘는 장편소설 한 권 분량) 입력을 기준으로는 A.X K1보다 전체 토큰 처리량이 67.7% 개선된다"고 말했다.

김 담당은 이번 모델의 두드러진 성능 개선이 △데이터의 질 △독자 아키텍처와 정교한 사후 학습 △고난도 추론 능력과 한국어 역량, 산업 도메인 지식 등 필요한 영역에 대한 집중 투자 등 세 가지를 토대로 이뤄졌다고 짚었다.

김 담당은 이번 모델이 현장에서 곧바로 활용할 수 있는 모델을 지향했다고 밝혔다. 현재 철강 제조 기업 KG스틸과 자동차 부품 제조 기업 코넥을 대상으로 제조 특화 AI 에이전트의 현장 실증을 추진하고 있으며, SK하이닉스 사내 AI 도구에도 경량 모델을 연동해 반도체 지식 검색과 정보 정리 등에 활용할 수 있도록 지원하고 있다고 말했다.

국방 영역에서도 양자화 모델을 기업이 자체적으로 데이터센터를 구축·운영하는 온프레미스 폐쇄 환경에서 제공해 보안을 지킬 수 있도록 하고 있다고 설명했다.

해외 오픈소스 모델과 비교했을 때 A.X K2가 가진 경쟁력으로는 △한국어와 한국 지식·문화에 대한 깊은 이해 △데이터 주권과 보안 △특정 기업이나 정책 변화에 종속되지 않는 개방성을 꼽았다.

후속 모델은 조 단위 매개변수 규모로 확장해 글로벌 경쟁력을 확보할 방침이다. 정부가 지원하는 GPU 인프라에 추가 투자를 더해 개발을 진행할 계획이다.

김 담당은 "SKT가 가려는 방향은 '답하는 AI를 넘어 일하는 AI로, 그리고 세계가 인정하는 소버린 AI로'라고 요약할 수 있다"며 "A.X K2는 한국이 설계부터 학습까지 처음부터 끝까지 자체 기술로 개발한 모델이 수학과 한국어 영역에서 세계 최상위권에 도달할 수 있다는 가능성을 보여줬다"고 말했다.

이어 "한국이 안심하고 사용할 수 있고 세계도 인정하는 AI를 향한 도전을 이어가겠다"고 강조했다.

Ktiger@news1.kr