(서울=뉴스1) 이민주 기자 = KT(030200)가 여러 인공지능(AI) 모델을 한곳에서 골라 쓰고 이용 요금까지 통합 관리할 수 있는 기업용 플랫폼 '토큰팩토리'를 오는 30일 출시한다. 통신사업에서 쌓은 연결·과금·보안 역량을 AI 사업에 접목해 기업의 인공지능 전환(AX) 시장을 공략한다는 구상이다.
KT는 27일 서울 종로구 광화문 West 빌딩에서 기자간담회를 열고 토큰팩토리와 AX 사업 추진 방향을 공개했다. 지난 7월 박윤영 대표가 제시한 'AX 플랫폼 컴퍼니' 전략을 구체화한 것이다.
박상원 KT AX사업부문장 전무는 "기업 AX 사업에 있어서는 비용 효율과 보안·신뢰라는 두 마리 토끼를 반드시 같이 잡아야 합니다"라고 강조했다.
토큰팩토리는 기업이 업무에 필요한 AI 모델을 선택해 이용하고 사용량 확인부터 비용 관리, 결제까지 한곳에서 처리할 수 있는 플랫폼이다.
모델마다 따로 가입하거나 연결할 필요 없이 하나의 응용프로그램 인터페이스(API)로 여러 모델을 활용할 수 있다. 업무 난이도와 요구 품질에 맞춰 적합한 모델을 자동으로 선택하고, 부서별 이용량과 예산을 관리하는 기능도 제공한다.
출시 초기에는 KT가 국내 인프라에서 직접 운영하는 모델 7종과 글로벌 모델 66종 등 총 73종을 지원한다.
박 전무는 "통신사업에서 축적한 연결·과금·보호 역량을 AI 서비스로 확장한 토큰팩토리를 기반으로 고객의 AX 전환을 지원하겠다"고 말했다.
KT는 토큰팩토리가 여러 AI 모델을 모아 제공하는 중개 사업과 자체 인프라에서 모델을 구동해 공급하는 사업을 함께 수행한다는 점을 차별점으로 내세웠다.
글로벌 AI 모델 유통 플랫폼인 오픈라우터와 협력해 해외 모델을 연결하고, KT 데이터센터에서는 국내외 모델 7종을 직접 운영한다. 여기에 자체 개발한 모델 선택 기술과 토큰 사용 최적화 기능을 적용한다.
수익 구조도 공급 방식에 따라 나뉜다. 직접 운영하는 모델은 데이터센터의 그래픽처리장치(GPU)를 활용해 AI 추론 서비스를 제공하고 사용량에 따라 이용료를 받는다. 외부 모델 중개 사업은 통신망과 프라이빗 클라우드 등 기존 서비스와 연계해 수익을 확대한다는 구상이다.
글로벌 중개 사업자들이 다른 회사의 AI 모델을 연결해 주고 수수료를 받는 데 주력하는 것과 달리, KT는 자체 데이터센터에서 모델을 직접 구동하는 사업도 병행한다.
출시 초기 요금제는 스탠다드와 엔터프라이즈로 구성한다. 스탠다드는 사용량에 따라 요금을 정산하는 후불 방식이다. 엔터프라이즈는 기업이 이용 규모 등을 약정하면 비용을 낮추고 부가 기능을 제공한다.
사용량 관리에는 통신사업에서 축적한 과금 경험을 활용한다. 요청별 토큰 이용 기록을 바탕으로 요금을 산정하고, 기업은 이용자별·모델별 사용량과 비용을 확인할 수 있다. AI 이용 요금을 기업 통신 요금과 통합 청구하는 방식도 향후 제공할 예정이다.
박 전무는 "수수료가 메인 비즈니스 모델은 아니다"라며 기업의 AI 전환 사업과 토큰팩토리를 함께 공급하면서 가격도 유연하게 조정할 수 있다고 설명했다.
KT는 토큰팩토리의 강점으로 비용 절감과 기업 데이터 보호를 제시했다.
토큰팩토리는 질문의 유형과 난이도, 요구 품질을 고려해 적합한 AI 모델을 선택한다. 간단한 업무에 고가의 고성능 모델을 사용하는 일을 줄이고, 고객이 허용한 모델 범위 안에서 품질과 비용의 우선순위를 설정할 수 있도록 지원한다.
질문의 의미를 유지하면서 불필요한 표현을 줄이는 프롬프트 압축 기술도 적용한다.
KT는 프롬프트 압축으로 약 20%, 업무에 적합한 저렴한 모델을 선택하는 방식으로 약 5% 등 AI 이용 비용을 최대 25% 절감할 수 있다고 설명했다.
기업 관리자가 이용 한도와 보안 정책을 설정하는 기능도 제공한다.
국내 데이터센터에서 직접 운영하는 모델에는 KT와 업스테이지, 모티프의 모델 및 해외 오픈웨이트 모델 등이 포함된다.
기업은 업무 특성에 따라 국내 운영 모델만 이용하거나 특정 모델을 제외하도록 설정할 수 있다. 개인정보와 유해 표현을 걸러내는 가드레일, 기업별 금칙어와 접속 IP 제한 등도 지원한다.
입력한 프롬프트는 기본적으로 저장하지 않되 고객이 감사나 이력 관리를 원하면 선택적으로 저장할 수 있도록 했다.
KT는 토큰팩토리를 기존 금융·공공 고객의 AI 활용을 확대하는 기반으로 삼을 계획이다. 보안과 데이터 관리 요건이 까다로운 금융 분야에는 국내에서 운영하는 모델을 공급하고, 공공 분야는 KT클라우드와 협력해 관련 요건에 맞춘 서비스를 제공한다는 구상이다.
KT는 출시 후 연말까지 기업 고객 확보와 서비스 고도화에 집중할 계획이다. 오는 11월에는 오픈라우터 연계를 통해 제공 모델을 500종 이상으로 확대한다. 국내 데이터센터에서 직접 운영하는 모델도 내년에 10여 종으로 늘릴 예정이다.
내년 3월 말에는 개인과 개발자에게도 서비스를 개방하고 구독형 요금제를 선보일 계획이다. 사업의 중심은 기업·공공 시장에 둔다. 개인 개발자 대상 서비스는 국내 AI 모델의 활용을 늘리고 개발 생태계를 확대하는 차원이라는 설명이다.
국내 모델의 해외 유통도 추진한다. KT의 국내 인프라에서 운영하는 모델을 오픈라우터에 등록해 해외 고객에게 공급하고 국내 AI 기업들과 함께 시장을 넓힌다는 구상이다.
박 전무는 "목표 금액을 말씀드리기에는 지금은 적합한 타이밍이 아니다"며 국내 AI 이용 규모와 토큰팩토리를 통한 거래 확대 등에 따라 매출이 달라질 수 있다고 설명했다.
출시 전 고객 확보 상황에 대해서는 일부 고객사와 비공개로 서비스 이용을 준비하고 있다고 밝혔다. 계약 기업명과 유료 고객 수는 공개하지 않았다.
이진형 AX사업본부 본부장은 "국내 개발자들이 국내에서 생산되는 모델을 활용할 수 있도록 내년 3월 서비스를 선보일 것"이라며 "회사 수익뿐 아니라 국내 AI 생태계 안에서 토큰이 유통될 수 있도록 노력하겠다"고 밝혔다.
minju@news1.kr
