BC카드, 금융 특화 AI 검색 모델 공개…금융 전문 용어 검색 성능 ↑

(서울=뉴스1) 윤수희 기자 = BC카드는 금융 특화 생성형 AI 서비스의 검색 정확도를 높이는 자체 개발 임베딩(Embedding) 모델을 공개했다고 2일 밝혔다.

임베딩 모델은 의미가 비슷한 정보를 가까이 배치해 가장 관련성이 높은 정보를 찾아 사용자에게 제공한다.

기존 임베딩 모델은 가맹점, 카드 결제 등 국내 금융 분야의 전문 용어와 문맥을 충분히 이해하지 못했지만, BC카드는 오픈소스 플랫폼에 공개했던 182만 건 규모 데이터셋을 활용해 금융 특화 임베딩 모델을 개발했다.

이번에 개발된 모델은 경량형, 고품질형 2가지다. 경량형 모델은 약 6억(0.6 B)개의 피라미터 규모로 일반 CPU에서, 고품질형 모델은 약 40억(4.0B)개의 파라미터로 GPU에서 활용할 수 있다. 고품질형 모델은 경량형 모델 대비 약 10% 가량 성능이 뛰어나다.

빠른 응답이 필요한 서비스에는 경량형 모델을, 정밀한 검색이 필요하면 고품질형 모델을 선택적으로 적용할 수 있다.

BC카드는 금융 AI 서비스의 핵심 검색 기술을 자체 확보하면서 외부 AI 서비스에 금융 데이터를 제공하지 않고도 독자적인 AI 서비스를 운영할 수 있는 기반을 마련했다.

해당 모델은 글로벌 오픈소스 플랫폼인 허깅페이스(Hugging Face)를 통해서도 공개할 예정이다. BC카드는 향후 KT 그룹사 AI 서비스 적용을 시작으로 정부와 금융기관 등을 대상으로 금융 AI 검색 플랫폼 사업도 확대해 나갈 계획이다.

오성수 BC카드 상무(AI데이터본부장)는 "이번 개발은 금융 특화 AI 서비스의 핵심 기술을 자체 확보 및 운영할 수 있는 기술 기반을 마련해 정부의 소버린 AI 기조, 금융위원회가 추진 중인 금융권 AX 가속화 정책과도 부합한다는 점에서 의미가 크다"고 밝혔다.

한편 BC카드는 지난해 6월 금융위원회로부터 AI 기반 '혁신 금융서비스' 2건을 지정받았다. 이중 '생성형 AI 기반 광학문자인식(OCR) 서비스'는 비씨카드의 11개 회원사 카드 상품 안내장 이미지에서 텍스트를 자동으로 추출해 저장한다.

ysh@news1.kr