검색 본문 바로가기 회사정보 바로가기

카카오브레인, 한국어 초거대 AI 언어모델 'KoGPT' 공개

(서울=뉴스1) 김근욱 기자 | 2021-11-16 09:41 송고
(카카오브레인 제공) © 뉴스1
(카카오브레인 제공) © 뉴스1

인공지능(AI)이 인간처럼 생각하고 글을 써주는 초거대 AI 시대가 온다.
카카오브레인이 'GPT-3' 모델의 한국어 특화 AI 언어모델 'KoGPT'를 최대 오픈소스 커뮤니티 깃허브에 공개했다고 16일 밝혔다.

언어 모델 GPT-3는 인간과 AI가 자연어 기반으로 소통할 수 있는 AI 모델로 딥러닝의 한계를 끌어올려 차세대 AI 시대를 열었다고 평가받는 기술이다.

기존의 딥러닝 방식에선 감성 분석을 할 때 사람의 선호도를 파악하기 위해 많은 데이터를 확보하고, 좋음 또는 나쁨을 판단했다. GPT 모델을 적용하면, 추가 학습 없이 스스로 판단해 감정 분석을 할 수 있다.

예를 들어 영화 리뷰 댓글을 보고 댓글이 영화에 대한 긍정적인지 부정적인지 판별할 수 있고, 글의 내용을 짧게 요약 가능하다. '3주 동안 식물에게 물을 주었다' 라는 글을 입력하면 '식물이 꽃을 피웠다'처럼 인과 관계를 예측해 보여주고 다음 이야기도 스스로 적을 수 있다.
카카오브레인의 'KoGPT'는 이같은 GPT-3 모델의 한국어 특화 버전이다. 60억개의 매개변수와 2000억개 토큰(token)의 한국어 데이터를 바탕으로 구축했다.

카카오브레인은 KoGPT가 한국어를 사전적, 문맥적으로 이해하고 이용자가 원하는 결과값을 보여 준다고 설명한다. △ 주어진 문장의 긍정과 부정 판단 △ 긴 문장 한줄 요약 △ 문장을 추론해 결론 예측 △ 질문을 하면 문맥 이해해 답변하는 등 언어를 가지고 활용할 수 있는 모든 과제를 수행한다. 맥락에 따라 자동으로 글쓰기가 가능해지기 때문에 상품 소개글 작성, 감정 분석, 기계 독해, 기계 번역 등 높은 수준의 언어 과제를 해결하고 다양한 분야에서 활용할 수 있다.

카카오브레인은 추후 한국어 뿐만 아니라 영어, 일본어 모델도 준비해 오픈소스화한다. 베트남어, 말레이시아어 등 동남아시아 언어도 준비해 더 많은 곳에서 AI 기술의 혜택을 누릴 수 있도록 할 예정이다.

김일두 카카오브레인 대표는 "앞으로 GPT 기술의 사이즈와 성능을 100배 규모로 키울 예정이다"며 "GPT는 대규모 데이터를 다루기 때문에 높은 수준의 리소스와 투자가 필요하다. GPT를 오픈소스로 개방해 일반 대학이나 스타트업 등의 기술 접근성을 높일 것이다"고 말했다.

김 대표는 이날 개최하는 '이프 카카오 2021' 컨퍼런스에서 카카오브레인의 향후 방향성과 주요 연구를 비롯해 'KoGPT'에 관해 직접 설명하는 자리를 가질 예정이다.


ukgeun@news1.kr

이런 일&저런 일

    더보기