김윤형 삼성리서치 상무 "AI 에이전트, 지속 학습·온디바이스 핵심"

(서울=뉴스1) 황진중 기자 = 김윤형 삼성리서치 상무(MIT 교수 겸임)가 인공지능(AI) 에이전트의 다음 발전 방향으로 '지속 학습'과 '온디바이스'를 제시했다. AI가 새로운 정보를 계속 익히고 스마트폰 등 기기 안에서도 효율적으로 작동할 수 있도록 모델 구조를 바꿔야 한다는 제안이다.

김윤형 상무는 30일 온오프라인으로 열린 '삼성 AI 포럼 2026'에서 "에이전틱 인텔리전스의 다음 도약을 가져올 수 있는 아키텍처를 생각해 볼 필요가 있다"며 "지속 학습과 온디바이스 배포에 맞춰 설계된 아키텍처가 중요하다"고 밝혔다.

김 상무는 생성형 AI와 언어모델 분야의 선도 연구자다. 그는 현재 대규모 언어모델(LLM)의 기반인 트랜스포머가 생성형 AI 발전을 이끌었지만 긴 대화나 많은 문서를 계속 기억하고 학습하는 데는 한계가 있다고 설명했다.

김 상무는 "모델이 컨텍스트 안에 있는 모든 토큰과 자신이 생성한 모든 토큰을 계속 되돌아봐야 한다면 컨텍스트 길이가 늘어날수록 엄청나게 비효율적으로 된다"고 말했다.

대안으로는 '선형 어텐션'(linear attention)과 '컴팩션'(compaction)을 제시했다. 선형 어텐션은 이전 내용을 처리하는 방식을 단순화해 긴 문맥을 적은 메모리로 다루는 기술이다. 컴팩션은 긴 문서나 대화 기록을 짧은 형태로 압축해 AI가 계속 참고할 수 있도록 하는 방식이다.

김 상무는 "선형 어텐션은 사실상 무한한 컨텍스트를 처리할 수 있고 잠재적으로 제한 없는 지속 학습으로 이어질 수 있다"면서 "모델이 우리가 제공한 컨텍스트뿐 아니라 상호작용과 자신의 추론 과정을 통해 계속 학습하려면 컴팩션을 효율적으로 수행하는 능력이 중요하다"고 강조했다.

김 상무는 스마트폰 등에서 AI를 직접 구동하는 온디바이스 분야에서는 D램 용량을 핵심 제약으로 꼽았다. 데이터센터에서는 연산 성능과 데이터 이동이 중요하지만 스마트폰과 같은 기기는 제한된 메모리 안에서 모델을 돌려야 한다는 한계가 있다.

그는 "엣지 기기에서는 메모리, 즉 D램의 양이 핵심적인 제약"이라고 강조했다.

김 상무는 이를 극복하기 위해 여러 층에서 일부 파라미터를 반복 사용하는 '루프드 트랜스포머'(looped transformer)를 소개했다. 모델 크기를 크게 늘리지 않으면서 필요한 연산 능력을 확보하는 방식이다.

그는 "온디바이스 배포의 많은 사례는 배치 크기가 1인 환경"이라며 "에이전트 시스템을 위한 '온디바이스 네이티브 아키텍처'가 어떤 모습이어야 하는지 생각해 볼 필요가 있다"고 말했다.

이어 "지속 학습과 온디바이스 배포를 위한 구조 연구는 향후 로봇 등 피지컬 인텔리전스에서도 중요성이 커질 것"이라고 내다봤다.

jin@news1.kr