황인철 삼성 부사장 "AI 다음 과제 '효율화'…뇌에서 단서 찾아"

"최소 자원으로 좋은 경험 제공해야…갤럭시 AI에 적용 중"
갤럭시 AI, 온디바이스·클라우드 결합해 성능·효율 최적화

황인철 삼성전자 부사장이 '삼성 AI 포럼 2026'에서 AI 효율화와 갤럭시 적용 사례 등에 대해 강연을 하고 있다.(삼성전자 제공)/뉴스1

(서울=뉴스1) 황진중 기자

"AI가 규모 확장을 중심으로 발전했다면 앞으로 지속 가능한 AI를 위해서는 효율화가 필수입니다."

황인철 삼성전자 MX사업부 부사장은 30일 서울 서초구 삼성전자 서초사옥에서 열린 '삼성 AI 포럼 2026'에서 인공지능(AI) 발전의 다음 과제로 '효율'을 제시했다.

AI 성능이 빠르게 높아지는 만큼 모델 학습과 서비스에 필요한 연산량, 데이터, 전력 사용량이 함께 늘고 있어 적은 자원으로 높은 성능을 내는 기술이 중요해지고 있다는 설명이다.

황 부사장은 "AI를 제공하는 제품 입장에서는 좋은 기능을 사용자에게 어떻게 전달할 것인지, 효율성의 문제를 고민하게 된다"면서 "궁극적으로는 최소한의 자원으로 좋은 경험을 그대로 유지해 사용자를 만족시키는 것이 과제"라고 말했다.

그는 AI 에이전트 확산도 효율화 필요성을 높이는 요인으로 꼽았다. 하나의 작업을 처리하기 위해 AI 모델을 여러 차례 호출하면서 서비스 단계에서 처리해야 할 토큰과 연산량이 많이 늘어날 수 있어서다.

황 부사장은 사람의 뇌가 제한된 자원으로 정보를 처리하는 방식에서 AI 효율화의 단서를 찾을 수 있다고 설명했다.

그는 "친구를 만나면 알고 있는 모든 사람의 기억을 전부 끌어와 누구인지 판단하지 않는다"면서 "필요한 기억을 굉장히 효율적으로 찾아 쓴다"고 말했다.

이어 "매일 같은 출근길에서는 익숙한 정보보다 사고처럼 새롭게 발생한 정보에 집중하고, 문제의 난이도에 따라 해결 방식과 생각하는 양도 달라진다"고 덧붙였다.

이를 토대로 △필요한 기억만 찾아 쓰는 '라이트 컨텍스트' △중복 연산을 줄이는 '라이트 컴퓨테이션' △필요한 모델이나 일부 영역만 작동시키는 구조 △문제 난이도에 따른 추론량 조절 △사용하면서 새로운 정보를 반영하는 지속학습 등 5가지 방향을 제시했다.

황 부사장은 "추론을 많이 한다고 정답률이 올라가는 것은 아니다"면서 "추론 시간보다 어디에 집중해 어떤 문제를 풀어야 전체 문제가 해결되는지를 고민해야 한다"고 말했다.

이어 "언제 더 생각하고 언제 멈출지 결정하는 모델은 아직 연구해야 할 부분"이라면서 "새로운 정보를 학습하면서 기존 능력을 잊지 않는 방식도 더 연구할 필요가 있다"고 덧붙였다.

삼성전자는 이 같은 효율화 방향을 갤럭시 AI에 적용하고 있다. 스마트폰 안에서 빠르게 처리할 수 있는 기능은 온디바이스 AI를 활용하고, 더 큰 모델과 높은 성능이 필요한 작업에는 클라우드 AI를 활용하는 하이브리드 구조다.

황 부사장은 "삼성전자는 사용자 경험에 맞춰 온디바이스와 클라우드를 동적으로 활용할 수 있도록 구성하고 있다"면서 "온디바이스는 빠르고 오프라인에서도 처리할 수 있고, 클라우드는 큰 모델을 활용해 높은 성능을 낼 수 있다"고 말했다.

전화와 키보드, 삼성 노트 등 여러 애플리케이션이 공통 응용프로그램인터페이스(API)를 이용하고, 하단에서 온디바이스 모델과 클라우드 AI를 연결하는 구조도 적용했다.

황 부사장은 "AI가 빠르게 변화하더라도 애플리케이션 변화 없이 바로 적용될 수 있는 구조를 갖고 진행하고 있다"고 설명했다.

jin@news1.kr