"AI가 해커되는 시대, 최강 방패 역할도 AI가 할 수밖에"

(서울=뉴스1) 이민주 기자 = 지난 4월 앤트로픽이 공개한 인공지능(AI) 최상위 모델 '미토스'는 전 세계에 충격을 안겼다. 생산성을 높여주는 똑똑한 비서로 여겨졌던 AI가 세계 최고 수준 보안 전문가 이상의 해킹 능력을 갖췄다는 소식이 알려지며 기대가 단숨에 경계심으로 바뀌었기 때문이다.

이런 변화를 가장 가까이에서 지켜보고 있는 인물 중 한 명인 이승경 안랩(053800) 인공지능개발실장은 미토스가 던진 충격의 본질은 다른 데 있다고 진단했다.

그는 미토스라는 특정 모델의 등장에 집중하기보다 'AI가 공격과 방어의 주체가 되는 시대'가 시작됐다는 점에 주목해야 한다고 말한다.

이 실장은 뉴스1과의 인터뷰에서 "미토스와 같은 차세대 AI는 취약점 탐지부터 공격 시나리오 생성까지 일련의 과정을 자동화할 가능성을 보여줬다"며 "AI로 인해 공격의 탐색 속도와 반복성, 자동화 수준이 크게 높아지며 공격이 '사람이 수행하는 단발성 행위'에서 '지속적으로 반복, 학습되는 자동화된 프로세스'로 전환되고 있다"고 했다.

세계 각국의 미디어들은 '미토스'가 모든 보안 체계를 무력화할 수 있는 '슈퍼 해커'인 것처럼 묘사하고 있다.

그러나 이승경 실장은 AI 해커가 완전히 새로운 공격 방식을 만들어내는 수준은 아니라고 설명한다. 기존에 보안 전문가들이 수행하던 취약점 분석과 침투 테스트를 AI가 전문가 수준으로 수행할 수 있게 된 것이 보다 정확한 해석이다.

이 실장은 "미토스만 특별하게 더 위협적인 것은 아니다. 다만 처음으로 화두가 된 것"이라며 "취약점을 식별하고 이를 활용해 실제 공격 시나리오를 수행하는 이른바 '펜테스팅'(PenTesting)은 AI 성능 확인을 위해 계속 진행돼 왔고 여기서 GPT 5.5(오픈AI)를 비롯한 최신 AI 모델들도 사이버 보안 위협 측면에서는 미토스와 비슷한 수준으로 평가됐다"고 말했다.

다만 그는 최근 등장한 AI 해커의 위협적인 특징이 '자동화'와 '속도'라고 했다.

이 실장은 "공격 방식 자체가 완전히 달라진 것은 아니다"라며 "기존에 사람이 수행하던 취약점 탐색과 침투 테스트를 AI가 훨씬 빠르고 효율적으로 수행할 수 있게 된 것이 핵심 변화"라고 설명했다.

이어 "AI는 휴일 없이 일한다"며 "복제와 반복이 가능하고 다양한 전략을 쉬지 않고 시도할 수 있다는 점이 기존 인간 해커와 가장 큰 차이다. 다양한 전략을 반복적으로 시도할 수 있기에 공격 시도 자체가 훨씬 빠르고 광범위하게 이뤄질 수 있다"고 말했다.

이승경 실장은 인간 전문가를 넘어선 AI 해커에게 대응하기 위해서는 방어 체계 역시 AI 중심으로 전환될 수밖에 없다고 내다봤다.

가령 과거에는 관제 인력이 보안 이벤트를 하나씩 확인하며 대응했다면 AI 시대에는 이러한 방식만으로는 속도를 따라가기 어려워지고 있다는 것.

이 실장은 "공격자가 AI를 쓰기 시작했으면 방어도 AI로 해야 한다"며 "새로운 위협을 얼마나 빠르게 식별하고 분석하고 대응할 수 있는지가 중요해질 것"이라고 말했다.

그는 "이제 기업 입장에서는 모든 공격을 완벽하게 차단할 수 있는가 보다. 새롭게 등장하는 위협을 얼마나 빠르게 식별하고 분석하고 대응할 수 있는가가 더욱 중요해지고 있다"며 "이에 맞춰 단순 탐지뿐 아니라 위협 분석과 조사, 대응 방안 수립 등 보안 운영 전반에 AI가 활용되는 방향으로 발전할 것"이라고 설명했다.

즉 보안 운영에서 AI의 역할이 과거 '분석 보조 도구'에서 '보안 운영 흐름을 직접 수행하는 실행 주체'로 확대되는 방향으로 변화하고 있다는 설명이다. 전문가를 중심으로 AI와 협업하는 모델을 의미하는 'Human-in-the-Loop' 방식을 핵심으로 꼽았다.

이 실장은 "기존에는 AI 사용 과정에서 민감정보 유출이나 부적절한 응답을 방지하는 수준의 보안이 중요했다면 앞으로는 AI가 실제 업무를 수행하면서 발생하는 행위 자체를 관리해야 하는 단계로 넘어가고 있다"며 "AI가 인가되지 않은 시스템과 데이터에 접근하는 상황도 발생할 수 있어 환경 내 정상 행위 패턴을 기반으로 이상 행위를 탐지하고 대응하는 방식이 중요해질 것"이라고 강조했다.

안랩 역시 이러한 변화에 대응하기 위해 자체 AI 플랫폼인 '안랩 AI 플러스'(AI PLUS)를 중심으로 AI 기반 보안 체계 구축에 나서고 있다.

이 실장에 따르면 안랩 AI 플러스는 회사가 축적해 온 위협 인텔리전스와 방대한 보안 데이터를 기반으로 구축한 AI 기반 보안 분석·운영 플랫폼이다. 독립된 단일 제품이라기보다는, 안랩의 다양한 보안 제품과 서비스에 AI 기능을 연결하고 고도화하는 공통 기반 역할을 수행한다.

이 실장은 "안랩은 다양한 보안 영역을 포괄하는 통합 보안 포트폴리오를 운영하며 이를 안랩 플러스 체계로 통합해 플랫폼 기반 보안 구조로 발전시켜 왔다"며 "보안 운영 전반을 AI-Native 구조로 고도화하고, 에이전틱 AI 기반 자율 보안 운영으로 발전시키는 방향을 추진하고 있다"고 설명했다.

실제 안랩 XDR(통합 위협 탐지·대응 플랫폼)에는 2025년 상반기부터 AI 보안 어시스턴트 '애니'(Annie)가 적용돼 운영 중이며, 단순 분석 지원을 넘어 점진적으로 자동화된 위협 대응을 수행하는 Agentic AI 기반 구조로 진화하고 있다.

이 실장은 "AI의 악용 가능성에 대한 대비는 반드시 필요하다. 다만 동시에 AI를 활용해 보안 수준을 높이고 운영 효율성과 산업 경쟁력을 강화하는 방향 역시 함께 고민해야 한다"며 "앞으로의 보안 경쟁력은 AI를 얼마나 안전하게 통제하느냐 뿐 아니라, 얼마나 효과적으로 활용하느냐에 달려 있다"고 강조했다.

최신 AI 기술과 보안에 대한 이승경 실장의 자세한 견해는 6월 10일 서울 여의도 글래드호텔에서 열리는 '뉴스1 테크포럼'(NTF)에서 만날 수 있다.

◇이승경 안랩 연구소 인공지능개발실장 약력

△現 안랩 연구소 인공지능개발실 실장

△신한은행 디지털혁신단

△LG CNS D&A 사업부

△삼성전자 DS 부문 DIT 센터

△서울대학교 데이터마이닝 연구실

△KAIST 전산학과

minju@news1.kr