"AI 공격자, 인간 방어자보다 빠르다…AI로 AI 막아야"

(서울=뉴스1) 유수연 기자 = 인공지능(AI)을 활용한 사이버 공격의 속도와 규모가 커지면서 기업도 AI 에이전트를 활용해 공격자보다 먼저 취약점을 찾아 대응해야 한다는 제언이 나왔다.

AI는 정찰과 스캐닝, 취약점 탐색 등을 여러 에이전트를 통해 동시에 수행할 수 있는 만큼 사람이 일일이 공격을 분석하고 대응하는 기존 방식만으로는 한계가 있다는 지적이다.

와나 툰(Wana Tun) 오픈AI 응용AI 보안 스페셜리스트는 7일 서울 서초구 삼성금융캠퍼스에서 열린 'AI 리스크 콘퍼런스 서울 2026'에서 AI를 활용한 사이버 공격이 고도화하고 있다며 이같이 밝혔다.

툰 스페셜리스트는 "지능 측면에서 안전장치가 적은 논프런티어 모델은 (프런티어 모델보다) 6~8개월 정도 뒤처져 있을 뿐"이라며 "악의적인 공격자가 오픈웨이트 모델을 미세조정하고 더 많은 토큰과 시간을 주면 상당한 피해를 줄 수 있다"고 말했다.

인간 방어자는 사이버 공격이 발생하면 여러 정보를 각각 확인하고 문제가 발생한 코드까지 거슬러 올라가 원인을 파악해야 한다.

반면 AI는 여러 작업을 병렬로 수행할 수 있다. 정찰과 스캐닝, 취약점 탐색 등을 여러 하위 에이전트가 동시에 진행하면서 장시간 공격을 이어가는 것도 가능하다.

툰 스페셜리스트는 "공격자가 에이전트를 활용해 집단으로 공격할 수 있다면 기업도 사이버 위협에 에이전트 방식으로 대응할 준비를 해야 한다"면서도 "검증 과정에서는 인간이 개입해 마지막 승인을 해야 한다"고 말했다.

오픈AI는 AI를 사이버 방어에 활용하는 프로그램 '데이브레이크'(Daybreak)도 소개했다. 데이브레이크는 AI가 보안 취약점의 실제 악용 가능성을 검증한 뒤 우선순위를 정하고 패치를 생성·검증하는 방식이다.

AI 에이전트를 방어에 활용하는 만큼 이를 통제할 체계도 필요하다고 강조했다. 데이터 주권도 AI 도입 전 확인해야 할 문제로 꼽았다.

툰 스페셜리스트는 "국내 정책상 데이터가 국외로 나가서는 안 된다면 민감한 데이터가 한국 안에 남도록 기업 환경을 설계할 수 있어야 한다"며 "데이터가 국외로 이동하더라도 사용자 데이터가 보호되도록 암호화해야 한다"고 말했다.

마이크로소프트(MS)도 AI를 활용한 사이버 공격에 맞서 방어에도 AI 에이전트를 활용해야 한다고 강조했다.

장광운 MS 코리아 보안전략고문은 "AI 시대 보안 경쟁력은 우리 회사의 가장 위험한 부분을 공격자보다 먼저 식별하고 빠르게 제거하는 능력에서 결정될 것"이라며 "그러한 능력은 AI 에이전트를 통해 확보할 수 있다"고 말했다.

MS는 AI 에이전트가 취약점을 식별하고 탐지와 대응까지 수행하는 '에이전트 시큐리티' 전략을 추진한다. 지난 7월 공개한 '프로젝트 퍼셉션'은 이 같은 비전이 적용된 에이전트 기반 보안 플랫폼이다.

다만 AI가 보안 업무를 자동화하더라도 최종적인 통제와 의사결정에는 사람이 참여해야 한다는 게 양측의 공통된 설명이다.

장 고문은 "무엇보다 중요한 것은 이 일련의 과정에 사람의 거버넌스와 의사결정이 투입돼야 한다는 것"이라며 "기술, 인력, 재무적인 관점에서도 보안 리스크를 줄일 수 있는 방안을 함께 고민해야 한다"고 말했다.

shushu@news1.kr