"다크웹에 AI 해킹 도구까지 떠돈다"…금융 보안체계 비상

(서울=뉴스1) 한수민 기자 = 신한은행과 KB국민은행에서 잇따라 개인정보 유출 사고가 발생한 가운데, 인공지능(AI) 에이전트를 활용한 사이버 공격에 대비해야 한다는 보안 전문가들의 경고가 나왔다.

앞서 신한은행에서 2만 5000여 명의 개인정보가 유출된 데 이어, KB국민은행도 최근 외부 침입으로 고객 119명의 정보가 유출됐다고 밝혔다.

신한은행 공격에 사용된 것으로 추정되는 서버에서는 AI 기반 침투테스트 도구와 관련된 흔적이 발견됐다는 주장도 제기됐다. 실제 공격에 AI가 동원됐는지는 확인되지 않았지만, 전문가들은 AI 에이전트가 취약점 탐색부터 공격까지 자동화하면서 기존 보안체계에 새로운 부담을 줄 수 있다고 지적한다.

2일 보안업계에 따르면 신한은행을 대상으로 수행된 것으로 추정되는 '크리덴셜 스터핑'과 관련해 공격 관련 웹서비스의 HTML 타이틀에서 'ARTEX 自主渗透测试控制台'라는 문자열이 확인된 것으로 알려졌다.

이는 'AI 자율 침투테스트 콘솔'을 의미하는 표현으로, 해당 서버에 ARTEX AI가 설치됐거나 관련 환경이 구축됐을 가능성을 시사한다. 다만 문자열만으로 실제 도구 실행 여부를 확인할 수는 없다.

KB국민은행에서는 직원용 모바일 업무지원시스템에 대한 외부 침입으로 고객 119명의 정보가 유출됐다. 다만 두 은행의 사고 모두 AI 에이전트가 실제 공격에 사용됐는지는 확인되지 않았다.

국내 AI 및 보안 전문가들은 목표를 달성하기 위해 스스로 결정하고 행동하는 'AI 에이전트'의 등장으로 사이버 공격의 규모가 확대되고 수준이 급격히 높아졌다고 보고 있다.

최병호 고려대 AI 연구원 교수는 기존의 보안 시스템으로 현재의 AI 에이전트 공격에 대응하기 어렵다고 지적했다.

최 교수는 "취약점을 공격했을 때 상대가 방어하면 즉시 (해킹) 시스템이 중단됐던 과거와 달리 AI 에이전트는 순간순간 목표를 바꾸며 다시 취약점을 찾는다"며 "이후 공격에 성공하면 할 수 있는 최대치의 공격을 수행한다"고 설명했다.

박기웅 세종대 정보보호학과 교수는 "과거에는 AI를 (해킹을 위한) 도구로 이용하더라도 사람이 판단해 작전에 돌입하고, 실패하면 다른 방법을 시도했다"며 "이제는 (AI 에이전트가) 인간의 지시 없이도 여러 방안을 스스로 시도하고 있다"고 말했다.

과거에도 AI를 도구로 한 해킹 시도가 있었으나, AI 에이전트가 등장하며 해킹에 수반되는 시간과 비용이 크게 줄었다는 분석이다.

취약점과 그 패치에 변수가 많아지는 상황이 AI가 빠르게 취약점을 찾아내는 현실과 맞물려 공격자에게 유리한 구도가 형성되는 점도 문제다.

박 교수는 "사용자들의 요구 사항이 높아짐에 따라 시스템이 지속적으로 업데이트되고 있는데 이런 경우 여러 취약점이 생기고 사라지는 등 변수가 많아진다"며 "이러한 예측 불가능한 상황은 모든 취약점을 막아야 하는 방어자보다 하나의 취약점만 찾아내면 되는 공격자에게 유리하다"고 밝혔다.

최병호 교수는 신한은행 사고와 관련해 사용 가능성이 제기된 ARTEX AI가 무기화된 형태로 다크웹을 떠돌고 있다고 지적했다.

최 교수는 "다크웹에 있는 ARTEX AI와 올인원 범죄형 에이전트인 프로드 GPT 등을 통해 사이버 공격이 수행된다"며 "(이러한 에이전트들은) 전체 시스템을 스캔해 가장 큰 취약점을 찾은 후 바로 공격을 실행해 기존 보안으로는 사실상 막기 어렵다"고 했다.

AI 에이전트로 인한 해킹이 알려진 것보다 더 빈번히 일어날 가능성도 있다는 지적이다.

최 교수는 "다크웹에서 공격 AI 에이전트들이 거래되고 관련한 서버들이 무작정 나오고 있다"며 "현재 유출된 건들 외에도 허깅페이스 사례처럼 알려지지 않은 건들이 있을 수 있다"고 전했다.

전문가들은 실제 공격자처럼 조직 전체를 상대로 공격을 재현해 방어체계를 시험하는 레드티밍과 함께 보안 AI 모델 고도화를 해결책으로 제시한다.

최 교수는 "레드팀을 만들어서 아주 공격적으로 내부를 공격하고 발견된 취약점들을 끊임없이 패치시켜야 한다"며 외부 해킹 그룹에도 공격 지시를 내려 취약점을 패치하는 것도 방안으로 제시했다.

박기웅 교수 역시 "공격자의 관점에서 수행하는 모의해킹 등 지속적인 자가 테스트가 더욱더 중요해질 것"이라 진단했다.

이재성 중앙대 AI 학과 교수는 국내에서도 보안 AI 모델에 대한 연구가 이뤄지는 상황을 언급하며 "AI의 사이버 공격에 대응하려면 마찬가지로 AI 디펜스의 수준이 높아져야 한다"고 밝혔다.

sumin02@news1.kr