(서울=뉴스1) 김민재 기자 = '미토스 쇼크' 등 고성능 인공지능(AI)의 보안 위협을 막으려면 정부의 보안 정책을 방어 중심으로 전환하고 기업 의사결정 구조를 유연화해야 한다는 제언이 나왔다.
26일 국제인공지능윤리협회(IAAE)가 개최한 '2026 ASC'(AI Safety Compass) 콘퍼런스에서 참석자들은 '에이전틱 AI' 시대의 보안 위협을 자동화된 선제 대응으로 차단해야 한다고 입을 모았다.
에이전틱 AI 시대란 조직 업무를 어디까지 AI에 맡길지 결정하는 '구조 재편 단계'라는 분석도 나왔다.
이재형 한국인터넷진흥원(KISA) AI보안기술팀장은 "AI가 업무 주체가 되는 환경에서 보안을 고려하지 않으면 AI 에이전트는 '자동화된 리스크 생성기'가 될 수 있다"며 "AI를 활용한 공격은 AI로 막아야 한다"고 지적했다.
그는 보안업계가 위험을 정량화해 평가하는 표준과 거버넌스 체계를 수립하는 중이며, 조직 내부를 투명하게 모니터링하는 일도 주요 과제라고 분석했다.
김명주 AI안전연구소장은 "AI 에이전트는 정적 테스트 종료 후에도 동적 테스트를 지속해야 하는 존재"라고 강조했다.
보안업계는 정부가 자체 고성능 AI, 이른바 '한국형 미토스' 개발이 아닌 사전 방어 시스템 구축에 집중해야 한다고 촉구했다.
강병탁 AI스페라 대표이사는 "정부는 AI 자동 공격 등에 초점을 맞추고 있지만, 정작 현장에서는 자동 방어와 AI 디펜스 등이 시급하다"고 강조했다.
그는 "취약점 발견부터 공격까지 걸리는 시간이 63일에서 5시간으로 줄었다는 분석 결과가 있다"고 부연했다. 해당 분석에 따르면 해킹 소요 시간은 약 300분의 1로 줄었다. AI 해킹은 새로운 문제가 아니지만, 해킹이 자동화되며 문제가 커졌다는 게 강 대표의 지적이다.
강 대표는 신속한 보안 패치 적용을 위해 기업 조직이 유연해져야 한다고도 주장했다.
강 대표는 "기업은 서비스 중단 위험이나 실무 부서의 반대, 책임 공방 탓에 취약점을 발견하고도 패치를 적용하기 어려운 현행 구조를 개선해야 한다"고 말했다.
그는 "해킹 대중화에 대응해 사전 방어 시스템을 구축하고 '수비형 AI'를 발전시키는 방향으로 나아가야 한다"고 부연했다.
minjae@news1.kr
