AI가 로봇 움직이는 시대…서울서 안전·보안 해법 논의

(서울=뉴스1) 김민수 기자 = 전 세계 인공지능(AI) 안전·보안 전문가들이 서울에 모여 AI 모델 안전 평가와 자율 에이전트 시대의 보안 위협 대응 방안을 논의한다.

과학기술정보통신부가 주최하고 한국전자통신연구원(ETRI) 인공지능안전연구소가 주관하는 'Seoul Forum on AI Safety & Security 2026'(SFASS 2026)이 7일부터 8일까지 서울 오크우드 프리미어 코엑스 센터 아이티스퀘어에서 열린다.

이번 포럼은 'AI 안전·보안 및 관련 표준에 관한 노력과 향후 협력 방향'을 주제로 열린다. 세계적 머신러닝 학술대회인 '제43회 국제 머신러닝 학회'(ICML 2026)와 연계 개최돼 국내외 AI 연구자들의 참여가 확대될 전망이다.

AI가 텍스트 응답을 넘어 자율 에이전트와 로봇으로 확장되면서 모델 성능뿐 아니라 실제 행동과 악용 가능성을 검증하는 안전·보안 평가의 중요성이 커지고 있다.

첫날에는 MLCommons, 구글, 마이크로소프트(MS)와 협력해 AI 안전·보안 표준 관련 세션이 진행된다. 아시아·태평양(APAC) 지역 파트너 기관들이 공동 개발 중인 'AILuminate 문화 특화 멀티모달 안전 벤치마크' 중간 성과도 공유된다.

둘째 날에는 퓨처오브라이프연구소(FLI)와 협력해 '프론티어 AI 안전 벤치마킹' 세션이 열린다. FLI가 개발한 'AI 안전 지수'를 중심으로 기업들의 안전 원칙과 실제 이행 사이의 격차를 평가하는 방안이 논의된다.

오후에는 AIM 인텔리전스와 인공지능안전연구소가 '프론티어 AI 레드티밍 워크숍'을 연다. LG AI 연구원, 구글, MS 등 국내외 전문가들이 참여해 언어, 모달리티, 에이전트 워크플로우 전반에서 AI 모델 취약점을 점검한다.

현장에서는 최신 AI 모델이 탑재된 휴머노이드 로봇을 대상으로 한 '라이브 레드티밍 챌린지'도 진행된다. 참가자들이 대화만으로 로봇이 원래 거부하도록 설계된 동작을 수행하도록 유도하는 방식이다.

kxmxs4104@news1.kr