"챗GPT 등 상용 AI, 잘못된 정보 유도 공격에 취약…임산부 금기약도 추천"

업데이트 2026.01.05 오전 10:56

악의적 명령어로 의도와 다르게 동작하게 하는 유도 공격에 94% 이상 뚫려
서준교 교수 "임상 적용 전 공격 방어체계와 보안 기준 시급"

본문 이미지 - 최근 생성형 인공지능(AI) 챗봇에 질환 상담을 하는 사례가 늘고 있지만 상용 중인 AI 모델 대부분이 악의적인 공격에 무방비로 당해 잘못된 치료법을 권할 위험이 매우 높다는 연구 결과가 나왔다. ⓒ News1 윤주희 디자이너 — 최근 생성형 인공지능(AI) 챗봇에 질환 상담을 하는 사례가 늘고 있지만 상용 중인 AI 모델 대부분이 악의적인 공격에 무방비로 당해 잘못된 치료법을 권할 위험이 매우 높다는 연구 결과가 나왔다. ⓒ News1 윤주희 디자이너

본문 이미지 - 서준교 서울아산병원 비뇨의학과 교수.(서울아산병원 제공) — 서준교 서울아산병원 비뇨의학과 교수.(서울아산병원 제공)

관련 키워드

생성형 인공지능

서울아산병원

강승지 기자