삭제한 개인정보 재학습 막는다…UNIST, 'AI 기억 지우개' 개발

(울산=뉴스1) 김세은 기자 = 인공지능이 학습한 개인정보나 저작권 위반 데이터를 지울 때 삭제한 정보가 다시 살아나는 것을 막는 '기억 지우개' 기술이 개발됐다.

울산과학기술원(UNIST) 인공지능대학원 윤성환 교수팀과 산업공학과 박새롬 교수팀은 삭제 대상 사진 몇 장만으로 인식 능력을 되살리는 공격까지 막는 머신 언러닝 기술인 '스포터(Spotter)'를 개발했다고 21일 밝혔다.

머신 언러닝(Machine Unlearning)은 학습을 마친 AI에서 특정 데이터나 범주가 미친 영향만 선택적으로 없애는 기술이다.

얼굴 인식 AI에서 삭제를 요청한 사람의 얼굴 정보나 학습 데이터에 포함된 개인정보를 지우는 데 쓸 수 있다.

이번에 개발된 '스포터'는 삭제 대상과 비슷한 정상 정보를 구별하는 AI의 능력은 그대로 유지하면서, 삭제 대상 사진들에서 공통점을 찾아내는 능력은 없앴다.

이 덕분에 지우지 않아야 할 정보의 인식 성능을 보호하고, 공격자가 삭제 대상 사진 몇 장을 확보하더라도 지워진 인식 기준을 다시 만들기 어렵다.

연구팀은 기존 언러닝 기술의 약점인 '과잉 삭제'와 삭제한 정보가 다시 살아날 수 있는 '재학습 취약성'을 자체 실험으로 진단해 이 같은 기술을 개발했다.

CIFAR-10 데이터셋으로 실험한 결과, 스포터는 삭제 대상의 인식 정확도를 0%로 낮췄으며, 재학습 공격 뒤에도 인식 정확도를 0.24%로 억제할 수 있었다.

CIFAR-10은 AI의 이미지 인식 성능을 평가하는 데 널리 쓰이는 대표적인 공개 이미지 데이터셋이다.

공동 연구팀은 "언러닝 기술의 사각지대를 보완하기 위해 개발된 스포터는 기존 언러닝 기법에 쉽게 결합할 수 있는 플러그인(plug-and-play) 형태로 설계돼 얼굴 인식과 유해 콘텐츠 삭제 등 개인정보 보호가 중요한 AI 서비스에 두루 활용될 수 있을 것"이라고 기대했다.

이번 연구는 인공지능 분야 세계 최고 권위의 국제학술대회인 국제머신러닝학회(International Conference on Machine Learning, ICML)에 채택됐다.

연구 수행은 과기정통부·한국연구재단(NRF)의 지원을 받는 '중견 연구 사업'과 과기정통부·정보통신기획평가원의 지원을 받는 '초거대 산업 AI 연구 지원(R&D)사업', '인공지능대학원 지원사업', 'AI 스타 펠로우십 사업', '지역 지능화 혁신 인재 양성 사업', '대학 ICT 연구센터사업'의 지원을 받아 수행되었다.

syk000120@news1.kr