(서울=뉴스1) 김민석 기자 = 오픈AI가 월 구독료 약 3000만 원짜리 '박사급' 인공지능(AI) 에이전트 상품 출시를 계획하고 있다는 소식이 전해지는 등 'AI 에이전트 시대'가 코앞으로 다가오면서 개인 정보 침해 우려도 커지고 있다.
AI 에이전트는 스스로 애플리케이션을 실행하기 위해 다수 개인정보와 접근 권한 등을 필요로 한다. 이를 두고 전문가들은 해커들의 공격·AI 특유의 오류·실수 등 치명적인 보안 위협을 부를 수 있어 주의 깊게 관리해야 한다고 강조했다.
11일 IT 업계에 따르면 구글 출신 메러디스 휘태커 시그널(미국 보안 메신저 기업) 재단 회장은 이달 7일(현지시간) 미국 텍사스주 오스틴에서 열린 SXSW 콘퍼런스에서 "AI 에이전트를 이용한다는 건 당신의 두뇌를 병 속에 넣는 것과 같다"며 "새롭게 등장한 컴퓨팅 패러다임은 개인정보 보호와 보안에 심각한 문제를 초래할 것"이라고 주장했다.
그는 "AI 에이전트가 이용자의 요청 없이도 여러 단계를 앞서 생각하고 작업을 완료하는 마법의 '지니 봇'처럼 홍보되고 있다"면서 "이는 운영체제(OS)와 앱 간 경계를 허물어 데이터 혼합 및 프라이버시 침해를 부를 것"이라고 지적했다.
AI 에이전트는 챗봇 수준을 넘어 스스로 문제를 해결하는 지능형 시스템으로 사용자 요청에 따라 주어진 환경과 상호작용하며 특정 목표를 수행한다.
예를 들어 AI 에이전트에 회의 일정을 잡아달라고 요청하면 AI 스스로 참석자들의 스케줄을 확인한 후 회의실을 예약한다. 음성·문자로 항공권과 호텔 예약·우버 호출 등을 요청하면 이를 스스로 실행하기도 한다. 문제 발생 시엔 스스로 해결을 시도한 후 해결되지 않으면 이용자를 호출한다.
문제는 이러한 작업을 수행하려면 AI 에이전트에 광범위한 통제권을 부여해야 한다는 점이다. 우려가 제기된 접근 권한으로는 △각종 웹브라우저 로그인 △메시징 앱 접근 △티켓 결제 시 신용카드 정보 △개인·팀 캘린더 접근 등이 꼽힌다.
휘태커 회장은 "AI 에이전트를 작동시키는 데 필요한 컴퓨팅 파워를 고려하면 많은 정보는 개인기기(온프레미스 방식)가 아닌 클라우드 기반 서버를 통해 처리될 가능성이 높다"며 "민감한 정보가 클라우드 서버를 오가는 과정에서 보안 침해 가능성이 커질 수 있다"고 말했다.
세계적인 보안 전문가 브루스 슈나이어 하버드 케네디 스쿨 공공정책 부교수(버크만 클라인 센터의 연구원)와 앤드루 응 스탠퍼드대학 부교수(현 아마존 보드멤버·전 구글브레인 공동설립 리더) 등은 지금까지는 존재하지 않은 위협이 등장할 수 있다고 경고했다.
슈나이어 부교수는 "현시점에서 AI는 인간이 가진 상식 기준을 가지고 있지 않다"며 "만일 중요 의사 결정 프로세스에 AI를 적용한다면 더 체계적이고 치명적인 실수를 일으킬 수 있다"고 말했다.
응 부교수는 "AI가 편향된 결정을 내릴 수 있고 사회적으로 해로운 방식으로 사용될 위험이 있다"며 "사회·경제적 혼란 등 다양한 문제를 초래할 수 있다"고 우려했다.
ideaed@news1.kr
