"출처 요청하자 스스로 만들어"…'AI 이상행동' 추가공개한 오픈AI

(서울=뉴스1) 이창규 기자 = 챗GPT 개발사인 오픈AI가 16일(현지시간) 인공지능(AI) 모델이 실수를 숨기거나 데이터를 조작하고 허가 없이 파일을 인터넷에 공개한 사례들을 추가로 공개했다.

뉴욕타임스(NYT)에 따르면, 오픈AI는 이날 AI 시스템의 목표나 행동이 인간의 의도 및 가치와 일치하지 않는 사례를 공개하는 새로운 체계를 마련했다며 AI 모델에서 나타난 예상하지 못했거나 우려스러운 6가지 사례들을 소개했다. 최근 6개월 동안 관찰된 것이다.

오픈AI는 'GPT-5.6 Sol' 모델을 개발하는 과정에서 AI 모델이 사용자에게 오류를 숨기도록 스스로에게 지시하는 비공개 메모를 작성한 사실을 확인했다.

또 개발자 플랫폼 '깃허브'에서 프로그래밍 키를 찾아 허가 없이 사용하고, 요청받은 자료를 얻는 데 실패하자 임의로 수치를 작성한 사례도 있었다.

미출시 연구 모델이 웹 출처를 인용하라는 요청을 충족하기 위해 허가 없이 자체적으로 만든 데이터를 공개 사이트에 올려 스스로 출처를 만든 경우도 있다.

누락된 파일을 찾던 서로 다른 AI 모델들이 오픈AI 내부의 코드 저장소를 임시 게시판처럼 이용해 요청을 주고받기도 했다.

오픈AI는 AI 개발 과정에서 더 강력한 안전성 확보가 필요하다며 이번 사례 공개가 업계 차원의 표준을 마련하는 데 도움이 되길 바란다고 밝혔다.

앞서 지난 7월 오픈AI의 내부 격리 환경에서 테스트를 진행하던 AI 에이전트들이 정답을 찾기 위해 봉쇄를 뚫고 나와 외부의 오픈소스 플랫폼인 허깅페이스에 접근하면서 AI 안전성 우려를 촉발했다.

이에 AI 업계에서는 AI 기술의 잠재적 위험에 대응하기 위해 개발 속도 조절론이 나오고 있다.

다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 올트먼 오픈AI CEO, 일론 머스크 테슬라 CEO, 데미스 허사비스 구글 딥마인드 공동창업자 등은 적절한 안전장치 마련을 위해 공동의 안전 기준을 만들고 AI 개발 속도를 제한해야 한다고 주장하고 있다/

yellowapollo@news1.kr