[後스토리] 네이버·카카오 '알고리즘 검증'은 불가능할까?

(서울=뉴스1) 손인해 기자 = 네이버·카카오의 뉴스·쇼핑 추천 알고리즘이 또 다시 도마에 올랐다. 정치권을 중심으로 포털 알고리즘이 불투명하고 검증이 필요하다는 지적이 제기되면서 알고리즘 공개를 의무화하는 법안까지 발의됐다.

해묵은 알고리즘 논란에서 관건은 '검증 실현 가능성' 여부다.

그동안 인터넷업계에선 알고리즘 소스코드를 공개하더라도 그 양이 너무 방대한 데다 설계자가 아닌 이상에야 의미를 이해하기 어렵다는 입장을 내비쳐왔다.

앞서 네이버가 2018년 11월 맹성현 위원장(KAIST 교수) 등 11명으로 구성된 알고리즘 검토위원회를 꾸릴 당시에도 검토위가 소스코드를 직접 보지 못하고 네이버가 제공한 기술 문서에 의존해 결론을 내린 점이 한계점으로 지적된 바 있다.

또 알고리즘은 변수가 많고 복잡하기 때문에 분석을 통해 작동 원리를 파악하는 이른바 '리버스 엔지니어링(역설계)'이 사실상 불가능하다는 것도 '검증 불가'의 이유로 꼽혀왔다.

알고리즘 검증은 불가능한 것일까? 지난 27일 국회 과학기술방송정보통신위원회가 주최한 포털 알고리즘 관련 공청회에서 진술인으로 참여한 전문가들과 참고인으로 출석한 네이버·카카오 측의 발언을 톺아본다.

◇ 무엇을 검증하나?

전문가들 알고리즘 소스코드 공개는 지식재산권 침해 등을 이유로 부적절하지만 가중치 항목 등 설곗값을 "이용자가 이해할 수 있는 언어"로 공개해야 한다고 입을 모았다.

이수영 한국과학기술원(KAIST) 명예교수는 "개발자 입장에서 소스코드까지 공개하는 건 아주 심각한 위험이 있는 경우를 제외하곤 안 했으면 좋겠다"면서도 "현재 AI가 코드 자체보다는 어떤 데이터를 가지고 무엇을 위해 최적화시켰느냐를 구체화하는 건 모든 경우에 중요하다"고 강조했다.

김동원 언론노동조합 정책협력실장도 "알고리즘 소스코드까지 다 공개하는 건 어렵다고 본다"며 "다만 2017년 카카오에서 소개했던 논문처럼 저널리스트나 일반 학자, 그리고 이용자들이 이해할 수 있을 정도 수준의 투명성 보고서를 제출해 알고리즘의 한계를 실증하는 것으로 시작해야 한다"고 했다.

김진욱 법무법인 주원 변호사는 "포털 뉴스 편집 및 댓글 노출 알고리즘에 적용되는 기술만 공개돼 있을 뿐 세부적 로직, 가중치 항목 또는 수집되고 사용되는 정보의 종류를 공개하지 않아 포털 AI 알고리즘의 설계 및 초기값 설정은 여전히 불투명하다는 한계를 내포하고 있다"며 AI의 설곗값 수준 및 내용, 서비스별 차등 여부 등 현황 확인 및 검증이 필요하다"고 말했다.

네이버는 검토위원들에 한정해서 소스코드를 공개할 수 있다는 입장을 밝혔다.

최재호네이버 에어스 이사는 "(2018년) 당시 소스코드 레벨까지 검증을 할 수 있었는데, 그 부분은 시간 관계상 보지 못했을 뿐"이라며 "소스코드는 주요 자산으로 그런 것(소스코드)은 검토위원들에게만 공개하고 일반 대중에게 공개할 땐 여러 부작용이나 실효성이 의심되기 때문에 우려되는 부분이 많이 있다"고 말했다.

◇ 네이버 "뉴스 추천 이유 설명하겠다"

알고리즘 검증에 대한 '정의'부터 필요하다는 목소리도 나왔다.

이수영 교수는 알고리즘 검증을 '투명성'과 '설명 가능성'으로 구분했다. 이 교수는 "투명성은 전체 서비스가 어떤 식으로 데이터를 수집해서 어떤 방법으로 압축시켜 하느냐에 대한 것이고 검증(설명 가능성)은 이를 케이스 바이 케이스(사례별)로 다 들여다봐야 하는 상황"이라며 "설명 가능성은 학습 알고리즘 자체에 이미 설명해야 하는 요소를 끼워 넣어서 동시에 학습시키는 방법"이라고 말했다.

그는 "최근 딥러닝이 성능이 좋은 건 방대한 데이터로부터 무조건 배워서 직관에 의해 답을 덜컥 내려주기 때문인데 여기에 설명 가능까지 집어넣으면 정확도는 조금 떨어지지만 신뢰도는 올라갈 것"이라고 했다.

네이버는 성능 감소를 감수하고서라도 설명 가능성을 높이겠다는 방침이다.

최재호 이사는 "뉴럴 네트워크(신경망 기술)는 변수가 많고 블랙박스처럼 돼 있어 리버스 엔지니어링 자체가 불가능한 게 맞다"며 "성능을 감수하고라도 사용자들에게 '이 기사를 본 다른 사람 때문에 이렇게 추천됐다'든가 '이 기사가 구독하고 있는 언론사에서 굉장히 많이 소비되는 기사' 같은 부분에 대해 설명 가능한 요소를 넣을 수 있도록 준비를 해 보겠다"고 말했다.

카카오는 원론적 답변을 반복했다. 김희정 카카오 플랫폼 사업실장은 "저희도 내부적으로 설명 가능할 수 있도록 개발자들이 계속 고민하고 있다"며 "오늘 이후로 계속 좋은 의견을 주시면 저희가 적극 반영하도록 하겠다"고 했다.

son@news1.kr