평가원 "서·논술형 평가 부담 높을수록 자동채점 AI 역할 줄여야"

(서울=뉴스1) 윤지오 수습기자 = 서·논술형 평가에 인공지능(AI) 자동채점 도입이 고려되고 있는 가운데 학생에게 미치는 영향이 큰 평가일수록 AI의 역할을 줄이고 교사의 검토 비중을 높여야 한다는 제언이 나왔다.

한국교육과정평가원은 11일 서울 프레지던트호텔에서 '서·논술형 평가 AI 자동채점이 나아갈 길을 모색하다: 기술의 발전을 넘어 교육적 책임으로'를 주제로 세미나를 개최했다고 밝혔다.

이번 세미나는 평가원이 추진 중인 서·논술형 평가 AI 자동채점과 학생 맞춤형 평가를 위한 AI 학습용 데이터 구축 연구 결과를 공유하고 향후 활용 방향을 논의하기 위해 마련됐다. AI 자동채점의 신뢰성·설명가능성·책임성 확보와 평가 전문가로서의 교사의 역할도 함께 논의됐다.

이날 박종임 평가원 연구위원은 평가의 부담이 높을수록, 자동채점 방식의 설명 가능성이 낮을수록 AI의 역할을 줄이고 인간의 검토 비중을 늘려야 한다고 제안했다. 평가 목적과 성격에 따라 AI와 교사의 역할을 달리하고 최종 판단은 교사가 맡아야 한다는 것이다.

서·논술형 자동채점은 활용 방식에 따라 국내 인공지능기본법상 '고영향 인공지능'에 해당할 수 있다. 고영향 인공지능은 사람의 기본권 등에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템을 뜻한다.

인공지능기본법의 고영향 인공지능 판단 가이드라인은 초·중등 교육과정에서 학생의 학업성취도를 평가하는 AI 시스템을 고영향 AI 사례로 제시하고 있다. 다만 AI가 학생 평가에 활용되더라도 실제 사용 방식과 인간의 개입 정도 등에 따라 고영향 AI 해당 여부가 달라질 수 있다는 설명이다.

박 연구위원은 해외에서도 AI가 평가에 미치는 영향과 인간의 개입 정도 등을 주요 판단 기준으로 삼고 있다고 설명했다. 유럽연합(EU)은 학습 성과 평가에 사용되는 AI를 고위험 AI로 분류하면서 인간 채점을 완전히 대체하기보다 채점자를 지원하는 방식으로 활용하는 데 무게를 두고 있다.

AI 활용 과정에서 교사의 판단이 영향을 받을 가능성도 제기됐다. AI가 먼저 제시한 점수가 교사 판단의 기준이 되는 '앵커링 효과'나 AI 판단을 과도하게 신뢰하는 '자동화 편향'이 나타날 수 있고, 장기간 AI에 의존하면 교사의 평가 전문성이 약해지는 '탈숙련화'로 이어질 수 있다는 것이다.

박 연구위원은 이에 따라 AI를 점수를 결정하는 주체가 아닌 교사의 판단을 지원하는 보조 체계로 두고, AI 결과에 대한 설명과 편향 점검, 교사의 검토·수정 절차 등을 마련해야 한다고 제안했다.

김문희 평가원장은 "AI 자동채점은 교사를 대체하는 기술이 아니라 교사의 평가 전문성을 강화하는 지원 도구여야 한다"며 "이번 세미나를 통해 AI 자동채점과 학습용 데이터 구축에 대한 연구 성과를 공유하고, 교육 분야 AI 활용에 대해 균형 있는 시각에서 논의하는 계기가 되기를 기대한다"고 밝혔다.

banya@news1.kr