"인간경험 중심 AI로 패러다임 전환…의사결정 절차 투명해야"

(서울=뉴스1) 김민석 기자

"인공지능(AI) 기술이 사회 시스템에 성공적으로 안착하려면 인간-컴퓨터 상호작용(HCI) 관점에서 접근해야 합니다."

윤명환 서울대 산업시스템혁신연구소 소장 겸 산업공학과 교수가 10일 서울 영등포구 한국거래소 콘퍼런스홀에서 열린 '2025 뉴스1 테크포럼'(NTF 2025) 주제 강연에서 '휴먼 센터드 AI'(인간 경험 중심 AI)를 제시했다.

윤 교수는 "컴퓨터 중심 AI에서 인간 중심 AI로 패러다임을 전환해야 한다"며 "절차의 투명성과 책임 분담이 담보되지 않으면 AI를 현장에 적용하기 쉽지 않다. AI가 스스로 문제를 찾아내더라도 의사결정 책임을 분명히 할 수 있는 프로세스를 설계해야 한다"고 말했다.

이어 "이를 위해 AI와 인간을 분리된 존재가 아닌 함께 학습하고 의사결정하는 공진화(co-evolution) 체계를 구축해야 한다"며 "인간의 역할·책임·프로세스를 재설계해야 지속 가능한 AI 혁신이 가능할 것"이라고 강조했다.

그러면서 "스마트폰이 혁신을 일으킨 것처럼 하나의 기술이 사회에 미치는 영향을 전체적으로 봐야 한다"며 "AI·빅데이터·IoT·클라우드 등 기술 간의 연관관계를 고려한 시스템적 접근이 필요하다"고 언급했다.

윤 소장은 서울대 휴먼인터페이스연구센터에서 현재 연구 중인 프로젝트도 소개했다. 센터가 2022년부터 진행 중인 '인간 오류 탐지 시스템'(Human Error Detection System)은 작업자의 신체 상태·인지 부하를 AI가 실시간으로 감지해 안전사고를 예방한다.

윤 교수는 "휴먼 트랙터 지능화 프로젝트로 인간과 AI가 수평적이고 공생적으로 협력하는 모델을 개발하고 있다"며 "앞으로 10년 휴먼 팩터를 잘 고려한 AI가 생산성 향상과 삶의 질 개선에 기여할 것"이라고 했다.

ideaed@news1.kr