"AI가 제 병명이 ○○라는데요"…진료실서 AI와 싸우는 의사들

(서울=뉴스1) 권영미 기자 = 미국에서 약 3분의 1이 건강 관련 조언을 얻기 위해 인공지능(AI)을 이용하고 있지만 잘못된 정보도 많아 의사들이 골머리를 앓고 있다고 월스트리트저널(WSJ)이 6일(현지시간) 보도했다.

2021년부터 환자들이 검사 결과와 진료 기록을 실시간에 가까운 방식으로 확인할 수 있게 되면서, 상당수 성인이 의사와 상담하기 전에 온라인에서 정보를 먼저 접하는 것으로 알려졌다.

플로리다주 내과의사인 제이슨 골드먼은 "환자들이 검색과 AI 해석을 통해 스스로 병명을 확신하고 오는데, 우리는 그걸 반박하는 데 시간을 쓴다"며 "감기라는 진단부터 암이라는 진단까지 온갖 이야기가 나온다"고 말했다.

그는 일부 환자가 AI 대화에 근거해 콜레스테롤 약을 중단하거나 백신 접종을 거부했다고도 전했다. 골드먼은 "내가 조언하면 환자들은 'AI에 물어볼게요'라고 말하는데, 저는 '그러면 왜 여기 오신 거죠?'라고 되묻는다"고 말했다.

로욜라대학 메리 K. 멀카헤이 교수는 "AI가 반월상연골 파열 유형을 구분하기는 어렵다"며 "환자의 활동 수준이나 관절염 여부에 따라 치료법이 달라지는데, AI 답변은 맥락을 놓칠 수 있다"고 지적했다.

AI가 의료 용어를 쉽게 풀어주는 데 도움을 줄 수 있다는 긍정적 평가도 있다. 실제로 2024년 연구에서는 챗GPT가 병리 보고서를 중학생 수준으로 단순화하면서 98%의 정확성을 보였다.

하지만 림프샘 검사가 없었음에도 '암이 없다'고 잘못 설명하는 오류도 발견됐다. 소프트웨어 엔지니어 메그 가왓은 혈액검사 결과를 챗봇에 입력해 해석을 받았는데, 비타민 D 수치를 잘못 읽은 AI가 긴급하게 보충제를 권고해 놀랐다고 회상했다.

문제는 잘못된 해석이 실제 환자에게 심각한 영향을 줄 수 있다는 점이다. 미국 노인정신의학저널에 실린 사례 연구에서는 한 65세 참전용사가 이전에 받은 두차례의 기억력 검사를 챗GPT에 입력했을 때, 의사가 '경도 인지장애'라고 진단한 상태를 챗봇은 '치매로 진행됐다'고 잘못 해석했다. 실제로 환자의 상태는 악화하지 않았던 것으로 확인됐다.

오픈AI 측은 "단일 사례가 전체 사용자 경험을 대표하지 않는다"며 최신 모델은 더 나은 기능과 안전장치를 갖추고 있다고 해명했다. 그러나 전문가들은 환자들이 챗봇에 데이터를 올릴 때 연방법에 의한 정보 보호를 받지 못한다는 점을 지적한다. 개인 건강 정보는 미국 의료정보보호법(HIPAA)이 보호하지만, 챗봇은 의료기관이 아니라 일반 기업 서비스라 이 법의 보호를 받지 못한다는 것이다.

밴더빌트대 브래드 말린 교수는 "이 경우 환자가 아니라 소비자가 되는 것"이라며 "기업들이 자체적으로 정한 개인정보 보호 정책을 바꿀 수 있기 때문에, 결국 정보가 유출되거나 다른 용도로 활용되더라도 '구매자가 주의해야 했다'는 결론이 나온다"고 경고했다.

kym@news1.kr