[메디칼타임즈=김승직 기자] 국내에서도 의사의 영상 판독문 초안을 직접 작성해 주는 등의 생성형 인공지능(AI)이 상용화되면서 기대와 우려가 공존하고 있다.

임상 현장의 워크플로우(업무흐름) 개선에 획기적인 변화를 기대하면서도 과도한 기술 의존에 따른 오남용 우려가 함께 나오고 있기 때문이다.

20일 의료산업계에 따르면 국내에서 생성형 의료 AI가 연이어 상용화 되면서 임상 현장의 관심이 높아지고 있는 것으로 파악됐다. 숨빗 AI가 예비소견서 생성 솔루션 AIRead-CXR의 식품의약품안전처 인허가를 받은 데 이어 딥노이드가 판독문 초안 생성 솔루션 M4CXR를 상용화하면서 기대를 모으고 있는 것.

의료계에선 의료 AI가 기술적으로 한 단계 더 나아갔다는 평가가 나온다. 기존 엑스레이 관련 의료 AI 솔루션은 영상에 병변 위치를 시각적으로 표시하는 진단 보조 수준에 머물렀다.

하지만 의료 생성형 AI는 '비전 랭귀지 모델'을 기반으로 의사의 최종 판독문 초안을 텍스트 형태로 직접 생성해 낸다. 단순한 이미지 분석을 넘어 의사의 문서 작성 업무까지 대체하게 되는 것.

이와 관련 한 영상의학과 전문의는 "현장에서 가장 업무 부담이 큰 건 정상 소견 영상이다. 대부분 판독 결과가 정상인데 여기에 가장 많은 시간을 써 문제가 있는 환자의 소견서 작성 시간이 줄어드는 셈"이라며 "기존의 의료 AI도 교차검증 면에선 혁신적이긴 하지만 의심 부위가 늘어나 오히려 확인 작업이 늘어나는 면이 있다"고 말했다.

이어 "반면 생성형 AI가 정상 케이스를 스스로 분류하고 초안까지 작성해 줘 실질적으로 업무 피로도를 낮춰주는 효과가 강하다"며 "결과적으로 의사는 유증상 환자에게 더 집중할 수 있어 생산성이 크게 높아지게 되는 것"이라고 강조했다.

하지만 의학계의 오남용 우려도 만만치 않다. 의료 생성형 AI는 단순 병변 표기에 그치지 않고 그럴듯한 판독문을 만들어 내기 때문에 환각(할루시네이션) 현상으로 인한 부작용이 더욱 크기 때문이다.

AI가 작성한 논리적인 판독문에 속아 잘못된 내용을 그대로 수용하는 '자동화 편향'이나 과신에 빠질 위험이 있다는 것. 기술에 지나치게 의존하다 보면 의사 본연의 전문적 경험과 지식이 퇴색하는 '디스킬링(Deskilling)' 현상이 발생할 수 있는 것도 문제다.

특히 대학병원이나 건강검진센터처럼 하루에 수백, 수천 건의 흉부 엑스레이를 처리해야 하는 다빈도 검사 환경에선 그 위험성이 배가된다. 의사가 판독문 초안을 꼼꼼하게 검토하지 않고 맹목적으로 일괄 승인하고 싶은 유혹에 빠지기 쉽다는 진단이다.

진료 현장에서의 실사용 근거가 부족하다는 우려도 나온다. 현재 모델들은 혁신의료기술이나 신의료기술평가 유예 트랙 대상이 아니기 때문에 수가 적용을 위한 별도의 임상적 가치 증명 의무가 없기 때문이다. 개발 단계에선 높은 성능을 보이더라도 변수가 많은 실제 진료 현장에선 그 정도의 유용성이 나오지 않을 수 있다는 것.

다만 이와 관련 딥노이드는 인허가 전 외부 연구 수치뿐만 아니라, 실제 임상 현장에서 나오는 유의미한 수치들을 지속적으로 수집·정리하고 있다는 입장이다.

이에 따라 의학계에선 의료 생성형 AI 시대에 맞춰 기업과 의료진 모두에게 책임감 있는 자세가 요구된다는 제언이 나온다. 기업은 특례 트랙 의무와 무관하게 장기적인 정착을 위해 실사용 근거를 스스로 창출하고 솔루션에 대한 지속적인 모니터링을 진행해야 한다는 것.

의료진 역시 AI를 보조 수단으로만 인식해 최종 책임을 지는 주체로서 꼼꼼한 확인 절차를 거쳐야 한다는 당부다. 무분별한 도입보단 철저한 연구 검증이 선행돼야 하며, 환자에게 판독 주체가 AI임을 명확히 고지하는 투명성 확보가 필수적이라는 분석이다.

대한의료인공지능학회 박창민 회장은 "비전 랭귀지 모델은 진일보한 기술이지만 거대언어모델 특성상 환각 현상이 발생할 수 있어 기업과 의료기관의 지속적인 모니터링이 필요하다"며 "현재 허가받은 모델들은 임상적 가치를 증명할 법적 의무는 없지만, 장기적으로 의료 현장에 안착하기 위해선 기업 스스로 실사용 근거를 확보해야 한다"고 강조했다.

이어 "사용자인 의료진 역시 과신으로 인한 자동화 편향과 전문성이 저하되는 디스킬링 현상을 경계해야 한다. 판독에 대한 최종 책임은 의사에게 있는 만큼 보수적이고 책임감 있게 활용해야 한다"며 "검증 없는 무분별한 도입이나 일괄 승인은 시기상조다. AI 활용한 판독이라는 사실이 환자에게 투명하게 공개돼야 책임 소재를 명확히 할 수 있다"고 덧붙였다.