[메디칼타임즈=김승직 기자] 국내에 처음으로 생성형 의료 인공지능(AI)이 식품의약품안전처 허가를 받으면서 의학회 등 학계도 관심을 기울이며 분석에 나서는 모습이다.

이들은 임상 현장에서 의료서비스 질 향상과 효율성 제고에 대해 기대하면서도 오남용 가능성에 대한 우려를 쏟아내며 이에 대한 모니터링 체계를 주문하고 있다.

최근 식약처가 생성형 AI 의료기기 인허가로 관련 기준과 성능 검증 체계를 수립하면서 학계의 관심이 몰리고 있는 것으로 파악됐다. 세계적으로도 상당히 빠른 대응이라는 평가다.

이번에 인허가된 숨빗AI의 'AI Read-CXR'는 의료진이 흉부 엑스레이 영상을 입력하면 AI가 이를 분석해 즉각적으로 예비 판독문을 도출하는 솔루션이다.

이는 영상의학과 전문의가 수행하던 판독 리포트 지원하는 것으로, 기존의 진단 보조를 넘은 생성형 기술이 의료 분야에 공식 도입됐다는 점에서 의미가 크다. 단순 영상 분석을 넘어, 인간 언어로 된 결과물을 생성해 낸다는 점에서 기존 AI 솔루션들과 차별화되는 것.

학계가 주목하는 가장 점은 이 솔루션 도입을 통한 의료 현장 효율성 제고다. 이를 통해 영상의학과 전문의의 영상 판독 및 리포트 작성 시간이 유의미하게 단축될 수 있는 덕분이다. 이미 여러 연구를 통해 관련 유용성이 검증됐으며, 특히 판독문의 전반적인 품질을 상향 평준화할 수 있다는 점이 긍정적이라는 평가다.

대한의료인공지능학회 역시 해당 솔루션이 인허가 전부터 업계 초미의 관심사였다고 설명했다. 의사마다 편차가 있을 수 있는 판독 리포트 형식을 규격화하고, 핵심적인 정보를 모두 담아냄으로써 의료 서비스의 질을 높일 수 있다는 분석이다. 생성형 AI가 영상 판독이라는 고난도 업무를 수행한다는 점에서 기술적 완성도가 높다는 것.

하지만 기술적 한계에 따른 우려도 있다. 생성형 AI 모델의 특성상 병변을 정확히 찾아내는 '식별' 기능에서는, 루닛 등 특정 병변 탐지를 전문으로 하는 기존 AI 제품들에 비해 다소 성능이 낮을 수 있다. 특히 폐암 등 치명적인 질환의 경우, AI가 생성한 판독문에만 의존하는 것은 위험하다는 지적이다.

현재 구현된 기술 수준에서는, 판독문 상에 병변의 구체적인 위치 정보를 시각적으로 표시해 주는 기능이 부족하다는 평가도 나온다. 판독문에는 이상 소견이 있다고 기술돼 있지만, 영상 어디에 위치하는지 명확히 인지하기 어려운 경우 의료진의 혼란을 야기할 수 있다는 우려다.

이에 따라 식약처 인허가 조건 역시 영상의학과 전문의가 주도적으로 사용하도록 제한을 두고 있는 것으로 알려졌다.

가장 심각하게 논의되는 쟁점은 오남용 문제다. 전문성이 부족한 사용자가 AI가 도출한 예비 판독문을 별도의 검증 없이 그대로 수용할 경우, 의료 사고로 이어질 위험이 크기 때문이다. 숙련된 전문의라도 시간당 처리할 수 있는 판독량은 한계가 있으나, AI를 활용해 하루 수만 장의 영상을 기계적으로 판독하는 식의 남용이 발생할 수 있다는 우려도 나온다.

의료인공지능학회 박창민 회장은 이 같은 문제를 방지하기 위해 식약처 등 당국의 강력한 사후 모니터링이 필요하다고 강조했다. 특정 의료기관이나 개인이 비정상적으로 높은 빈도로 AI 판독 기능을 사용할 경우, 이를 규제할 수 있는 체계가 마련돼야 한다는 제언이다.

더욱이 이번 인허가를 기점으로 후발 주자들의 유사 솔루션 개발과 인허가 추진이 가속화될 전망이다. 특히 딥노이드는 지난해 11월 자사 솔루션 M4CXR의 임상시험을 마치고 식약처 허가 결정을 기다리고 있다. 지금은 흉부 엑스레이에만 적용된 생성형 AI가 유방 촬영, CT, MRI 등 다양한 영상 진단 분야로 확대될 가능성도 큰 만큼 대비가 필요하다는 것.

아울러 현재 인허가된 단방향 리포트 생성 모델과 달리, 향후 대화형(Multi-turn) 모델이 도입된다면 잘못된 데이터를 학습해 할루시네이션 등 오류를 범할 가능성이 크다.

박 회장은 이런 생성형 AI의 폭발적인 성장에 대비해 '신뢰할 수 있는 검증 틀' 확보가 시급하다고 강조했다. AI가 수행할 수 있는 업무 범위를 질환 등으로 명확히 정의하고, 의학적 맥락에서 성능을 객관적으로 평가할 수 있는 기준이 마련돼야 한다는 설명이다.

단순히 의사 국가고시를 통과하는 수준의 평가를 넘어, 실제 임상 현장에서 안전성을 담보할 수 있는 정교한 검증 프로세스가 필요하다는 것.

박 회장은 "정상적으론 영상의학과 전문의 한 명이 시간당 60장 내외의 영상을 판독한다. 하지만 AI가 준 예비 판독문에만 의존해 검증 없이 수천, 수만 장까지 처리하는 경우가 생길 수 있다"며 "이런 오남용 문제를 막기 위해 판독량이 비정상적으로 폭증하는 경우 등 사용자별 판독 빈도를 실시간으로 관리하는 사후 모니터링 체계를 마련해야 한다"고 강조했다.

이어 "다양한 기능을 수행하는 생성형 AI의 특성상 명확한 활용 범위를 설정하고 이에 걸맞은 의학적 검증 틀을 마련하는 것이 필수적"이라며 "단순히 기술적 성능을 확인하는 수준을 넘어 신뢰할 수 있는 벤치마크를 통해 기술의 한계를 명확히 규명해야 한다. 이를 통해 임상 현장에서의 부작용을 방지하기 위한 사전 조치가 병행돼야 한다"고 촉구했다.