[메디칼타임즈=최선 기자] 생성형 인공지능(AI)의 핵심 기술인 거대언어모델(LLM)이 의료 현장을 넘어 논문 검색과 작성, 문헌 분석, 동료심사 등 학술 출판 생태계 전반으로 영역을 넓히면서 의료계가 AI 활용에 대한 윤리 기준 마련에 속도를 내고 있다.

가톨릭중앙의료원(CMC)이 의료 인공지능 오남용을 방지하기 위한 윤리 강령을 마련한 데 이어 의학 연구에서도 AI 지원 연구 및 동료 검토가 빈번해지고 있다는 점에서 종합적인 고려사항에 대한 권고 사항이 마련되고 있다.

18일 의료계에 따르면 연구 및 임상 현장에서의 AI 활용이 늘면서 오남용을 방지하고 윤리성을 지키기 위한 가이드라인 및 활용 전 검토 사항의 마련이 활발해지고 있다.

먼저 성빈센트병원은 최근 CMC가 마련한 의료 AI 윤리강령을 홈페이지에 게시하고 의료 인공지능의 오남용을 방지, 오직 생명 증진과 환자의 전인적 돌봄을 위해서만 AI를 선용할 것을 선언했다.

주요 내용은 AI를 인간 중심 의료를 위한 보조적 도구로 규정했다는 점. AI가 사람의 관리와 감독 아래 운영돼야 하며 환자의 권리와 안전을 우선해야 한다는 것을 원칙으로 제시했다.

구체적으로 AI가 환자와 의료진의 관계를 대체하는 것이 아니라 이를 보조하고 증진하는 역할을 해야 한다고 명시했다. 또 AI가 진료 과정에서 의료적 조언을 제공하더라도 이를 환자에게 적용하기 전 의료진이 반드시 검토하도록 해 최종적인 판단과 책임이 사람에게 있음을 분명히 했다.

AI의 판단이 항상 의료진의 관리·감독을 받도록 하는 한편, AI가 제공하는 의료적 조언에 대해서도 근거와 이유를 설명할 수 있어야 한다는 원칙을 담았다. 이와 함께 환자 정보의 안전한 보관과 프라이버시 보호, 환자의 권리와 자율성 존중, 모든 환자를 차별 없이 공정하게 대우해야 한다는 원칙도 제시했다.

즉 AI가 임상 현장에 들어오더라도 의사와 환자 사이의 의사결정을 AI에 넘기는 것이 아니라, AI는 어디까지나 의료진의 판단을 돕는 도구로 활용하고 최종적인 통제와 책임은 인간이 갖도록 하겠다는 취지다.

이 같은 변화는 AI가 연구와 진료에 실제로 활용되기 시작하면서 AI를 사용할 것인가보다 '어떻게 사용해야 하는가'가 중요한 문제로 떠올랐기 때문이다. LLM은 논문 검색과 요약, 연구 아이디어 도출, 문장 작성 및 교정, 데이터 분석 등 연구 과정 곳곳에 활용되고 있으며, 임상에서도 진단과 의사결정 보조를 비롯한 다양한 활용 가능성이 확대되고 있다.

성빈센트병원 관계자는 "병원 전반에서 AI 사용이 늘면서 다양한 부서에서 적절한 사용 여부에 대한 문의가 늘었다"며 "책임 소재를 명확히 하고 오남용을 방지하고자 CMC 강령을 배너로 내걸었다"고 설명했다.

실제로 LLM은 틀린 정보를 생성하는 환각과 잘못된 참고문헌, 편향 등의 위험을 갖고 있어 최근 학술 AI의 핵심 경쟁력도 얼마나 많은 논문을 검색하느냐에서 벗어나, 생성된 답변을 실제 원문 근거까지 연결하고 연구자가 이를 직접 검증할 수 있도록 하는 방향으로 이동하고 있다.

학술 출판 분야에서는 대한의학회지(JKMS)의 움직임이 대표적이다. JKMS 편집장 유진홍 부천성모병원 감염내과 교수는 최근 'AI 지원 과학 글쓰기 및 동료 검토에서 윤리에 대한 종합적인 고려 사항'을 발표하며 AI를 이용한 논문 작성과 동료심사에 대한 구체적인 윤리 원칙을 제시했다(doi.org/10.3346/jkms.2026.41.e281).

핵심은 투명성, 책임성, 기밀성이다. 유 편집장은 "AI는 저자가 될 수 없고 연구의 정확성과 학문적 무결성에 대한 최종 책임은 인간 저자에게 있다"며 "AI가 연구의 가설 설정이나 핵심 내용 작성, 데이터 분석 등 연구의 독창성에 영향을 미치는 작업에 활용됐다면 이를 공개해야 한다"고 설명했다.

이어 단순 문법 교정이나 오탈자 수정 등 기술적 활용은 공개 의무를 완화할 수 있도록 했지만 동료심사에서는 더욱 엄격한 기준을 제시했다.

유 편집장은 "심사자가 미출판 논문을 외부 생성형 AI에 업로드할 경우 원고의 기밀 정보가 외부 서버로 유출될 수 있어 기밀 유지 의무를 위반할 수 있다"며 "AI를 심사에 활용하더라도 보안이 확보된 폐쇄형 시스템에서 제한적으로 사용해야 하며, AI가 생성한 평가 결과에 대한 최종 판단 역시 인간 심사자가 내려야 한다"고 강조했다.

이는 AI를 무조건 금지하기보다 활용 과정의 투명성과 검증 가능성을 높이는 방향으로 학술 윤리가 이동하고 있는 변화를 보여준다. 특히 AI가 생성한 답변의 근거가 실제 논문의 어느 부분인지 추적할 수 있어야 한다는 요구는 향후 학술 AI의 핵심 기준으로 자리잡을 가능성이 높다.