[메디칼타임즈=이인복 기자]의료 인공지능과 생성형 AI의 보안과 환각 문제가 도마 위에 오르면서 폐쇄형 시스템을 선택하는 기관들이 생겨나고 있다.

원내 서버와 데이터만 활용해 구동되는 '온 프레미스' 방식을 채택해 원천적으로 문제를 차단하고 나선 것. 국내 병원 중에는 최초로 서울아산병원이 이 방식을 택했다.

18일 의료산업계에 따르면 서울아산병원이 국내 의료기관 최초로 외부 인터넷과 완전히 단절된 폐쇄망 환경에서 구동되는 '프라이빗 AI 지식 검색 시스템'을 구축하고 가동에 들어간 것으로 확인됐다.

프라이빗 AI란 외부 클라우드 등에 데이터를 보내지 않고 기관 내부 서버에서만 AI 모델을 운용하는 방식이다.

의료 데이터는 환자의 진료 기록, 검사 결과 등 민감한 정보가 포함되어 있어 엄격한 보안이 필수적이지만 기존 생성형 AI는 외부 클라우드와 연결된다는 점에서 정보 유출 우려가 있었다.

서울아산병원은 이를 해결하기 위해 모든 서버와 데이터를 병원 내부에서만 운용하는 온프레미스(On-premise) 방식을 채택해 외부 클라우드 의존도를 0%로 낮췄다.

이를 통해 생성형 AI의 이점을 온전히 활용하면서도 환자 정보가 병원 밖으로 나가지 않는 최고 수준의 데이터 보호를 실현한 것.

또한, 외부 솔루션 업체에 의존하지 않고 병원 내 IT 인력이 직접 시스템을 개발함으로써 기술 자립도도 한층 높였다.

프라이빗 AI 지식 검색 시스템을 활용하면 의료진은 방대한 임상 가이드라인이나 업무 규정을 일일이 찾아볼 필요 없이 질문 한 번으로 수 초 내에 정확한 답변을 얻을 수 있다.

예를 들어 '기관삽입관 탈거 시 응급 처치 및 재삽관 프로토콜', '법정 감염병 확진 환자 발생 시 신고 절차' 등 매뉴얼 확인이 필수적인 긴급 상황에서 AI가 제공하는 객관적인 근거를 토대로 신속하고 침착하게 대응할 수 있다는 의미다.

프라이빗 AI 지식 검색 시스템의 기술적 핵심은 벡터 데이터베이스와 RAG(검색 증강 생성, Retrieval-Augmented Generation)의 결합이다.

벡터 데이터베이스는 문서의 내용을 AI가 의미 단위로 이해하고 빠르게 검색할 수 있는 형태로 변환해 저장하는 기술이다.

일반적인 데이터베이스가 키워드 일치 방식으로 검색하는 것과 달리, 벡터 데이터베이스는 질문의 맥락과 의미까지 파악해 가장 관련성 높은 문서를 찾아낸다.

병원 내 임상 가이드라인, 업무 규정 등 방대한 문서 전체를 벡터 데이터베이스로 저장함으로써 AI가 필요한 정보를 즉시 불러올 수 있는 기반을 마련했다.

RAG는 AI가 답변을 생성할 때 반드시 데이터베이스 내 실제 문서를 근거로 삼도록 강제하는 기술이다.

AI가 임의로 내용을 창작하지 않고 실제 저장된 문서를 먼저 검색해 참고한 뒤 답변을 구성하는 방식이기 때문에 AI가 근거 없이 그럴듯한 거짓 정보를 만들어내는 환각(Hallucination) 현상을 구조적으로 차단한다. 의료 분야에서 특히 치명적일 수 있는 환각 문제를 원천적으로 방지했다는 점에서 의미가 크다.

서울아산병원은 폐쇄망 환경의 특성상 외부의 최신 정보를 실시간으로 반영하기 어렵다는 한계를 보완하기 위해 샌드박스형 외부 검색 엔진을 별도로 운영할 계획이다.

이 엔진은 외부 검색이 필요한 경우에도 환자 개인을 특정할 수 없도록 완전히 익명 처리된 질문만을 외부로 내보내는 방식으로 작동한다.

병원 내부 정보는 절대 외부로 유출되지 않으면서 필요한 최신 의학 정보만 안전하게 가져오는 별도의 통로를 마련한 셈이다.

김영학 서울아산병원 디지털정보혁신본부장은 "이번 시스템은 보안과 AI 활용이라는 두 과제를 동시에 해결하며, 폐쇄망 환경에서도 AI를 온전히 활용할 수 있음을 직접 증명했다는 점에서 의미가 크다"며 "앞으로도 시스템을 지속적으로 고도화하며 데이터 유출 걱정 없는 신뢰 기반의 디지털 의료 혁신을 선도해 나가겠다"고 말했다.