[메디칼타임즈=김승직 기자] 최근 정신건강 영역에서 인공지능(AI) 기술 활용이 늘어나는 가운데, 수용자 상황에 따른 부정적 영향을 최소화 및 오남용 방지를 위한 의학계 가이드라인이 마련됐다.

27일 대한신경정신의학회 미래전략위원회가 '정신건강 목적AI 사용 가이드라인'을 발간했다. 소아·청소년이나 중증 정신질환자 등 세심한 보호가 필요한 계층이 겪을 수 있는 잘못된 정보 습득과 과의존 문제를 사전에 방지하기 위함이다.

이번 권고안은 'AI 안심 지원 이용자용'으로, 새로운 기술이 마음에 미치는 영향을 고려, 정신건강의학과 전문의들이 임상 현장의 문제의식을 바탕으로 토론해 정리했다. 총 11가지 권고 사항으로 구성됐으며, 소아·청소년과 중증 정신질환자로 대상을 나눠 세부적인 지침을 제공한다.

먼저 소아·청소년의 경우, 보호자와 함께 사용 목적과 방식에 대한 기본 규칙을 의논해 정할 것을 권고했다. 특히 성인용 모델에 필터만 추가된 형태가 아닌, 어휘 난이도와 어조 등이 처음부터 소아·청소년을 위해 설계된 전용 서비스인지 확인할 것을 당부했다. 또 초기 개인정보 보호 설정이 가장 안전한 상태로 돼 있는지 확인해야 한다.

정서적 과의존에 대한 경계도 주요 내용으로 포함됐다. AI 캐릭터를 실제 친구나 연인처럼 받아들여 깊은 정서적 유대를 형성하거나 지나치게 의지하는 신호가 없는지 보호자의 세심한 관찰이 필요하다는 것. 또 자해나 자살 언급, 정신증적 경험 등 위기 신호가 발생할 경우, AI와의 대화에 머무르지 않고 즉시 109, 1577-0199 등 전문기관의 도움을 받아야 한다.

중증 정신질환 치료를 받는 환자들에 대해선 민감 정보 노출과 임상적 판단의 위험성을 경고했다. 진단명, 특히 처방 약물, 의료기록 등 민감한 개인정보를 AI에 입력해선 안 되며, AI의 답변을 본인의 치료 판단을 위한 우선적 근거로 삼는 것을 금지했다.

아울러 망상이나 환각 등의 정신증적 증상이 있는 시기에는 AI와의 대화가 해당 증상을 더욱 굳어지게 할 위험이 있다고 분석했다. AI는 사용자가 말한 내용을 대부분 동조해 응답하기 때문에, 환각이나 망상의 내용을 사실처럼 다루는 답변을 내놓을 수 있어 회복 과정에 악영향을 미칠 수 있다.

다만 학회는 이번 가이드라인은 권고 사항으로, 의료 진료의 표준이 아니며 개인의 의학적 결정은 반드시 자격 있는 의료진과 상의해야 함을 분명히 했다.

이와 함께 임상 근거를 바탕으로 치료진과 환자 모두에게 안전한 회복 환경을 제공, 정신건강 영역의 올바른 AI 활용 패러다임을 계속해서 확립해 나간다는 방침이다.

미래전략위원회 전상원 위원장은 "새로운 기술이 우리의 마음에 미치는 영향을 가장 가까이서 지켜보는 정신건강의학과 전문의들이 임상의 자리에서 마주한 책임감을 가지고 모여 정리한 결과"라며 "한 시점에서의 작은 시작이 되기를 바라며, 앞으로 기술 변화와 임상 현장의 필요에 따라 후속 버전으로 이어갈 것"이라고 밝혔다.

한편, 이번 가이드라인은 ▲세계보건기구(WHO) ▲미국심리학회(APA) ▲미국정신의학회(APA) 등 국제 정신건강·심리학 가이드라인과 ▲영국 MHRA ▲국내 식품의약품안전처 생성형 인공지능 의료기기 허가·심사 가이드라인 등 국내외 규제·평가 자료를 참고했다.