"의존성 경계하라" AI시대에 보내는 내과 교수의 경고

발행날짜: 2017-07-25 12:00:55
  • 장동경 성균관의대 교수, 무비판적 수용 막기 위한 대안 제시

의사가 인공지능에 의존하게 된다면 어떻게 될까.

성균관의대 장동경 교수(내과학)는 대한의학회 7월호 E-NEWS LETTER에 '미래의료에 미치는 인공지능의 영향'이라는 제목의 칼럼을 통해 AI시대에 의사들이 무비판적인 수용에 대해 경고의 메시지를 던졌다.

장동경 교수
그는 "인공지능이 본격적으로 도입되면 의료사회는 인공지능 의존성이라는 문제가 대두될 가능성이 높다"면서 "점차 인공지능이 제시하는 판단을 무비판적으로 받아들이고 스스로 판단하는 전문가적 능력이 저하될 수 있다"고 내다봤다.

그는 응급상황에서의 대처 능력도 떨어질 가능성을 제기하기도 했다.

실제로 항공기에 자동항법장치가 도입된 이후 비행기 조종사들의 위기 대처 속도가 저하되었다는 데이터가 있는 만큼 의료현장도 이와 다를 것이라고 장담하기 어렵다는 게 그의 설명이다.

장 교수는 의료의 질을 유지하기 위해 인공지능 의료기기의 성능을 평가하는 평가위원회와 같은 의료전문가 조직의 필요성을 제기했다.

그는 "인공지능 시대에 의사가 공부를 덜 해도 괜찮을 것이라는 생각은 접어둬야 한다"면서 "인공지능이라는 참고서를 제대로 활용하고 역으로 지배당하는 상황을 피하기 위해서는 의사의 평생 교육이 더 필요하다"고 강조했다.

그는 인공지능 소프트웨어의 실력이 학습을 위해 투입되는 데이터의 양과 질에 의해 결정된다는 점에서 인공지능 의료기기의 수준은 현존하는 의료의 종합적 수준을 뛰어넘는 것이 아니라고 단정했다.

즉, 인공지능 알고리즘을 만들어 내는 데이터 과학자로서의 의료 연구자의 역할이 더욱 중요해 질 것인데, 그들의 역량과 노력에 의해 진료 현장의 의사들이 활용할 인공지능 의료기기의 품질이 결정될 것이라는 얘기다.

또한 장 교수는 인공지능의 오류에 대해서도 대처 능력을 갖출 것을 제안했다.

그는 "의료기기로 승인, 관리되는 경우에는 오류가 발생하면 일차적인 책임은 제조사에게 있지만 오류를 걸러내지 못해 환자에게 해를 끼쳤을 경우에는 진료 의사도 그 책임에서 벗어나기 힘들 것"이라고 봤다.

현재 딥러닝이라는 방법론 자체가 인공지능을 학습시키기 위해 제공하는 방대한 데이터들이 어떻게 패턴화되고 적절한 결과를 도출하는지 명확히 설명하기 어려운 경우가 많은 상황.

그는 앞으로 인공지능이 내린 판단을 제대로 평가할 수 있는 기술적 투명성을 확보하는 것을 중요한 숙제로 꼽았다.

그는 이어 "특히 의료기기가 아닌 인공지능 소프트웨어의 권고를 참고해 진료하는 의사는 AI의 권고 의견을 진료에 적용할 지 여부를 최종적으로 결정하고 그 결과에 책임져야 한다"고 덧붙였다.

관련기사

병·의원 기사

댓글

댓글운영규칙
댓글을 입력해 주세요.
더보기
약관을 동의해주세요.
닫기
댓글운영규칙
댓글은 로그인 후 댓글을 남기실 수 있으며 전체 아이디가 노출되지 않습니다.
ex) medi****** 아이디 앞 네자리 표기 이외 * 처리
댓글 삭제기준 다음의 경우 사전 통보없이 삭제하고 아이디 이용정지 또는 영구 가입이 제한될 수 있습니다.
1. 저작권・인격권 등 타인의 권리를 침해하는 경우
2. 상용프로그램의 등록과 게재, 배포를 안내하는 게시물
3. 타인 또는 제3자의 저작권 및 기타 권리를 침해한 내용을 담은 게시물
4. 욕설 및 비방, 음란성 댓글