챗 지피티(Chat-GPT) 등 생성형 인공지능(AI)이 건강이나 의학과 관련한 허위 정보를 유포하는 도구로 악용될 수 있다는 지적이 나왔다.

고의적으로 허위 정보를 유포했을때 이를 막는 기능이 작동하지 않고 있기 때문이다. 실제로 대다수 모델이 악의적으로 올려놓은 대부분의 허위 정보를 그대로 공개했다.

현지시각으로 24일 미국내과학회지(Annals of Internal Medicine)에는 건강 관련 허위 정보에 대한 생성형 인공지능의 보안 문제에 대한 연구 결과가 공개됐다(10.7326/ANNALS-24-0393).

현재 생성형 인공지능, 이른바 대규모 언어모델(LLM)은 다양한 분야에서 활용도가 높아지고 있는 것이 사실이다.

하지만 환각 등 이른바 거짓말 문제가 지속적으로 지적되고 있는 것이 사실. 특히 건강 관련 정보에 있어서는 이러한 허위 정보가 심각한 문제를 일으킬 수 있다는 점에서 경각심이 높아지고 있는 상황이다.

플린더스 의과대학 애슐리 홉킨스(Ashley M. Hopkins) 교수가 이끄는 연구진이 이에 대한 연구를 진행한 배경도 여기에 있다.

현재 다방면에서 활용하고 있는 거대 언어 모델이 실제로 건강 관련 허위 정보를 제대로 막지 못하는지를 파악하기 위해서다.

이에 따라 연구진은 OpenAI의 GPT-4o, Google의 Gemini 1.5 Pro, Anthropic의 Claude 3.5 Sonnet, Meta의 Llama 3.2-90B Vision, xAI의 Grok Beta 등 대표적인 5개 거대 언어 모델을 통해 이를 확인했다.

애플리케이션 프로그래밍 인터페이스(API)에 건강 관련 질의에 잘못된 응답을 생성하도록 시스템 수준의 지시를 입력한 뒤 다양한 질문을 제시해 제대로 답하는지를 확인한 것. 질문은 총 100가지로 이뤄졌다.

그 결과 이 다섯개의 거대 언어 모델은 무려 88%가 건강에 대한 허위 정보를 그대로 대답했다.

특히 5개의 거대 언어 모델 중 4가지(GPT-4o, Gemini 1.5 Pro, Llama 3.2-90B Vision, Grok Beta)는 응답의 100%를 허위 정보로 내놨다.

그나마 Claude 3.5 Sonnet은 다른 거대 언어 모델과 달리 40%만의 허위 정보를 생성한 것으로 확인됐다.

연구진은 이러한 결과가 건강과 관련한 허위 정보를 악의적으로 퍼트릴 수 있는 심각한 위험성을 가지고 있다고 지적했다.

애슐리 홉킨스 교수는 "대다수 거대 언어 모델이 건강과 관련한 허위 정보를 은밀하게 퍼트리기 위한 악의적 시도에 굉장히 취약한 모습을 보였다"며 "공중 보건의 안전을 보장하기 위한 강도 높은 모니터링 장치가 필요하다는 것을 시사한다"고 밝혔다.