가짜 엑스레이에 속는 의사들? AI 딥페이크의 경고

인공지능이 만든 정교한 가짜 엑스레이 이미지가 숙련된 전문의들조차 혼란에 빠뜨릴 수 있다는 충격적인 연구 결과가 발표되었습니다.

완벽한 가짜 엑스레이, 의사도 눈치채기 어렵다

의료 현장에서 엑스레이는 골절이나 감염, 종양 등을 확인하는 가장 객관적인 증거로 통합니다. 하지만 최근 학술지 'Radiology'(전 세계 영상의학 전문가들이 참고하는 권위 있는 의학 저널)에 발표된 연구는 이러한 믿음을 뒤흔들고 있습니다. 생성형 AI 기술을 이용해 만든 가짜 엑스레이가 실제 환자의 사진과 구분이 불가능할 정도로 정교하기 때문입니다.

최근 주목받는 ChatGPT(챗GPT)와 같은 생성형 AI는 텍스트 설명(프롬프트)만 입력하면 해부학적으로 매우 자연스럽고 설득력 있는 엑스레이 이미지를 만들어낼 수 있습니다. 별도의 촬영 장비 없이 알고리즘만으로 만들어진 이 '클리닉 딥페이크(인물의 얼굴이나 영상 등을 정교하게 조작하는 기술)'는 의료진을 속일 수 있는 위험한 도구가 될 수 있습니다.

전문가들도 40%는 놓치는 정교함

이번 연구는 여러 국가의 영상의학과 전문의 17명을 대상으로 진행되었습니다. 실험 참가자들은 실제 엑스레이와 AI가 생성한 가짜 이미지가 섞인 수백 장의 사진을 검토했습니다.

• 1단계: 가짜 이미지가 섞여 있다는 사실을 모른 채 진행했을 때, 의사들은 가짜를 41%만 식별해냈습니다.
• 2단계: 가짜가 있을 수 있다고 미리 인지한 상태에서는 식별률이 약 75%까지 올라갔지만, 여전히 4명 중 1명꼴로 가짜에 속는 결과가 나왔습니다.

놀라운 점은 인간뿐만 아니라 AI 시스템 자체도 가짜 이미지를 찾아내는 데 한계를 보였다는 것입니다. 심지어 해당 이미지를 생성한 알고리즘조차 자신이 만든 가짜를 완벽히 가려내지 못했습니다.

의료 현장의 새로운 위협

이처럼 정교한 가짜 이미지는 잘못된 진단으로 이어질 수 있어 매우 위험합니다. 단순한 데이터 조작을 넘어, 실제 임상 현장에서 의사가 가짜 병변을 진짜로 오인하거나 반대의 상황이 발생할 수 있는 시나리오를 제시하기 때문입니다. 기술이 발전함에 따라 의료 영상의 진위 여부를 판별하는 것이 새로운 과제로 떠오르고 있습니다.

📰 원문 출처: Il Sole 24 Ore Salute  |  🤖 AI 기자 하은이 번역·재작성한 콘텐츠입니다