![[서울=뉴시스] 인공지능(AI)이 인류의 생산성을 폭발적으로 끌어올릴 것이라는 기대가 커지는 한편, 향후 수년 내 AI로 인한 대형 참사가 발생할 확률이 20％를 웃돈다는 국제 연구 결과가 나왔다. (사진 출처=유토이미지)](https://img1.newsis.com/2026/07/30/NISI20260730_0002199934_web.jpg?rnd=20260730104622)
[서울=뉴시스] 인공지능(AI)이 인류의 생산성을 폭발적으로 끌어올릴 것이라는 기대가 커지는 한편, 향후 수년 내 AI로 인한 대형 참사가 발생할 확률이 20％를 웃돈다는 국제 연구 결과가 나왔다. (사진 출처=유토이미지)
[서울=뉴시스]박지혁 기자, 이송이 인턴기자 = 의료 인공지능(AI)이 의사의 진료를 돕는 핵심 기술로 자리 잡고 있는 가운데, 최신 연구에서 주요 AI 모델들의 공통적인 한계도 드러났다. 잘못된 정보를 생성하는 '환각'보다 중요한 의료 정보를 빠뜨리는 '누락 오류'가 더 큰 위험 요소로 나타났다.
최근 미국 경제 매체 포춘은 스탠퍼드대, 하버드대, 아라이즈(ARISE) 연구진이 개발한 의료 AI 안전성 평가 기준 '노하름(NOHARM)'의 연구 결과를 보도했다.
이번 연구는 1100건의 실제 임상 사례를 바탕으로 1만3000건 이상의 의사 평가를 거쳐 진행됐다.
평가 대상에는 올해 1월 120억 달러(약 17조 2000억 원)의 기업 가치를 인정받은 의료 AI 스타트업 '오픈에비던스(OpenEvidence)'를 비롯해 독시미티(Doximity)의 '독시미티 애스크(Doximity Ask)', 오픈AI의 'GPT-5.6 Sol', 앤트로픽의 '클로드 페이블 5(Claude Fable 5)' 등 최신 AI 모델들이 대거 포함됐다.
연구 결과, 가장 높은 점수를 받은 모델조차 의료 오류 가능성을 완전히 제거하지 못한 것으로 나타났다.
특히 전체 유해 오류 가운데 76.6%는 AI가 틀린 정보를 만들어내는 환각이 아니라, 진료 과정에서 고려해야 할 중요한 정보를 빠뜨리는 누락 오류에서 발생했다.
이는 AI가 사실과 다른 답변을 내놓는 문제뿐 아니라, 중요한 위험 신호나 고려해야 할 정보를 놓치는 상황 역시 의료 현장에서 큰 문제가 될 수 있다는 의미다.
독시미티의 의료 검증 프로그램 '피어체크(PeerCheck)' 공동 의장을 맡고 있는 에릭 토폴 박사는 "누락으로 인한 오류는 0에 가깝게 줄여야 한다"며 "최신 AI 모델이 빠르게 발전하고 있지만, 실제 의료 현장에 완전히 준비됐다는 착각을 경계해야 한다"고 지적했다.
다만, 노하름 연구진은 AI 도구를 활용하는 의사가 AI를 사용하지 않는 의사보다 더 나은 진료를 제공할 가능성이 있다는 점도 함께 밝혔다.
이번 연구 결과는 의료 AI 규제를 둘러싼 논의에도 영향을 미칠 전망이다. 미국 식품의약국(FDA)은 최근 의사가 AI의 판단 과정을 독자적으로 검증할 수 있는 경우 의료 AI 활용 범위를 넓히는 방향으로 입장을 조정했다. 반면 일부 주 정부는 AI가 제시한 결정을 환자에게 적용하기 전 반드시 의사의 최종 승인을 거치도록 하는 법안을 연이어 통과시키고 있다.
전문가들은 법적 책임 소재 역시 명확하지 않은 상태라고 지적한다. AI 모델의 제안이 잘못돼 의료 사고가 발생했을 때 의사, 병원, AI 개발사 중 누구에게 책임을 물어야 하는지 법원의 논쟁이 이어지고 있기 때문이다.
◎공감언론 뉴시스 [email protected]
최근 미국 경제 매체 포춘은 스탠퍼드대, 하버드대, 아라이즈(ARISE) 연구진이 개발한 의료 AI 안전성 평가 기준 '노하름(NOHARM)'의 연구 결과를 보도했다.
이번 연구는 1100건의 실제 임상 사례를 바탕으로 1만3000건 이상의 의사 평가를 거쳐 진행됐다.
평가 대상에는 올해 1월 120억 달러(약 17조 2000억 원)의 기업 가치를 인정받은 의료 AI 스타트업 '오픈에비던스(OpenEvidence)'를 비롯해 독시미티(Doximity)의 '독시미티 애스크(Doximity Ask)', 오픈AI의 'GPT-5.6 Sol', 앤트로픽의 '클로드 페이블 5(Claude Fable 5)' 등 최신 AI 모델들이 대거 포함됐다.
연구 결과, 가장 높은 점수를 받은 모델조차 의료 오류 가능성을 완전히 제거하지 못한 것으로 나타났다.
특히 전체 유해 오류 가운데 76.6%는 AI가 틀린 정보를 만들어내는 환각이 아니라, 진료 과정에서 고려해야 할 중요한 정보를 빠뜨리는 누락 오류에서 발생했다.
이는 AI가 사실과 다른 답변을 내놓는 문제뿐 아니라, 중요한 위험 신호나 고려해야 할 정보를 놓치는 상황 역시 의료 현장에서 큰 문제가 될 수 있다는 의미다.
독시미티의 의료 검증 프로그램 '피어체크(PeerCheck)' 공동 의장을 맡고 있는 에릭 토폴 박사는 "누락으로 인한 오류는 0에 가깝게 줄여야 한다"며 "최신 AI 모델이 빠르게 발전하고 있지만, 실제 의료 현장에 완전히 준비됐다는 착각을 경계해야 한다"고 지적했다.
다만, 노하름 연구진은 AI 도구를 활용하는 의사가 AI를 사용하지 않는 의사보다 더 나은 진료를 제공할 가능성이 있다는 점도 함께 밝혔다.
이번 연구 결과는 의료 AI 규제를 둘러싼 논의에도 영향을 미칠 전망이다. 미국 식품의약국(FDA)은 최근 의사가 AI의 판단 과정을 독자적으로 검증할 수 있는 경우 의료 AI 활용 범위를 넓히는 방향으로 입장을 조정했다. 반면 일부 주 정부는 AI가 제시한 결정을 환자에게 적용하기 전 반드시 의사의 최종 승인을 거치도록 하는 법안을 연이어 통과시키고 있다.
전문가들은 법적 책임 소재 역시 명확하지 않은 상태라고 지적한다. AI 모델의 제안이 잘못돼 의료 사고가 발생했을 때 의사, 병원, AI 개발사 중 누구에게 책임을 물어야 하는지 법원의 논쟁이 이어지고 있기 때문이다.
◎공감언론 뉴시스 [email protected]
