AI 의료기기 538건, 고영향AI 확인 요청은 고작 3건…'고영향 AI' 관리 체계 부실

[서울=뉴시스]심지혜 박은비 윤현성 기자 = 국민 안전과 직결된 인공지능(AI) 의료기기가 위험성 검증의 사각지대에 방치되어 있다는 지적이 나왔다. 정부는 고위험 AI 의료기기를 제공하는 사업자가 스스로 안전성을 사전에 검토하도록 하고 있다. 하지만 식품의약품안전처가 허가한 2등급 이상 AI 의료기기에 대해 과학기술정보통신부가 사업자들의 고영향 AI 사전검토 여부를 별도로 점검하지 않고 있다는 지적이다.

국회 과학기술정보방송통신위원회 김선민 조국혁신당 의원은 6일 열린 국정감사에서 AI 의료기기의 고영향 AI여부를 판단하는 기준과 관리 체계를 문제 삼았다.

'고영향 AI'는 국민의 생명이나 신체, 기본권에 중대한 영향을 미칠 수 있어 엄격한 안전성 의무가 부과되는 인공지능을 뜻한다.

김 의원이 과기정통부로부터 제출받은 자료에 따르면, 올해 상반기 전문위원회가 검토한 AI 의료기기 3건은 모두 '고영향 AI가 아니다'라는 최종 판단을 받았다.

김 의원이 과기정통부로부터 제출받은 자료에 따르면 올해 상반기 고영향 AI 확인 전문위원회가 검토한 AI 의료기기 3건은 모두 고영향 AI에 해당하지 않는다는 최종 판단을 받았다.

이 가운데 한 제품은 뇌 CT 영상을 분석해 뇌출혈 여부와 출혈량을 산출하고 판독 우선순위를 자동으로 정렬하는 3등급 AI 의료기기다. 식약처는 3등급 의료기기를 중증도의 잠재적 위해성이 있는 의료기기로 분류하고 있다.

과기정통부가 이 제품을 고영향 AI가 아니라고 본 근거 가운데 하나는 AI가 의료진의 진단을 보조하고 최종 판단은 의료진이 한다는 점이다.

이에 대해 김 의원은 "의료기기 가운데 의사가 최종 판단하지 않는 장비는 없다"고 일침을 놓았다. 의사가 최종 결정한다는 이유만으로 AI가 진단 과정에 미치는 중대한 영향이 사라지는 것은 아니라는 지적이다.

식약처가 해당 제품을 중증도의 잠재적 위해성이 있는 3등급 의료기기로 허가했다는 점도 거론됐다. 식약처의 의료기기 등급과 AI기본법상 고영향 AI는 판단 기준이 서로 다르지만, 해당 제품은 3등급 의료기기로 허가받고도 고영향 AI에는 해당하지 않는다는 결론을 받은 셈이다.

김 의원은 더 큰 문제로 사업자의 사전검토 결과를 정부가 확인할 장치가 부족하다는 점을 꼽았다.

현행 AI 기본법은 사업자가 자사 AI 제품의 고영향 여부를 사전에 스스로 검토하도록 규정한다. 그러나 그 결과나 판단 근거를 정부에 제출하거나 등록할 의무는 없다. 과기정통부에 고영향 여부를 확인해 달라고 공식 요청하는 것 역시 사업자의 자율 선택에 맡겨져 있다.

올해 8월31일 기준 식약처가 허가한 2등급 이상 AI 의료기기는 538건, 관련 제조업체는 171곳이다. 이 가운데 과기정통부에 고영향 여부를 확인해 달라고 요청한 업체는 3곳에 불과했다.

나머지 업체들이 사전검토를 실제로 진행했는지, 어떤 결론을 내렸는지는 정부가 전혀 파악하지 못하고 있다. 사업자의 자율 판단에만 의존하는 '깜깜이' 관리가 이뤄지는 셈이다. 다만 확인 요청을 하지 않았다는 이유만으로 사업자가 사전검토를 하지 않았다고 볼 수는 없다.

김 의원은 사업자의 판단 근거를 문서화해 정부가 확인할 수 있도록 하고 등록제를 도입하는 등 AI기본법을 보완할 필요가 있다고 촉구했다.

김 의원은 "고영향 AI 분류는 사업자가 부담해야 할 안전과 신뢰 의무를 가르는 핵심 판단 기준"이라며 "국민이 안심하고 AI 의료 서비스를 이용할 수 있도록 과기정통부가 명확한 기준을 세워야 한다"고 강조했다.


◎공감언론 뉴시스 [email protected], [email protected], [email protected]