"AI 영향평가제 도입"…이훈기 의원도 '인공지능 기본법' 발의

[서울=뉴시스]심지혜 기자 = 딥페이크 악용 사례가 사회적 문제로 대두되면서 생성형 인공지능(AI) 관련 법안의 필요성이 강조되는 가운데 관련 법안이 국회에서 잇따라 발의되고 있다.

국회 과학기술정보방송통신위원회 소속 이훈기 더불어민주당 의원은 '인공지능의 발전과 안전성 확보 등에 관한 법률안'을 대표 발의했다고 12일 밝혔다.

'인공지능 발전과 안전법안’은 AI에 대한 윤리와 신뢰성 확보를 위해 고위험 인공지능 사업자의 책무를 마련하는 것은 물론 ‘AI 영향평가' 규정을 포함시켰다.

영향평가는 AI 사업자가 AI 서비스가 기본권에 미치는 사회적 파급효과를 사전에 고려하도록 하는 것으로 공공기관 등이 채용이나 공공 서비스를 위해 AI를 사용할 때 AI 영향평가가 완료된 서비스를 우선 이용하도록 규정하는 내용이다.
 
이번 법안의 내용은 크게 ▲고위험 영역 AI 규율 ▲AI 위원회 구성 및 운영 ▲AI 영향평가 ▲생성성 AI 결과물 표시 등을 담고 있다.

범죄 관련 생체정보, 채용과 대출 등 중대한 개인 권리와 관련된 사항을 고위험 영역 AI로 규율하고 민간이 과반을 차지하는 민·관 합동 AI 위원회를 두고, 위원회에서 AI 기본계획을 심의·의결토록 한다.

또 AI에 대한 윤리와 신뢰성 확보를 위해 고위험 AI 사업자의 책무 등을 AI 영향평가 규정에 포함한다.

최근 인권 침해를 유발하는 딥페이크를 비롯한 챗 GPT 등 생성형 인공지능이 만들어내는 결과물에 생성형 AI 결과물이라는 표시를 의무화하도록 했다.

이 의원은 "고위험 AI가 우리 국민의 기본권에 미치는 영향이 큰 만큼, 별도의 'AI 영향평가'를 통해 AI 서비스가 사전에 국민 기본권에 미치는 영향을 평가하도록 했다"며 "제정법안 통해 AI 발전과 규제가 조화를 이루고 국민 안전을 우선으로 하는 AI 기본법 논의가 시작되길 기대한다"고 강조했다.


◎공감언론 뉴시스 [email protected]