EU "인종·종교 분류 AI 범죄 프로파일링 금지"…'AI 안전' 글로벌 화두

[서울=뉴시스] 오동현 기자 = "혁신 과정에서 인공지능(AI)의 악용을 최소화하고 혜택을 극대화하기 위한 방안이 전세계적으로 논의돼야 한다." (이재용 삼성전자 회장)

"AI시대에서 보다 안전한 AI를 위해서는 각 지역의 문화, 가치를 존중하는 책임감 있는 다양한 AI 모델의 등장이 필요하다." (이해진 네이버 창업자)

지난 21일 'AI 서울 정상회의'에 참여한 각국 정상과 글로벌 기업 수장들이 AI의 위험요소를 최소화하면서 자유로운 연구개발을 통해 AI를 혁신하고, 혜택은 모든 인류가 공평하게 누릴 수 있는 방안을 논의했다.

윤석열 대통령은 'AI 서울 정상회의'를 주재하고 '안전하고 혁신적이며 포용적인 AI를 위한 서울 선언'을 채택했다. 이어 서울 선언의 부속서로 'AI 안전 과학 국제협력을 위한 서울 의향서'도 채택하며 각국 AI 안전연구소 간의 네트워크 구축과 글로벌 협력 촉진에 뜻을 모았다.

세계 AI 거버넌스 중심에 선 韓…글로벌 기업들 'AI 안전 서약'

이번 서울 선언을 계기로 글로벌 기업들은 자발적으로 AI 위험을 예방하는데 앞장서는 'AI 안전 서약'에 합의했다.

톰 루 구글 딥마인드 부사장 "이러한 약속은 선도적인 개발자들 사이에서 AI 안전에 대한 중요한 모범 사례를 수립하는 데 도움이 될 것"이라며 "이 합의는 과학적 기반 대화가 이뤄어질 수 있는 집중적인 국제 안전 정상 회의의 가치를 보여준다"고 높게 평가했다.

닉 크레그 메타 글로벌 담당 사장은 "산업계가 AI 기술 개발에 큰 진전을 보임에 따라 안전과 혁신이 함께 진행되도록 하는 것이 그 어느 때보다 중요하다"며 "이 기술에 대한 접근을 민주화하는 것은 혁신을 발전시키고 가능한 한 많은 사람들에게 가치를 제공하는 데 필수적"이라고 강조했다.

데이비드 자폴스키 아마존 법률 고문 수석 부사장 역시 "AI 기술이 계속 발전함에 따라, 우리는 기업들이 프론티어 모델의 잠재적인 위험을 관리하고 글로벌 약속을 지키는 방법에 대한 투명성을 제공하는 것이 중요하다는 것에 동의한다"고 말했다.

브래드 스미스 마이크로소프트 부회장은 "프론티어 AI 안전 약속은 AI 개발의 최전선에서 나타날 수 있는 위험을 해결하기 위해 안전 프레임워크가 어떻게 도움이 돼야 하는지에 대한 중요한 인식"이라며 "기술 산업은 과학과 사회의 기대에 발맞추기 위해 프레임워크뿐만 아니라 정책과 관행을 계속 조정해야 한다"고 촉구했다.

안나 마칸주 오픈AI 글로벌 담당 부사장은 "AI가 안전하고 인류 모두에게 이익이 되도록 다른 연구소, 회사 및 정부와 협력하기 위해 최선을 다하고 있다"고 말했다.

세계적인 딥러닝 권위자인 요슈아 벤지오 캐나다 몬트리올대 교수는 글로벌 기업들이 'AI 안전 서약'에 동참한 것을 환영했다. 

요슈아 벤지오 교수는 "AI 위험 관리의 투명성을 높이기 위한 조치와 함께 극단적인 위험을 제시하는 모델을 안전하게 만들 수 있을 때까지 중단하겠다는 기업들의 약속을 환영한다"며 "이런 자발적인 의지는 분명히 다른 규제 조치를 수반해야 할 것이지만, 그럼에도 불구하고 AI 안전을 촉진하기 위한 국제 거버넌스 체제를 구축하는 데 중요한 진전을 이루고 있다"고 평가했다.

AI 정상회의는 '서울 선언' 등 정상 간 첫 합의를 도출하고 안전에서 혁신과 포용까지로 의제도 확대하면서 포괄적인 AI 거버넌스를 논의하는 유일한 정상급 플랫폼으로 자리매김했다는 데 의의가 있다.

최근 미국과 유럽연합(EU) 등 세계 각국은 글로벌 표준에 자국 입장을 더 많이 반영하고자 경쟁적으로 AI 규범 정립에 나서고 있는 상황이라 AI 정상회의가 갖는 의미는 더욱 크다.
 
미국은 빅테크에 대한 자율 서약과 함께 행정명령을 통해서 공공 부문의 안전한 AI 활용을 위한 정책을 발표했고, EU는 이와 상반되게 강력한 법적 규제를 포함한 AI 법을 세계 최초로 승인하는 등 국제사회의 AI 규범 관련 주도권 경쟁이 본격화되고 있다.

특히 EU는 한국에서 AI 정상회의가 개최된 21일(현지시각) 'AI 법'을 최종 승인함으로써 2026년 본격적인 시행을 예고했다.

이 법은 인지 행동 조작 및 사회적 채점과 관련된 AI 사용을 금지한다. 인종, 종교, 성적 취향과 같은 특정 범주에 따라 사람을 분류하기 위해 생체 인식 데이터를 사용하거나 프로파일링을 기반으로 한 예측 치안을 위해 AI를 사용하는 것도 금지된다. 다만 테러나 납치 등 심각한 범죄는 제외된다.

'범용' AI의 경우 시스템적 위험을 초래하지 않는 경우 투명성 요구 사항을 준수하도록 요구한다. 그러나 시스템적 위험이 있는 경우엔 더 엄격한 규칙을 준수해야 한다. 군사 ,국방, 연구 목적으로만 사용되는 시스템은 이러한 규정에서 면제된다.

EU 차원의 법 집행을 위해 EU 집행위원회 내에 'AI 사무소'를 설립한다. EU 집행위는 AI법을 위반하는 기업에 회사 전체 매출의 7%인 3500만 유로(약 519억원)의 벌금을 부과한다.

마티유 미셸 벨기에 디지털 장관은 이날 성명을 통해 "AI법 채택은 EU에 중요한 이정표"라면서 "이 법을 통해 유럽은 신기술을 다룰 때 신뢰, 투명성, 책임의 중요성을 강조하는 동시에 빠르게 변화하는 기술이 더욱 발전하고 유럽의 혁신을 촉진할 수 있도록 보장할 것"이라고 강조했다.

박윤규 과학기술정보통신부 제2차관은 지난해 12월 'AI 시대, 글로벌 규범 논의 주도를 위한 간담회'에서 "미국식 자율규제와 EU의 강력한 규제 등 서로 다른 규율이 추진되는 상황 속에서 우리나라는 우리에게 주어진 혁신의 기회를 잘 살리면서, 개인과 사회의 안전에 위협이 되지 않도록 하는 균형적 접근이 중요하다"고 강조했다.

우리 정부도 '전국민의 AI 일상화'를 추진하기 위해 AI 법·제도를 정립하고 있다.

AI 서울 정상회의 개최 당일 오전 제22회 국무회의에서는 관계부처 합동으로 마련한 '새로운 디지털 질서 정립 추진계획'을 공개했다. 윤석열 대통령의 디지털 구상을 담은 '디지털 권리장전'의 철학과 5대 원칙(자유·공정·안전·혁신·연대)을 토대로 한다.

우선 20대 정책과제 중 국민 관심사가 크거나 파급성·시급성이 높은 8개의 핵심 과제를 집중 관리한다. ▲AI 기술의 안전성과 신뢰·윤리 확보 ▲딥페이크 가짜뉴스 대응 ▲AI 개발·활용 관련 저작권 제도 정비 ▲디지털 재난 및 사이버 위협·범죄 대응 ▲디지털 접근성 제고·대체 수단 확보 ▲비대면 진료의 안정적 시행 ▲연결되지 않을 권리 보호 ▲잊힐 권리 보장 등을 핵심 과제로 지정했다.

다만 'AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률)' 제정은 다음 국회로 미뤄졌다. '누구든지 AI 관련 제품이나 서비스를 출시할 수 있고, 국민의 생명·안전·권익에 위해되는 경우가 아니면 AI 기술개발을 제한하면 안된다'는 '우선 허용, 사후 규제' 원칙을 바탕으로 추진됐던 'AI 기본법'은 여야 합의 실패로 폐기될 수순이다.

앞서 과학기술정보통신부는 지난 3년 간 여야 의원들이 발의했던 법안들과 가장 최근에 발의된 윤두현 국민의힘 의원의 '인공지능산업 육성 및 신뢰 확보에 관한 법률'을 체계적으로 통합하는 방식으로 입법을 추진해왔다.

하지만  과학기술정보방송통신위원회 전체회의 개최가 무산됐고, 21대 국회는 오는 29일 종료된다. 이로써 AI 기본법은 22대 국회에서 새롭게 합류하는 과방위 위원들과 함께 다시 논의될 수밖에 없어서 입법은 더 지체될 전망이다.


◎공감언론 뉴시스 [email protected]