[서울=뉴시스]심지혜 기자 = 전 세계적으로 인공지능(AI) 개발 속도를 늦춰야 한다는 '속도조절론'이 거세지는 가운데 한국의 대응 전략을 모색하는 논의의 장이 열렸다. 기술 격차를 줄이기 위해 AI 개발을 이어가되, 안전과 보안, 통제 역량을 함께 키우자는 '속도책임론'이 대안으로 제시됐다.

국가인공지능전략위원회가 1일 AI 개발 속도조절론을 주제로 개최한 세미나에서 이같은 내용이 공유됐다.

최근 앤트로픽과 오픈AI 등 주요 빅테크 수장들이 AI 기술 발전에 대한 통제력 상실 가능성을 우려하며 속도조절 필요성을 제기한 가운데 미국과 중국, 유엔 등에서 서로 다른 대응이 나오고 있다.

최근 앤트로픽과 오픈AI 등 글로벌 빅테크 수장들은 AI 제어력 상실을 우려하며 속도조절 필요성을 제기했다. 반면 주요국 대응은 엇갈린다. 미국은 자율 규제를 강조하며 속도조절론을 받아들이지 않았다. 중국 역시 속도조절론이 악성 경쟁을 부추긴다고 비판했다. 유엔에서는 20개국이 AI 통제 선언문을 채택했지만 미국과 중국은 참여하지 않았다.

 이날 세미나에는 과학기술정보통신부와 개인정보보호위원회 등 정부 부처, AI안전연구소, 한국인터넷진흥원, 학계·산업계 전문가 등 70여명이 참석했다.

이원태 위원장은 글로벌 프론티어 AI 개발 속도조절 논의와 주요국 대응 전략을 설명하며 한국은 프론티어 AI 기술 역량과 함께 안전·보안·통제 역량을 빠르게 확보하는 '속도 책임론'이 필요하다고 밝혔다.

최대선 숭실대 AI안전성 연구센터장은 현재 고영향 AI는 활용 영역, 첨단 AI는 연산량 등을 중심으로 관리되고 있지만 프론티어 AI의 범용성과 예측 불가능성이 확대될 경우 기존 제도만으로 위험을 통제하기 어려울 수 있다고 설명했다. 이에 대응하기 위한 기술적·제도적 방안의 검토 필요성도 제기했다.

AI가 초지능(SI)을 넘어 스스로 진화하는 AI(SI2) 단계로 넘어가고 있다는 의견도 나왔다. 김성훈 업스테이지 대표는 국내에서 개발 속도를 늦출 경우 글로벌 빅테크와의 기술 격차가 고착화되고 종속이 심화될 수 있다며 자기진화 수준의 기술을 먼저 확보한 뒤 글로벌 추세에 맞춰 안전장치와 속도 조절을 검토해야 한다고 주장했다.

이한울 에임인텔리전스 부사장은 국내 AI 보안 역량과 기업의 대응 현실을 설명하며 독립적인 모델 평가·통제 능력 확보와 국제 공조를 함께 추진해야 한다고 제언했다.

이어 이들 발제자와 김명주 AI안전연구소 소장, 김동환 포티투마루 대표가 참여한 토론에서는 주요국 정책과 국내 여건을 고려한 속도 책임론 이행 방향, 글로벌 빅테크와의 기술 격차를 줄이기 위한 지원책, 첨단 AI 위험 평가·통제와 안전 검증 체계 구축 방안 등이 논의됐다. 기업 부담을 줄이면서 안전성을 확보하기 위한 방안도 다뤄졌다.

하정우 위원회 상근 부위원장은 "최근 AI 개발 속도조절론을 둘러싼 다양한 우려와 국내·외 담론이 혼재되어 있지만 '대체 불가능한 글로벌 AI 핵심 공급망 확보'와 'AI 3강 도약'에 있어 안전한 프론티어 AI역량 확보는 선택이 아닌 필수적 사항"이라며 "이러한 격변기일수록 민·관의 역량을 하나로 굳건히 결집해 우리의 목표를 향해 나아가야 한다"고 강조했다.

이어 "위원회가 구심점이 되어 범정부 차원의 관련 정책 조율을 지원함으로써 가파른 기술 추격과 함께 선제적 보안 대응이 균형 있게 추진되는데 앞장서겠다"고 말했다.


◎공감언론 뉴시스 siming@newsis.com