[서울=뉴시스]심지혜 기자 = 정부가 국가 차원의 인공지능(AI) 안전 연구와 글로벌 협력을 도맡을 AI안전연구소 설립 계획을 확정했다. 운영 근거를 담은 AI기본법 통과가 우선돼야 독립 기관으로 둘 수 있지만 운영의 시급성을 고려, 우선 한국전자통신연구원(ETRI) 내 조직으로 마련하기로 했다.

과학기술정보통신부는 제17차 정보통신전략위원회에서 AI안전연구소 설립·운영계획을 공유했다고 18일 밝혔다.

AI안전연구소 설립은 지난 5월 개최된 ‘AI서울정상회의’에서 논의된 핵심 의제 중 하나였다. 당시 윤석열 대통령이 "대한민국도 AI안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참하겠다"고 언급하기도 했다.

정부는 AI안전연구소 운영을 통해 안전한 AI 개발·활용을 확산하고 AI안전에 대한 국제적 연대 강화와 규범 정립을 수행할 계획이다. 중장기적으로는 세계적 AI안전 연구를 선도하는 기관으로 발전시킨다는 목표다.

◆ AI안전연구소, 다음달 개소…"국가 AI안전 R&D 담당"

AI안전연구소는 ETRI에 소속된 신규 연구소 조직으로 설치한다. 개소식은 다음달 가질 예정이다. 사무실은 우수인력 채용과 AI기업·유관기관과의 용이한 협력을 위해 판교 글로벌 R&D센터에 설치한다.

조직은 AI안전 정책·평가·기술분야의 3개의 연구실로 구성한다. 연구소 초대소장은 AI분야 전문성과 국제적 감각을 보유한 전문가로 채용할 예정으로 인재 모집을 진행 중이다. 임기는 3년이다.

연구 인력은 ETRI에서 10명이 우선 참여하고 내년부터 추가 채용을 진행해 총 30여명을 확보할 계획이다.

연구소는 ‘아태지역을 대표하는 글로벌 AI안전 거점연구소’ 구현을 비전으로 ▲AI안전에 대한 과학적 이해 증진 ▲AI안전정책 고도화 및 안전제도 확립 ▲국내 AI기업의 안전 확보 지원을 3대 핵심 과제로 설정했다.

구체적으로 국가차원에서 관리해야 할 주요 AI위험을 정의하고, AI안전 평가방법론 개발과 위험완화 방안을 마련한다. AI안전 평가데이터셋 구축 및 평가도구 개발 등 AI안전 평가인프라를 구축하고 기업의 활용을 지원할 계획이다.

주요국, 국제기구의 AI 규범·거버넌스를 연구하고 국내·외 주요 AI위험 정보를 수집·분석해 AI안전 정책을 고도화해 나갈 예정이다. 또한 AI기술이 경제·사회·일자리 등에 미치는 영향을 종합적으로 분석하고 대응방안 연구도 추진할 계획이다.

AI안전 관련 대내·외 협력도 수행한다. 연구소를 중심으로 산·학·연이 참여하는 ‘AI안전 파트너십’을 구축하는 한편 주요국 AI안전연구소, 국제기구 등과 연대할 방침이다.

아울러 AI 통제력 상실 대응, AI모델의 보안·강건성 강화, AI 딥페이크 탐지 등 고도화되고 있는 AI위험에 대비할 R&D를 추진한다.

송상훈 과기정통부 정보통신정책실장은 "AI안전연구소 설립 후 후속 조치를 속도감 있게 이행할 예정"이라며 "우선 다음달 20일 미국 샌프란시스코에서 열리는 ‘국제 AI안전연구소 네트워크’ 행사 참여를 시작으로 본격적인 역할을 수행해 나갈 계획"이라고 전했다.

◆ "자율성 확보 위해선 AI기본법 통과 절실"

과기정통부는 AI안전연구소를 ETRI 산하 조직으로 우선 설립하지만 운영의 독립성과 자율성을 위해 AI 기본법 통과가 반드시 필요하다고 강조했다.

현재 국회에는 AI 기본법 관련 법안이 11개 발의돼 있다. 법안에는 '과기정통부장관은 AI와 관련해 발생할 수 있는 위험으로부터 국민의 생명·신체·재산 등을 보호하고 AI사회의 신뢰 기반을 유지하기 위한 상태를 확보하기 위한 업무를 전문적이고 효율적으로 수행하기 위하여 AI안전연구소를 운영할 수 있다'는 내용의 조문이 담길 예정이다.

자국 AI안전연구소가 없는 경우 글로벌 진출을 추진하는 국내 AI기업이 해외 AI안전연구소 안전성 평가를 받아야 하는 제약이 생길 수 있다. 평가에 장시간 소요되거나 기술유출 유출을 우려하는 상황이 발생할 가능성도 배제할 수 없다.

남철기 과기정통부 인공지능기반정책과장은 "미국, 영국, 일본 등의 주요국이 AI안전연구소를 운영하며 AI위험에 본격 대비하고 있는 상황을 고려, 설립을 서둘러야 한다고 판단했다"면서도 "독립된 공공기관을 설립할 때는 법적 근거가 필요하다"고 강조했다.

이어 "향후 예산당국에 갔을 때 법적 근거가 있으면 지원을 받는 데 유리하다"며 "연내 법안이 통과되기를 기대한다"고 덧붙였다.


◎공감언론 뉴시스 siming@newsis.com