"AI, 만드는 사람만 책임지나"…정부, 이용자까지 AI 윤리원칙 세운다

[서울=뉴시스]심지혜 기자 = 생성형 인공지능(AI)이 일상과 산업 전반으로 빠르게 확산하면서 AI를 만드는 기업뿐 아니라 이를 사용하는 이용자의 책임도 중요해지고 있다. 이에 정부는 새 AI 윤리원칙을 통해 그동안 개발자나 제공자 중심으로 여겨졌던 AI 윤리 실천의 범위를 이용자로 넓힌다. 동시에 법적 구속력이 없는 자율규범으로 두고, 새로운 의무를 부과하는 것으로 해석되지 않도록 했다.

과학기술정보통신부는 배경훈 부총리 겸 과기정통부 장관 주재로 개최된 제12회 과학기술관계장관회의에서 ‘대한민국 인공지능 윤리원칙’이 심의·의결됐다고 24일 밝혔다.

윤리원칙은 AI를 개발·제공하고 이용하는 다양한 주체와 사회 전체가 함께 지켜나가야 할 공통 가치와 원칙을 담았다.

AI 확산으로 산업 생산성과 사회문제 해결 가능성이 커지는 한편 과의존, 노동·일자리 변화, 저작권, AI 판단의 범위 등을 둘러싼 우려도 함께 커지고 있다. 이에 AI 개발부터 이용까지 전 과정에서 안전과 신뢰를 확보할 공통 기준의 필요성이 높아졌다는 게 정부 판단이다.

과기정통부는 이에 2020년 ‘인공지능(AI) 윤리기준’을 계승하면서 생성형 AI 확산 등 기술 발전과 인공지능기본법 시행 등 달라진 환경을 반영해 새 윤리원칙을 마련했다.

이번 윤리원칙은 인간의 존엄성·사회의 공공선·인류의 지속가능성 등 3대 가치와 인간중심성·프라이버시 보호·공정성 및 포용성·책임성·안전성·신뢰성·투명성 등 7대 원칙으로 구성됐다.

이번 윤리원칙에서 가장 눈에 띄는 변화는 AI 윤리를 실천하는 주체를 이용자까지 넓힌 점이다.

과기정통부는 AI 생애주기에서 실질적인 역할을 수행하거나 직간접적으로 관여하는 개인과 조직을 'AI 행위자'로 정의하고, AI 공급자와 이용자뿐 아니라 정부·공공기관·시민사회까지 포함했다. 

2020년 윤리기준도 이용자와 사회의 역할을 배제한 것은 아니지만, 개발자나 공급자가 주된 실천 주체로 받아들여지는 측면이 있었다. 이번에는 이용자를 별도의 주체로 정의하고 원칙별로 구체적인 역할까지 제시해 AI를 사용하는 사람도 윤리 실천에 참여하도록 했다.

예를 들어 이용자는 AI가 내놓은 결과를 목적과 상황에 맞게 검토하고, AI에 지나치게 의존하지 않도록 해야 한다. 다른 사람의 사적인 대화나 사진·음성·위치정보 등을 프라이버시를 침해하는 방식으로 AI에 입력하거나 공유하지 않는 것도 이용자의 역할로 제시됐다.

과기정통부 관계자는 "생성형 AI는 만드는 사람뿐 아니라 이용하는 사람의 역할도 중요해졌다"며 "이번 원칙에는 AI 행위자의 정의를 두고 공급자와 이용자, 사회가 모두 포함된다는 점을 분명히 했다"고 말했다.

과기정통부는 이용자가 윤리원칙을 쉽게 이해하고 실제 AI 활용 과정에서 참고할 수 있도록 일반인을 대상으로 한 해설서와 윤리교육 교재도 마련할 계획이다. 분야별 자율점검표도 만들어 현장에서 원칙을 구체적으로 적용할 수 있도록 지원한다.

또 다른 변화는 윤리원칙이 권고라는 점이 문장에서도 드러나도록 표현을 다듬었다는 점이다.

과기정통부는 윤리원칙 전문에 이를 '법적 구속력이 없는 자율규범으로서 법령을 대체하지 않는다'고 명시했다. 사회 구성원이 AI 개발과 활용 과정에서 원칙을 존중하고 실천할 것을 권하는 기준이라는 설명이다.

과기정통부는 의견수렴 과정에서 산업계와 시민사회의 의견을 조정해 반영했다. 산업계에서는 법적 의무가 아니더라도 강한 의무형 표현이 담길 경우 향후 기업의 부담으로 이어질 수 있다는 우려를 제기했고, 시민사회에서는 윤리원칙의 규범성을 보다 강화해야 한다는 의견을 냈다.

이에 과기정통부는 권고라는 점이 문장에서도 드러나면서 책임과 실천의 취지는 유지되도록 표현을 조정했다고 설명했다.

이와 함께 투명성 원칙에 대해서도 AI 활용 사실과 판단 기준 등을 일률적으로 공개하도록 하기보다 활용 목적과 위험 수준에 따라 필요한 정보를 제공하도록 했다. 위험 정도에 따라 설명 수준을 달리하는 '비례성'을 반영한 것이다.

이번 윤리원칙은 AI가 현재 사회뿐 아니라 미래세대에 미칠 영향까지 고려해야 한다는 점도 강조했다.

3대 가치 중 '인류의 지속가능성'은 AI의 장기적인 영향을 지속적으로 살피고 책임 있게 대응해야 한다는 내용을 담고 있다. 이러한 노력은 한 사회나 나라에만 국한되지 않는다. 국제평화와 협력의 증진도 지속가능한 미래와 연결되는 요소로 제시했다.

또 AI 역량과 자원을 많이 가진 국가와 기업이 그 영향력에 걸맞은 책임을 다하고, AI의 혜택이 특정 국가·지역·집단에 치우치지 않아야 한다는 원칙도 제시했다. 이를 위해 국제사회와 협력을 이어갈 계획이다.

배경훈 부총리 겸 과기정통부 장관은 "AI 혁신을 가속화하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다"라며 "윤리원칙이 AI에 대한 사회적 신뢰를 높이고 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 뒷받침하겠다"고 말했다.


◎공감언론 뉴시스 [email protected]