과기정통부·KISDI, 대한민국 인공지능 윤리원칙 대토론회
인간중심·프라이버시·공정성 등 3대 가치·7대 원칙 제시
산업계 "새 규제 돼선 안 돼"…각계 의견 반영해 이달 공표
(사진=SK텔레콤 제공) *재판매 및 DB 금지
[서울=뉴시스]심지혜 기자 = 정부가 인공지능(AI)을 개발하고 활용할 때 지켜야 할 새로운 윤리 기준을 마련한다.
과학기술정보통신부는 정보통신정책연구원(KISDI)과 '대한민국 인공지능 윤리원칙' 대토론회를 개최했다고 14일 밝혔다.
산업계와 시민단체, 학계 전문가, 일반 시민, 기자 등 70여명이 참석해 윤리원칙의 주요 쟁점에 대해 논의했다.
정부는 지난해 말부터 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'에 따라 AI 안전과 신뢰성을 높이기 위한 자율 규범으로 대한민국 인공지능 윤리원칙을 수립해왔다. 2020년 마련한 '인공지능 윤리기준'을 계승하되 에이전틱 AI와 피지컬 AI 등 최근 기술 발전과 AI 기본법 시행 이후 변화한 정책 환경을 반영해 새롭게 정비하는 것이다.
지난 5월 1차 초안을 공개한 뒤 산업계와 시민단체, 학계, 관계부처, 일반 시민의 의견을 수렴했다. 이 과정에서 총116건의 서면 의견을 받아 이번 윤리원칙안을 마련했다.
윤리원칙안은 '인간의 존엄성', '사회의 공공선', '인류의 지속가능성'을 3대 가치로 제시했다. 이를 실현하기 위한 7대 원칙으로는 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성을 담았다.
이날 이상욱 한양대 철학과·인공지능학과 교수는 'AI 시대, 혁신과 신뢰를 위한 윤리원칙의 역할'을 주제로 한 발표에서 "AI 기술이 빠르게 변화하는 상황에서 AI 개발·활용 과정의 판단이 한층 복잡해지고 있다며"고 설명했다.
그러면서 "윤리원칙이 혁신을 제약하는 요소가 아니라 다양한 고려사항을 함께 살펴 바람직한 AI 개발·활용을 돕고, 이를 실제로 가능하게 하는 역할을 해야 한다"고 강조했다.
이어 최우석 과기정통부 인공지능안전신뢰지원과장이 현재 정부가 수립 중인 '대한민국 인공지능 윤리원칙' 초안을 발표했다.
이후 토론에는 학계와 시민사회, 산업계, 정부 관계자들이 참여했다. 변순용 서울교대 교수와 홍윤희 사단법인 무의 이사장, 윤명 소비자시민모임 사무총장, 이지은 참여연대 선임간사, 김현주 한국인공지능·소프트웨어산업협회 본부장, 김경훈 카카오 AI Safety 리더, 이진수 과기정통부 인공지능정책기획관이 패널로 참석했다.
이들은 AI 윤리원칙이 새로운 규제로 작용해서는 안 된다는 점과 시민의 권리를 보다 적극적으로 반영해야 한다는 의견을 냈다. 변순용 서울교대 교수는 AI가 사회의 기본 인프라가 된 만큼 위험하고 조심해야 할 대상으로만 바라보는 인식에서 벗어날 필요가 있다고 평가했다. 홍윤희 사단법인 무의 이사장은 AI 개발·활용 과정에서 시민을 단순한 수혜자가 아닌 권리를 가진 주체로 보고 참여를 보장해야 한다고 강조했다.
산업계에서는 윤리원칙이 현장에서 참고할 수 있는 기준으로 기능하되 새로운 규제나 획일적인 의무가 돼서는 안 된다고 강조했다. 김경훈 카카오 리더는 "윤리적 권고와 법적 의무가 혼동되지 않도록 할 필요가 있다"고 말했다.
김현주 한국인공지능·소프트웨어산업협회 본부장은 에이전트형 AI와 피지컬 AI 등 새로운 기술이 빠르게 등장하는 만큼 윤리원칙이 입법과 기술 발전 사이의 시차를 보완하는 역할을 할 수 있다고 설명했다.
과기정통부는 이날 현장과 온라인 방청객 의견까지 종합적으로 검토해 윤리원칙안을 보완한 뒤 이달 중 제정·공표할 예정이다.
김경만 과기정통부 실장은 "대한민국 인공지능 윤리원칙은 AI 기본사회를 위해 우리 모두가 함께 지켜나가야 할 기준"이라며 "이번 토론회에서 제기된 의견까지 충실히 반영해 윤리원칙을 제정하고, 향후 정부·기업·시민 등 모든 주체가 각자의 위치에서 이를 실천해 나갈 수 있도록 적극 뒷받침하겠다"고 말했다.
◎공감언론 뉴시스 [email protected]
