AI 대테러 확대 속 감시·편향 우려…"법적 통제장치 필요"

[서울=뉴시스]최은수 기자 = 인공지능(AI)을 활용한 예방적 대테러 활동이 확대되는 가운데 대규모 감시와 알고리즘 편향, 오탐 등에 따른 인권 침해를 막기 위한 법적·제도적 통제 장치가 필요하다는 경찰 연구진의 분석이 나왔다.

경찰대학 치안정책연구소는 조정혜 경위가 AI 기반 예방적 대테러 전략의 효과성과 인권 위험을 분석한 논문을 국제학술지 'Security and Human Rights'에 게재했다고 15일 밝혔다.

논문 제목은 'AI 시대의 예방적 대테러: 전략적 효과성과 인권침해 위험'이다. 온라인 공간을 중심으로 변화하는 테러 위협에 대응해 각국이 AI 기반 예방적 대테러 전략을 확대하는 상황에서 국가안보와 인권의 관계를 분석했다.

조 경위는 유엔 인권최고대표사무소(OHCHR)의 원칙을 분석 기준으로 삼고 유럽연합(EU) 인공지능법과 유럽안보협력기구(OSCE)의 관련 규범을 검토했다.

주요 인권 위험으로는 ▲대규모 자료 수집 및 감시에 따른 사생활 침해 ▲알고리즘 편향에 따른 차별적 표적화 ▲AI 판단 과정의 설명 가능성 부족에 따른 적법절차 훼손 등을 제시했다.

연구에서는 광범위한 감시와 불명확한 판단 기준이 시민의 신뢰를 약화시키고, 알고리즘의 예측 오류와 오탐은 치안 자원의 비효율적 배분으로 이어질 수 있다고 분석했다. 특정 집단에 대한 과도한 권리 제한은 사회적 소외와 반발을 심화해 장기적으로 급진화 위험을 높일 가능성도 있다고 봤다.

조 경위는 인권 보호가 대테러 활동의 효율성을 제한하는 외부적 제약이 아니라 정책의 실효성과 지속가능성을 결정하는 핵심 요소라고 강조했다.

이에 ▲명확한 법적 근거 마련 ▲정보 수집·분석 범위의 필요 최소한 제한 ▲기본권 제한에 대한 지속적인 필요성·비례성 평가 ▲알고리즘의 투명성과 설명 가능성 확보 ▲책임성 강화 및 독립적 감시체계 구축 등을 주요 과제로 제시했다.

연구는 AI를 활용한 온라인 극단주의 콘텐츠 분석과 급진화 징후 탐색 등 예방적 대테러 활동의 가능성을 인정하면서도 기술적 효율성과 인권 보호가 함께 작동할 수 있는 제도적 조건이 필요하다고 봤다.


◎공감언론 뉴시스 [email protected]