[서울=뉴시스]윤정민 기자 = 인공지능(AI) 서비스가 이미 수백개 언어권으로 확산됐지만 안전성 평가와 보호장치는 여전히 영어권 중심에 머물러 있다는 지적이 나왔다.

한국어 등 비영어권 환경에서는 학습 데이터, 토크나이저(AI가 문장을 단어·글자 조각 단위로 쪼개 처리하는 기술), 안전평가 체계 차이로 안전장치가 다르게 작동할 수 있는 만큼 다국어 기준의 AI 안전평가가 필요하다는 설명이다.

셰인 롱프리 앤트로픽 기술 연구원은 7일 서울 강남구 오크우드 호텔 아이티스퀘어에서 열린 '제2회 인공지능안전 서울 포럼'에서 "AI 서비스가 이미 여러 언어와 문화권에서 쓰이고 있는 만큼 안전성도 영어권 기준만으로 평가해서는 안 된다"며 이같이 밝혔다.

앤트로픽은 전 세계 150여개국에 AI 서비스 '클로드' 등을 서비스하고 있으며 약 300개 언어, 20개 문자체계, 25개 언어군을 지원하고 있다고 설명했다.

롱프리 연구원은 "앤트로픽 AI 사용량의 70~80%가 미국 밖에서 발생하고 있다. 아시아 지역 사용량도 북미와 비슷한 수준"이라며 AI 안전성 논의가 영어권 기준에만 머물러서는 안 된다고 강조했다.

그는 영어 중심 토크나이저와 학습 데이터가 비영어권 안전성에 영향을 줄 수 있다고 봤다. 특히 영어로는 차단되는 요청도 다른 언어나 여러 언어를 섞은 표현에서는 다르게 처리될 수 있다고 지적했다.

예컨대 영어로 물으면 거절하는 사이버 공격 방법이나 생물학적 위험 정보 관련 요청을 한국어 등 다른 언어로 바꾸거나 여러 언어를 섞어 입력했을 때 AI가 이를 제대로 걸러내지 못할 수 있다는 것이다.

싱가포르 국가 AI 이니셔티브인 'AI 싱가포르'도 같은 문제의식을 보였다.

준 윤 티 AI 싱가포르 엔지니어는 "기존 AI 평가체계는 영어와 서구 문화권에 치우쳐 있으며 단순 기계번역만으로는 현지 언어와 문화 맥락을 충분히 반영하기 어렵다"고 말했다.

그는 AI 싱가포르가 동남아시아 언어·문화권을 반영한 다국어 평가체계 'SEA-HELM'을 구축하고 있다고 소개했다. SEA-HELM은 단순히 영어 평가 문항을 번역하는 방식이 아니라 원어민과 협력해 필리핀어, 말레이시아어 등 현지 언어 표현과 문화적 상황을 반영해 AI 모델의 지시 이해, 대화 능력, 추론, 유해 콘텐츠 판단 등을 평가하는 체계다.

한편 이날 포럼에서는 AI 안전성 평가가 텍스트 기반 챗봇을 넘어 멀티모달·에이전트 환경으로 확장돼야 한다는 지적도 이어졌다.

박하언 에임인텔리전스 최고기술책임자(CTO)는 "AI 모델, AI 서비스, AI 에이전트는 매우 빠르게 발전하고 있지만 이를 실제로 통제하는 능력은 뒤처지고 있다"고 말했다.

박 CTO는 탱크 이미지 위에 작은 문구를 덧씌우자 드론에 탑재된 비전언어모델(VLM)이 이를 탱크로 인식하지 못하고 드론 동작에 영향을 주는 명령까지 주입될 수 있었다고 소개했다.

또 보행자가 도로를 건너는 상황에서 이미지 속 작은 문구만으로 VLM 기반 자율주행 시스템이 정지 대신 전진 결정을 내리도록 속인 사례도 제시했다. 사람 귀에는 들리지 않는 배경음으로 홈 사물인터넷(IoT)에 명령을 주입하는 음성 공격 사례도 함께 언급했다.

박 CTO는 텍스트만 주고받는 AI도 통제하기 어려운데 여기에 기업 내부 데이터 접근 권한, 업무 실행 기능, 이미지·음성 처리 기능, 로봇 같은 물리적 몸체까지 붙으면 위험이 더 커진다고 설명했다.


◎공감언론 뉴시스 alpaca@newsis.com