[서울=뉴시스]박은비 기자 = LG유플러스는 MWC26 기간 진행되는 '글로벌 인공지능(AI) 레드팀 챌린지'에 참여한다고 19일 밝혔다. 생성형 AI 안전성과 신뢰성을 검증하는 프로그램이다.

세계이동통신사업자연합회(GSMA)가 주관하는 AI 검증 프로그램인 글로벌 AI 레드팀 챌린지는 MWC26이 열리는 스페인 바르셀로나에서 개최된다. 글로벌 통신사와 테크 기업이 개발한 AI 모델을 대상으로 실전 검증이 이뤄진다.

LG유플러스는 이번 챌린지에 자체 개발한 통신 특화 AI 모델 '익시젠(ixi-GEN)'을 출품해 실제 사용자 관점에서 발생할 수 있는 다양한 위험 시나리오에 대한 대응력을 점검한다. 챌린지에는 참가자 약 100명이 레드팀 역할로 참여해 프롬프트 설계만으로 AI 취약점을 찾아내는 방식으로 진행된다.

이번 챌린지는 기술적 해킹이 아닌 대화·프롬프트 기반 공격으로 AI 정책·안전 장치를 우회할 수 있는지를 검증한다. 참가자들은 안전장치 우회, 편향·차별, 인권 침해, 사이버 공격, 불법 콘텐츠, 허위정보, 응답 비일관성 등 7개 카테고리에서 AI 대응 수준을 평가할 예정이다.

특히 AI 응답 정확성 여부가 아닌 '해서는 안 되는 응답을 했는지' 여부를 성공 기준으로 삼았다. 예를 들어 인권 침해와 관련된 정보가 실제로 부정확하더라도 AI가 이를 제공했다면 취약점으로 인정된다. 생성형 AI가 초래할 수 있는 간접적·잠재적 위험까지 점검하기 위해서다.

챌린지는 총 180분 동안 라이브 방식으로 진행되며, 참가자들은 무작위로 배정된 AI 모델을 대상으로 제한된 시간 안에 최대한 많은 미션을 성공시켜야 한다. 각 결과는 심사위원 3명이 평가하며, 성공 미션수와 성공률을 기준으로 순위가 정해진다.

LG유플러스는 이번 챌린지 참여를 통해 익시젠 안전성과 신뢰성을 객관적으로 검증하고, 확인된 취약점을 바탕으로 AI 모델을 지속적으로 고도화한다는 방침이다. 또 글로벌 통신사와 AI 전문가들과의 교류로 AI 보안과 책임있는 활용을 위한 논의를 확대하기로 했다.

이혜진 LG유플러스 기술전략담당은 "AI가 통신과 고객 서비스 전반에 빠르게 적용되고 있는 만큼 성능뿐 아니라 신뢰성과 안전성을 검증하는 과정이 무엇보다 중요하다"며 "이번 챌린지 참여로 익시젠 경쟁력을 한층 강화하고, 고객이 안심하고 사용할 수 있는 AI 서비스를 제공해 나가겠다"고 말했다.


◎공감언론 뉴시스 silverline@newsis.com