[서울=뉴시스]오동현 기자 = "100% 사람이 작성한 글입니다." 이재명 대통령이 지난 19일 SNS에 올린 '페이스메이커로서의 역할을 다하겠습니다'라는 글을 인공지능(AI) 감별 프로그램 '판그램4'에 넣어 돌려본 결과다.

AI가 작성한 문장과 사람이 쓴 글을 구분해주는 'AI 감별 프로그램'이 주목받고 있다. 생성형 AI로 문서를 작성하는 일이 많아지면서 사람의 검증을 거치지 않은 저품질 AI 콘텐츠인 'AI 슬롭(AI Slop)'도 빠르게 늘고 있기 때문이다.

가장 대표적인 서비스 업체는 미국 스타트업 판그램(Pangram)이다. 테크크런치에 따르면 판그램은 지난달 멘로벤처스가 주도한 투자 라운드에서 900만 달러를 유치했으며, 최신 텍스트 감별 모델 '판그램4'를 공개했다. 서비스 구독 요금은 월 20달러다. 한국어를 포함한 24개 언어를 지원한다.

◆판그램 '어떤 알고리즘으로 진위 판별할까

판그램은 사람과 AI가 문장을 구성하는 방식의 차이를 통계적으로 학습해 입력된 글을 분류한다. 판그램4는 문서를 여러 구간으로 나눠 각각을 '사람 작성', 'AI 지원', 'AI 생성'으로 판정한 뒤 문자 수를 기준으로 전체 비중을 계산한다. 구간별 판정 결과는 보여주지만 어떤 특징이 판정에 영향을 줬는지는 구체적으로 공개하지 않는다.

판그램을 자사 서비스에 도입한 뉴스레터 플랫폼 서브스택에 따르면, 판그램은 AI 사용 여부를 추정할 뿐, 글에 사람의 노력과 판단이 얼마나 들어갔는지까지 판별하지는 못한다고 설명한다.

초기 AI 감별 프로그램들은 주로 다음에 나올 단어가 얼마나 예측 가능한지를 뜻하는 '퍼플렉서티'를 활용했다. AI가 사람보다 익숙하고 정형화된 단어를 선택하는 경우가 많다는 점을 이용한 것이다.

하지만 허점이 컸다. 사람이 공들여 쓴 정돈된 글까지 AI로 오인하거나, AI 문장의 단어 몇 개만 바꿔도 감별을 피할 수 있다는 한계가 있었다.

판그램은 홈페이지에서 자사 감별기의 정확도를 99.98%라고 내세운다. 다만 이 수치는 회사가 공개한 평가 결과를 종합해 제시한 것으로, 개별 글마다 99.98% 맞다는 뜻은 아니다.

판그램은 50단어 이상의 완결된 글을 주된 분석 대상으로 삼는다. 짧은 문장은 판단 근거가 부족하다. 소스코드와 목차, 정형화된 문서나 기술 지침서 등은 주된 분석 범위를 벗어나거나 오류에 더 취약할 수 있다는 설명이다. 판그램 기술 보고서는 감별 결과를 표절이나 부정행위를 가리는 유일한 증거로 삼아서는 안 된다고 권고하고 있다.

◆문체 감별 대신 AI가 직접 '표식' 남긴다

감별 오류가 잦자 AI 개발사들은 글을 지을 때부터 '숨은 표식(워터마크)'을 새기는 방식을 도입하고 있다.

미국 AI기업 앤트로픽은 지난 14일 향후 출시할 클로드 모델의 생성 문장에 통계적 워터마크를 적용하겠다고 밝혔다. 유럽연합(EU) AI법의 생성 콘텐츠 표시 의무에 대응하기 위한 조치다. 앤트로픽은 워터마크를 전 세계에 적용할 계획이라고 설명했다.

판그램이 여러 AI에 공통으로 나타나는 문체를 읽어내는 쪽이라면, 워터마크는 비밀키로 특정 AI의 관여 여부를 확인한다.

대신 약점 있다. 짧은 글이나 사실을 그대로 전달하는 문장처럼 고를 수 있는 단어가 적으면 표식이 남을 자리도 줄어든다. 클로드가 사람이 쓴 글의 맞춤법이나 문법만 가볍게 고친 경우에는 워터마크가 감지되지 않을 수도 있다. 문장 전체를 다시 쓰면 워터마크가 사라질 가능성도 있다.

앤트로픽도 한계를 인정했다. 워터마크로는 "클로드가 썼다"와 "클로드가 많이 고쳤다"를 구분할 수 없다는 것이다.

워터마크 도입 소식이 알려진 뒤 이용자들 사이에서는 구독을 해지하겠다는 선언도 잇따랐다. AI에게 문장을 다듬게 한 것 뿐인데 글 전체가 AI 작성물로 취급될 수 있다는 우려였다. 앤트로픽은 워터마크에 이용자나 소속, 대화 내용을 식별할 수 있는 정보는 담기지 않는다고 해명했다.

감별기를 만든 쪽도 조심스럽기는 마찬가지다. 맥스 스페로 판그램 최고경영자(CEO)는 테크크런치 인터뷰에서 이 기술이 AI를 활용해 글을 쓰는 사람들에 대한 마녀사냥으로 이어지기를 원하지 않는다고 밝혔다. 판그램은 AI 사용이 의심되더라도 작성자에게 먼저 확인하고 초고와 메모, 문서 수정 이력 등을 함께 살펴보라고 권고한다.


◎공감언론 뉴시스 odong85@newsis.com