챗GPT 만든 오픈AI사, 인공지능글 감별 도구 발표

기사등록 2023/02/01 09:40:48

검사 글 인공지능 작성 가능성 5단계로 평가

AI 생산 허위정보 늘고 인간에 맞설 우려 커져

[뉴욕=AP/뉴시스]지난 5일 뉴욕 브루클린의 한 공립학교 근처의 장치에 챗GPT 프롬프크가 표시되어 있다. 인터넷에서 얻은 많은 데이터 학습을 통해 구동되는 챗봇 챗GPT가 헌법에서부터 세금 및 불법 행위에 이르는 광범위한 주제들에 대한 에세이 작성으로 미국 로스쿨 시험에 합격했다고 AFP 통신이 25일 보도했다. 2023.1.25

[서울=뉴시스] 강영진 기자 = 인공지능 챗GPT를 개발해 학생들의 숙제를 대신하게 한다는 교육계 우려를 촉발한 미 오픈AI사가 챗GPT로 작성한 글을 가려내는 도구를 발표했다고 미 인터넷 매체 액시오스(AXIOS)가 31일(현지시간) 보도했다.

오픈AI사는 새 도구가 아직 완전하지 않고 성능도 들쭉날쭉하다면서 도구에 전적으로 의존하지 말도록 경고했다.

새 도구는 검사 대상 글 중 일정 부분을 지정해 인공지능이 쓴 글과 유사성을 대조하는 방식을 사용하며 대조 결과를 가능성 매우 적음, 적음, 불확실, 가능성 있음 등 5등급으로 제시한다.

새 도구는 영어로 된 1000단어 이상의 글의 검사에 가장 효과가 크고 다른 언어에 대한 검사 성능은 크게 낮다. 또 사람이나 인공지능이 작성한 컴퓨터 프로그램에 대해선 구별하지 못한다.

다만 오픈AI가 배포했던 기존의 검사 도구에 비해서는 성능이 상당히 개선됐다.

챗GPT는 교육계의 우려를 크게 자극했으며 미 뉴욕시의 경우 모든 학교에서 챗GPT 사용을 금지했다.

전문가들은 또 인공지능이 만들어낸 허위 정보가 늘어나고 인공지능이 인간에 맞설 가능성이 있다고 우려한다.

오픈AI사는 인공지능으로 만든 글 등에 대해 워터마크를 표시하는 등으로 구별되게 하는 방안도 모색하고 있다고 밝혔다.


◎공감언론 뉴시스 yjkang1@newsis.com