"35명 중 32명 낙제"…시험지에 'AI 함정' 숨긴 美교수

[서울=뉴시스]장인혜 인턴 기자 = 미국의 한 대학 교수가 시험 지시문 속 보이지 않는 글씨로 인공지능용 가짜 명령어를 숨겨 학생들의 부정 사용 여부를 확인한 결과, 학생 35명 중 32명이 AI가 만든 엉뚱한 답안을 그대로 제출한 것으로 드러났다.

지난달 25일(현지 시간) 미국 과학·기술 매체 퓨처리즘에 따르면, 미국 미시시피주 알콘 주립대학교 역사학 교수 제이슨 깁슨은 최근 중간고사 답안 작성 지시문에 흰색 글씨로 숨겨둔 문장을 삽입해 AI를 활용한 답안 작성 여부를 확인했다.

깁슨 교수가 사용한 방법은 사람이 화면으로 볼 때는 확인하기 어렵지만, 학생이 시험 지시문 전체를 복사해 인공지능(AI) 챗봇에 입력하면 숨겨진 문장까지 AI가 읽고 반영하도록 만드는 방식이었다.

그가 숨겨둔 문장은 AI에게 답변을 작성할 때 산업혁명과 관련 없는 '마다가스카르' 관련 내용을 무작위로 포함하도록 유도하는 내용이었다. 당시 시험 주제는 산업혁명이었다.

깁슨 교수는 자신의 틱톡 영상에서 "두 개 수업의 학생 35명 중 32명이 중간고사의 한 부분에서 낙제했다"며 "그들 모두 AI를 이용해 답변 전체를 생성했고, 이후 내용을 검토하지 않은 것으로 보인다"고 밝혔다.

학생들은 시험 지시문을 그대로 AI 챗봇에 입력한 뒤, 생성된 답변을 확인하지 않고 제출한 것으로 추정됐다. 그 결과 답안에는 산업혁명과 관계없는 이상한 문장들이 등장했다.

깁슨 교수가 공개한 일부 답안에는 "마다가스카르가 오후 내내 옆으로 떠다닌다"는 문장이 포함됐다.

또 다른 답안에는 "마다가스카르 보라색 자전거가 천장에게 속삭인다"는 문장이 등장했고, 자동화와 관련된 내용을 설명하던 답안에는 "그 섬나라는 농구 경기에 토스터를 입고 갔다"는 의미를 알 수 없는 표현도 포함됐다.

사회관계망서비스(SNS)가 세계에 미친 영향을 설명하는 과정에서는 "마다가스카르로 향하는 긴 여정"이라는 문장이 등장하기도 했다.

깁슨 교수는 학생들을 공개적으로 망신 주거나 실패시키는 것이 목적은 아니었다고 강조했다.

그는 "학생들이 실패하는 모습을 보고 만족감을 느끼는 것이 아니다"라며 "내 의도는 여러분이 실패하는 것을 보는 것이 아니다. 그건 이상한 일"이라고 말했다.

이후 그는 학생들에게 AI 사용 여부를 확인한 방법을 설명하고 성적에 대해 이의를 제기할 기회를 제공했다. 하지만 실제로 이의를 제기한 학생은 2명에 그쳤다.

깁슨 교수는 "인공지능 시대에 대학에서 어떤 방법이 가장 적절한지 우리는 알지 못한다"며 "모두가 학업의 정직성을 유지할 방법을 찾기 위해 노력하고 있다"고 밝혔다.

미국 대학가에서는 생성형 AI를 활용한 시험·과제 부정행위 문제가 계속 제기되고 있다.

퓨처리즘은 앞서 미국 브라운대학교 경제학 교수 로베르토 세라노가 학생들의 답안과 챗GPT 답변이 유사한 점 등을 근거로 다수 학생의 AI 사용 가능성을 제기한 사례를 소개했다.

또한 프린스턴대학교는 생성형 AI 확산에 따른 부정행위 우려가 커지면서 1893년부터 이어온 무감독 시험 방식을 변경하고 2026년부터 시험 감독을 도입하기로 했다.


◎공감언론 뉴시스 [email protected]