"AI가 수능 채점해도 되나"…국제AI윤리협회, 원점 재검토 촉구

[서울=뉴시스]윤정민 기자 = 대학수학능력시험(수능) 서·논술형 답안의 1차 채점을 인공지능(AI)에 맡기는 방안을 원점에서 재검토해야 한다는 주장이 나왔다. AI 채점이 기술적으로 가능하더라도 대입 결과를 좌우하는 평가에 적용하려면 공정성과 설명 가능성, 피해 구제 절차를 먼저 마련해야 한다는 지적이다.

국제인공지능윤리협회는 27일 이러한 내용의 성명을 발표하고 국가교육위원회에 수능 AI 채점 방안의 재검토를 촉구했다.

국가교육위는 지난 11일 대입제도 개편을 위한 현장 토론회에서 수능에 서·논술형 문항을 도입할 경우 AI가 답안을 1차로 채점하고 교사나 평가기관이 검토해 최종 점수를 확정하는 방안을 제시했다.

국가교육위는 지역 토론회와 온라인 의견 수렴, 국민참여위원회 숙의 등을 거쳐 오는 10월 말 중장기 국가교육발전계획 시안을 마련하고 내년 3월 최종안을 발표할 계획이다.

협회는 수능에 서·논술형 평가를 도입하거나 확대하는 것 자체에 반대하는 것은 아니라고 밝혔다. 현재의 기술과 제도적 준비 수준에서 답안 채점을 AI에 맡기는 것이 타당한지를 따져야 한다는 입장이다.

협회는 "서·논술형 평가를 가로막아 온 채점 부담을 줄일 기술적 수단이 존재한다는 것과 이를 대학 입시에 사용해도 된다는 것은 전혀 다른 문제"라고 주장했다.

AI가 학습 데이터와 설계 과정에서 발생하는 편향에서 자유롭지 않고 사실과 다른 내용을 생성하는 환각 현상도 완전히 해결되지 않았다는 점을 근거로 들었다.

협회는 또 AI가 점수를 바로 확정하는 대신 채점 초안만 제시하더라도 판단 근거를 설명하기 어렵다는 문제가 남는다고 지적했다. 학생이 자신의 답안이 왜 특정 점수를 받았는지 확인하기 어렵고 뒤늦게 오류가 발견됐을 때 성적과 입시 결과를 구제할 절차도 마련돼 있지 않다는 것이다.

AI가 1차 채점하고 교사가 최종 점수를 확정하는 방식도 충분한 안전장치가 되기 어렵다고 봤다. 제한된 기간에 수십만건의 답안을 확인해야 하는 상황에서는 교사가 AI의 판단을 그대로 받아들이는 '자동화 편향'이 나타날 수 있다는 이유다.

전창배 국제인공지능윤리협회 이사장은 "AI 채점이 기술적으로 가능해졌다는 사실이 곧 대학 입시에 써도 된다는 뜻은 아니다"라며 "학생 중심·인간 중심의 관점에서 충분히 연구하고 사회적 논의와 합의를 거쳐 결정해야 한다"고 말했다.

국제인공지능윤리협회는 2022년 설립된 과학기술정보통신부 산하 비영리 사단법인으로, AI 기술과 윤리의 조화로운 발전과 진흥을 통해 국제 사회의 혁신을 목적으로 하고 있다.


◎공감언론 뉴시스 [email protected]