[서울=뉴시스]윤현성 기자 = "법으로 모든 딥페이크와 AI(인공지능)를 금지하는 것은 불가능합니다. 차라리 불과 칼, 총을 금지하는 게 더 빠를 것입니다. 딥페이크 가짜뉴스 등에 잘 대처하기 위해서는 결국 개개인이 비판적, 독립적 사고를 갖고 휘둘리지 말아야 합니다."

표창원 범죄과학연구소장은 최근 심각한 사회문제로 떠오르고 있는 '딥페이크 가짜뉴스' 문제에 대해 이같이 밝혔다. 너무나 빠른 기술 발전 속도, 중립적 딥페이크 기술의 유용성 등을 고려하면 법과 제도로 딥페이크 관련 범죄를 완벽하게 틀어막을 수는 없다는 분석이다.

표 소장은 20일 과학기술정보통신부가 서울 온드림소사이어티 커뮤니티 스페이스에서 개최한 디지털 심화쟁점 콜로키움에서 '딥페이크 가짜뉴스의 범죄 심리와 대책'을 주제로 강연을 진행했다.

그는 "딥페이크는 동전의 양면처럼 장단점이 다 있는 기술이다. 최근 가장 문제를 야기하는 3개 분야가 딥페이크 성범죄, 사기, 가짜뉴스일 것"이라며 "오늘의 주제인 딥페이크 가짜뉴스의 경우 근본적으로 정치적 이득, 경제적 이익, 사회 혼란 유발 등을 목표로 악용된다"고 설명했다.

표 소장은 딥페이크 가짜뉴스로 나타날 수 있는 피해로 사회적 불안·혼란 증폭, 사회적 갈등 조장, 민주주의 위협, 개인 안전·건강·경제에 대한 위협 등을 꼽았다. 특히 사람의 심리에 '보고싶은 것만 보는' 확증편향이 존재하는 만큼 가짜뉴스가 여기에 불을 붙여 사회 집단 간 갈등을 의도적으로 증폭할 수 있다고 우려를 표했다.

표 소장은 딥페이크 가짜뉴스도 결국 사람의 심리를 파고들어 막대한 피해를 야기하는 것이라고 강조했다. 딥페이크 가짜뉴스의 영향을 받게 되는 심리적 요인으로는 ▲공식·공공 정보에 대한 불신 ▲집단에 대한 소속감 및 동조 ▲선망의 대상에 대한 동일시 ▲원하는 정보만 수용하는 확증편향 ▲가짜뉴스가 유도하는 각인·병풍·고립효과와 폐쇄집단심리 등을 꼽았다.

예컨대 딥페이크를 활용해 사회적 인망, 영향력이 높은 인물을 가짜 영상으로 만들고 이들이 특정 정당·기업·기관 등을 지지하는 발언을 하게 함으로써 그에 대중이 동조하는 현상을 이끌어낼 수 있다. 혹은 특정 집단의 입맛에 맞는 가짜뉴스를 딥페이크를 통해 퍼뜨려 여론을 선동하는 식으로 악용될 수도 있다.

표 소장은 "딥페이크를 법적, 기술적으로 규제하는 게 아예 불가능한 건 아니다. 국립과학수사연구원(국과수)와 한국전자통신연구원(ETRI)가 공동 개발 중인 AI 딥페이크 판별 프로그램 개발도 막바지에 있다"면서도 "하지만 이런 기술은 가짜뉴스 만이 아니라 교육·오락·영화 등 건전한 목적으로 사용되는 것까지 모든 딥페이크·AI를 예외 없이 모두 막아버리는 형태다. 결국 사람이 다시 용도를 구별해야 하는 만큼 참 힘들고 어려울 수밖에 없는 것"이라고 말했다.

표 소장은 딥페이크 가짜뉴스가 사람의 심리를 겨냥하고 기승을 부리는 만큼 대응 기술·제도가 충분하지 않은 현 시점에는 개개인이 경각심을 갖는 것이 중요하다고 밝혔다. 딥페이크 가짜뉴스 대응법으로는 ▲비판적 사고의 정착 ▲팩트 체크의 습관화 ▲미디어 리터러시 확립을 통한 매체 특성의 이해 ▲건전한 대화와 토론의 습관·문화·태도 확립을 제시했다.

표 소장은 "누군가에 의존하고 스스로를 수단화하는 순간, 각 개인이 자신의 판단을 거세하는 순간 딥페이크는 우리 사회를 마음 놓고 농락하게 될 것"이라며 "우리가 누군가에 의존하거나 휩쓸리지 말고 독립적 자유인간이 돼야, 그리고 서로를 인정하고 소통해나가야 딥페이크 가짜뉴스를 이겨낼 수 있다. 법과 제도는 이를 뒷받침하는 역할을 하게 될 것"이라고 거듭 강조했다.
이날 표 소장과 함께 강연을 진행한 이독실 과학평론가 또한 딥페이크가 바꿔나갈 미래에 대해 우려를 표했다.

그는 "앞으로의 세상은 딥페이크로 인해 모든 것을 의심해야 하는 세상이 될 수 있다"며 "이제는 '우리가 보는 것이 가짜일 수 있다'라는 식으로 아예 생각을 바꿔나가야 한다. 안타까운 일이지만 이제 내가 나임을 증명하는 것도 어려워질 수 있다"고 말했다.

다만 이 평론가 또한 표 소장과 같이 딥페이크와 AI 기술을 완전히 금지하는 건 불가능하고, 그런 선택을 해서도 안된다고 강조했다.

이에 대해서는 "모든 기술은 거미줄처럼 엮여져 있다. 범죄 우려가 있는 딥페이크만 기술 개발을 안하고 나머지 생성형 AI 기술만 발전하는 건 불가능하다"며 "딥페이크 또한 미래 또 다른 기술 발전의 단초가 될 수 있다"고 했다.

이어 "금지나 처벌보다 중요한 건 딥페이크 성범죄 등이 아예 벌어지지 않게 하는 것"이라며 "미디어 리터러시 등을 통해 딥페이크 합성 범죄가 굉장히 위험하고 사람의 영혼까지 훼손하는 행동이라는 걸 알게 교육해나가는 게 가장 중요하다고 본다"고 덧붙였다.


◎공감언론 뉴시스 hsyhs@newsis.com