[서울=뉴시스] 유자비 기자 = 소셜미디어(SNS) 페이스북과 틱톡이 아프리카 케냐에서 빠르게 이용자 수를 늘리고 있지만, 테러와 혐오 발언 등 유해 콘텐츠 규제에 소극적인 자세를 취하고 있다고 31일(현지시간) 워싱턴포스트(WP)가 보도했다.

보도에 따르면 케냐에서 5명 중 1명 꼴로 페이스북을 사용하고 있으며 틱톡도 가장 많이 내려받은 앱 중 하나다.

그러나 케냐에서 대선이 임박하고 이슬람 극단주의 무장단체 알샤바브의 테러 위협이 지속되는 가운데 폭력적이고 선동적인 콘텐츠가 페이스북과 틱톡에서 규제 감독을 피해 확산하고 있다.

최근 알샤바브와 지지자들의 페이스북에 게시된 잔인한 처형 영상이 삭제되기 전까지 수천회 조회되기도 했다.

케냐의 기술·사회 연구원 난잘라 냐볼라는 "남반구 사회를 시장으로 보기 때문에 노동력과 이윤 창출을 극대화하기 위한 의도적인 선택"이라고 꼬집었다.

이에 대해 페이스북 모회사 메타는 WP에 "아프리카 콘텐츠에 대한 접근은 세계 어느 곳과 다를 바 없다"며 "우리는 플랫폼 안전을 우선시하고 잘못된 정보와 유해한 콘텐츠에 맞서기 위해 공격적인 조치를 취했다"고 밝혔다.

틱톡 측도 "우리는 전 세계에 걸쳐 수천명의 직원이 안전을 위해 일하고 있다"는 입장을 전했다.

메타와 틱톡은 인공지능(AI)을 도입해 1차적으로 혐오표현, 가짜뉴스 등을 차단 및 삭제한다. 하지만 영어 이외의 언어로 된 게시물이 종종 틈새로 빠져나가고 있다고 WP는 지적했다.

영국 런던 전략대화연구소(ISD)가 2년에 걸쳐 조사해 지난 6월 발표한 보고서에 따르면 페이스북에서 알샤바브와 이슬람국가(IS) 추종자 약 4만명이 최소 30개의 공개된 선전 페이지를 운영했다.

이들은 끔찍한 암살, 자살 폭탄 테러 등의 영상을 게시했는데 이 중 일부 콘텐츠는 6년 넘게 삭제당하지 않았다.

보고서는 AI에 대한 의존도가 핵심 문제라고 지적했다. 예를 들어 AI가 단어 '지하드(성전)'를 찾는다면 테러리스트들은 단어 사이에 마침표를 찍어 AI 시스템을 피한다는 것이다.

또 보고서는 언어와 문화적 전문 지식 격차를 문제점으로 꼽았다. 케냐의 공용어는 영어와 스와힐리어지만 케냐인은 수십개의 방언, 다른 부족 언어 등을 사용한다.

메타는 아랍어, 스와힐리어 사용자를 포함해 350명으로 구성된 팀이 테러리스트 콘텐츠를 모니터링하고 처리한다고 밝혔다. 지난 1~3월 테러 정책을 위반하는 1500만개의 콘텐츠를 삭제했다고 주장했으나, 전체적인 테러리스트 콘텐츠 규모는 공개하지 않았다.

문제는 유해 콘텐츠 방치가 실제 폭력으로 이어질 수 있다는 점이다.

지난 2019년 나이로비에서 알샤바브의 공격으로 21명의 사망자가 발생했다. 정부 조사 결과 이들은 6개월 동안 발견되지 않은 페이스북 계정을 이용해 공격을 계획한 것으로 드러났다고 현지 언론은 전했다.

연구원들은 케냐가 법으로 유해 콘텐츠에 대한 책임을 플랫폼에 직접적으로 묻지 않고 있다고 지적했다. 케냐의 변호사 무감비 라이부타는 "상당히 회색 지대"라며 "케냐에선 혐오표현에 대해 콘텐츠 중재를 시행해야 한다는 법이 없다"고 꼬집었다.


◎공감언론 뉴시스 jabiu@newsis.com