"살인병기는 코딩하지 않겠다" 실리콘밸리의 외침[코드전쟁③]

[서울=뉴시스]오동현 윤정민 기자 = "우리는 분열되지 않을 것(We Will Not Be Divided)."

미국 인공지능(AI) 기업 직원 수백 명이 한목소리로 외쳤다. 미 국방부가 앤트로픽(Anthropic)의 AI 모델 '클로드'를 이란 공습에 활용한 사실이 알려진 뒤, AI의 군사적 활용에 반대하는 움직임이 실리콘밸리 전체로 번지고 있다. 직원들의 공개 서한에 이어 소비자 보이콧까지 가세하면서, 2018년 구글 '프로젝트 메이븐' 사태 이후 최대 규모의 저항이 형성되고 있다.

6일 기준, 구글 현직 직원 883명과 오픈AI 현직 직원 100명이 공개 서한에 서명했다. 현재도 서명은 계속 증가하고 있다.

서한은 미 국방부가 앤트로픽을 '공급망 위험' 기업으로 지정하겠다고 위협한 것을 정면으로 겨냥했다. "이 모든 것은 앤트로픽이 자사 모델을 대량 감시와 인간의 감독 없는 자율 살상에 사용하지 않겠다는 레드라인을 고수한 것에 대한 보복"이라는 것이다.

이들은 특히 "한 기업이 거절하면 경쟁사가 수용할 것이라는 공포로 각 기업을 분열시키려 하고 있다"며 기업 간 연대를 촉구했다.

공개 서한과는 별도로, 구글 AI 부문 직원 100여 명은 구글 딥마인드 수석과학자 제프 딘에게 내부 서한을 보냈다. 뉴욕타임스에 따르면 이들은 미군이 구글의 AI 모델 제미나이(Gemini)를 미국 시민 감시나 자율무기 운용에 사용하는 것을 금지해줄 것을 요청했다.

아마존과 마이크로소프트 직원들까지 별도의 연대 성명에 가세하며, 반대 목소리는 빅테크 전반으로 확산하는 양상이다.

이번 사태에서 논란이 된 것은 오픈AI의 행보다. 지난달 28일 앤트로픽이 자사 AI 모델 '클로드'의 대규모 국내 감시 및 자율살상무기 활용에 반대하자, 트럼프 대통령은 연방기관의 앤트로픽 기술 사용 중단을 지시하고, 피트 헤그세스 국방장관은 앤트로픽을 '공급망 위험'으로 지정했다. 이후 불과 수 시간 만에 오픈AI가 국방부와 기밀 환경에서의 AI 모델 배치 계약을 체결한 것이다.

앤트로픽의 다리오 아모데이 최고경영자(CEO)는 국방부의 기술 활용에 '레드라인'을 설정한 이유에 대해 "그 선을 넘는 것은 미국의 가치에 반한다"고 설명했다. 반면 오픈AI의 샘 올트먼 CEO는 사전에 앤트로픽과 같은 레드라인을 공유한다고 밝혔음에도 신속하게 계약을 체결해 비판을 자초했다는 지적을 받았다.

이에 올트먼은 3일(현지시간) 내부 메모를 소셜미디어에 공유하며 "금요일에 서둘러 계약을 발표하지 말았어야 했다"고 인정했다. 그러면서 "사안이 매우 복잡했고, 명확한 소통이 필요했다. 진심으로 상황을 완화하려 했지만, 기회주의적이고 허술해 보였을 뿐"이라고 해명했다.

오픈AI는 이후 계약을 수정해 미국 시민에 대한 국내 감시 목적 사용을 명시적으로 금지하는 조항을 추가하고, 국가안보국(NSA) 등 정보기관은 오픈AI 서비스를 사용하지 않는다는 점을 재확인했다고 밝혔다.

소비자 차원의 저항도 거셌다. 오픈AI의 국방부 계약 소식 이후 '큇GPT(QuitGPT)'라는 온라인 보이콧 캠페인이 급속히 퍼졌다. 주최 측 주장에 따르면 150만 명 이상이 챗GPT 구독 해지, 소셜미디어 보이콧 메시지 공유, 웹사이트 서명 등으로 참여했다.

시장조사업체 센서타워는 지난 2월 28일 기준 챗GPT 모바일 앱 삭제 건수가 전날 대비 295% 증가한 반면, 앤트로픽 클로드의 미국 내 다운로드 수는 같은 날 51% 늘었다고 추정했다. 앤트로픽이 '윤리적 AI'라는 브랜드 이미지를 얻으면서 반사이익을 누리는 모양새다.

큇GPT는 샌프란시스코 오픈AI 본사 앞에서 '킬러 로봇 반대, AI 감시 반대(No killer robots, no AI surveillance)'를 내건 거리 시위도 진행했다.

실리콘밸리에서 AI 군사 활용에 대한 대규모 직원 항의가 벌어진 것은 2018년 구글의 '프로젝트 메이븐(Project Maven)' 사태 이후 가장 큰 규모다. 프로젝트 메이븐은 2017년 발족한 미 국방부의 AI 군사 활용 프로젝트로, 드론이 수집한 영상을 AI로 분석해 표적 식별의 정밀도를 높이는 것이 핵심이었다. 당시 구글 직원 약 4000명이 서명 운동과 집단 사직에 나섰고, 구글은 결국 2019년을 마지막으로 계약을 갱신하지 않았다.

그랬던 구글이 지난 2025년 2월 AI의 무기·감시 활용을 금지하던 내부 방침을 철회했다. 2018년 프로젝트 메이븐 당시 스스로 세운 원칙을 7년 만에 뒤집은 것이다. 트럼프 재선 이후 규제 완화 분위기와 국방 AI 시장의 급팽창이 배경으로 꼽힌다.

김명주 과학기술정보통신부 산하 인공지능안전연구소장은 뉴시스와의 인터뷰에서 "AI를 국방에 쓰는 것에 대해 많은 엔지니어들이 반대해서 무산된 사례가 계속 있었고, 이번도 그 연장선"이라면서도 "다른 점이 있다면 이제는 기술이 훨씬 발달했고, 적대국도 똑같이 발달했기 때문에 '자율적으로 살상하는 것을 피할 수 없다'는 쪽으로 흐름이 가고 있다는 것"이라고 진단했다.

그는 "자기 기술이 사람을 죽이는 데 쓰이는 것에 엔지니어들이 반대하는 것은 당연하다"며 "그러나 현실은 한 기업이 거부하면 다른 기업이 채우는 구조이기 때문에, 기업 단위의 자율 규제만으로는 한계가 있다. 결국 핵확산금지조약(NPT)처럼 국제적 합의 틀이 필요하다"고 말했다.

이번 사태는 AI가 더 이상 보조 도구가 아니라 전쟁의 핵심 인프라로 편입된 현실을 보여준다. 엔지니어들이 작성하는 코드 한 줄이 전장에서 누군가의 생사를 가를 수 있는 시대가 된 셈이다. "우리는 살인 병기를 코딩하지 않겠다"는 엔지니어들의 외침이 더 커지는 양상이다.


◎공감언론 뉴시스 [email protected], [email protected]