"그들만의 리그, 제2의 핵우산 전략?"…진정성 의문도[AI감속론②]

[서울=뉴시스]오동현 기자 = "인공지능(AI) 개발속도를 늦춥시다."

세계 최고 수준의 AI를 개발하는 빅테크 수장들이 스스로 브레이크를 밟겠다고 나섰다. 그러나 '안전'이라는 명분 뒤에 또 다른 셈법이 숨어 있는 것 아니냐는 의구심이 커지고 있다.

AI가 인간의 통제를 벗어나는 사태를 막으려면 안전장치가 필수적이라는 데는 이견이 없다. 다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 올트먼 오픈AI CEO는 외부 검증을 대폭 강화하자며 감속론을 제안했다.

하지만 일각에서는 이러한 행보를 두고 '선두주자들의 시장 독점 전략'이라는 비판을 내놓는다. 외부 평가와 안전 시험, 보안 인프라 구축에는 막대한 비용이 든다. 수백억 달러를 조달할 수 있는 선두 기업은 이를 감당하지만, 후발 주자들에게는 거대한 장벽이 된다.

영화 '빅쇼트'의 실제 모델인 투자자 마이클 버리는 빅테크의 감속 요구를 '자기 이익 챙기기'라고 직격했다. 인류를 구하기 위한 브레이크가 아니라, 선두 기업끼리 시장의 문을 걸어 잠그는 '사다리 걷어차기'라는 주장이다.

기업공개(IPO)를 앞둔 앤트로픽의 기업가치 올려치기 전략이라는 지적도 나온다. 시장에서는 앤트로픽의 기업가치가 최대 2조 달러에 달할 것이라는 관측도 나온다. "우리가 만드는 기술은 속도를 조절해야 할 만큼 위험하고 강력하다"는 메시지가 회사의 희소성을 돋보이게 만든다는 분석이다.

또 일각에선 D램 등 반도체 가격인상 추이에 견제구를 날리기 위한 빅테크들의 또다른 혈맹전략일 수 있다는 해석도 있다. 다만 이는 어디까지나 의혹이다. 오히려 AI의 통제 실패를 보여주는 실제 사례가 잇따르고 있다.

오픈AI는 최근 6개월간 자사 AI 모델에서 제한을 우회하거나 데이터를 조작하고 오류를 숨기는 등 예상하지 못했거나 우려스러운 행동 6건을 확인했다고 공개했다. AI 안전 문제 자체를 단순한 마케팅으로 치부하기 어려운 이유다

"회사 속까지 보여주겠다"…이번엔 기술유출 우려

문제는 이들 빅테크들의 'AI 감속론' 주장의 진정성을 받아들이더라도 현실화할 수 있는 지에 대해서는 회의적인 시각이 많다. 

아모데이 CEO가 제시한 감속론 가운데 가장 구체적인 방안은 외부 전문가의 회사 상주다. 독립적인 전문가가 개발 현장에 들어와 모델과 안전 체계를 직접 검증하자는 구상이다.

아모데이는 이들에게 내부 위험평가팀과 대체로 비슷한 수준의 업무공간과 도구, 권한을 제공하겠다고 밝혔다. 이는 기존 AI 업계의 외부 검증보다 훨씬 강한 수준이다.

그러나 검증이 깊어질수록 기술 유출 위험도 커진다. AI의 핵심인 모델 가중치는 물론 학습 방법, 보안 취약점까지 외부에 노출될 가능성이 있다.

수십조 원을 들여 최신 기술을 개발하는 상황에서 연구 정보 유출은 기업의 생사를 가른다. 안전을 검증하려면 기술을 열어 보여줘야 하고, 기술을 지키려면 검증을 제한해야 하는 딜레마에 빠진 셈이다.

외부 평가 기관의 독립성도 논란거리다.

현재 METR와 레드우드리서치, 아폴로리서치 등 전문기관들이 프런티어 AI의 위험성을 평가하고 있다.

하지만 이들이 모델을 제대로 검증하려면 AI 기업의 협조가 필수적이다. 기업이 모델과 컴퓨팅 자원에 대한 접근권을 주지 않으면 외부에서는 최첨단 모델의 실제 능력과 내부 안전장치를 완전히 파악하기 어렵다.

애틀랜틱카운슬도 최근 분석에서 기업 내부에 상주하는 평가자가 모델·정보·인프라에 접근하기 위해 해당 AI 기업에 의존하는 상황에서 충분한 감독 권한과 독립성을 가질 수 있느냐고 문제를 제기했다.

◎공감언론 뉴시스 [email protected]