"오픈AI 기술, 우리 모두 죽일 수도"…영리 전환 반대 목소리

[서울=뉴시스]박미선 기자 = 전직 오픈AI 직원들, 노벨상 수상자들, 법학 교수들, 시민단체들이 지난주 캘리포니아와 델라웨어 법무장관에게 오픈AI의 구조조정 추진을 중단시켜 달라는 내용의 서한을 보냈다고 23일(현지 시간) CNBC가 보도했다.

챗GPT를 만든 오픈AI가 초격차 AI 경쟁에서 살아남기 위해 영리 기업으로의 전환을 시도하자 인류 모두에게 혜택을 주겠다는 창립 목적이 훼손될 것이란 우려에서다.

이들은 서한을 통해 "영리 기업으로의 전환은 오픈AI의 자선 목적을 훼손하고, 비영리 통제를 제거해 핵심적인 거버넌스 안전장치를 없앨 것"이라며 "통제권 상실에 대한 보상은 어떤 대가로도 대체될 수 없다"고 강조했다.

2015년 비영리 인공지능 연구소로 설립된 오픈AI는 최근 챗GPT와 같은 상업용 제품을 선보이며 사업화에 나섰다. 회사는 여전히 비영리 모회사가 관리하지만, 지난해 영리 회사로의 전환을 발표하며 비영리의 직접적인 통제권은 빼고 별도 조직으로 유지하겠다고 밝혔다.

영리 기업으로의 전환을 위해선 주 투자자인 마이크로소프트와 캘리포니아 법무장관의 승인이 필요하다. 이렇게 되면 마이크로소프트, 구글, 아마존뿐 아니라 일론 머스크의 AI 스타트업 xAI 등과 제약 없이 치열한 경쟁을 펼칠 수 있을 것으로 보인다.

다만 이런 시도는 회사의 사명과 창립 원칙에 반하는 것으로, 내부 직원과 AI 업계 인사들 사이에 큰 논란을 일으키고 있다.

오픈AI에서 2018년부터 2020년까지 일했던 니산 스틴논은 성명에서 "오픈AI는 언젠가 우리 모두를 죽일 수 있는 기술을 만들 수도 있다"며 "회사가 인류에 대한 의무를 지닌 비영리 단체에 의해 통제되고 있다는 점은 오히려 칭찬할 일"이라며 통제권을 포기해선 안 된다고 강조했다.

그러나 오픈AI 대변인은 "우리의 비영리 조직이 더 강화될 것이고, 현재의 구조에 대한 모든 변화는 AI로부터 대중이 이익을 얻을 수 있도록 하기 위한 것"이라고 반박했다.

오픈AI의 정관은 "인공지능 일반(AGI)이 인류 전체에 혜택이 되도록 보장하는 것이 자선 목적"이라고 명시한다. 그런 만큼 특정인의 사익을 추구하는 것이 아니라는 입장이다.

오픈AI를 영리 기업으로 전환해야 한다는 압박은 최근 기업가치가 3000억 달러에 육박한 것도 영향을 미쳤다. 이 가치는 소프트뱅크가 수도한 400억 달러 규모의 자금 조달 당시 평가된 것으로, 회사가 올해 안에 영리 회사로 구조를 변경하지 않으면 최대 100억 달러의 투자금을 토해내야 할 수 있다.

AI 정책 센터의 대표 제이슨 그린로우는 "오픈AI는 비영리 구조 하에 있음에도 컴퓨팅 자원의 20%를 안전 연구에 할당하겠다는 약속을 지키지 않았다"고 꼬집었다.

오픈AI는 2023년 '슈퍼얼라인먼트' 팀을 출범시켜 4년에 걸쳐 컴퓨팅 자원의 20%를 투자하겠다고 선언했지만, 관련 인사들이 퇴사하면서 프로젝트가 종료된 사례를 지적한 것이다. 

그러면서 "영리 기업으로 전환된 후 수익 극대화에만 집중한다면 어떤 일이 벌어질지 상상조차 하기 싫다. 사회적 책임을 덜 지는 방향으로 나아가는 건 위험이 너무 크다"고 우려했다.

한편 오픈AI의 공동 창립자인 일론 머스크는 오픈AI가 공공성을 강조했던 창립 취지와 달리 상업적 목적을 위해 마이크로소프트에 종속돼 있다며 샘 알트먼 최고경영자(CEO)와 회사를 고소한 바 있다.


◎공감언론 뉴시스 [email protected]