올트먼 오픈AI CEO, 시스템 파괴 가능한 AI의 사회적 불균형 우려

기사등록 2024/02/13 18:03:10

최종수정 2024/02/13 18:17:29

AI가 의존하는 정확한 정보 흐름에 영향 줘 나쁜 의도로 악용 가능

[두바이(아랍에미리트)=AP/뉴시스]샘 올트먼 오픈AI 최고경영자(CEO)가 13일 아랍에미리트(UAE) 두바이에서 열리는 세계정부정상회의에서 화상 채팅을 통해 연설하고 있다. 그는 이날 인공지능(AI)과 관련해 시스템을 파괴할 수 있는 "매우 미묘한 사회적 불균형"에 대한 우려로 밤에 잠을 자지 못하고 있다고 말했다. 2024.02.13.
[두바이(아랍에미리트)=AP/뉴시스]샘 올트먼 오픈AI 최고경영자(CEO)가 13일 아랍에미리트(UAE) 두바이에서 열리는 세계정부정상회의에서 화상 채팅을 통해 연설하고 있다. 그는 이날 인공지능(AI)과 관련해 시스템을 파괴할 수 있는 "매우 미묘한 사회적 불균형"에 대한 우려로 밤에 잠을 자지 못하고 있다고 말했다. 2024.02.13.
[두바이(아랍에미리트)=AP/뉴시스] 유세진 기자 = 챗GPT 제조업체 오픈AI의 샘 올트먼 최고경영자(CEO)는 13일 인공지능(AI)과 관련해 시스템을 파괴할 수 있는 "매우 미묘한 사회적 불균형"에 대한 우려로 밤에 잠을 자지 못하고 있다고 말했다.

그는 두바이에서 열린 세계정부정상회의에서 화상통화를 통해 세계가 예상하는 것보다 더 빨리 발전할 가능성이 있는 AI를 감독하기 위해 국제원자력기구(IAEA) 같은 기구를 만들어야 한다는 자신의 요구를 되풀이하며 이같이 말했다.

올트먼은 "일이 어떤 방향으로 잘못될 것인지 쉽게 상상할 수 있도록 하는 것들이 있다. 나는 킬러 로봇으로 인해 일이 잘못될 것이라는 걱정은 그다지 하지 않지만 우리 사회에 이러한 시스템이 방치돼 특별한 나쁜 의도를 갖지 않고도 상황이 끔찍하게 잘못되도록 하는 매우 미묘한 사회적 불균형에 대해 훨씬 더 우려하고 있다"고 밝혔다.

그는 그러나 오픈AI처럼 AI 산업이 업계를 규율하는 규제를 만드는데 있어 주도적 역할을 맡아서는 안 된다고 강조했다.

올트먼은 "우리는 아직 많은 논의를 하는 단계에 있다. 그래서 세상 사람들이 모두 회의를 하고 있으며, 아이디어와 정책 보고서를 갖고 있고, 그것은 괜찮다. 우리는 여전히 논쟁이 필요하고 건전한 시기에 있다고 생각하지만, 앞으로 몇년 후 어느 시점에서는 전 세계에서 실제 동의할 수 있는 행동 계획을 향해 나아가야 한다고 생각한다"고 말했다.

샌프란시스코에 본사를 둔 AI 스타트업 오픈AI는 이 분야의 선두주자 중 하나지만, 오픈AI의 성공으로 올트먼은 생성 AI의 빠른 상용화와 새로운 기술에서 비롯될 수 있는 것에 대한 두려움을 상징하게 됐다.

세습 통치하는 7개의 토후국으로 구성된 아랍에미리트(UAE)는 그러한 위험의 징후를 가지고 있다. 언어는 엄격하게 통제되고, 이러한 제한은 정확한 정보의 흐름에 영향을 미친다. 챗GPT 같은 AI 프로그램이 사용자에게 답변을 제공하기 위해 기계 학습 시스템은 바로 정확한 정보의 흐름에 의존해야만 한다.

UAE에는 아부다비의 강력한 국가안보보좌관이 감독하는 G42사가 있는데, G42사는 세계 최고의 아랍어 인공지능 모델을 가지고 있다. 그런데 이 회사는 스파이웨어로 확인된 휴대전화 앱과의 연관돼 스파이 혐의에 직면해 있고, 중국 정부를 위해 미국인들로부터 비밀리에 유전 물질을 수집했을 수 있다는 의혹도 받고 있다.

한편 올트먼은 초기 교사들은 학생들이 논문을 쓰기 위해 AI를 사용할 것을 우려했었지만 이제 학교들은 AI 기술을 미래에 중요한 것으로 받아들이고 있어 용기를 얻었다고 말했다. 그러나 그는 AI가 아직 초기 단계라고 덧붙였다.


◎공감언론 뉴시스 dbtpwls@newsis.com
button by close ad
button by close ad

이시간 뉴스

많이 본 기사

기사등록