[서울=뉴시스]박미선 기자 = 오픈AI의 수석 과학자가 인공지능(AI)이 인간이 이해하고 통제하기 어려울 정도로 빠르게 진화하고 있다며 안전을 위해 AI 기업들이 자발적으로 개발 속도를 늦출 필요가 있다고 경고했다.

7일(현지 시간) 야후파이낸스에 따르면 야쿠프 파초키 오픈AI 수석 과학자는 전날 게시물을 통해 AI가 머지않아 인간의 개입 없이 스스로 성능을 개선하는 '재귀적 자기개선(recursive self-improvement)' 단계에 이를 수 있다고 전망했다.

파초키는 최근 AI 모델이 컴퓨터를 직접 조작하고 인간이나 다른 AI와 협업하며 연구 프로젝트까지 수행할 수 있게 됐다며 기술 발전 속도가 갈수록 빨라지고 있다고 지적했다.

그는 "지금은 극도의 주의가 필요한 시기"라며 "기계 지능이 계속 빠르게 향상될 경우 발생할 결과에 아무도 준비돼 있지 않다는 점이 우려된다"고 말했다.

이어 AI가 인간의 이해관계에 부합하도록 통제하는 기술을 강화하는 동시에 필요할 경우 개발 속도를 늦춰야 한다고 주장했다. 그는 "공통의 안전 기준이 마련될 때까지 자발적인 개발 감속이 일반적인 일이 되기를 기대한다"고 밝혔다.

AI 업계에서는 기술 발전 속도와 그에 따른 위험을 둘러싼 우려가 잇따르고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI가 초급 일자리의 절반을 대체할 수 있다고 경고한 바 있다.

하지만 주요 AI 기업들은 동시에 더 강력한 모델 개발 경쟁을 이어가고 있다. 오픈AI는 최근 최신 모델의 강력한 사이버보안 능력을 이유로 공개 범위를 제한했으며 앤트로픽도 비슷한 이유로 최첨단 모델의 일반 공개를 미루고 있다.

AI의 '자기개선' 기술을 개발하려는 움직임도 본격화하고 있다. 구글 딥마인드 출신 연구자들이 설립한 인히어런트는 올해 초 5000만달러를 조달했으며 리처드 소처가 설립한 리커시브 슈퍼인텔리전스도 관련 연구를 위해 6억5000만달러의 투자를 유치했다.

오픈AI 역시 2년 안에 인간의 개입을 최소화한 '진정한 자동화 AI 연구자'를 개발한다는 목표를 세우고 있다.


◎공감언론 뉴시스 only@newsis.com