【서울=뉴시스】오동현 기자 = 인공지능(AI) 스피커 시장이 성장하면서 음성 데이터로 축적된 프라이버시 문제에 대한 관심도 높아지고 있다.
17일 IT업계에 따르면 AI 스피커 시장에서 아마존, 구글, 마이크로소프트, 애플을 따라잡기 위해 국내에서도 SK텔레콤, KT, 네이버 라인(LINE), 카카오, 삼성전자 등이 잇달아 도전장을 던지고 있다.
AI 스피커는 이제 스마트 홈 시장의 핵심 기기로 떠올랐다. 이마케터는 미국 시장에서의 3560만명의 소비자들이 최소 한 달에 한번 이상은 AI 스피커를 사용할 것으로 전망하고 있다.
이에 글로벌 기업들은 각종 기기를 AI 스피커로 연결시킨다는 구상을 속속 실현하고 있다. AI 스피커 시장은 자연어 처리, 딥러닝 등 기술 고도화와 반도체 기술 발달이 맞물려 성장 가도를 달리고 있다.
음성 인식을 통한 대화형 기기들은 사용자가 호출하는 단어의 음성 명령을 인식해 요구한 기능을 수행한다.
아마존이나 구글의 경우 AI 스피커 호출 단어인 '알렉사'나 '오케이 구글' 이후에 들어오는 음성을 받아서 처리하고, 이를 클라우드에 저장한다. 이를 위해 기기는 항상 '상시 듣기' 모드로 구동돼야 한다.
여기서 문제가 되는 것은 프라이버시다.
'상시 듣기' 모드는 내가 집에 없을 때도 이뤄진다. 물론 호출어가 아닌 경우 소리는 스피커에만 잠시 기록했다 삭제된다고 한다. 그러나 얼마나 많이, 얼마나 오래 저장되는지는 명확하지 않다.
때로는 AI 스피커가 수집한 음성 데이터가 수사나 법정에서 증거로 사용될 수도 있다. 지난해 12월 미국 아칸소주 경찰은 살인사건을 수사하기 위해 아마존 '에코'가 보낸 데이터를 제공하라는 요청을 했다.
아마존은 처음에 표현의 자유 권리를 들어 데이터 제공을 거부했으나 이후 용의자가 동의하자 데이터를 제공했다.
한상기 소셜컴퓨팅연구소장은 "이제 사용자들은 자신의 음성 명령 기록뿐만 아니라 당시 주변의 소리, TV 시청 소리, 내가 농담으로 했던 명령들이 전혀 예기치 않은 상황에서 중요한 기록으로 활용될 수 있음을 알아야 한다"고 조언했다.
애플은 '홈팟'을 발표하면서 아마존이나 구글보다는 프라이버시에 대해서 좀 더 엄격한 기준을 제시했다. 일단 애플은 저장된 기록을 2년만 관리한다. 구글과 아마존은 사용자가 삭제하지 않으면 무제한으로 저장하는 것이 원칙이다.
◇음성 데이터 삭제, 요청해야 가능 "불편해"
한상기 소장에 따르면, AI 스피커가 사용자로부터 확보한 음성 데이터는 사용자들이 삭제 요청을 할 수 있다.
17일 IT업계에 따르면 AI 스피커 시장에서 아마존, 구글, 마이크로소프트, 애플을 따라잡기 위해 국내에서도 SK텔레콤, KT, 네이버 라인(LINE), 카카오, 삼성전자 등이 잇달아 도전장을 던지고 있다.
AI 스피커는 이제 스마트 홈 시장의 핵심 기기로 떠올랐다. 이마케터는 미국 시장에서의 3560만명의 소비자들이 최소 한 달에 한번 이상은 AI 스피커를 사용할 것으로 전망하고 있다.
이에 글로벌 기업들은 각종 기기를 AI 스피커로 연결시킨다는 구상을 속속 실현하고 있다. AI 스피커 시장은 자연어 처리, 딥러닝 등 기술 고도화와 반도체 기술 발달이 맞물려 성장 가도를 달리고 있다.
음성 인식을 통한 대화형 기기들은 사용자가 호출하는 단어의 음성 명령을 인식해 요구한 기능을 수행한다.
아마존이나 구글의 경우 AI 스피커 호출 단어인 '알렉사'나 '오케이 구글' 이후에 들어오는 음성을 받아서 처리하고, 이를 클라우드에 저장한다. 이를 위해 기기는 항상 '상시 듣기' 모드로 구동돼야 한다.
여기서 문제가 되는 것은 프라이버시다.
'상시 듣기' 모드는 내가 집에 없을 때도 이뤄진다. 물론 호출어가 아닌 경우 소리는 스피커에만 잠시 기록했다 삭제된다고 한다. 그러나 얼마나 많이, 얼마나 오래 저장되는지는 명확하지 않다.
때로는 AI 스피커가 수집한 음성 데이터가 수사나 법정에서 증거로 사용될 수도 있다. 지난해 12월 미국 아칸소주 경찰은 살인사건을 수사하기 위해 아마존 '에코'가 보낸 데이터를 제공하라는 요청을 했다.
아마존은 처음에 표현의 자유 권리를 들어 데이터 제공을 거부했으나 이후 용의자가 동의하자 데이터를 제공했다.
한상기 소셜컴퓨팅연구소장은 "이제 사용자들은 자신의 음성 명령 기록뿐만 아니라 당시 주변의 소리, TV 시청 소리, 내가 농담으로 했던 명령들이 전혀 예기치 않은 상황에서 중요한 기록으로 활용될 수 있음을 알아야 한다"고 조언했다.
애플은 '홈팟'을 발표하면서 아마존이나 구글보다는 프라이버시에 대해서 좀 더 엄격한 기준을 제시했다. 일단 애플은 저장된 기록을 2년만 관리한다. 구글과 아마존은 사용자가 삭제하지 않으면 무제한으로 저장하는 것이 원칙이다.
◇음성 데이터 삭제, 요청해야 가능 "불편해"
한상기 소장에 따르면, AI 스피커가 사용자로부터 확보한 음성 데이터는 사용자들이 삭제 요청을 할 수 있다.
애플 홈팟
아마존 에코의 경우는 알렉사 앱의 설정에 가서 히스토리에 저장돼 있는 개별 명령을 선택적으로 삭제할 수 있다. 모든 데이터를 삭제하고 싶으면 아마존 웹사이트에서 내 계정 관련된 '콘텐츠와 기기 관리' 메뉴로 들어가 에코 장비를 선택한 후 '음성 기록 관리'에서 삭제하면 된다.
구글 홈의 경우는 구글 계정에서 '내 활동'을 선택하면 구글 검색이나 서비스 등을 이용해 활동한 모든 데이터를 볼 수 있다. 나의 검색 키워드, 방문한 페이지, 맵을 통한 움직임, 기기 정보뿐만 아니라 '음성 및 오디오 활동'에 '오케이 구글'로 명령한 모든 내용을 볼 수 있고 원하면 삭제할 수 있다.
그러나 문제는 이런 삭제 기능에 대한 안내가 충분하지 않으며, 일일이 서비스에 들어가서 삭제를 실행해야 한다는 불편함이 있다.
한 소장은 "더 좋은 서비스를 위해서 프라이버시를 얼마나 희생할 것인가는 사용자의 선택이라고 주장할 것이다. 그러나 사용자의 음성이 어디까지 저장되고, 어떤 형태로, 어느 기간 동안 저장되며, 이렇게 저장된 데이터를 어떤 방식으로 활용하며, 누구까지 접근이 가능한 것인가에 대해서는 보다 더 많은 투명성이 요구된다"고 강조했다.
◇음성 데이터 수집, 프라이버시 침해 논란 소지
클라우드로 전달되는 음성 데이터는 모두 암호화돼 전달된다. 이는 중간에 음성 데이터를 해킹하기 어렵게 만들려는 노력이다. 그러나 AI 스피커 자체가 해킹된다면 해커는 사용자의 모든 소리를 엿들을 수 있다.
한 소장은 "사실 모든 스마트 기기가 해킹에 취약하다는 보고가 끊이지 않고 있는데, 이는 앞으로 프라이버시 보호에 큰 이슈가 될 수 있다"고 밝혔다.
또 "사용자가 원하지 않을 때 자신의 음성 데이터를 기기가 처리하지 않게 하기 위해서는 기기에 있는 '음소거(mute)' 버튼을 사용하면 된다. 그러나 이는 매우 번거로울 수 있고 유용성이 떨어진다"고 지적했다.
한 소장은 AI 스피커 서비스 기업이 사용자의 사적인 대화를 분석해 광고에 사용할 가능성에 대해서도 우려를 나타냈다. 이미 검색이나 이메일 내용 분석을 통해 개인화된 광고를 제시하는 구글이 앞으로 사용자의 대화까지 분석해서 광고를 보여줄 개연성은 충분하기 때문이다.
한 소장은 "이 과정에서 어떻게 사용자의 동의를 받을 것인가 여부도 역시 명확하지 않은 상태"라며 "이는 구글의 능력일까, 아니면 프라이버시 침해일 것인가는 앞으로 논의가 필요할 것"이라고 강조했다.
또한 "지금까지 우리가 검색 키워드, 방문 기록, 사용 기록을 넘겨주었다면, 앞으로는 음성과 제스처, 감정 등을 넘겨줘야 할 것"이라며 "내가 인지하지 못한 상태로 나에 대한 모든 것을 가져가 사용하고, 이를 기반으로 다시 내게 무엇인가를 요구한다면 우리는 늘 불공평한 거래를 해야 한다"고 우려했다.
[email protected]
구글 홈의 경우는 구글 계정에서 '내 활동'을 선택하면 구글 검색이나 서비스 등을 이용해 활동한 모든 데이터를 볼 수 있다. 나의 검색 키워드, 방문한 페이지, 맵을 통한 움직임, 기기 정보뿐만 아니라 '음성 및 오디오 활동'에 '오케이 구글'로 명령한 모든 내용을 볼 수 있고 원하면 삭제할 수 있다.
그러나 문제는 이런 삭제 기능에 대한 안내가 충분하지 않으며, 일일이 서비스에 들어가서 삭제를 실행해야 한다는 불편함이 있다.
한 소장은 "더 좋은 서비스를 위해서 프라이버시를 얼마나 희생할 것인가는 사용자의 선택이라고 주장할 것이다. 그러나 사용자의 음성이 어디까지 저장되고, 어떤 형태로, 어느 기간 동안 저장되며, 이렇게 저장된 데이터를 어떤 방식으로 활용하며, 누구까지 접근이 가능한 것인가에 대해서는 보다 더 많은 투명성이 요구된다"고 강조했다.
◇음성 데이터 수집, 프라이버시 침해 논란 소지
클라우드로 전달되는 음성 데이터는 모두 암호화돼 전달된다. 이는 중간에 음성 데이터를 해킹하기 어렵게 만들려는 노력이다. 그러나 AI 스피커 자체가 해킹된다면 해커는 사용자의 모든 소리를 엿들을 수 있다.
한 소장은 "사실 모든 스마트 기기가 해킹에 취약하다는 보고가 끊이지 않고 있는데, 이는 앞으로 프라이버시 보호에 큰 이슈가 될 수 있다"고 밝혔다.
또 "사용자가 원하지 않을 때 자신의 음성 데이터를 기기가 처리하지 않게 하기 위해서는 기기에 있는 '음소거(mute)' 버튼을 사용하면 된다. 그러나 이는 매우 번거로울 수 있고 유용성이 떨어진다"고 지적했다.
한 소장은 AI 스피커 서비스 기업이 사용자의 사적인 대화를 분석해 광고에 사용할 가능성에 대해서도 우려를 나타냈다. 이미 검색이나 이메일 내용 분석을 통해 개인화된 광고를 제시하는 구글이 앞으로 사용자의 대화까지 분석해서 광고를 보여줄 개연성은 충분하기 때문이다.
한 소장은 "이 과정에서 어떻게 사용자의 동의를 받을 것인가 여부도 역시 명확하지 않은 상태"라며 "이는 구글의 능력일까, 아니면 프라이버시 침해일 것인가는 앞으로 논의가 필요할 것"이라고 강조했다.
또한 "지금까지 우리가 검색 키워드, 방문 기록, 사용 기록을 넘겨주었다면, 앞으로는 음성과 제스처, 감정 등을 넘겨줘야 할 것"이라며 "내가 인지하지 못한 상태로 나에 대한 모든 것을 가져가 사용하고, 이를 기반으로 다시 내게 무엇인가를 요구한다면 우리는 늘 불공평한 거래를 해야 한다"고 우려했다.
[email protected]
