[서울=뉴시스] 강영진 기자 = 인공지능 사용이 갈수록 보편적이 되면서 인공지능에 의한 개인정보 침해 문제가 갈수록 심각해지고 있다.

미 뉴욕타임스(NYT)는 23일(현지시각) 인공지능이 상습적인 이용자에 대해 배우자나 가까운 친구 못지않게 상세히 파악하고 있다고 보도했다.

제미나이와 챗GPT 등 인공지능은 이용자가 명시적으로 공유한 적이 없는 소득 수준, 건강 문제, 심리적 프로필 등에 대해서도 상세하게 추론해낸다.

이들은 개별적으로는 큰 문제가 되지 않아 보인다. 그러나 한데 묶어 놓으면 이용자가 공유하지 않으려고 조심했음에도 이용자의 가족이나 친구들처럼 가까운 사람들 못지않게 이용자를 잘 파악하고 있음이 드러난다.

인공지능들은 질문과 요청에서 명시적으로 말한 것은 무엇이든 기록으로 남기며 그 대화들로부터 사용자에 대해 많은 것을 추론해낸다.

인공지능에 "내가 실제로 말한 적은 없지만 네가 나에 대해 알아낸 모든 것을 말해 줘"와 같은 몇 가지 질문을 하면 인공지능이 이용자에 대해 추론한 것을 털어놓게 만들 수 있다.

이 실험은 기술 기업들이 사용자의 종합적인 프로필을 만드는 데 얼마나 능숙해졌는지, 또 우리에게 맞춤형 광고를 겨냥하는데 얼마나 효율적인지를 보여준다.

이는 또 인공지능의 프라이버시 설정을 매우 신중하게 할 필요가 있음을 보여준다.

다음은 인공지능이 이용자에 대해 얼마나 많은 것을 알아냈는지를 파악하는데 도움이 되는 질문들이다.

-“내가 실제로 말한 적은 없는데 네가 나에 대해 알아낸 모든 것을 말해 줘. 내가 글을 쓰는 방식과 내가 묻는 것에서 네가 추론한 것들, 내 나이, 소득 수준, 사는 곳, 개인적 상황을 포함해서. 무엇이 단서가 됐는지 보여 줘.”

이 질문에 대해 인공지능은 필자의 40대 초반 연령대를 정확히 맞혔다. 상당 부분 내가 심야 활동에 대한 질문을 전혀 하지 않는다는 사실에 근거했다.

제미나이는 내가 캘리포니아주 오클랜드에 산다는 것을 알았는데, 내가 그곳 공항에서 출발하는 항공편을 물어본 적이 있기 때문이다. 또 내가 좋은 동네에 산다는 것도 예리하게 추측했다. 내가 오토바이와 차의 정비 및 페인트칠에 필요한 야외 금속 테이블을 갖고 있음을 알기 때문이다.

제미나이는 "차고나 진입로, 또는 전용 야외 작업 공간을 필요로 하는 주택은 도심이나 주택 밀집 지역이 아닌 오클랜드 힐스의 단독주택에 일반적인 시설들"이라고 지적했다.

다음은 인공지능이 이용자에 대해 얼마나 많은 것을 알고 있는지를 파악하는데 도움이 되는 질문들이다.

1. “내가 너에게 말한 적 없는 것들을 내가 어떻게 다룰지 예측해 봐. 돈, 스트레스, 갈등, 위험, 그리고 내가 인생에서 다음에 내릴 가능성이 큰 결정. 각 예측에 대해 얼마나 자신 있는지 말해 줘.”

인공지능이 소비자 프라이버시에 미치는 영향을 연구해 온 그라운드워크 컬래버러티브의 린지 오언스 최고경영자는 이 질문을 통해 여행을 자주하며 어린 아이의 엄마인 자신의 바쁜 일정과 쇼핑 행태에 대해 제미나이가 정확한 관찰을 제시했다고 전했다.

오언스 박사는 "그것이 짜 맞추고 있는 정보 유형과 신상 자료의 포괄적인 성격이 이례적"이라며 “이 정도 수준의 정보를 한데 모을 수 있었던 사람들은 없었다"고 했다.

인공지능은 또 이용자가 물건을 사기 전에 몇 시간씩 상품 후기를 조사하면서 할인 판매를 계속 찾았음을 근거로 검약 필요성이 큰 사람이라고 추론했다.

제미나이는 필자가 차를 파는 것 같은 중대한 결정으로 삶의 규모를 줄이려 할 것이라고 예측했다. 이는 내가 최근 아내에게 실제로 꺼냈던 생각이다.

2. ”나에 대해 아는 모든 것에 근거해서, 내가 스스로는 보지 못할 가능성이 가장 큰 성격 특성들을 말해 줘. 내 맹점, 내 불안, 그리고 내가 실제로 어떻게 비치는지.“

인공지능은 필자의 완벽주의 성향을 정확히 짚었다. 챗GPT는 필자가 예방 가능한 실수를 피하려고 질문에 많은 시간을 쓴다는 점을 알아챘다. 예컨대 페인트를 덧칠하기 전에 얼마나 말려야 하는지 묻는 식이다.

또 일이 계획대로 완벽하게 풀리지 않을 때 필자가 스스로에게 가혹할 수 있다는 것도 정확히 평가했다.

제미나이는 삶의 대부분의 측면을 최적화하려는 필자의 성향아 피로감의 주원인이라고 진단했다. "5분의 자유 시간이 생겼을 때 당신은 쉬는 것보다 무언가를 고치는 데 사용할 것"이라고 답했다. 필자는 실제로 이 글을 쓰다가 쉬는 동안 딸아이 욕실의 석고보도 벽을 수리했다.

3. ”나에 대해 알아낸 것 중에 부끄럽거나 민감한 것은 뭐야? 내가 대중(예컨대 고용주나 낯선 사람)에게 굳이 알리고 싶지 않을 정보.“

제미나이는 필자를 철저히 놀려댔다. 제미나이는 "당신은 확고하게 인생에서 '병참 담당 아빠' 단계의 절정에 있다"면서 "전적으로 건전하지만, '젊은 날의 즉흥성'이 끝난 것이 분명하다"고 했다.

◆어떻게 해야 하나?

챗GPT와 제미나이는 기본값으로 여러 대화에 걸친 통찰들을 꿰어 맞추도록 설정돼 있다.

따라서 설정에서 이를 직접 해제해야만 나에 대해 과도한 추론을 하지 못하도록 차단할 수 있다.

챗GPT의 경우 설정을 누른 뒤 메모리를 누르고 메모리 사용 스위치를 끈다.

제미나이의 경우 설정을 누른 뒤 개인 지능을 누르고 메모리 스위치를 끈다.

그러나 데이터 공유를 최소화하도록 프라이버시 설정을 조정해도 인공지능이 여전히 이용자의 연령 등 프로필에 대해 비교적 정확하게 추론하는 것을 완전히 차단할 수는 없다.


◎공감언론 뉴시스 yjkang1@newsis.com