본문내용 빅테크 기업, 이용자 동의 없이 개인정보를 AI 모델 학습 훈련데이터 활용
메타·X의 이용자 데이터 AI 학습 발표했지만 제대로 고지 않는 행태 비판
출처 : Unsplash+, Alex Shuper요즘 우리가 쓰는 SNS는 단순한 커뮤니케이션 플랫폼이 아니다. 메타(페이스북, 인스타그램), X(구 트위터)와 같은 기업은 우리가 남긴 게시글 뿐 아니라 검색 기록, 위치 정보, 심지어 친구와의 대화 내용까지 수집하고 그 방대한 데이터를 이용해 자신들의 알고리즘을 훈련고 있다. 문제는 이 모든 일이 우리도 모르는 사이 우리의 동의 없이 이루어지고 있다는 것이다.
지난 4월, 진보네트워크센터와 정보인권연구소, 그리고 해당 플랫폼의 이용자들이 법무법인 지향을 대리인으로 하여 메타와 X를 개인정보보호법 위반으로 개인정보보호위원회에 신고했다.
빅테크 기업들이 이용자의 동의도 없이 개인정보를 인공지능(AI) 모델 학습의 훈련데이터로 활용하고, 동의 철회를 어렵게 한 것은 명백히 위법이라는 판단 때문이다. “내 일상은 AI 학습용이 아니다”라는 캠페인은 바로 이 위법한 관행에 맞서기 위한 시민들의 선언이다.
되돌릴 수 없는데, 거부권마저 제약
SNS에는 십수년간의 삶의 기록이 남아 있다. 나의 성향, 감정, 관계, 소비 습관, 정치적 입장까지 그 안에 응축되어 있다. 문제는 이런 정보가 단순히 ‘내 것’이라는 선언만으로는 지켜지지 않는 시대가 되었다는 점이다. 메타와 X는 개인정보 보호정책을 변경해 이용자의 데이터를 AI 학습에 쓰겠다고 발표했지만 이용자들에게 제대로 고지하지 않았다.
메타와 X는 △이용자가 서비스를 사용하면서 생산한 정보 △시스템에 기록된 모든 정보 △제3자로부터 제공받은 개인정보 등을 AI 학습 목적으로 사용하고 있다. 또한 메타는 데이터 사용에 동의를 받을 필요가 없다고 하며 AI 학습 목적의 개인정보 처리를 ‘정당한 이익’이라는 근거로 정당화하고 있으며, X는 동의도 받지 않고 법적 근거가 무엇인지 밝히지 않고 있다.
메타의 말대로 정당한 이익을 근거로 동의받지 않은 채 개인정보를 사용하려면 이 이익이 명백하게 정보주체의 권리보다 우선하는 경우여야 한다. 하지만 메타와 X는 이 이익을 ‘AI at Meta 개발 및 지원’, ‘기계학습 또는 인공지능 모델 학습’ 등으로 매우 포괄적으로 규정하고 있어 개인정보보호법에 따른 정당한 이익에 근거한 처리라고 인정받을 수 없다.
또한 AI 학습은 매우 광범위하고 민감한 정보를 사용하며 휴면 상태로 있는 SNS 이용자의 개인정보까지 포함된다. 게다가 한번 AI 학습에 사용되면 이를 돌이키기 어렵고 이미 학습에 사용된 개인정보는 삭제한다고 해서 시스템에서 완전히 제거되는 것이 아니기 때문에 정보주체의 기본권에 부정적인 영향을 미친다.
또 메타와 X가 개인정보 보호정책을 변경한 시점에 고지하지 않아 개인정보가 사용되는 것을 거부할 기회가 없었기에 사후적으로 데이터 활용을 거부하려고 해도 쉽지 않다. 옵트아웃 기능을 제공하고 있긴 하나 접근하기 어렵게 숨겨져 있고, 절차도 복잡하기 때문이다.
해외는 어떻게 대응하고 있는가
이 문제는 비단 한국만의 일이 아니다. 유럽의 디지털 권리 옹호 단체 NOYB는 메타의 정책 변경에 대해 유럽 개인정보보호법(GDPR) 위반이라며 11개국의 개인정보 감독기구에 신고했고, X에 대해서도 9개국에 신고한 바 있다.
이후 아일랜드의 데이터보호위원회(DPC)는 메타에 AI 학습 중단을 요구했으며 브라질의 개인정보 감독기구(ANPD) 역시 메타에 AI 학습을 중단하라고 명령한 이후 사용자들에게 데이터 처리 사실과 이를 거부할 권리에 대해 알리고, 데이터를 사용하기 30일 전에 미리 통지하라는 조건을 걸었다.
영국과 캐나다의 개인정보 감독기구들도 각각 메타와 X에 대한 조사에 착수한 상태다. 반면 한국은 아직 개인정보보호위원회의 조사조차 시작되지 않았다. 위법행위가 명백한 만큼 개인정보보호위원회는 즉각 조사에 나서야 한다.
불투명한 AI, 시민의 권리 침해해
한편 ‘내 일상은 AI 학습용이 아니다’라는 캠페인 시작 직후, 이를 알리기 위해 한 이용자가 직접 올린 페이스북 게시물이 약 30분 뒤 삭제되는 일이 발생했다. 페이스북은 “게시물이 오해의 소지가 있는 링크나 콘텐츠로 사람들을 속여 웹사이트를 방문하거나 웹사이트에 머무르도록 하는 것 같다”며 스팸에 관한 커뮤니티 규정 위반을 삭제 사유로 밝혔다.
이후, 이 글을 공유한 다른 이용자의 게시물과 캠페인 링크를 올린 또 다른 게시물도 스팸으로 처리됐다. 그런데 같은 글이 인스타그램에서는 삭제되지 않았다. 또한 글을 삭제당한 이용자가 이틀 뒤 페이스북에 다시 같은 글을 올렸을 때는 삭제되지 않았다.
캠페인 관련 게시물을 삭제당한 이용자가 메타에 재검토 요청을 했지만, 아직 페이스북 측 답변은 없는 상태다. 메타는 AI 등 기술을 이용해 대부분의 규정 위반 게시물들을 자동으로 삭제 처리한다고 밝히고 있다.
문제는 어떤 과정을 거쳐 삭제되는지 이용자는 알 방법이 없고, 이의제기를 하기도 어렵다는 것이다. 책임 소재를 묻기도 어렵다. 이처럼 불투명한 AI 시스템은 우리의 표현의 자유까지 위협하며, 개인의 권리를 더욱 취약하게 만들 수 있다. 불투명한 AI가 가져오는 권리 침해 문제를 우리는 이미 경험하고 있다.
우리는 학습의 대상이 아니다
빅테크 기업들이 ‘기술 혁신’을 이유로 법과 시민의 권리를 우회하려는 움직임이 점점 노골적으로 드러나고 있다. 기업들의 불법적인 개인정보 활용은 단순한 법률 위반을 넘어 거대 플랫폼이 개인의 권리를 침해하는 심각한 문제이다.
이러한 문제를 막기 위해 마련된, 또 마련되어야 하는 규제들은 기술의 발전을 막는 걸림돌이 아니라 기술이 누구를 위해 어떻게 작동해야 하는지를 제시하는 최소한의 기준이다. 우리는 기술 발전의 재료가 아니라 기술을 사용하는 주체이기 때문이다. 시민들의 일상은 AI를 똑똑하게 만들기 위한 학습 자료가 아니며, 누구도 학습 대상이 되어선 안 된다.
거대한 플랫폼 앞에서 나라는 개인의 선택지는 많지 않다. 하지만 나의 위치, 감정, 취향, 정치적 성향 등, 이 모든 정보는 내 삶의 일부이고 이를 어떻게 사용할지는 나의 선택이어야 한다. “내 일상은 AI 학습용이 아니다”라는 캠페인을 펼치는 이유이다.
기술 혁신이라는 미명 아래 학습 대상이 되는 것을 멈추고, 나의 데이터에 대한 권리를 돌려달라고 외쳐야 한다. 인공지능 이용자의 권리와 존엄성을 플랫폼이 존중할 수 있도록 함께 목소리를 내자.