<이미지 출처 : PIXABAY>
[위즈덤 아고라 / 한동욱 기자] 2023년 4월, 삼성전자 반도체 부문의 한 엔지니어가 오류를 잡으려고 회사 내부 소스코드를 챗GPT에 붙여 넣었다. 아마 편했을 것이다. 문제는 그 코드가 다시 돌아오지 않았다는 데 있다. 며칠 사이 비슷한 일이 최소 세 차례 반복됐고, 반도체 설비 계측값과 수율과 불량 정보까지 미국 회사 오픈AI의 서버로 흘러 들어갔다. 삼성은 즉시 사내 생성형 AI 사용을 막았지만, 이미 나간 것은 되돌릴 수 없었다. 당시 회사가 직원들에게 돌린 경고문의 요지는 간단했다. 한번 올린 내용은 회수도, 삭제도 안 된다는 것.
이 한 문장이 그동안 데이터에 대해 사람들이 모르는 점이다. 오늘이 이 칼럼에서 쓰는 마지막 글인 만큼, 어려운 개념보다 이 데이터에 관해 사람들이 모르는 점들을 짚고 넘어가려고 한다.
우리는 하루 종일 데이터를 흘린다. 아침에 스마트폰에 대고 물어본 날씨, 점심에 채팅봇에 털어놓은 고민, 저녁에 검색한 병원 이름, 무심코 누른 좋아요 하나까지. 예전에도 데이터는 모였지만, 지금이 전과 다른 건 인공지능이 그걸 ‘먹고’ 자라기 때문이다. 우리가 입력한 말과 대화가 결국 AI를 똑똑하게 만드는 재료가 된다.
삼성 사례가 무서운 건 대기업 엔지니어조차 순간의 편리함에 무너졌다는 점이다. 당시 삼성이 직원들을 상대로 조사해 보니, 응답자의 65%가 이미 사내에서 생성형 AI를 쓰면 보안 위험이 있다는 걸 알고 있었다. 이 말은 즉, 알면서도 썼다는 뜻이다. 삼성만의 일도 아니다. 앞서 아마존과 월마트, 월가의 대형 은행들도 비슷한 이유로 직원들의 챗GPT 사용을 막거나 제한했다.
문제의 핵심은 ‘돌이킬 수 없음’이다. 한번 AI 모델 안으로 들어간 정보는 어디에 어떻게 남았는지 밖에서 보이지 않는다. 큰 물통에 떨어뜨린 물감 한 방울처럼, 섞여 버리면 다시 걷어낼 수 없게 된다. 내가 만든 데이터가 나도 모르는 사이 누군가의 질문에 대한 답으로 되살아날 수도 있다는 얘기다.
한 걸음 더 들어가 보자. 기업들은 왜 우리 데이터를 그토록 원할까. 이 질문의 답은 AI의 작동 원리에 있다. AI는 수많은 사례를 먹고 패턴을 익히는 기계다. 만약 충분한 데이터가 없으면 아무리 잘 설계한 모델도 제 성능을 못 낸다. 업계에서는 좋은 데이터를 모으고 다듬는 일이 AI를 만드는 과정의 대부분을 차지한다고 말한다. 데이터는 AI의 연료이자 교과서인 셈이다.
그런데 왜 하필 ‘개인’ 데이터일까. AI를 정교하게 다듬는 건 실제 사람의 생생한 말과 맥락이기 때문이다. 그런데 그 욕심이 지나치면 꼭 사고가 난다.
2021년 초를 떠들썩하게 한 챗봇 ‘이루다’가 그랬다. 개발사 스캐터랩은 자사의 다른 앱인 ‘텍스트앳’과 ‘연애의 과학’에서 모은 이용자들의 카카오톡 대화를 이루다 학습에 끌어다 썼다. 여기서의 규모는 놀라웠다. 약 60만 명의 카카오톡 대화 문장 94억여 건. 정작 대화의 주인들은 자신의 연인과 나눈 사적인 메시지가 챗봇을 만드는 데 쓰일 거라곤 상상도 못 했다. 개인정보보호위원회는 동의를 제대로 받지 않은 것을 포함해 여러 건의 위반을 인정하고 스캐터랩에 1억 330만 원의 과징금과 과태료를 물렸다. 결국, 이루다는 출시 3주 만에 서비스를 접었다.
이 사건이 남긴 교훈은 선명하다. 내가 ‘설마 이런 데 쓰겠어’ 하고 흘린 대화가, 누군가에게는 돈이 되는 데이터라는 것이다. 실제로 데이터를 둘러싼 경쟁은 국가 대항전 수준으로 격화됐다. 시장조사기관들은 데이터 가치 평가를 포함한 세계 데이터 분석 시장이 2030년 무렵 400조 원을 훌쩍 넘을 것으로 본다. 영국 경제지 이코노미스트가 오래전 21세기의 데이터를 원유에 빗댄 게 과장이 아니었던 것을 보여준다.
이 목마름은 회사 안 풍경까지 바꿔 놓았다. 가트너 조사에 따르면 직원의 절반 이상이 이미 개인 AI를 업무에 쓰고 있고, 셋 중 하나는 회사의 민감한 데이터를 외부 AI에 직접 붙여 넣은 적이 있다고 했다. 예전에 회사 몰래 쓰던 ‘섀도 IT’가 이제 ‘섀도 AI’가 됐다는 말이 나오는 이유다.
그래서 이 문제에는 ‘보호’를 넘어 ‘주권(sovereignty)’이라는 단어가 따라붙는다. 데이터를 만드는 건 개인인데, 그걸 가져다 쓰고 돈을 버는 건 거대 기업인 힘의 균형이 무너진 것이 보인다. 데이터 주권이란 어렵게 들려도 뜻은 간단하다. 내 데이터는 내가 정할 수 있어야 한다는 것이다.
세계는 이미 이 싸움에 뛰어들었다. 이탈리아는 2023년 3월 챗GPT 접속을 아예 막았다. 한 나라가 챗GPT를 차단한 첫 사례였다. 학습 데이터를 긁어모을 법적 근거가 빈약하다는 이유 때문이었고, 2024년 말엔 오픈AI에 약 220억 원의 벌금까지 매겼다. 더 나아가, 2026년 3월 로마 법원이 이 벌금을 취소하면서, AI와 개인정보를 둘러싼 다툼이 아직 정답 없는 현재진행형임을 보여줬다.
그럼에도 규제의 틀은 촘촘해지고 있다. 유럽 AI법의 투명성 의무가 2026년 8월 발효되고, 우리나라도 생성형 AI 안내서를 통해 대화를 학습에 쓸 경우 그 사실과 거부 방법을 알리도록 했다. AI기본법도 시행됐다. 방식은 나라마다 달라도 방향은 한곳으로 모인다.
AI 시대라는 거대한 흐름 앞에서 개인이 할 수 있는 방법은 3가지가 있다.
먼저 설정을 열어 보자. 챗GPT든 어디든 설정 안엔 ‘내 대화를 학습에 쓰지 않기’, 이른바 ‘옵트아웃’ 항목이 있다. 기본값이 ‘켜짐’이라 직접 끄지 않으면 그냥 쓰인다. 1분이면 된다.
다음으로, 정말 중요한 건 애초에 넣지 말자. 주민번호, 계좌, 회사 기밀, 건강 이야기는 AI 대화창에 적지 않는 게 원칙이다. 처음부터 정보들을 흘리지 않은 것만큼 안전한 건 없다.
마지막으로, 만약 사이트를 가입하게 될 때, ‘동의합니다’를 누르기 전에 잠깐 멈추자. 내 정보가 학습에 쓰이는지, 거부할 방법은 있는지, 그 한 줄만 확인해도 충분하다.
AI라는 물결은 결코 멈추지 않을 것이다. 하지만 흐름에 그냥 몸을 맡기는 것과, 내 것을 지키며 그 안에 서 있는 것은 전혀 다르다. 마지막으로 남기고 싶은 말은 이것이다. 당신의 데이터는 결국 당신이다. 당신의 취향과 고민, 목소리와 하루하루가 담긴 흔적이고, 지워지지 않기에 더 그렇다. 그 주인이 당신이어야 한다는 것, 그거 하나만 기억해 주면 좋겠다.
데이터는 지워지지 않는다. 그러나 그 데이터를 어떻게 다룰지는, 아직 우리 손에 남아 있다.향은 단 하나로 모인다.
[위즈덤 TECH] 인공지능(AI)은 현대 사회에 아주 강력한 엔진입니다. 그리고 이 엔진을 움직이는 연료는 데이터입니다. 우리가 매일 누르는 ‘좋아요’, 인터넷 검색 기록, 스마트폰 위치 정보까지, 무심코 생성한 데이터들은 즉시 AI를 학습시키고 진화시키는데 핵심 자원이 됩니다. 이번 칼럼에서는 데이터와 인공지능이 어떻게 상호작용 하며, 우리의 일상, 산업, 미래를 혁신하고 있는지 알아볼 예정입니다. 동시에 편안함 뒤에 숨겨진 데이터 편향성, 사생활 침해, 저작권 논란 등 우리가 반드시 마주해야 할 윤리적인 문제들도 함께 고민합니다. 데이터가 인공지능이 되는 과정부터 우리 삶에 미치는 영향까지, 한동욱 기자의 ‘위즈덤 TECH’와 함께 일상 속 AI의 세계를 차근차근 탐험해 보세요.
