<이미지 출처 : PIXABAY>
[위즈덤 아고라 / 한동욱 기자]
2023년 4월, 삼성전자 반도체 부문의 한 엔지니어가 오류를 해결하기 위해 사내 내부 소스코드를 챗GPT에 입력했다. 분명 작업은 편해졌을 것이다. 문제는 그 코드가 다시 돌아오지 않았다는 데 있다. 며칠 사이 비슷한 일이 최소 세 차례 반복됐고, 반도체 설비 계측값과 수율, 불량 정보까지 미국 오픈AI의 서버로 흘러 들어갔다. 삼성은 즉시 사내 생성형 AI 사용을 금지했지만, 이미 유출된 정보는 되돌릴 수 없었다. 당시 회사가 직원들에게 돌린 경고문의 요지는 명확했다. 한번 업로드된 내용은 회수도, 삭제도 불가능하다는 것.
이 한 문장이 바로 그동안 우리가 데이터에 대해 간과해 온 진실이다. 오늘 이 칼럼을 마무리하며, 복잡한 개념 대신 사람들이 잘 알지 못하는 데이터의 이면을 짚어보려 우리는 매 순간 데이터를 흘리고 다닌다.
아침에 스마트폰에 대고 물어본 날씨, 점심에 채팅봇에 털어놓은 고민, 저녁에 검색한 병원 이름, 무심코 누른 ‘좋아요’ 하나까지. 과거에도 데이터는 수집되었지만, 지금이 전과 다른 이유는 인공지능이 그것을 ‘먹고’ 자라기 때문이다. 우리가 입력한 말과 대화가 곧 AI를 똑똑하게 만드는 연료가 된다.
삼성의 사례가 섬뜩한 이유는 대기업 엔지니어조차 순간의 편리함에 무너졌기 때문이다. 당시 삼성이 직원들을 상대로 조사한 결과, 응답자의 65%가 이미 사내에서 생성형 AI를 사용할 때 보안 위험이 있다는 사실을 인지하고 있었다. 위험성을 알면서도 사용했다는 뜻이다. 이는 비단 삼성만의 문제가 아니다. 아마존, 월마트, 월가의 대형 은행들도 비슷한 보안 문제로 직원들의 챗GPT 사용을 제한하거나 금지했다.
문제의 핵심은 ‘돌이킬 수 없음’이다. 한번 AI 모델 안으로 들어간 정보는 어디에 어떻게 남았는지 외부에서 확인할 수 없다. 커다란 물통에 떨어뜨린 물감 한 방울처럼, 일단 섞여 버리면 다시 걷어낼 수 없다. 내가 무심코 만든 데이터가 나도 모르는 사이 누군가의 질문에 대한 답으로 되살아날 수 있다는 의미다.
그렇다면 기업들은 왜 그토록 우리 데이터를 갈구할까. 그 답은 AI의 작동 원리에 있다. AI는 수많은 사례를 학습해 패턴을 익히는 기계다. 충분한 데이터가 없다면 아무리 잘 설계된 모델이라도 제 성능을 발휘하지 못한다. 업계에서 좋은 데이터를 수집하고 정제하는 과정이 AI 개발의 대부분을 차지한다고 말하는 이유다. 데이터는 AI의 연료이자 교과서 그 자체다.
그렇다면 왜 하필 ‘개인’의 데이터일까? AI를 정교하게 다듬는 데는 실제 인간의 생생한 언어와 맥락이 필수적이기 때문이다. 하지만 그 욕심이 지나치면 반드시 사고로 이어진다.
2021년 초를 떠들썩하게 했던 챗봇 ‘이루다’ 사태가 대표적이다. 개발사 스캐터랩은 자사의 다른 애플리케이션인 ‘텍스트앳’과 ‘연애의 과학’에서 수집한 이용자들의 카카오톡 대화를 이루다의 학습 데이터로 무단 활용했다. 그 규모는 약 60만 명의 카카오톡 대화 문장 94억여 건에 달했다. 정작 대화의 당사자들은 자신의 연인과 나눈 사적인 메시지가 챗봇을 만드는 데 쓰일 것이라고는 상상조차 하지 못했다. 개인정보보호위원회는 동의 없는 개인정보 활용 등 여러 위반 사항을 인정해 스캐터랩에 1억 330만 원의 과징금과 과태료를 부과했고, 결국 이루다는 출시 3주 만에 서비스를 중단했다.
이 사건이 남긴 교훈은 선명하다. 내가 ‘설마 이런 것까지 쓰겠어’ 하고 무심코 흘린 대화가 누군가에게는 막대한 가치를 지닌 데이터라는 점이다. 실제로 데이터를 둘러싼 경쟁은 국가 대항전 수준으로 격화됐다. 시장조사기관들은 데이터 가치 평가를 포함한 글로벌 데이터 분석 시장이 2030년 무렵 400조 원을 훌쩍 넘을 것으로 전망한다. 영국 경제지 <이코노미스트>가 오래전 21세기의 데이터를 원유에 빗댄 것이 결코 과장이 아님을 증명한다.
이러한 데이터 갈증은 기업 내부의 풍경까지 바꾸어 놓았다. 가트너(Gartner)의 조사에 따르면 직원의 절반 이상이 이미 개인용 AI를 업무에 사용하고 있으며, 셋 중 한 명은 회사의 민감한 데이터를 외부 AI에 직접 입력한 경험이 있다고 답했다. 과거 회사 몰래 쓰던 ‘섀도 IT(Shadow IT)’가 이제는 ‘섀도 AI’로 진화했다는 진단이 나오는 이유다.
이 상황에 이르러서는 단순한 ‘보호’를 넘어 ‘주권(Sovereignty)’이라는 단어가 대두된다. 데이터를 생산하는 것은 개인이지만, 그것을 수집해 막대한 이익을 창출하는 주체는 거대 기업이라는 구조적 불균형이 뚜렷해지고 있다. 데이터 주권이란 거창한 것이 아니다. 내 데이터의 활용 여부를 내가 주도적으로 결정할 수 있어야 한다는 뜻이다.
세계 각국은 이미 이 주권 싸움에 뛰어들었다. 이탈리아는 2023년 3월 국가 차원에서 챗GPT 접속을 전격 차단했다. 학습 데이터를 수집할 법적 근거가 부족하다는 이유에서였다. 이후 2024년 말에는 오픈AI에 약 220억 원의 벌금을 부과했고, 2026년 3월 로마 법원이 해당 벌금을 취소하면서 AI와 개인정보를 둘러싼 공방이 여전히 정답 없는 현재진행형임을 보여주었다.
그럼에도 규제의 그물망은 점차 촘촘해지고 있다. 유럽연합(EU) AI법의 투명성 의무가 2026년 8월 본격 발효되었고, 우리나라도 생성형 AI 안내서를 통해 대화를 학습에 활용할 경우 그 사실과 거부 방법을 명시하도록 했다. AI기본법 역시 시행에 들어갔다. 각국의 접근 방식은 다를지라도 향하는 방향은 단 하나로 모인다.
