< 일러스트 및 출처 : Gemini 생성>
[위즈덤 아고라 / 한동욱 기자] 컴퓨터 업계에는 오래된 격언이 하나 있다. “쓰레기를 넣으면 쓰레기가 나온다(Garbage in, garbage out).” 이 말은 잘못된 자료를 넣으면 잘못된 결과가 나온다는 뜻이다. 이 말이 요즘 들어 무섭게 들리는 이유가 있다. AI에 들어가는 ‘쓰레기’가 이제는 단순한 오타나 틀린 숫자가 아니라, 우리 사회가 오랫동안 쌓아온 편견 그 자체이기 때문이다. 나오는 결과도 단순한 오답이 아니다. 누군가의 취업, 재판, 대출이 거기에 걸려 있다.
여기서 생기는 하나의 의문이 있다. AI는 왜 사람을 차별하는가. 사례는 많다. 2018년 아마존은 4년이나 공들여 만든 AI 채용 시스템을 스스로 버렸다. 이력서에 ‘여성’이라는 단어가 들어가면 점수를 깎는다는 사실이 드러났기 때문이다. 미국 법원에서 쓰던 재범을 예측하는 프로그램인 ‘컴파스(COMPAS)’는 흑인 피고인이 다시 범죄를 저지를 가능성은 실제보다 높게, 백인은 실제보다 낮게 매기는 경향을 보였다. 또 다른 사례로 실제 구글 포토가 흑인 이용자의 사진을 ‘고릴라’로 분류한 사건도 있었다. 하지만 이상하지 않은가. AI는 감정도 악의도 없는 계산 기계다. 하지만 이 사례들은 기계가 무슨 인종차별을 한다는 말도 안 되는 말처럼 들릴 수 있다.
그러면 데이터에는 왜 편견이 들어 있는가. 데이터는 하늘에서 떨어지지 않는다. 결국 사람들이 살아온 기록이다. 과거 인사담당자의 결정, 경찰의 체포 기록, 은행원의 대출 심사가 쌓여서 데이터가 된다. 그 결정들 속에 이미 차별이 있었다면, 데이터는 그것을 하나도 빠뜨리지 않고 그대로 담는다.
편견은 여러 곳에서 기록된다. 기술직에 여성이 적었던 과거가 그대로 기록되기도 하고, 처음부터 특정 집단의 자료가 적게 모이기도 한다. 경찰이 특정 동네만 집중해서 순찰하면 그 동네의 범죄만 기록에 남고, 그 기록 때문에 다시 그 동네로 순찰이 몰린다. 편견이 스스로 몸집을 키우는 악순환이다. 데이터에 ‘이건 좋은 이력서’, ‘이건 위험한 사람’ 하고 이름표를 붙이는 것도 결국 사람이라, 그 과정에서 개인의 선입견이 데이터 속에 들어가기도 한다.
여기까지 오면 자연스럽게 질문이 생긴다. 문제가 이렇게 잘 알려져 있는데, 그 똑똑한 개발자들은 왜 못 걸러내나. 우선 AI의 ‘블랙박스’ 문제가 있다. 요즘 AI는 속이 너무 복잡해서, 왜 그런 판단을 내렸는지 만든 사람조차 다 설명하지 못한다. 그럼 성별 항목을 아예 지우면 되지 않느냐고? 소용없다. AI는 출신 학교, 자주 쓰는 단어, 취미 같은 간접 단서만 가지고도 지원자가 남자인지 여자인지 사실상 알아맞힐 수 있다. 실제로 아마존은 문제가 된 단어들을 찾아내 하나씩 고쳐 봤지만, 고쳐도 고쳐도 끝이 보이지 않았다. 한 곳을 막으면 AI가 다른 길로 돌아가 같은 결론을 내렸기 때문이다. 결국 아마존은 이 시스템을 완전히 믿을 수 없다고 판단하고 프로젝트를 접었다.
만드는 사람들의 구성도 원인 중 하나로 지적된다. AI 업계는 개발자 대부분이 비슷한 배경을 가진 남성이라는 지적을 오래전부터 받아왔다. 서로 닮은 사람들끼리 모여 있으면, 자신들이 놓치고 있는 점들을 알아차리기 어렵다. 그 데이터가 누구를 빠뜨리고 있는지 물어봐 줄 사람이 처음부터 그 방에 애초에 없었던 것이다.
하지만 면접관과 판사들도 오래전부터 차별을 해왔던 것을 생각해 보면 문제점이 무엇인지 잘 모를 수 있다. 여기서 AI라고 뭐가 더 문제인가.
첫째, 이 문제에 대한 규모가 다르다. 면접관 같은 경우 하루에 수십 명을 보지만, 편향된 AI 하나는 수백만 장의 이력서를 똑같은 기준으로 걸러낸다. 한 사람의 편견이 시스템 전체의 차별로 커지는 것이다. 둘째, 더 부정적인 것은 믿음의 문제다. “컴퓨터가 계산한 결과”라는 말에는 힘이 있어, 사람들은 그것을 공정하다고 믿어버린다. 편견이 숫자라는 것에 덮이는 순간 따지기가 어려워진다. 이에 관한 결과도 처참하다. 이러한 것으로 떨어진 사람은 자기가 왜 떨어졌는지조차 알 수 없다. 셋째, 이 차별은 돌고 돈다. 편향된 AI가 내린 결정이 다시 데이터가 되어 다음 AI를 가르친다. 내버려두면 편견은 줄어들기는커녕 여기에 이자까지 붙어 불어난다.
그렇다면 이러한 심각한 문제를 왜 아직 해결하지 못했을까. 솔직히 말하면, 완벽한 해결은 불가능하기 때문이다. AI는 사람이 만든 데이터를 먹고 자라는데, 사람 사는 세상에서 편견이 사라지지 않는 한 데이터에서도 완전히 지울 수는 없다.
해결 방법으로는 학습 전에 데이터가 한쪽으로 치우치지 않았는지 점검하는 방법이 있다. 일부러 약점을 공격해보며 문제를 미리 찾아내는 ‘레드팀’ 점검 같은 기술이 발전하고 있다. 제도도 움직이고 있다. 미국 뉴욕시는 AI 채용 도구를 쓰려면 차별 여부를 먼저 검사받도록 했고, 일리노이주는 AI 면접이 어떻게 작동하는지 구직자에게 미리 설명하도록 법으로 정했다. 현재 한국은 어떨까. 대기업과 공공기관의 AI 채용은 빠르게 늘고 있지만, 정작 공정성을 지켜줄 법이나 규정은 사실상 없다는 지적이 계속 나온다.
결론적으로 AI는 차별을 만들어낸 것이 아니라 우리가 남긴 기록에서 차별을 배웠을 뿐이고, 그런 의미에서 편향된 AI는 고장 난 기계가 아니라 지나치게 정직한 거울이다. 거울에 비친 얼굴이 마음에 안 든다면, 고쳐야 할 것은 거울이 아니라 우리 자신이다.
[위즈덤 TECH] 인공지능(AI)은 현대 사회에 아주 강력한 엔진입니다. 그리고 이 엔진을 움직이는 연료는 데이터입니다. 우리가 매일 누르는 ‘좋아요’, 인터넷 검색 기록, 스마트폰 위치 정보까지, 무심코 생성한 데이터들은 즉시 AI를 학습시키고 진화시키는데 핵심 자원이 됩니다. 이번 칼럼에서는 데이터와 인공지능이 어떻게 상호작용 하며, 우리의 일상, 산업, 미래를 혁신하고 있는지 알아볼 예정입니다. 동시에 편안함 뒤에 숨겨진 데이터 편향성, 사생활 침해, 저작권 논란 등 우리가 반드시 마주해야 할 윤리적인 문제들도 함께 고민합니다. 데이터가 인공지능이 되는 과정부터 우리 삶에 미치는 영향까지, 한동욱 기자의 ‘위즈덤 TECH’와 함께 일상 속 AI의 세계를 차근차근 탐험해 보세요.
