한겨레

편향된 데이터로 훈련된 알고리즘은 다시 편향적 선택을 도출하고 복제한다. 인공지능은 보이지 않는 방식으로 차별과 혐오를 재생산한다.

오는 23일 제1회 사람과디지털포럼 두 번째 기조연설자로 나서는 잔드라 바흐터 영국 옥스퍼드대학 부교수 겸 옥스퍼드 인터넷연구소 수석연구원의 지적이다. 인공지능이 방대한 데이터와 복잡한 알고리즘을 사용하면서 구조를 이해하기 어려운 ‘블랙박스’가 되고 있다. 바흐터 교수는 차별적 상황이 숨겨진 데이터와 알고리즘을 통해 인공지능이 ‘보이지 않는 차별’을 발생시키는 점을 꾸준히 지적해온 연구자다. 서면을 통해 인공지능과 윤리, 관련 규제에 대한 바흐터 교수의 생각을 들었다.

그는 인공지능이 “미묘하고 감지할 수 없는 방식”으로 사람들을 구별한다고 지적했다. 예컨대 인공지능은 개인에게 금융 서비스를 제공할지 여부를 판단할 때 강아지 소유와 대출 상환의 상관관계를 살핀다. 표면적으로는 강아지와 대출은 무관해 보이지만, 대출 승인 알고리즘에서 강아지 소유는 대출에 유리한 변수로 사용된다. 영국에서는 집주인이 임차인의 반려동물을 허용하지 않는 경우가 많다. 강아지가 있다는 것은 자가 거주의 확률이 높다는 것이고 이는 일정한 자산을 보유하고 있음을 의미하기 때문이다. 같은 직장과 비슷한 근로소득, 금융거래 실적을 가졌어도 강아지 소유 여부로 제공받을 수 있는 금융서비스가 달라질 수 있다.

불투명한 알고리즘이 채용 시장에 적용되면 명백한 차별로 이어질 수 있다. 지난 30여년간 조직의 관리자들은 주로 40~50대의 남성이었다. 관리자에 적합한 후보자를 선택할 때 인공지능은 그간의 데이터를 기반으로 비슷한 성별과 나이 등의 조건을 가진 사람을 찾아낼 것이다. 적합한 능력을 지녔더라도 30대 초반 여성이라면 후보 목록에 들어가지 못하거나, 심지어 알고리즘에서 걸러져 구인 공고조차 보지 못할 가능성이 있다. 문제는 개인이나 정부가 차별이 발생했다는 사실조차 인지하지 못할 수 있다는 점이다. 바흐터 교수는 “입법자들은 법이 관장하지 않는 영역에 새로운 차별이 생겨나고 있다는 것을 알아야 한다. 또한 현재의 법을 재평가하고 새로운 위험을 경계해야 한다”고 말했다.

새로운 기술에 대한 규제와 책임은 복잡한 문제다. 너무 일찍 규제에 나서면 혁신과 기술 발전을 저해하고, 반대의 경우엔 사회에 돌이킬 수 없는 피해를 줄 가능성이 크기 때문이다. 바흐터 교수는 “지금이야말로 규제를 적용할 ‘티핑 포인트’(전환점)에 있다고 믿는다. 알고리즘 등 기술의 해악들이 명백하기 때문이다”며 적절한 규제가 필요한 시기라고 강조한다.

다만 영역별로 다른 접근 방식을 적용할 것을 제안한다. 그는 “고용과 의료, 형사법적 영역 등 차별이 발생할 가능성이 크고 개인에게 큰 영향력을 미치는 분야들은 정부가 나서서 규제해야 한다. 하지만 개인이 위험에 덜 노출되는 영역은 자율 규제 체제를 구축하는 등 좀 더 유연하게 접근하는 방식을 고려해 볼 수 있다”고 짚었다. 인공지능이 야기하는 위험은 줄이고 기술의 이점을 극대화하기 위해서는 법적 규제 전에 해당 영역에서 인공지능의 위험과 이점을 면밀히 살펴봐야 한다고도 조언했다.

지난해 유럽연합이 발표한 인공지능법 초안도 인공지능의 위험에 따라 차등적으로 규제를 적용하는 내용을 담고 있다. 유럽연합은 2017년부터 인공지능에 대해 긴급성을 공표하고 데이터 보호와 디지털 권리, 윤리 표준에 대한 계획과 가이드라인, 평가리스트 등의 작업을 진행해왔다.

바흐터 교수는 알고리즘 투명성을 위한 시민의 역할도 강조했다. “알고리즘 불투명성은 개인과 사회에 심각한 부정적 결과를 초래한다. 시민들은 시스템이 처음 의도된 대로 작동되고 있는지, 충분한 감독을 받으며 책임도 질 수 있는지를 감시해야 한다. 알고리즘에 영향받는 모든 사람은 스스로가 권리를 가진 주체란 것을 늘 상기해야 한다. 기술은 사람의 필요를 충족시키기 위해 만들어졌고, 그 반대가 아니라는 것을 잊어서는 안 된다.”

양은영 한겨레경제사회연구원 사회변동팀장 ey.yang@hani.co.kr