한겨레

박권일 | 사회비평가·<한국의 능력주의> 저자

오픈에이아이(OpenAI)사의 대화형 인공지능 챗지피티(ChatGPT)의 놀라운 성능이 화제다. 앞으로 이런 대규모언어모델(LLM)이 일상화하면 사람들이 웹사이트에 방문하지 않고 인공지능에 질문을 바꿔가며 지식을 습득하려 할 것이므로 정보검색 패러다임이 바뀔 수 있다. 이제 학생의 보고서가 챗지피티로 작성됐는지 확인하는 건 필수다. 초보적인 코딩이나 시장 분석의 경우 챗지피티만으로 준수한 결과를 얻을 수 있기에 상당수 직업이 사라질 거란 전망도 나온다.

변화는 더 거대한 것일지 모른다. 오픈에이아이 창업자 샘 올트먼은 <포브스> 인터뷰에서 무려 ‘자본주의의 종말’을 언급한다. 챗지피티 이후 인공일반지능(Artificial General Intelligence)이 나오면 인간의 지시 없이 스스로 학습할 수 있고 심지어 영리 활동까지 가능하다. 이때 누가 수익의 권리를 가지며, 어떻게 분배할지 등의 문제가 발생한다. 자본주의의 근간이 흔들리는 것이다. 챗지피티의 본격 데뷔 이전이긴 하지만, 인공지능의 발전과 자동화가 가져올 미래에 대한 훨씬 ‘낙관적인’ 견해도 있다. 정치평론가 에런 바스타니는 임금노동이 소멸하고 정보재 가격이 제로에 수렴하면 자본주의가 종말을 맞겠지만 이는 결코 세계의 종말이 아니며 오히려 ‘완전히 자동화된 화려한 공산주의’의 가능성이 열린다고 주장한다.

자본주의의 종말이나 공산주의의 도래까지는 잘 모르겠다. 다만 기계가 비교적 단순한 노동을 대신해준다면 그만큼 여가가 늘어나고 시민들이 공동체 의제를 토론하는 시간을 확보할 수 있겠다. 문제는, 여유가 생긴다 해서 지루하고 재미없는 공적 사안에 열정을 쏟게 될 것이냐다. 아무리 생각해봐도 요즘 사람들에겐 그럴 만한 동기가 없어 보인다. “세상에 ‘팬질’ ‘덕질’ 할 것들이 얼마나 많은데 굳이 그걸 왜?” 그 결과가 지금의 정치다. 현실 정치는 사회경제적 지대를 축적해 여가를 확보한 자들, 특히 법률전문가들이 사익을 공익으로 포장해 공동체 자원을 흡혈하는 ‘합법적 빨대’가 됐다.

인터넷이 등장했을 때 많은 지식인들이 집단지성·대중지성의 도래를 입에 침이 마르도록 찬양했다. 사람들은 월드와이드웹이 새로운 민주주의와 해방의 공간이 될 것이라고 믿어 의심치 않았다. 2023년의 인터넷을 보자. 오물통이 따로 없다. 한때 “모든 의견이 평등하게 존중받는 열린 민주주의의 장”이었던 곳에서 이제는 ‘댓글창 폐쇄’ 공지만 늘어나고 있다. 인터넷은 집단지성의 전당이 아니라 반지성주의와 허위 정보의 집결지가 됐고, 엘리트가 은폐한 진실을 폭로하는 공간이 아니라 엘리트가 여론을 조작하는 작업장이 됐다.

공상과학(SF) 작가 테드 창이 <뉴요커>에 기고한 글에 따르면, 챗지피티는 웹에 흩어진 정보를 있는 그대로 수집해 정리하지 않는다. 그보다는 ‘손실압축’과 비슷한, ‘정보의 열화복제’에 가깝다. 정보를 정확하게 복제한 게 아니라 흐릿하게 복제한 것이어서, 특히 수치 등이 비슷해 보이면 같은 값으로 처리해버리는 등의 터무니없는 오류가 발생한다. 즉, 챗지피티는 원리상 엄밀성이 요구되는 분야일수록 틀린 답을 내놓을 가능성이 다분하다. 그런데 답변 자체가 유려하고 그럴듯하기 때문에 훈련되지 않은 사람은 이를 사실로 믿어버리기 쉽다. 문해력 조사 때마다 ‘사실’과 ‘의견’을 세계에서 가장 구별하지 못하는, 피싱메일에 제일 잘 걸려드는 집단으로 지목되는 한국인이 챗지피티를 생활화하면 어떤 일이 벌어질까?

비단 한국만의 문제는 아니다. 이미 인류는 대부분의 시간을 콘텐츠를 가장한 광고, 혐오 선동, 포르노 등 온갖 주목경쟁에 ‘낚이는’(hooked) 데 보낸다. 그나마 어떤 주제를 직접 고민하고 스스로 공부하던 우리의 짧은 시간마저 인공지능에 몽땅 넘겨버리고 나면, 깊이 배우는(deep learning) 유일한 존재는 기계가 될 터다. 그게 바로 정치의 종말이고 인간이라는 종의 마지막 모습일 것이다.

물론 기술철학자 앤드루 핀버그의 말처럼, 모든 기술에는 지배와 억압만이 아니라 해방과 저항의 실마리가 반드시 심어져 있다. 기술을 통한 감시와 착취의 사슬이 아무리 공고해 보여도 우린 언제든 그것을 깨부술 수 있다. 위안이 되는 통찰이긴 한데 내 의문은 다른 데 있다. 과연 우리는 해방되거나 저항하고 싶은가? 무엇으로부터, 무엇을 위해?