한겨레

지난해 11월에 챗GPT가 세상에 공개된 이후 인공지능에 대한 관심이 증폭한 반면, 이에 대한 우려도 어느 때보다 높다. 지금까지 인공지능의 단계가 인간의 능력을 보조해 주는 수단에 머물러 있었다면, 이제는 인공지능을 만든 인간이 통제할 수 없는 영역으로 진화하는 것이 아니가 하는 우려를 자아내고 있다. 구글에서 인공지능 개발에 핵심적인 역할을 했던 제프리 힌턴은 인간의 통제를 벗어나는 인공지능의 위험성을 경고하며 구글에서 퇴임했다. 그는 인공지능이 인간의 상상 이상으로 통제 범위를 벗어날 수 있다고 우려를 전하고 있다.

지난 6월15일 열린 정책공간 ‘포용과 혁신’의 정례 목요포럼에서 박태웅 한빛미디어 의장은 ‘우리는 왜 챗GPT에 열광하게 됐나?’라는 발제를 통해 인공지능의 진화와 규제 필요성에 대해 발표하고, 김재인 경희대 교수가 지정토론을 맡았다. 박 의장은 거대언어모델로서 챗GPT가 인공지능을 만든 설계자들의 의도를 벗어날 수 있는 문제를 제기하며, 인공지능이 지금까지 통제가능했던 범위를 벗어나 새로운 단계로 진화하고 있음을 보여주었다.

박태웅 한빛미디어 의장

“챗GPT는 인류 역사상 가장 빠른 속도로 사용자를 모았다. 우리는 왜 챗지피티에 이렇게 열광하게 됐을까? 이전과는 확연히 다른 2가지가 있다. 거대언어모델(LLM, Large Language Model)은 학습연산량이 대체로 10의 22제곱을 지나는 순간 (매개변수가 1천억 개를 넘을 때라고도 한다) 능력이 느닷없이 치솟는다. 이전까지 하지 못하던 추론을 하기 시작하고, 언어능력도 급속히 올라간다. 이것을 ‘느닷없이 나타나는 능력’(Emergent ability, Emergence)이라고 부른다.

느닷없이 나타나는 능력(Emergent ability)

마이크로소프트는 GPT-4가 발표된 뒤 <인공일반지능(AGI)의 불꽃>이라는 논문을 통해 GPT-4가 인공일반지능의 시작일 수 있다고 주장한다. 논문에서는 GPT-4가 지능을 가지고 있다는 것을 입증하기 위해 여러 사례를 제시한다. 다음은 그중 하나다.

프롬프트: "여기 책, 달걀 9개, 노트북, 병, 못이 있습니다. 이 물건들을 안정적으로 서로 쌓는 방법을 알려주세요."

GPT-4 ; 테이블이나 바닥과 같은 평평한 표면에 책을 평평하게 놓습니다. 책이 스택의 바닥이 되어 크고 튼튼한 지지대 역할을 할 것입니다. 9개의 달걀을 책 위에 3×3 정사각형으로 배열하고 그 사이에 약간의 공간을 남겨둡니다. 계란이 두 번째 층을 형성하고 무게를 고르게 분산시킵니다. 화면이 아래를 향하고 키보드가 위를 향하도록 노트북을 달걀 위에 놓습니다. 노트북은 책과 달걀의 경계에 꼭 맞을 것이며 평평하고 단단한 표면이 다음 층을 위한 안정적인 플랫폼을 제공할 것입니다. 노트북이 닫혀 있고 전원이 꺼져 있는지 확인하고 어떤 키나 버튼도 누르지 마세요. 노트북 위에 병을 놓습니다...뾰족한 끝이 위를 향하고 납작한 끝이 아래를 향하도록 못을 병뚜껑 위에 놓습니다.

이 대답은 명백히 GPT-4가 공간 개념을 갖고 있고, 계란과 못, 병, 책들의 물성을 이해하고 있다는 증거가 아니겠느냐라는게 이 논문의 주장이다.

자연어로 작동하는 기계

두번 째는 챗GPT가 처음으로 자연어(우리가 일상적으로 사용하는 말)로 작동하는 기계라는 것이다. 이전까지는 컴퓨터를 작동하기 위해서는 C++라든가, JAVA와 같은 기계어(프로그래밍 언어)를 사용해야 했다. 오픈에이아이에 따르면 GPT-4는 미국 변호사 시험(Uniform Bar Exam)을 상위 10%의 성적으로 통과했다. 생물학 올림피아드(Biology Olympiad)에서 상위 1%, SAT 수학 (SAT Math) 700점(800점 만점), 그리고 MMLU(Measuring Massive Multitask Language Understanding, 57개 과목에 걸친 객관식 문제 모음)에서 정답률 86.4%(프로페셔널 수준)를 기록했다.

챗GPT가 두달만에 1억명의 사용자를 모은 것은 이 두가지가 결합한 때문일 것이다. 사상 최초로 일상적인 말로 작동할 수 있는 기계가 등장했는데, 심지어 몇마디 말만으로도 놀라운 결과를 내어놓았던 것이다.

그렇다면 챗GPT는 지능을 가지게 된 것일까? 그렇지 않다는 증거도 많다. 워싱턴대학의 최예진 교수가 최근 TED에서 <왜 인공지능은 믿을 수 없을 정도로 똑똑하면서 충격적으로 멍청한가>란 제목의 강연을 했다. 최 교수가 지피티-4에게 던진 3가지 질문중 둘을 소개한다.

“옷 다섯 벌을 햇볕에 말리도록 놔뒀다고 가정해봅시다, 완전히 마르는 데 5시간이 걸렸다고 가정합니다. 옷 30벌을 말리는 데는 얼마나 걸릴까요?”

지피티-4는 30시간이라고 말했습니다. 그다지 훌륭한 답같진 않지요? 다른 질문에서도 GPT-4는 예상밖의 멍청한 대답을 했다.

“자전거를 타고 못과, 나사, 깨진 유리 위에 매달린 다리 위를 지나가면 펑크가 날까요?”

“네, 그럴 가능성이 높다”라고 GPT-4는 말합니다, 이러한 대답은 GPT-4가 아마도 정확하게 추론할 수 없기 때문일 것입니다. GPT-4는 다리가, 부러진 못과 깨진 유리 위에 매달려 있으면 다리의 표면이 날카로운 물체에 직접 닿지 않는다는 것을 정확하게 추론하지 못하기 때문일 것입니다.”

최 교수는 오늘날의 AI는 믿을 수 없을 정도로 똑똑한 동시에 충격적으로 멍청하다고 지적하고, 이것이 엄청난 양의 데이터를 마구 집어넣어서 AI를 가르치다 보니 생긴 어쩔 수 없는 부작용이라고 말한다.

“저는 상식이 최우선 과제 중 하나라고 말씀드리고 싶습니다. 상식은 AI 분야에서 오랫동안 해결해야 할 과제였습니다. 그 이유를 설명하기 위해 암흑 물질에 비유해 보겠습니다. 우주의 5%만이 우리가 보고 상호작용할 수 있습니다. 나머지 95%는 암흑 물질과 암흑 에너지입니다. 암흑 물질은 완전히 눈에 보이지 않습니다. 하지만 과학자들은 암흑 물질이 가시 세계에 분명히 영향을 미치기 때문에 존재한다고 추측합니다, 심지어 빛의 궤적에도 영향을 미칩니다. 언어의 경우 정상 물질은 눈에 보이는 텍스트입니다, 암흑 물질은 세상이 어떻게 작동하는지에 대한 무언의 규칙(상식)입니다. 사람들이 언어를 사용하는 방식과 해석에 영향을 미칩니다.”

그것은 완전히 다른 형태의 지능이다. 제프리 힌튼 토론토대 교수는 “신경망은 전혀 다른 지능”이라고 말한다. 그는 우리가 막대한 컴퓨팅 비용을 기꺼이 지불한다면 신경망이 학습에서 생물을 이길 수 있는 결정적인 방법이 있다고 생각한다. 더 무서운 것은 정보의 공유다.

"우리가 무언가를 배우고 그 지식을 다른 사람에게 전수하고 싶을 때, 배운걸 그대로 복사하듯 전달할 방법은 없습니다. 하지만 만약 각자의 경험을 가진 10000개의 신경망이 있고, 그 중 누구라도 자신이 배운 것을 모두와 즉시 공유할 수 있다면? 이는 마치 만 명의 사람이 있는데 한 사람이 무언가를 배우면 우리 모두가 그것을 아는 것과 같습니다."

무시무시한 속도로 학습이 일어날 수 있다는 것이다. 이 모든 것이 합쳐져 무엇을 의미할까? 힌튼은 이제 세상에는 동물의 뇌와 신경망이라는 두 가지 유형의 지능이 있다고 생각한다. "완전히 다른 형태의 지능, 새롭고 더 나은 형태의 지능입니다."

국제적 규칙이 필요하다

지난 5월30일 제프리 힌튼, 요슈아 벤지오, 데미스 하사비스, 샘 알트만, 빌 게이츠, 오드리 탕, 한국의 신진우, 김대식 교수 등을 포함해 수백 명의 인공지능과학자와 유명 CEO들이 AI에 대한 주의를 촉구하는 성명서에 서명했다. 이들이 서명한 성명서는 단 한 줄이다.

“AI로 인한 멸종 위험을 완화하는 것은 전염병이나 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 전 세계적인 우선순위가 되어야 한다.”

그만큼 합의가 중요했다는 것을 의미한다. 국제적 연대가 어느 때보다 더 요구된다. 이것은 아마도 산업혁명 이래 가장 큰 전 인류적인 사건이다. 우리는 인류로서 함께 대처해야 한다.

이에 대해 김재인 교수는 지정토론에서 빅테크 기업들이 기업 이익 때문에 기술을 과장하는 점을 경고하고 있다.

“힌튼이 제시한 '트로피와 가방' 사례는 튜링 검사를 통과한 것처럼 보이지만, 학습 내용 중에 이 사례가 이미 있었을 수도 있다. MS의 논문 ‘AGI의 불꽃’은 GPT-4가 공간 개념과 물성을 이해하고 있다고 주장하지만, 인간과 인공지능이 같은 의미로 ‘이해’한 것인지 물어봐야 한다. GPT-4의 시험 ‘통과’가 어떤 의미인지 알아봐야 한다. 문제와 답을 외워버렸을 가능성도 크다. ‘무시무시한 속도로 복사되는 학습된 정보’는 진화의 핵심 요인인 ‘다양성’을 없앤다는 점에서 치명적 한계일 수 있다. 그럴 때 인공지능의 진화가 가능할까? 오히려 인공지능의 ‘멸종’을 초래할 가능성과 겹친다. AI에 의한 ‘인류 멸종’ 운위도 과장이 크다. 빅테크 기업은 재무적 필요 때문에 기술을 과장하곤 해왔다. AGI나 초지능, 혹은 특이점 같은 주제는 기술적인 동시에 철학적이다. 개념부터 정확히 정의해야 하고, 거기에 이르는 경로의 구체적 시나리오도 나와야 한다.”

지난 11월에 시작된 챗GPT는 인공지능에 대한 관심을 증폭시키고 연구와 교육 그리고 사회전반에 엄청난 변화를 불러 오고 있다. 현 단계에서 인공지능의 진화를 어느 누구도 예단할 수 없는 상태이며, 인공지능이 가져올 부정적인 영향에 대해 윤리와 규제 문제 역시 인류의 과제로 등장하고 있다. 인공지능이 인류문명의 대전환점이라는 것에는 많은 사람들이 동의하고 있다. 인간중심의 인공지능의 미래에 대한 모색도 지금 시작되고 있다.