한겨레

테슬라(CEO) 최고경영자 일론 머스크 등 첨단 기술 기업 최고경영자와 연구자들이 인공지능(AI)이 초래할 위험성을 지적하며 개발을 한시적으로 중단하라고 촉구했다. 1000명 이상 경영자와 연구자들은 29일(현지시각) 대화형 인공지능 ‘챗지피티’(ChatGPT) 등 첨단 인공지능(AI) 개발을 6개월 동안 중지하라는 요구를 담은 공개 서한을 발표했다. 이들은 현재 인공지능 개발이 안전성을 갖추지 못하고 있다며 위험한 군비 경쟁에 비유했다.

머스크도 참여한 비영리단체인 생명미래연구소가 ‘거대 인공지능 실험들을 중단하라: 공개서한’이라는 제목의 이 서한 작성을 주도했으며, 서명에 동참해달라고 요청하고 있다. 머스크를 비롯해 인공지능 개척자인 요슈아 벵기오, 애플의 공동창업자인 스티브 워즈니악, 인류학자 유발 하라리, 2020년 미국 대통령 민주당 후보 경선에 참여했던 앤드류 양 등이 서명에 동참했다.

이들은 “최근 몇달 동안 심지어 발명자 등 모두가 이해하거나, 예측하거나, 안정적으로 통제할 수도 없는 더 강력한 디지털 지능을 개발하려는 통제에 벗어난 경주에 인공지능 연구소들이 갇혀버렸다”며 “우리는 모든 인공지능 연구소들이 지피티4 보다 더 강력한 인공지능 시스템 훈련을 최소한 6개월 동안 즉각 중단하기를 요청한다”고 말했다. “중단은 공개적이고 검증가능해야만 하고, 모든 핵심 관련 인사들이 참가해야만 한다”며 “만약 중단이 즉각적으로 실행될 수 없다면, 정부들이 개입해 활동 중단을 만들어 내야만 한다”고 주장했다.

이들은 “우리는 기계들이 선전과 거짓으로 우리의 정보 창구들을 홍수로 만들게 할 것인가, 모든 일자리를 자동화할 것인가, 궁극적으로는 우리를 능가하고, 우리보다도 똑똑하고, 우리를 쓸모없게 만들고 대체할 수도 있는 비인간적 지능을 개발할 것인지, 우리 문명의 통제를 상실할 위험을 초래할 것이지 우리 자신들에게 물어야만 한다”고 호소했다. 또 “인공지능 연구소들과 독립적인 전문가들은 독립적인 외부 전문가들에 의해 엄격하게 감사와 감독을 받는 첨단 인공지능 설계와 개발을 위한 일련의 공통된 안전 준칙을 공동으로 개발하고 실행하는데 이 중지를 사용해야만 한다”고 밝혔다.

이번 서한은 최근 인공지능 개발 경쟁 속에서 나왔다. 지난해 11월 오픈에이아이(OpenAI)가 대화형 인공지능 챗지피티를 공개해 큰 화제를 모으고 이번 달에는 더 진전된 버전인 지피티4를 공개됐다. 구글도 경쟁 인공지능 시스템을 출시했고, 어도브와 줌 등 다른 기업들도 인공지능 도입에 나서고 있다.

인공지능 개척자로 이번 서한에 대한 서명을 주도하고 있는 요슈아 벵기오 몬트리올대 교수는 기자회견에서 “이런 시스템들이 사회에 위험한 방식으로 사용될 수 있을 정도인 수준까지 도달했다”고 우려했다. 생명미래연구소의 맥스 테그마크 소장은 인공지능 개발을 “군비 경쟁 틀로 보는 것은 유감스럽다”며 “오히려 자살 경쟁이다. 누가 먼저 도착할 것인가는 중요하지 않다. 이는 인류가 전반적으로 자신의 운명에 대한 통제를 상실할 수 있음을 의미한다”고 지적했다.

인공지능 개발 기업들이 이 요청에 응할지는 불투명하다. 인공지능 개발 선두주자인 오픈에이아이의 최고경영자 샘 올트먼은 <월스트리트저널>에 오랫동안 안전성을 우선시했고 지피티4 출시에 앞서 안전성 검사를 6개월 이상 동안 했다고 주장했다. 그는 “우리는 이 문제들을 가장 큰 목소리로, 가장 강도있게, 가장 오랫동안 얘기해 왔다”고 말했다. 마이크로소프트와 구글은 응답하지 않았다.

정의길 선임기자 Egil@hani.co.kr