본문 바로가기

광고

광고닫기

광고

본문

광고

국제 국제일반

‘선거의 해’ 딥페이크 활개칠라…오픈AI, 방지 장치 내놨다

등록 2024-01-16 15:48

게티이미지뱅크

세계 76개국에서 선거가 치러지는 올해 ‘챗지피티'(ChatGPT) 제작사인 오픈에이아이(OpenAI)가 15일(현지시각) 이미지·영상 조작 기술인 ‘딥페이크’를 악용한 선거 정보 조작을 막기 위한 대책을 내놨다.

오픈에이아이는 이날 누리집에 ‘2024년 세계 선거에 어떻게 대응하는가’라는 이름의 자료를 올려 챗지피티나 인공지능 이미지 생성프로그램인 달-리(DALL-E)가 만들어낸 선거정보·이미지·동영상에 ‘인공지능이 언제·어디서 만든 정보’라는 출처를 표시하기로 했다. 나아가 올해 초까지 원본 이미지가 수정된 경우엔 제작자가 어떤 프로그램을 통해 작업했는지 확인하는 ‘이미지 찾기 기능’(detect tool)과 저작권 정보 식별 기능(워터마크)도 추가한다.

또 상대 후보자를 비방하는 목적의 이미지를 생성하지 못하도록 달-리가 특정 인물의 이미지 조작을 거부하는 ‘보호장치’가 마련된다. 대화형 로봇이 선거 출마자나 지방정부 행세를 하거나 투표 절차와 선거인 자격 등을 잘못 알려주는 식으로 민주적 절차를 어기는 앱에 대한 신고 기능도 덧붙이기로 했다.

오픈에이아이는 “인공지능 기술이 선거의 공정성을 훼손하지 못하도록 하겠다”고 밝혔다. 앞서 경쟁사인 구글도 자사 챗봇 '바드'에 문제 소지가 있는 선거 관련 질문을 제한하고, 선거 광고에 인공지능 앱 사용 여부를 눈에 띄게 표시하는 등의 대책을 내놓았다.

홍석재 기자 forchis@hani.co.kr

항상 시민과 함께하겠습니다. 한겨레 구독신청 하기
언론 자유를 위해, 국민의 알 권리를 위해
한겨레 저널리즘을 후원해주세요

광고

광고

광고

국제 많이 보는 기사

50년 전에 인간이 갔던 달, 왜 다시 못 가나 1.

50년 전에 인간이 갔던 달, 왜 다시 못 가나

“설마 가짜뉴스죠?”…중국인도 믿기 힘든 윤석열의 반중인식 [현장에서] 2.

“설마 가짜뉴스죠?”…중국인도 믿기 힘든 윤석열의 반중인식 [현장에서]

딥시크가 뭐길래 엔비디아가 대폭락해?…중국 AI 돌풍 3.

딥시크가 뭐길래 엔비디아가 대폭락해?…중국 AI 돌풍

인류 멸망 89초 전…78년 만에 가장 가까워 4.

인류 멸망 89초 전…78년 만에 가장 가까워

셀레나 고메즈, ‘트럼프 이민자 단속 항의’ 오열 영상 올렸다 삭제 5.

셀레나 고메즈, ‘트럼프 이민자 단속 항의’ 오열 영상 올렸다 삭제

한겨레와 친구하기

1/ 2/ 3


서비스 전체보기

전체
정치
사회
전국
경제
국제
문화
스포츠
미래과학
애니멀피플
기후변화&
휴심정
오피니언
만화 | ESC | 한겨레S | 연재 | 이슈 | 함께하는교육 | HERI 이슈 | 서울&
포토
한겨레TV
뉴스서비스
매거진

맨위로
뉴스레터, 올해 가장 잘한 일 구독신청