한겨레

금융회사는 인공지능(AI) 기반의 금융서비스를 개발·제공할 때 책임있는 윤리원칙을 마련하고 전담조직을 구성하는 등 철저한 내부통제장치를 둬야 한다.

금융위는 8일 도규상 부위원장 주재로 제1차 디지털금융협의회 데이터 분과회의를 열어 이런 내용이 포함된 인공지능(AI) 기반 금융서비스 개발을 위한 ‘금융분야 AI 가이드라인’을 발표했다. 이는 금융권의 에이아이 활용을 활성화하고 에이아이 기반 금융서비스에 대한 신뢰를 제고하기 위한 것이다.

가이드라인은 우선 에이아이 서비스의 책임있는 운영을 위해 에이아이 관련 윤리 원칙 마련, 전담조직 구성, 위험관리정책 수립 등 3중 내부통제 장치를 마련토록 하고 있다. 에이아이 의사결정이 개인의 금융거래계약의 체결·유지에 중대한 영향을 가겨오는 경우, 이에 대한 내부통제·승인 절차 등을 마련하고 별도로 책임자를 지정해야 한다. 또 에이아이가 사람의 의사결정 과정을 대체하는 경우, 필요 시에는 사람에 의한 감독·통제가 가능하도록 시스템을 설계해야 한다.

두번째는 에이아이 학습 데이터에 대한 조사·검증을 하고, 개인신용정보의 오·남용을 방지하는 내용이다. 에이아이 챗봇 ‘이루다’ 개발 과정에서 편향된 데이터, 혐오 발언 등이 정제되지 않고 에이아이 학습에 활용되면서 다양한 차별·혐오발언을 생산한 바 있는데, 금융회사는 에이아이 학습 데이터의 품질을 지속적으로 조사하고 개선하는 시스템을 구축해야 한다. 예컨대, 데이터 출처 파악, 품질 검증, 편향되지 않은 충분한 데이터 확보, 주기적 갱신 등을 해야 한다. 또 사생활 정보 등 민감 정보를 활용하고자 하는 경우, 비식별조치 등 안전한 정보 활용을 위한 조치를 거쳐야 한다. 해당 정보 미사용 시 에이아이 시스템에 성능 저하가 발생하는지, 해당 정보 사용 시 효과와 혜택을 보는 집단은 누구인지 등 정보활용 필요성을 평가하고 재식별·유출 등을 방지해야 한다.

세번째는 불합리한 소비자 차별 등이 없도록 시스템 위험관리 및 공정성을 제고하는 내용이다. 집단간 차별 등 기본권 침해행위가 발생하지 않도록 서비스 특성별 공정성 기준을 설정·평가해야 한다. 네번째는 소비자에게 에이아이 서비스에 대해 충분히 설명하고 권리행사를 보장하는 내용이다. 에이아이를 통해 신용평가, 보험가입 등을 한 경우 설명요구·정정요구권이 있음을 고지해야 한다.

금융위는 이 가이드라인을 준비기간을 거친 뒤 연내 시행되도록 할 계획이다. 또한 금융업권 및 기능·서비스별 특성을 고려해 가이드라인을 구체화한 세부 실무지침도 마련할 방침이다.

박현 기자 hyun21@hani.co.kr