금융사 AI 신뢰성 들여다본다…금융보안원, 금융특화 평가체계 마련
요약
금융보안원이 금융권 특화 AI 안전성·신뢰성 평가 프레임워크를 개발해 2027년부터 금융사 대상 평가를 실시할 계획임. 이 체계는 AI 모델 성능과 보안 위험 등을 종합적으로 점검해 금융권 인공지능 활용 확대에 따른 리스크 관리를 목표로 함.
핵심 포인트
- • 금융보안원이 국내 최초 금융권 특화 AI 안전성·신뢰성 평가 프레임워크를 개발함
- • 평가 체계는 신뢰성(모델 성능·데이터 품질·공정성·설명가능성)과 안전성(보안위협·공격 대응·자산 보호 등)으로 구성됨
- • 금융위원회와 과기정통부 가이드라인 및 해외 AI 평가 기준을 참고해 평가 항목과 기준을 마련함
- • 2023년 하반기 시범 검증 과정을 거쳐 2027년부터 금융사를 대상으로 공식 평가를 시행할 계획임
- • 금융보안원은 대의원사를 시작으로 점차 전 금융사 대상으로 평가 범위를 확대할 예정임
- • 평가 체계 도입에 따라 금융 업계의 AI 데이터 품질관리와 설명가능성 등 운영 기준에 대한 관심이 집중됨
주요 내용
금융권 AI 신뢰성 평가체계 개발 배경
- • 금융보안원이 금융권 인공지능 전환 가속화에 대응해 AI 안전성·신뢰성 평가체계를 마련함
- • 최근 금융회사의 AI 활용이 핵심 업무까지 확대됨에 따라 발생하는 위험 요인 관리 필요성 대두됨
- ◦ AI 환각과 오작동 문제
- ◦ 보안 사고 등 신종 리스크 발생 우려
- • 망분리 완화 등 금융당국의 규제 혁신이 AI 전환을 촉진하고 있음
평가체계 구성 및 주요 평가항목
- • 평가 프레임워크는 크게 신뢰성 평가와 안전성 평가 두 축으로 나누어짐
- ◦ 신뢰성은 모델 성능 관리, 데이터 품질관리, 공정성·편향성, 설명가능성 평가 포함
- ◦ 안전성은 AI 특화 보안위협, 공격 탐지 및 대응, AI 자산 보호관리, 외부 모델 및 데이터 검증, 기존 보안관리 확장, 보안 검증·운영 관리 항목으로 구성
- • 금융위원회의 금융 AI 가이드라인, 과기정통부 AI기본법과 해외 평가체계를 참고해 세부 기준을 마련함
평가 시행 계획 및 향후 전망
- • 금융보안원이 2023년 7월 온라인 설명회를 개최해 금융사 수요 조사를 실시함
- • 2023년 하반기 중 시범 검증을 거쳐 평가 체계의 실효성을 점검·보완할 예정임
- • 평가 업무는 2027년부터 금융보안원 대의원사부터 시작해 전 금융사로 점진적 확대가 이루어질 계획임
- • 금융업계에서는 평가 체계 도입이 AI 솔루션 운영 기준과 시장 전개에 미칠 영향을 주목하고 있음
- • 예를 들어 솔트룩스와 코난테크놀로지 등 AI 솔루션 제공 업체들이 금융권에 특화된 서비스를 운영 중임
- ◦ 솔트룩스는 고객센터 지능화와 금융 지식관리 AI 솔루션 제공
- ◦ 코난테크놀로지는 온프레미스 기반 맞춤형 생성형 AI 솔루션 공급 추진
금융보안원장의 평가체계 의의 발언
- • 박상원 금융보안원장이 이번 프레임워크가 국내 최초 금융산업 특화 AI 평가 체계임을 강조함
- • AI 서비스의 잠재적 위험을 실질적으로 평가할 수 있도록 기술 평가 항목을 강화한 점을 부각시킴