라. ‘고영향인공지능’과 ‘고위험인공지능’의 구분
가이드라인은 인공지능기본법상 ‘고영향인공지능’ 개념을 사용하면서도, 이와 별도로 위험평가 체계를 통해 고위험 서비스로 자체 분류하고 결정한 인공지능시스템인 ‘고위험인공지능’ 개념을 정의하고 있습니다.
고영향인공지능은 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 인공지능기본법 제2조 제4호 각 목의 영역(예: 채용, 대출심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가)에서 활용되는 것을 의미합니다. 이에 인공지능기본법 제34조 제1항은 고영향인공지능을 사용하는 경우 안전성·신뢰성 확보 의무 등을 부과하고 있습니다. 그런데 가이드라인상 고위험인공지능에 해당하더라도 반드시 인공지능기본법상 고영향인공지능에 해당하는 것은 아닙니다.
특히 고위험인공지능의 경우 사람이 수행하는 의사결정에 보조적인 용도로만 사용함으로써 해당 인공지능시스템이 의사결정을 최종적으로 수행하지 않도록 설계·운영해야 합니다. 따라서 적용 대상 회사는 자사의 AI가 가이드라인상 고위험인공지능 또는 인공지능기본법상 고영향인공지능에 해당하는지 면밀히 검토할 필요가 있습니다.
3. 실무상 유의사항 및 시사점
가. AI 내부통제 체계 구축의 중요성
가이드라인은 인공지능서비스 기획·개발 조직과 독립된 위험관리 전담조직의 설치(거버넌스 원칙), 인공지능 산출물에 대한 최종 책임의 임직원 귀속을 위한 내부 관리체계 구축(보조수단성 원칙), 제3자 IT리스크 관리를 위한 단계별 내부통제 체계 수립(금융안정성 원칙) 등 다양한 측면에서 AI 관련 내부통제 체계 구축의 필요성을 안내하고 있습니다.
금융감독당국은 망분리 규제를 완화하는 등 점진적으로 금융분야에서 AI 활용을 활성화하는 방향으로 나아가려는 것으로 보이나, 동시에 이를 위해서는 강력한 대체 보안수단을 마련하고 AI 내부통제 체계를 구축하는 것이 선행 또는 동시에 이루어져야 한다는 입장으로 이해됩니다.
나. 이사회·경영진 차원의 책무 격상
가이드라인은 자율규제의 형식을 취하고 있으나, AI 리스크 관리를 이사회·경영진의 책무로 명확히 규정하였다는 점에서 금융회사 지배구조에 실질적인 영향을 미칩니다. AI 리스크가 IT·실무 차원의 문제에서 이사회·경영진의 내부통제·위험관리 책임 영역으로 격상되었으며, 이는 「금융회사의 지배구조에 관한 법률」상 내부통제·위험관리 의무와 직접 연계됩니다.
특히 보조수단성 원칙에 따라 AI 산출물에 대한 최종 책임은 임직원에게 귀속되며, 외부·오픈소스 AI를 활용하더라도 면책되지 않습니다. AI 의사결정과 관련하여 상법상 이사의 선관주의의무·감시의무가 확대 적용될 수 있고, AI 도입·운영상 통제 실패가 향후 이사의 책임(손해배상소송, 주주대표소송 등) 문제로 비화될 가능성에 유의할 필요가 있습니다.
다. 향후 규제 환경 변화에 대한 대비
금융위원회는 2026년 하반기부터 TF 등을 통해 금융권 AI 전환(AX) 추진을 위한 제도 개선 필요사항, AI 도입 시 리스크 관리방안 및 AI 에이전트 등 테스트 추진을 위한 시범사업 운영방안 등 세부 과제를 검토해 나갈 계획입니다. 한편, 학계에서는 AI 기본법 및 금융분야 AI 가이드라인 외에 기존의 비(非)AI 모형으로부터 발생할 수 있는 위험까지 포괄적으로 관리할 수 있는 모형위험관리(Model Risk Management) 가이드라인의 도입 필요성도 제기되고 있어, 규제 사각지대 방지를 위한 추가적인 규제 정비 가능성도 염두에 둘 필요가 있습니다.
따라서 가이드라인의 영향을 받는 회사들은 회사의 실무가 가이드라인에 부합하는지 점검하고, 가이드라인을 준수할 수 있는 방향으로 내부통제 체계, 사규, 실무 운영방식을 개선하며, AI 관련 규제 변화에 유의할 필요가 있습니다.
* * *
법무법인(유한) 린의 금융부문 내에 설치된 『디지털자산금융TF』는
디지털자산 및 AI금융 등에 관한 법제와 법적 쟁점을 지속적으로 연구하고
관련 자문을 제공하고 있어 전문성을 갖추고 있습니다.
위 내용과 관련하여 추가적으로 문의할 사항이 있으면
언제든지 『디지털자산금융TF』(02-3477-8585, dongwon.ko@law-lin.com) 로 연락주시기 바랍니다.
|