AI 기본법에 따라 국가기관 등은 제품 구매·용역 발주 시 AI 제품·서비스를 우선적으로 고려해야 하므로, 실무적으로는 사업계획 수립·예산 편성·제안요청서(RFP) 작성 단계에서 "AI 대안을 검토했는가"가 내부 결재와 감사의 점검 항목이 됩니다.

다만 유의할 점은 'AI 제품·서비스 확인 제도'가 해당 제품의 성능, 안전성, 신뢰성을 보증하는 인증서가 아니라는 점입니다. 즉 TTA의 기술 심사까지 거치면서 "AI 기술을 활용했는지" 여부를 확인하는 것이기 때문에 AI 제품의 성능, 보안 수준은 조달발주 기관의 책임하에 점검하여야 합니다. 따라서 우선 '고려'에 대한 법적 의무를 외부의 확인제도를 거쳐 해당 조달기관에게 부여했지만 품질, 성능검증의 최종 책임은 구매 기관에게 있기 때문에 '구매 의무'까지 발생시키지는 않습니다. 절차상 우선 '고려' 대상은 KOSA 서류검토 → TTA 기술심사 → KOSA 확인서 발급을 거치게 되고 확인신청 접수 후 최대 45일이내 (30일 범위내의 연장기간 포함; '고시' 제6조)에 절차가 종료됩니다.

한편, 조달참가 신청인이 확인신청을 하기 위해서는 사전에 조달청 목록정보시스템(https://goods.g2b.go.kr)에 목록화 요청을 하여 물품목록번호 (세부품명번호 및 식별번호)를 부여받아야 하고, KOSA의 장은 확인 신청된 제품 또는 서비스가 확인 대상에서 제외되는 제품 또는 서비스인지를 검토하도록 했기 때문에 ('고시' 제4조), 향후 KOSA가 보유한 확인서 목록이 공공 AI 조달시장 진입을 위한 주요 제품 풀(pool) 또는 우선 고려 대상 제품군으로 기능할 가능성이 높습니다.

2. 계약단계

계약 유형별로 보면, ①표준화·반복구매 가능한 제품에 통상적으로 사용되는 다수공급자계약(MAS)의 경우 종전에는 동일 품목에 3개사 이상의 경쟁 구도가 성립해야 계약이 가능했지만 이번 시행령 실시이후 바뀐 조달청 훈령 (제2400호)에 의해 8월1일부터는 2개사 이상으로 완화되고 특히 표준규격 대신 업체 제시 규격이 허용되면서 기존 MAS 시장에 진입하기 어려웠던 초기 AI 제품에 대해 신속 구매가 가능하게 되었습니다. ②구축형·기관 맞춤형 사업에 통상적으로 사용되는 경쟁입찰(총액계약) 경로 경우에는 적격심사에서 확인서 보유 제품에 신인도 가점(기술점수 1.5점)이 부여되는 큰 변화가 있게 됩니다. 적격심사는 통상 소수점 차이로 낙찰이 갈리는 구조여서 1.5점은 사실상 당락을 좌우할 수 있는 크기이며, AI 요소가 없는 경쟁 제품이 구조적 감점을 안게 된다는 의미이기도 하기 때문에 결국 해당 신인도 평가기준이 적용되는 입찰에서는 확인서 보유 여부가 낙찰 가능성에 상당한 영향을 미칠 수 있습니다. ③SW 단가계약 경로의 경우에는 상용SW 제3자 단가계약 등재에 필수였던 납품실적 요건이 3건에서 0건으로 면제되고 적격성 평가시 신용평가 등급도 면제됨으로써 특히 공공 납품실적이 전무한 스타트업에게 실질적 도움이 될 것으로 예상됩니다.

3. 혁신조달 경로의 확장

1) '조달사업에 관한 법'에 따라 조달청장은 조달정책심의위원회 심의를 거쳐 혁신제품으로 지정된 제품에 대해 지원할 수는 있지만 (제27조) 이번의 AI기본법 시행령으로 AI 혁신제품 지정 신청 시 종래의 특허·NET (신기술인증)·NEP (신제품인증) 대신 확인서와 저작권 등록 증빙으로 기술요건을 대체할 수 있게 되었습니다. NET, NEP 모두 공공기관 우선구매 대상 ('중소기업제품 구매촉진법' 등의 근거)이라는 조달상 이점이 있어 기존 제조업체가 확보해 온 경로였고, AI 사업자에게는 접근이 어려웠던 것이 이번 시행령 제정의 배경 중 하나라고 할 수 있습니다.

이에 따라 해당 부처가 아닌 '조달청 주관의 조달경로+ 상용화전 시제품 단계'에서의 혁신제품 지정이 이번 새 시행령상 혁신제품지정 혜택이 집중되는 포인트이고, 만약 9월 혁신제품 제4차 지정 공모시 AI 전용트랙 운영체계가 준비된다면 그러한 새 시행령의 첫 적용 시험대가 될 것으로 전망됩니다.

2) 스타트업 입장에서는 혁신제품으로 지정되면 수의계약 허용 (국가를 당사자로 하는 계약법 시행령 제26조), 시범구매, 구매담당자 면책 등 혜택이 따라오면서 레퍼런스가 확보되어진다는 점에서 실제 매출보다 더 큰 기업가치를 획득하게 되는 이점이 있습니다. 절차상 'TTA를 거친 KOSA의 확인서 → 조달청 주관의 혁신제품 지정 → 수의계약'이라는 긴 3단의 과정입니다.

즉 AI 혁신제품을 입찰 참여하려는 스타트업은 일단 KOSA의 '확인제도'를 거치려 하게 되고 특히 TTA의 기술심사를 받게 되면 AI연산체계가 존재하는가, AI가 제품·서비스에 실제 결합됐는가의 핵심 여부가 검토됩니다. 이런 기술심사 결과를 담은 KOSA의 최종 확인서를 혁신제품 지정을 받기 위해 조달청에 제시하면 혁신제품 심의위원회는 신청제품의 핵심기술이 실제로 구현됐는가, 기술이 충분히 성숙했는가, 실제·공공현장 내지 유사 환경에서 작동 가능한가? 등을 중점적으로 검토하면서 지정여부를 최종 결정하게 됩니다.

3) 조달청의 공급자제안형 혁신시제품 경로를 선택하는 경우에는 통상 TRL (Technology Readiness Level; 기술성숙도) 7～9 수준이 요구됩니다. 따라서 지정을 위한 신청대상 시기는 기술개발과 시제품 완성까지는 끝났고 '상용화 이전 또는 초기 상용화 단계'에 해당되는, 즉 실제 현장에 설치하거나 적용하여 실증할 수 있는 완성된 시제품이 존재하여야 합니다. 다시 말해, 혁신제품 신청의 출발점은 TRL 7 단계이고, 실제 공공현장과 같은 운용환경에서 작동 가능한 시제품이 있는 단계를 의미하게 됩니다.

다만 TRL 요건은 미국에서 HW 개발관리를 위해 개발된 지표이기 때문에 정부 기관 데이터를 이용해 구축 후 성능이 결정되는 AI 제품, 서비스처럼 단일 제품의 완성도를 기준으로 하는 TRL로 서비스 자체의 완성도를 평가하는 것이 맞지 않는 부분이 있을 수 있습니다. 더 근본적으로는 납품후에도 지속적으로 학습, 성능이 발전하게 되는 AI 특성상 일정 시점에서의 '완성도'로 혁신제품의 신청자격을 평가하는 제도는 한계가 있을 수밖에 없습니다. 현재 공공조달 제도상 만약 AI도 납품 시점을 기준으로 '고정된 완성 제품 또는 SW'로 취급하게 될 경우 정작 계약 성립 후 '완성도' 보다 지속적 학습에 따른 변경관리 능력과 성능유지 능력이 더 중요한 AI 특성이 고려되지 못함으로써 자칫 예상하지 못한 부작용들이 발생할 수도 있습니다.

Ⅱ. 입찰 참여 기업의 체크포인트

1. 준비단계

1) 만약 혁신제품 지정의 경로를 통해 조달입찰을 준비하려면 현재의 공공조달 원가산정 방식은 데이터 확보, 모델 학습 등 막대한 R&D 비용을 제대로 반영하지 못해 AI혁신제품을 개발한 기업이 납품을 하더라도 수익성을 제대로 보장할 수 없는 한계가 있습니다. 그러나 무엇보다도 입찰을 준비하면서 혁신제품지정을 받기 위해서는 현 제도상 TRL 7 요건 충족을 해야만 하기 때문에 사전에 공공기관과의 실증 협력이 반드시 필요하게 됩니다. 즉 자사 제품, 서비스에 적합한 조달입찰 경로가 어떤 것인지를 먼저 판단한 후 만약 정식 조달계약이 아닌 시범사업, 실증특례, 지자체 협력사업 등을 통한 구체적 접근 경로의 사전 확보가 필요하다면 상당한 기간을 역산, 체계적 준비가 선행되어야 합니다.

2) 고영향 AI —AI기본법 제16조와 제35조

납품 대상의 AI 서비스 영역이 AI기본법상 고영향 영역에 해당하면 해당 사업자는 AI기본법에 따른 추가 규제를 받게 됩니다. 또한 AI 기본법 제35조는 "국가기관 등이 고영향 인공지능을 이용한 제품 또는 서비스를 이용하려는 경우" 기본권영향평가를 실시한 제품 또는 서비스를 우선적으로 고려하도록 규정하고 있고 시행령 또한 제정되어 있기 때문에 실무적 관심도는 대단히 높지만 아직 관련 고시 (시행령 제28조3항에 따른)는 제정되지 않은 상태입니다.

참고로 우리의 AI기본법은 기본권영향평가를 모든 고영향성 AI를 대상으로 하되 자율적 준수사항으로 규정하고 있지만 EU AI법은 제27조에서 기본권영향평가의 의무 부담을 ①공법상 기관(bodies governed by public law), ②공공서비스를 제공하는 민간사업자, ③부록 (Annex) III 5(b), 5(c)에 해당하는 고위험 AI 이용사업자 (deployer)로 한정하고 있습니다. 특히 세번째인 새로운 고위험서비스에 해당되는 예는 신용도 평가(creditworthiness) 및 생명·건강보험의 위험·가격평가와 같은 것을 들고 있고, EU AI 법은 중요 인프라 AI를 고위험 AI 규율대상에 포함하면서도, 부록III 제2호 중요 인프라 AI에 대해서는 제27조의 기본권영향평가 의무를 적용하지 않습니다. 예를 들면, 자율주행차, 에너지, 물 공급등과 같은 중요 인프라 영역은 EU AI법상 고위험AI 이용사업자의 법적 의무인 기본권영향평가 자체가 적용되지 않습니다.

1) 입찰에 참여하는 AI시스템 공급기업이 가장 먼저 밟아야 할 수순은 확인신청입니다. 올해는 수수료가 무료이므로 조기 신청의 비용 부담이 없지만 KOSA의 '확인서'는 시행령에 의해 납품실적·신용·기술요건(특허 등) 일부를 대체하여 주는 것이지 AI 시스템에 대한 품질·보안 인증의 확인서는 아닙니다. 또한, TTA 기술심사는 "AI시스템이 제품·서비스에 결합되어 기능·편의성·접근성·효율성 등에 활용되는지"를 보는 '실체심사'임을 유의해야 합니다.

따라서 AI기능이 제품, 서비스 기능에 어떻게 내재되고 데이터를 처리하는가 등에 대한 기술문서를 KOSA에의 확인신청 단계에서 함께 제출해야 바로 TTA의 '기술심사'로 이어질 수 있습니다. 입찰공고 후 확인신청을 시작해서는 늦을 수 있으므로, 목표 입찰일로부터 2～3개월 전에는 AI 제품 버전과 제출자료 등을 동결, 준비할 필요가 있습니다.

2) '고시'는 제품 또는 서비스에 AI처리 연산체계가 적용되어 있고, AI 특성을 가지고 있는 것과 같은 일반적 기준을 뛰어넘어 TTA에 의한 기술심사가 ①제품 또는 서비스에 입력된 데이터가 AI처리 연산체계를 거쳐 유의미한 결과 (예측, 생성 등)를 출력할 것, ②제품 또는 서비스의 구조도상 AI 또는 AI기술의 위치가 명확하며, 제품 또는 서비스의 구동 체계와 결합되어 동작할 것, ③AI처리 연산체계가 제품 또는 서비스의 기능, 편의성, 접근성, 효율성 등에 활용되고 있음이 확인 가능할 것, ④AI처리 연산체계가 적용된 주요 기능이 정상적으로 동작할 것, ⑤외부 AI처리 연산체계와 연동된 경우 호출 로그나 응용프로그램 프로그래밍 인터페이스 키(Application Programming Interface Key)를 확인하게끔 요구하고 ('고시' 제5조) 있습니다.

TTA가 진행하는 기술심사의 상기 구체적 기준이 충족되게 되면 KOSA의 장은 해당 결과를 반영하여 신청된 제품 또는 서비스에 AI 또는 AI기술이 활용되었는지 여부를 최종 결정하여 확인서를 발급하게 됩니다. 또한 AI 기술실체를 거짓이나 부정한 방법으로 확인을 받았다가 사후 확인 취소가 되면 ('고시' 제6조), 입찰공고 및 계약조건에 따라 계약 해제·해지, 손해배상 또는 입찰참가자격 제한 등으로 이어질 수 있습니다. 따라서 확인신청 서류와 실제 제품사양의 일치성 여부를 전문 팀이 교차 검증하는 사전 통제절차는 신청준비단계에서 필수입니다.

3. 계약체결

1) KOSA 확인제도는 조달절차에서 AI 제품, 서비스에 대한 특례를 부여한 것이고, 그 가운데 TTA의 기술심사는 해당 기관이 실제 구매해도 되는 제품인지에 대해 AI 활용 여부와 AI 기능의 실질적 기여도를 확인하는 절차이기 때문에 KOSA의 최종 확인서를 받았다고 해서 정확성, 보안성, 신뢰성, 공공업무 적합성이 모두 인증되는 것은 아닙니다. 또한 조달청 주관의 혁신신제품 입찰의 경우에는 TRL을 통해 현장실증, 공공성 및 혁신성까지 인정을 받아야만 합니다.

따라서 AI제품과 서비스업체는 '확인제도'를 통해 조달기관으로부터 우선 고려의 혜택을 받는 대신 상대적으로 기존 법령의 준수 의무를 더 꼼꼼하게 체크하여야 할 추가 부담이 발생할 수도 있습니다. 특히 기술적 전문성이 없는 조달기관의 특성상 발주, 계약단계뿐 아니라 설치, 운영 단계에서도 공급기업이 지속적 의무를 부담하게 될 가능성이 높습니다.

예를 들면, 공공망에 접속되어 운영되어지는 AI제품과 서비스가 국가정보원의 정보보호시스템과 네트워크 장비로 분류되어진다면 최소한 납품 전에는 국가정보원의 검증체계를 통과하여야 하며, 사업자는 해당 AI 제품, 서비스의 인증과 별도로 개별 사업 단위의 보안성 검토 또한 받아야만 합니다. 또한 조달제품과 서비스의 구축 및 운영단계에서는 행정안전부의 보안의무요구에 응해야 합니다. 납품후에도 AI의 특성상 주기적 보안기능 점검 절차 등의 이행의무를 미리 염두에 두어야 합니다.

결국 조달청 주관하의 혁신제품 지정의 경로를 택하여 신제품을 조달 납품하려는 경우까지 포함, AI 제품, 서비스의 입찰 참여기업들은 단순 제품에 대한 조달과는 전혀 다른 차원의 준비시스템을 갖출 필요가 있습니다.

2) 확인제도를 통한 최종 계약체결시 발주 부처가 성능, 보안을 점검하여야 하지만 특히 AI제품, 서비스의 특성으로 인한 위험관리책임이 '납품 후' 공급기업에게 전가되는지의 여부를 계약시 반드시 체크하여야 합니다. 확률적 결과물을 제공하게 되는 AI의 성능을 어떤 기준, 데이터셋으로 검수하고 데이터의 오류, 제공지연 등으로 인한 책임을 어떻게 정할 것인지 검수 단계에서의 체크 이슈외에 특히 AI 시스템의 운영후 결과오류, 보안사고 등으로 인한 관리책임이 최종 계약서에서 조달 낙찰 공급기업에게 일방적으로 전가되지 않도록 유의하여야 합니다.

구체적으로 AI제품, 서비스의 특성상 납품 후 AI 모델의 재학습, 데이터셋 변경, 업데이트 등의 기술적 특성에 따른 후속 확인 절차, 비용 분담등도 계약서에서 꼼꼼하게 고려하여야 하고 만약 해외 AI모델을 사용하여 제품, 서비스화하여 납품하게 된 경우에는 자신이 통제할 수 없는 모델 변경이나 API 중단에 대해서도 공공기관에 서비스 수준을 보장해야만 하는 지의 여부 등도 계약서에서 체크하여야 합니다.