AI 확산에 따른 제조물책임 문제 I

“---AI라는 새로운 기술이 산업과 생활속으로 확산됨에 따라 EU PLD는 2024년에 AI법, 일반제품안전법 (GPSR)과 함께 패키지 법으로 재탄생되면서 제조물, 제조업자, 손해, 결함이라는 핵심 개념들을 손질하였고 증거공개명령 등을 넣었습니다. 반면, AI LD안은 다시 과실주의로 회귀, AI확산의 불길을 키우면서도 동시에 인과관계 추정이라는 방식 등을 통해 피해자 구제와의 균형점을 찾기 위한 고민을 계속하고 있습니다.---”

  EU는 이미 시행되고 있는 AI법에 맞춰 제조물 전반에 적용될 수 있는 새로운 제조물책임법 (New Product Liability Directive, ‘New PLD’로 약칭)을 2024년 12월 9일에 발효시켰고, 이 법은 무과실책임 (엄격책임) 원칙을 채택하고 있습니다. 또한 AI가 단순한 SW가 아니라 반도체칩까지 포함된 시스템의 개념으로 받아들여지고 있고 (EU AI법은 우리의 인공지능기본법과 달리 AI가 아닌 ‘AI system’만을 정의하고 있음), 그러한 시스템의 활용으로 인해 발생한 손해는 제조물로 인한 것과는 비교가 되지 않을 정도로 국가 경제, 사회, 정치, 군사 등 모든 면에 광범위하게 영향을 미칠 수 있으며, 개인이 입는 피해 또한 정신적으로도 훨씬 오랫동안 지속될 수 있다는 차별점을 근거로 독자적인 AI 책임법 (Liability Directive, 'LD'로 약칭)의 제정 또한 추진되었습니다.

그러나 AI 시스템 확산이 억제되고 혁신적 기술개발, 기업활동 등에 부정적 효과를 미칠 것을 우려하는 반대 목소리도 있기에 AI LD는 아직까지 법으로 최종 채택되지는 않았습니다. 그럼에도 불구하고 2022년 9월에 발표된 이후 계속 논의 중인 AI LD안은 이미 발효된 AI법과 함께 특히 AI로 인한 피해를 예방하고 구제하려는 EU의 패키지 법이라는 점에서 시대적 의미가 있습니다.

결국 AI 시스템을 활용한 제조물과 관련된 책임 문제는 New PLD에 따를 수밖에 없고, New PLD를 EU 국가들이 자국 국내법으로 전환하여야 할 시기는 2026년 12월까지로 못 박음으로써 (따라서 2026년 12월까지 각국 법이 정비되기 전에 EU시장에서 팔리고 있는 제품이나 서비스는 1985년에 만들어진 PLD의 적용을 받게 됨) 인공지능기본법을 통과시킨 우리로서는 New PLD와 관련 법들의 운영, AI LD안 추진 움직임 등도 함께 주시하면서 이에 대비하는 것이 필요합니다.

2. EU New PLD의 주요 특징

2-1. 제조물 개념의 확장

  2000년에 제정된 우리의 제조물책임법은 제조물 개념에 SW도 포함되는지 여부가 확실하지 않은 HW시대의 산물이지만 EU의 New PLD는 제조물 개념에 SW를 명시적으로 포함시킴으로써 응용 SW는 물론이고 확장된 AI 시스템 역시 적용대상이 될 수 있게끔 했습니다. 특히 SW가 제조물에 내장된 상태로 판매되지 않고 독립적으로 (stand-alone) 판매된 것이라도 제조물 개념에 모두 포함시켰고, IoT와 같이 SW가 부분적으로 포함된 경우 및 구글 Workspace처럼 클라우드 서비스 (SaaS)형태로 인터넷 사용 시 제공되는 경우도 제조물 개념에 포함시켰습니다. 또한 교통정보서비스를 받아 작동하는 네비게이션처럼 제품의 안전성을 결정하는 서비스제공 관련 SW 장애는 제조물 장애로 보게 했습니다. 물론 공개 SW는 제외되며, ‘정보’로 분류되는 디지털 파일, e-book이나 소스코드와 같은 것, 그리고 손상된 데이터 자체는 제조물 개념에 포함되지 않도록 했습니다.

2-2. 제조업자 개념의 확장

  EU의 New PLD는 책임 주체인 ‘제조업자’의 범위를 확장하여, ‘economic operator’라는 제목하에 (제8조) SW 개발자는 물론이고 제품의 제작, 공급에 관여한 사업자뿐만 아니라 이용자의 건강상태를 정기적으로 체크하기 위한 센서제품에 의존해 원격건강검진서비스를 제공하는 것처럼 제조물과 일체로 제공되는 서비스의 경우에는 그러한 서비스제공자도 책임을 지도록 했고, 제조업자가 EU 내에 없는 온라인 플랫폼 사업의 경우에는 수입업자, 제조업자의 법적 대리인, 그리고 전통적인 수입업자의 역할을 대체하고 있는 재고관리, 포장, 배송 등을 담당하는 ‘fulfilment 서비스 사업자’까지 포함하고 있습니다.

이러한 확장의 의도는 EU에 AI 시스템이 내장된 제품이나 서비스를 판매하려는 외국 사업자라도 책임을 지는 주체를 EU 내에 지정하도록 하기 위한 것이고, 제조업자를 특정할 수 없는 경우에는 배포업자에게 최종 배상책임을 지움으로써 결국 EU에 AI 관련 디지털제품을 수출하려는 기업은 EU의 New PLD를 따를 수밖에 없게 만들었습니다.

특히 SW 등의 AI 시스템이 계속 업그레이드되고 학습되는 특성을 감안하여, 제품이나 서비스가 시장에 판매된 시점을 기준으로 결함 판정을 하지 않고 지속적인 업그레이드와 학습과정에서 발생한 사후의 결함도 전적으로 제3자의 책임하에 발생한 것이 아닌 한 모두 제조업자의 책임 범위 내에 포함시킴으로써 결국 최초의 SW 개발자도 원칙적으로 무과실배상책임을 지게 하고 있습니다.

실제 SW 개발자는 공개 SW가 아닌 한 라이센스 계약체결시 사전에 자신의 불법행위 책임을 계약조항을 통해 면책 내지는 줄일 것으로 예상되지만 New PLD는 피해자를 보호하려는 법의 취지상 피해자에 대한 직접 면책규정을 허용하지 않고 있습니다 (우리 제조물책임법도 동일함). 다만 SW 관련 제품을 사용한 제조업자가 향후 책임을 지게 될 때 SW 개발자에 대한 제조업자의 구상권 행사를 제한하는 라이센스 계약규정은 혁신적인 개발과 노력이 필요한 SW 산업의 특성상 허용됩니다.

반면, AI LD안은 AI 시스템의 특성상 피고를 특정하는 것부터 기술적으로 어렵기에 AI법상의 제공자 및 이용자의 정의를 그대로 따르면서도 소송을 제기한 당사자뿐만 아니라 손해를 입은 피해자 (potential claimant)까지 별도로 정의를 내리고 있고, 자연인은 물론이고 법인까지 포함하여 원고적격을 확대하고 있습니다.

2-3. 손해 개념의 확장

  EU의 New PLD는 WHO 기준을 참작하여, 의학적으로 인정된 정신적 손해, 데이터의 손상도 손해의 범위에 포함시키고는 있지만 순수한 경제적 손해, 프라이버시와 같은 기본권 침해로 인한 정신적 손해는 제외하는 반면, AI LD안은 AI 활용으로 인해 발생한 특별한 책임문제를 다룬다는 법의 특성상 개인의 순수한 경제적, 정신적 손해 등도 포함시키고 있습니다. 2002년부터 시행되고 있는 우리의 제조물책임법도 불법행위 책임의 성격상 정신적 손해를 당연히 포함시키는 것으로 해석됩니다.

2-4. 결함 개념의 확장

  우리의 제조물책임법이 과실을 입증할 필요가 없이 ‘제조상, 설계상, 표시상의 결함’ 개념을 내세워서 피해자 구제를 수월하게 하였다면 특별히 New PLD는 AI와 디지털 기술의 특징을 고려해, ‘소비자의 안전에 대한 기대치와 EU, 또는 각국 법의 안전기준을 충족시키지 못했을 때’ 제품 결함이 있는 것으로 간주하고 있습니다.

즉 피해자가 해당 제조물이 ‘정상적으로 사용되는 상태’ 에서 피해자의 손해가 발생하였다는 사실 등을 입증한 경우에는 ‘제조물을 공급할 당시 해당 제조물에 결함이 있었고 그 제조물의 결함으로 인하여 손해가 발생한 것으로 추정’하는 것처럼 기존의 제조물책임법은 대체로 제품의 용도에 맞게 사용했는지를 기준으로 제품의 결함 여부를 판정한 뒤 인과관계도 추정케 하는 방식이었고, 1985년에 만들어진 과거의 EU PLD도 소비자가 합리적으로 기대하는 안전을 기준으로 이런 사항들을 고려하여 결함을 판정하였습니다. 그러나 New PLD는 EU와 각국 법이 정하는 안전기준이라는 잣대를 결함 개념에 새롭게 추가함으로써 AI시대에 ‘안전’이라는 법적 고리를 통해 PLD가 개별 산업은 물론, 소프트웨어, 사이버보안 등의 새로운 영역으로 쉽게 확대 적용될 수 있게 한 것입니다.

이에 맞춰 EU는 2024년 12월 AI 시대의 사이버보안 등 새로운 안전기준을 담은 일반제품안전법 (General Product Safety Regulation, ‘GPSR’로 약칭)을 발효시킨 바 있습니다. 따라서 EU에 AI 관련 제품을 수출하는 기업들은 AI법과 PLD는 물론 GPSR, 그리고 안전과 관련된 EU와 각국의 개별 법들도 함께 검토하면서 대비할 필요가 있어 보입니다.

또한 ‘일반인이 기대하는 안전’이라는 잣대의 의미는 제조업자가 제품 판매 시 생각할 수 있는 부작용이나 피해를 제품 표시에 물론 일반인이 기대하는 ‘안전’을 통한 결함 개념도 합리적으로 예측 가능한 사용과 그 영향 등을 단지 다 적어 놓았다고 해서 당연히 면책되는 것은 아니라는 것입니다. 다른 변수들을 고려하여 판정하도록 하였지만 스마트홈 시스템처럼 개별 전자기기들이 상호 연동되어 작동하게 되는 제조물이라면 결함 판정 기준의 범위가 해당 제품에 국한된 안전기준이 아니라 시스템 안전기준에 대한 기대치로 넒어지는 등 신축적으로 운영 되어지게끔 하였습니다. 아울러 AI 시스템의 의사결정과정에 내재된 알고리즘상의 편견, 시스템 업데이트에 따른 위험 등과 같이 예측가능한 것이 아니라 당시의 과학 ⋅ 기술 수준으로는 예측할 수 없는 (unforeseen) 위험으로 인한 것일 때는 결함으로 보지 않고 있습니다.

  AI와 같은 기술 관련 소송에서 승패에 직접 영향을 미치는 것은 입증책임 문제입니다. 우리의 제조물책임법은 2000년에 제정될 때 무과실책임 (엄격책임/strict liability) 주의를 채택하면서 제조업자가 해당 제조물을 공급한 당시의 과학 ⋅ 기술 수준으로는 결함의 존재를 발견할 수 없었다는 사실, 그리고 제조물의 결함이 제조업자가 해당 제조물을 공급한 당시의 법령에서 정하는 기준을 준수함으로써 발생하였다는 사실을 입증함으로써 면책을 받을 수 있는 규정을 두고 있었지만, 2017년 개정을 통해 피해자가 제조물의 결함과 인과관계를 과학적 ⋅ 기술적으로 입증하는데 따른 어려움을 고려하여 ‘결함 등의 추정’ 규정을 신설, 피해자 측에 불리한 지형을 다소 개선한 바 있습니다.

EU의 New PLD는 원고가 과실을 입증할 필요가 없고, 손해, 결함, 그리고 이들 사이의 인과관계만을 입증하도록 하는 엄격책임 원칙을 채택하고 있지만, 법상 증거공개명령을 활용하였음에도 불구하고 결함과 인과관계의 양자 또는 그 중 하나라도 입증하는 것이 과학적 ⋅ 기술적 복잡성 때문에 원고인 피해자에게 ‘지나치게 어려운 경우 (excessive difficulties)’에는 개연성 정도만 입증해도 각국의 법원은 결함과 인과관계의 양자 또는 그 중 하나를 추정하도록 규정함으로써 AI를 활용한 제품 등으로 인한 피해자의 보호를 수월하도록 하였고, 특히 다수의 장치들이 결합된 복잡한 제조물책임 소송에서 피해자에게 유리하도록 했습니다. 물론 우리의 제조물책임법처럼 EU의 New PLD는 제조업자의 면책 규정에서 당시의 객관적인 과학적 ⋅ 기술적 수준으로는 결함을 탐지할 수 없었다는 항변도 가능하도록 함으로써 피해자보호와 제조업자의 책임제한 간의 균형을 나름 맞추고 있습니다. 이에 반해, 유럽 의회는 AI LD 제정 과정에서 AI법상의 ‘고위험’ 영역에 대해서는 과실 여부와 관계없이 손해배상책임을 묻는 엄격책임주의를 채택하여야 한다는 의견을 냈지만, 집행위원회 (Commission)는 AI의 혁신과 발전뿐만 아니라 AI 시스템을 활용하는 중소기업 및 스타트업에 대한 부정적인 파급 효과 등을 고려하여 2022년의 최종 입법제안서에는 과실책임주의를 담았습니다. 다만 피해자가 실제 AI의 활용으로 인한 과실과 인과관계를 입증한다는 것이 어렵다는 점을 참작하여 AI법상의 8개 고위험 영역에 대해 사전절차요건 등을 따르지 않을 경우 인과관계를 추정하는 방식을 제안한 바 있습니다.

3-2. 증거공개명령

  EU의 New PLD와 AI LD안 모두 Directive라는 공통점이 있지만 피해자와 제조업체 (피고)간 입증책임을 둘러싼 정보의 비대칭성을 고려하여, 피해자 (원고)의 타당한 요구가 있을 시 법원은 제조업체 (피고)에게 ‘필요하고 합당한’ 범위 내에서 증거공개를 명할 수 있다는 법 조문을 신설했습니다.

우리 민사소송법상의 문서제출명령제도는 그 활용도가 대단히 낮기 때문에 기술 관련 소송에서 주목을 받지 못하고 있지만, New PLD는 원고가 소송에서 AI의 활용으로 인한 결함 및 인과관계를 입증하는 것이 과학적 ⋅ 기술적으로 복잡하고, 딥러닝 AI의 경우 입력과 출력 사이에 어떤 연산과정을 거쳤는지에 대한 파악이 어려운 소위 ‘Black Box’ 문제 때문에 향후 증거공개명령에 더욱 의존할 수 밖에 없게 된다는 점을 고려하여, 만약 제조업체 (피고)가 법원의 명령에 불응할 경우에는 제품결함에 대한 추정이 이루어지게끔 하는 규정도 만들었습니다. 반면, AI LD안은 AI법에 따른 8개 고위험 영역에 대해서만 일정한 요건이 충족되었을 경우 과실과 손해사이의 인과관계를 추정하도록 하는 규정을 두고 (8개 영역을 제외한 AI 활용 영역에서는 법원의 판단재량에 따라 인과관계를 추정하도록 함) 있습니다.