이 장은 기업책임경영 실사 개념을 소개하고, 보다 광범위한 AI 위험관리 정책 환경에 대한 개요를 제시한다. 또한 이 지침의 대상 독자를 서술하고, 위험관리 프레임워크를 탐색하기 위한 도구로서 이 지침을 활용하는 방법을 안내한다.
OECD 책임 있는 인공지능(AI) 실사 지침
개요
AI 개발은 산업혁명이나 인터넷의 등장에 비견될 정도로 사회를 변화시킬 잠재력을 지니고 있다. AI는 단순한 점진적 진보를 넘어, 생산성을 향상시키고 경제적 가치를 창출하며, 보건의료, 제조업, 물류관리 및 공공행정 등 다양한 분야에서 복잡한 과제를 해결할 수 있는 변혁적 기술이다. 이러한 긍정적인 잠재력을 활용하기 위해 OECD는 AI의 기회를 확대하는 한편, 부정적 영향의 위험을 해결하는 책임 있는 AI에 관한 균형 잡힌 접근방식을 제시한다.
책임 있는 AI는 디지털 혁신뿐만 아니라 데이터 공급자, 금융 및 물리적 인프라에도 그만큼 의존한다. 「OECD 다국적기업 기업책임경영 가이드라인 (이하 “다국적기업 가이드라인”)」 (OECD, 2023[1])과 OECD 인공지능 권고(“OECD AI 권고” 또는 AI 원칙) (OECD, 2024[2]) 역시 AI 시스템의 개발과 사용에 관여하는 모든 기업의 역할을 강조한다. 이러한 “가치사슬 전반”에 걸친 접근방식은 공급망 충격과 간섭에 더욱 잘 견디는 안전하고 회복력 있는 AI 가치사슬을 지원할 것이다.
무엇보다도 책임 있는 AI의 개발과 사용은 이해관계자의 참여와 근로자를 최우선으로 고려하여 추진되어야 하며, 해당 기술을 인간의 노동을 대체하는 수단이 아니라 인간의 역량을 강화하는 수단으로 보아야 한다. 근로자와 기타 이해관계자의 유의미한 참여를 보장함으로써, 기업은 AI가 인간의 업무를 자동화로 대체하는 방향이 아니라 인간의 업무를 보완하는 방향으로 활용될 수 있도록 이끌 수 있다.
AI 시스템과 관련된 잠재적 위험을 선제적으로 다루는 것은 신뢰의 토대를 마련하며, 이는 시장 성장과 투자를 크게 가속화할 수 있다. 기업이 이 지침 및 기타 OECD 규범적 문서에서 제시된 모범 사례를 통해 책임 있는 AI 개발과 사용에 대한 의지를 보여줄 때, 투자자, 고객, 규제 당국 및 정책 입안자 사이에서 신뢰를 구축하게 된다. 이러한 신뢰성은 경쟁 우위로 이어질 수 있다. 책임 있는 관행에 대한 평판을 확립한 기업은 자본시장 접근이 더 쉬워지고, 양질의 사업 관계를 유지하며, 규제 환경을 보다 수월하게 파악하고 이에 대응할 수 있다. 책임 있는 AI는 결코 혁신을 저해하는 것이 아니라, 마찰을 줄이고 막대한 평판 손상 및 사회적 피해를 미연에 방지함으로써 오히려 성장을 촉진할 수 있다.
국제 규제 체계가 지속적으로 발전함에 따라, 책임 있고 신뢰할 수 있는 AI는 글로벌 시장 진출에 점점 더 중요해지고 있다. AI 개발과 도입 과정에 피해 예방을 선제적으로 통합하는 기업은 국경 간 사업 확장에 유리한 입지를 선점할 수 있으며, 지역별 요건을 충족하기 위해 시스템을 사후 개조하는 데 소요되는 막대한 비용을 잠재적으로 피할 수 있다. 이러한 미래지향적인 접근방식은 자칫 단순한 규제 준수 비용으로 인식될 수 있는 요소를, 시장 접근 확대를 통해 수익을 창출하는 전략적 투자로 전환할 수 있다.
책임 있고 신뢰할 수 있는 AI의 경제적 타당성은, 기업 고객이 조달 절차에서 점점 더 AI 위험관리를 포함하고 있다는 점을 고려할 때 더욱 분명해지며, 이는 신뢰성이 단순한 윤리적 고려사항을 넘어 사업상 필수 요건으로 자리잡고 있음을 보여준다. 이러한 맥락에서, AI로 인한 피해를 다루는 것은 윤리적 책임과 기업의 이익을 동시에 충족시키며, 책임 있는 혁신이 사회적 편익과 상업적 성공을 함께 이끄는 선순환 구조를 만들어 낸다.
이 지침은 기업의 다국적기업 가이드라인 및 AI 원칙 이행을 지원하기 위한 것이다1. 이 지침은 AI 시스템 가치사슬에 관여하는 다국적2 기업(즉, AI 시스템 개발을 위한 투입요소를 공급하는 기업, AI 시스템 생애주기에서 적극적인 역할을 수행하는 기업, 또는 모든 산업 분야에서 자사의 운영, 제품 및 서비스에 AI 시스템을 사용하는 기업)이 활용할 수 있는 도구로 사용되도록 마련되었다.
이 지침의 목적은 다음과 같다.
AI 가치사슬 내 기업의 혁신, 투자 및 성장을 지원하기 위해, 기업이 야기하거나 기여하거나 또는 직접적으로 관련될 수 있는 실제 및 잠재적인 부정적 영향(즉, 위험)을 선제적으로 식별하고 해결하는 방법과, 다국적기업 가이드라인 및 AI 원칙에서 다루는 주제와 관련하여 AI가 사회에 미치는 긍정적 기여를 활용하는 방법에 관한 명확성을 제공한다.
기업이 기존의 국제, 국가, 다중 이해관계자 또는 산업 주도 AI 위험관리 및 거버넌스 프레임워크를 파악할 수 있도록 돕는다.
다국적기업 가이드라인, AI 원칙 및 기타 국가 또는 국제 AI 위험관리 및 거버넌스 프레임워크 간 정책의 일관성을 촉진하고, 가능한 경우 상호운용성을 강화한다.
서로 다른 관할권에서 AI 위험관리 프레임워크를 위한 공통된 기준점 역할을 한다.
다국적기업 가이드라인에 제시되고 「OECD 기업책임경영 실사 지침 (이하 “기업책임경영 지침”)」 (OECD, 2018[3])에서 구체화된 OECD 실사 프레임워크는 이 지침의 기반을 이룬다. 다국적기업 가이드라인과 관련 OECD 기업책임경영 기준은 기업책임경영을 위한 자발적 원칙을 제공한다. 다국적기업 가이드라인에서 다루는 사항은 국내법 및 국제적 약속의 대상이 될 수도 있다. 특히, OECD 기업책임경영 기준은 「기업과 인권에 관한 UN 이행원칙 (“UNGPs”)」(UN 인권최고대표사무소 (United Nations Office of the High Commissioner on Human Rights, 2012[4]) 및 「다국적기업과 사회정책에 관한 ILO 3자 선언 (ILO Tripartite Declaration of Principles concerning Multinational Enterprises and Social Policy)」 (ILO, 2023[5])에 부합하며 상호보완적이다. 이 지침은 기업책임경영 지침에 담긴 상위 수준의 체계를, 기업이 AI 시스템의 개발 및 사용과 관련된 실제 및 잠재적인 부정적 영향을 식별, 예방, 완화 및 구제할 수 있도록 하는 구체적이고 실무적인 조치로 해석하고자 한다.
신뢰할 수 있는 AI를 위한 국제 협력과 정책 일관성을 지원하고, 적절한 경우 상호운용성에 기여하기 위하여, 이 지침은 기존의 국제 및 국가 차원의 AI 특화 위험관리 프레임워크, 규제 및 기타 이니셔티브를 바탕으로 하여 AI 맥락에서 기업책임경영 지침을 이행하기 위한 실무 예시를 제시한다.
다국적기업 가이드라인을 실제로 이행하는 방법에 대한 자료를 기업에 제공하는 동시에, AI 원칙과의 정합성과 일관성을 보여줌으로써, 이 지침은 여러 관할권에 걸쳐 활동하며 다수의 규제 요건의 적용을 받거나 다수의 자발적 이니셔티브에 참여하는 기업이 이러한 기대에 대응할 수 있도록 지원하는 것을 목표로 한다. 이는 기업이 소비자의 신뢰를 유지하고, 글로벌 시장에서 혁신하고 경쟁할 수 있는 자율성을 확보하는 데 도움이 될 것이다.
다국적기업 가이드라인은 기업이 (1) 자사의 운영을 통해 야기하거나 기여할 수 있는, 또는 (2) 사업 관계를 통해 기여하거나 직접적으로 관련될 수 있는 실제 및 잠재적인 부정적 영향(즉, 위험)을 식별하고 해결하기 위해 실사를 수행할 것을 권고한다.
이 지침의 주요 대상 독자는 아래에서 보다 자세히 설명하는 세 범주의 기업으로 이루어진다. 이에는 AI 원칙에서 설명하는 AI 시스템 생애주기3(즉, 기획 및 설계, 데이터 수집 및 처리, 모델 구축 및/또는 적응, 시험∙평가∙검증∙유효성 확인, 배포, 그리고 AI 시스템의 운영 및 모니터링)에 관여하는 기업이 포함된다. 또한 이 지침은AI 시스템 개발을 위한 디지털, 물리적, 금융적 투입요소를 공급하는 기업 (예: 데이터 주석(annotation) 서비스 제공자, 컴퓨팅 제공자, 클라우드 서비스 제공자, 하드웨어 제조업체 및 투자자), 그리고 다국적기업 가이드라인에서 설명하고 개정된 AI 권고에 부합하는 방식으로 AI 시스템의 판매, 라이선싱, 거래 및 사용에 관여하는 기업에도 적용된다. 여기에는 운영, 제품 및 서비스에서 AI 시스템을 사용하는, 이른바 “기술 부문” 외의 기업도 포함된다.
이 지침에서 제시하는 프레임워크는 다른 소프트웨어 및 기술의 개발과 사용에도 관련될 수 있으나, 이 지침은 특히 AI 시스템에 초점을 맞춘다. AI 시스템은 AI 권고에서 명확히 정의되어 있으며, 첨부된 적요(memorandum) (OECD, 2024[6])에서 보다 상세히 설명되어 있다.
AI 가치사슬에서의 역할과 서로 다른 행위자 간의 사업 관계는 비선형적이며 서로 중첩된다. 마찬가지로, AI 개발 과정 역시 선형적으로 진행되지 않는다. 예를 들어, 일부 AI 시스템 개발자는 하드웨어를 설계 및 제조도 하는 기업일 수도, 데이터 수집이나 데이터셋 주석 작업에 관여할 수도 있다. AI 시스템의 개발과 사용 맥락에서 기업책임경영 실사를 이해하기 위해, 이 지침은 기업이 수행하는4 활동에 따라 기업의 실사 책임을 각기 다른 그룹으로 구분하여 설명한다.
따라서 아래의 세 범주는 엄격하거나 배타적인 것이 아니라, 서로 다른 활동을 수행하는 기업이 실사에 어떻게 접근해야 하는지를 안내하기 위한 것이다. 기업은 여러 그룹에 동시에 해당하는 활동을 수행할 수 있으며, 이에 따라 실사 접근방식을 조정해야 한다. 일부 기업의 실사에서는 자사 운영에서 발생하는 부정적 영향의 위험을 우선적으로 다루는 한편, 다른 기업은 사업 관계에서 발생하는 부정적 영향의 위험을 우선적으로 다룰 것이다.
부정적 영향은 각 그룹에서 설명된 활동과 관련될 수 있다. 이 지침에 수록된 대부분의 예시는 2그룹에 열거된 활동과 관련된 부정적 영향을 어떻게 다룰 것인지에 초점을 맞추고 있지만, 1그룹과 3그룹에 속한 기업도 여전히 자사의 운영, 제품 및 서비스를 통해 발생할 수 있는 부정적 영향을 다루기 위한 실사를 수행할 것으로 기대된다.
1그룹: AI 투입요소의 공급자
이 그룹에 속한 기업은 AI 투입요소의 공급자이다. 이들 기업은 AI 시스템 개발에 투입되는 요소를 제공하며, 일반적으로 AI 시스템 가치사슬의 ‘상위’(upstream) 부문으로 간주된다. 여기에는 AI 생태계에서 투입요소의 제공과 관련된 활동(즉, 위험관리를 포함하여, AI 시스템 생애주기를 이해하고 이에 참여하는 데 필요한 데이터, 코드, 알고리즘, 모델, 연구, 노하우, 교육 프로그램, 거버넌스, 프로세스 및 모범 사례 등의 기술 및 자원)이 포함된다. 이 그룹에는 다음에 관여하는 기업이 포함된다.
데이터 및 데이터 주석 제공
데이터셋 생성 및 큐레이션
오픈소스 라이브러리 및 AI 개발용 소프트웨어 구성요소에 대한 기여를 포함하여 제3자 사용을 목적으로 한 코드의 개발, 조정 및 제공
지표 및 평가 기준 개발
또한 이 그룹에는 AI 시스템 개발을 지원하는 데 필요한 금융, 물류, 행정 및 하드웨어 투입요소의 제공과 관련된 활동도 포함된다. 여기에는 다음과 같은 활동에 관여하는 기업이 포함된다.
자본 제공(예: 금융기관, 벤처캐피털 및 기타 투자자)
디지털 인프라 및 관리 서비스 제공 (예: 컴퓨팅 제공자, 클라우드 서비스 제공자, 디지털 결제 플랫폼, 디지털 노동 플랫폼, 운영체제, 앱 스토어, 보안 소프트웨어 제공자, 기업용 소프트웨어 제공자)
하드웨어 제공(예: 반도체 제조업체 및 유통업체, 네트워크 장비 공급업체, 기타 하드웨어 제조업체)
다만 이 지침은 하드웨어 투입요소의 공급망(예: 원자재 채굴 및 하드웨어 부품 제조)은 다루지 않으며, 이는 별도의 기업책임경영 실사 지침5 대상이다.
2그룹: AI 시스템의 설계, 개발, 배포 및 운영에 적극적으로 관여하는 기업
이 그룹에는 아래에 나열된 AI 시스템 생애주기 활동에 관여하는 기업이 포함된다. AI 시스템 생애주기를 이해하는 것은 모든 기업이 위험을 보다 잘 식별하고, 2그룹에 속한 기업의 사업 관계(business relationship)에 있는 자와 상호작용하는 데 도움이 될 수 있다. 2그룹에는 다음 활동에 관여하는 기업이 포함된다.
시스템 기획 및 설계
모델 구축 및/또는 기존 모델 적용
모델 및 시스템의 시험, 평가, 검증 및 유효성 확인
배포 채널과 관계없이 시스템을 배포6 하는 활동 (오픈소스 소프트웨어 배포 포함)
소비자를 위한 시스템 운영 및 모니터링
또한 2그룹에는 기업별 사용 사례에 맞추어 기존 AI 모델을 조정하고 재배포하는 기업도 포함될 수 있다.
3그룹: AI 시스템 사용자
이 그룹에 속한 기업은 자사의 운영, 제품 및 서비스에서 AI 시스템을 사용하며, 일반적으로 AI 시스템 가치사슬의 ‘하위’(downstream) 부문으로 간주된다. 3그룹에는 금융기관과 ‘실물경제’ 분야의 기업 (즉, AI 시스템이나 기술과 직접적인 관련이 없는 경우를 포함하여, 재화와 서비스를 생산 및 판매하는 기업)이 포함된다.
이 그룹에 속한 기업은 자사의 운영 및 사업 관계 전반에 걸친 보다 광범위한 실사 과정의 일환으로, 자사가 사용하는 AI 시스템에 대한 실사를 고려해야 한다. 이는 해당 기업이 속한 특정 부문에서 해당 AI 시스템으로 인해 제기되는 부정적 영향의 위험을, 해당 기업이 야기하거나, 기여하거나, 또는 해당 기업과 관련될 수 있는 다른 위험과 함께 고려하여 우선순위를 설정하는 것을 의미한다. 예를 들어, 해당 AI 시스템이 중대한 위험과 관련되지 않는 경우, 해당 기업은 AI 시스템과 직접 관련되지 않은 사항을 포함하여 다른 기업책임경영 주제를 조치 대상으로 우선순위를 설정할 수 있다.
AI 시스템은 더 낮은 비용으로 효율성을 높일 수 있는 도구에 대한 접근을 가능하게 하는 방식 등을 통해, 중소기업에 막대한 경제적 이익을 제공할 잠재력이 있다. 또한 중소기업은AI 시스템 개발의 여러 단계에서 중요한 역할을 한다. 기업책임경영 기준에 따라 중소기업 역시 다른 기업과 마찬가지로 실사를 수행할 것으로 기대된다.
다만, 기업책임경영 기준은 중소기업이 대기업과 동일한 수준으로 실사에 관한 기대사항을 이행할 역량을 갖추지 않을 수도 있음을 인정한다. 연구개발, 개념증명(proof-of-concept) 및 자금 조달의 초기 단계에 있는 중소기업은 제한된 자원으로 운영되며, 이러한 자원을 자사의 제품이나 서비스의 상용화에 필요한 더욱 즉각적이고 실질적인 사항에 우선 배분하는 경향이 있다. 따라서 일반적으로 중소기업은 이해관계자 참여, 기업의 사업 관계에 있는 자에 대한 영향력 행사, 그리고 위험 예방 및 완화 조치를 취하기 위해 필요한 비용 부담과 관련하여 기업책임경영을 이행하는데 어려움을 겪을 수 있다.
이러한 어려움을 해결하고 기업책임경영 기준의 이행을 촉진하기 위해, 이 지침은 특히 중소기업이 가능한 경우 협력적 접근방식을 사용하고 산업 이니셔티브에 참여하여(경쟁법에 부합하는 범위에서) 자원을 공동 사용하고, 실사 비용을 줄이며, 부정적 영향의 위험에 대한 정보 접근 및 정보의 조화를 촉진하도록 권장한다. 기업책임경영 기준은 실사의 성격과 범위는 기업의 규모, 해당 부정적 영향에 대한 기업의 관여 정도, 그리고 그 부정적 영향의 심각성에 비례해야 한다는 점도 인정한다. 이러한 현실을 인정하면서, 다국적기업 가이드라인은 중소기업이 과도한 부담의 대상이 되지 않도록 하여, 각자의 역량 범위 내에서 가장 관련성 높은 위험에 집중할 수 있도록 하고자 한다. 아울러 더 나아가, 다국적기업 가이드라인은 대기업이 자사와 사업 관계를 맺고 있는 중소기업의 참여를 우선하여, 중소기업의 실사 절차 수행을 지원하도록 권장한다.
국제적 기대를 충족하는 것 외에도, 기업책임경영 기준을 이행하는 것은 중소기업이 새로운 시장을 개척하거나 자금 조달을 용이하게 할 수 있다. 또한 이는 인재를 확보하거나 유지하는 데에도 도움이 될 수 있다. 더불어 대기업이 점차 기업책임경영 실사 관행을 적용함에 따라, 중소기업이 기업책임경영 기준을 이행하는 것은 대기업의 가치사슬에 편입되기 위한 핵심 요소가 될 수 있다.
중소기업은 협력 네트워크(예: 지역 AI 및 디지털 전환 이니셔티브1 및 지역 기업책임경영 이니셔티브2)를 활용하여, 기업책임경영 및 AI 기준을 이행할 때 추가적인 기술 지원과 명확성을 확보할 수 있다.
주
1. 예: OECD-아프리카연합(AU) AI 대화(OECD-African Union AI Dialogue on AI)
2. 예: 아시아, 중동∙북아프리카(MENA) 및 라틴아메리카에서 진행되는 OECD 글로벌 협력 프로그램
기타 관련 대상 독자
다국적기업 가이드라인은 또한 기업책임경영을 위한 국내연락사무소(“NCPs”)7 에 의존하는 특별한 이행 촉진 및 구제 메커니즘도 가지고 있다. 이 지침은 NCP가 다국적기업 가이드라인의 이행을 촉진하고, 다국적기업 가이드라인 위반 주장 관련 책임성에 대한 의사결정을 내리는 데에도 유용한 참고자료가 될 수 있다.
또한 이 지침은 정책입안자, 규제당국, 국제 기준과의 정합성 확보 지원을 추구하는 산업 주도 및 다중 이해관계자 이니셔티브 등 책임 있는 AI와 관련된 기준을 마련하는 주체들에게도 유용할 수 있다.
기타 관련 대상 독자에는 시민사회단체, 근로자, 근로자 대표, 노동조합, 산업협회, 그리고 데이터 보호 당국 및 부문별 감독기구를 포함한 국가 규제당국 등이 포함될 수 있다.
개발도상국 기업과 정부가 직면하는 이행상의 어려움에는 각별한 주의를 기울여야 하며, 여기에는 역량 강화, 기술 지원, 그리고 현지의 규제 및 제도적 현실에 맞춘 차별화된 지침의 필요성이 포함된다.
마지막으로, 이 지침은 AI 시스템으로 인해 이미 부정적 영향을 받은 또는 잠재적으로 부정적 영향을 받을 수 있는 개인과 집단, 그리고 그들의 대표자에게도 관련이 있다.
AI 시스템의 개발과 사용은 다국적기업 가이드라인에서 다루는 사안에 긍정적인 영향을 미칠 잠재력이 있다. 예를 들어, AI 시스템의 사용은 위험한 작업을 자동화함으로써 산업안전보건 분야를 상당히 개선할 수 있다. 공공행정 분야에서는 스마트 그리드, 스마트 시티 및 연결된 기기에서 AI를 사용함으로써 인프라 유지보수 필요성을 예측하고 교통 흐름을 유도하여 도로 혼잡을 완화하는 데 도움이 될 수 있다. AI는 방대한 양의 데이터를 신속하게 분석하고, 패턴을 인식하며, 예측 모델을 구축할 수 있는 능력을 갖추고 있어, 금융 범죄 탐지, 납치 및 인신매매 대응, 강제노동이나 아동노동 상황 식별, 범죄 현장 분석 등에 중요한 도구로 사용될 수 있다. 보다 광범위하게, AI 시스템 사용은 혁신, 경제 성장, 그리고 인권 증진을 위한 기회를 제공한다.
이러한 긍정적 이점을 실현하기 위해서는 AI 시스템과 관련된 부정적 영향의 위험을 효과적으로 관리하는 것이 중요하다.8 AI 시스템 가치사슬 전체를 고려할 경우, 더욱 폭넓은 범위의 위험이 해당될 수 있다. 예를 들어, 일부 유형의 AI 시스템을 학습하고 사용하는 데 필요한 막대한 전산처리능력(computing power)은 부정적 영향이 있는 것으로 입증되고 있으며 (OECD, 2022[7]), 데이터 보강 서비스와 같이 사람이 수행하는 일부 서비스는 유해한 노동 관행을 야기하고 있다 (Partnership on AI, 2021[8]). 아울러, 많은 신기술과 마찬가지로 공공 및 민간의 악의적 행위자가 AI 시스템을 악용할 방안을 찾아낼 수도 있다. AI 시스템은 이중 용도 가능성이 크고 다른 목적으로 용도 전환(repurpose) 될 수 있기 때문에, 그 설계 의도가 무해하더라도 유해한 사용으로 이어질 수 있다.
다국적기업 가이드라인은 기업이 기술 혁신과 관련된 활동으로 인한 실제 및 잠재적인 부정적 영향에 대해 위험 기반 실사를 수행해야 함을 인정한다. 또한 새로운 기술이나 기존 도구의 새로운 적용법 개발에 관여하는 기업은 책임 있는 혁신을 촉진하는 한편, 기술로 인해 제기되는 부정적 영향과 문제를 사전에 예상해야 함을 인정한다.
AI 시스템의 개발 및 사용과 관련된 위험을 설명하고, 기업이 그러한 위험을 해결하기 위해 취해야 할 조치를 권고하는 다양한 체계가 국제, 지역 및 국가 차원에서 존재한다. 이러한 체계가 포괄하는 위험의 범위는 서로 다르다. 프레임워크 목록은 기업의 실사 노력에서 잠재적으로 관련될 수 있는 다양한 위험을 참고하는 데 도움이 될 수 있으나, 이는 포괄적인 것은 아니며 많은 위험들이 서로 중첩되거나 연관될 수 있다. 아울러, 모든 프레임워크가 모든 기업에 해당되는 것은 아니다. 각 기업은 여기에 열거되지 않은 추가 위험을 포함하며, 자사의 개별적 상황에 맞게 우선적인 위험 영역을 식별할 것으로 기대된다. 이 지침은 시간이 지나도 지속적으로 적용 가능하도록, 특정 위험을 전제로 하지 않는 접근방식을 취한다. AI 시스템 관련 위험에 대한 정책적 관점과 이해가 계속 진화함에 따라, 추후 추가적인 연구를 통해 이 지침은 보완될 수 있다.
이 지침은 또한 신뢰할 수 있는 AI 시스템의 책임 있는 관리와 개발을 가능하게 함을 목적으로 한다. 이 지침의 맥락에서 “신뢰할 수 있는 AI”란 용어는 2024년에 개정된 OECD AI 원칙을 구현하는 AI 시스템을 의미한다 (OECD, 2024[9]). 이는 단순한 원칙이 아니라, 위험을 평가하고 완화 및 예방 책임을 식별하기 위한 기준이 되는 결과물이다.
기업책임경영 실사 프레임워크
다국적기업 가이드라인은 정부가 적극적으로 촉진하고 이행하기로 약속한 기업을 대상으로 한 자발적 실사 프레임워크를 제시한다. 이는 다음의 조치를 제시한다.
1. 기업책임경영을 기업 정책 및 관리 체계에 내재화
2. 기업의 운영, 제품 또는 서비스와 관련된 실제 및 잠재적인 부정적 영향 식별 및 평가
3. 부정적 영향의 중지, 예방 및 완화
4. 실사 활동의 이행 및 결과 추적
5. 부정적 영향을 해결하기 위한 조치의 소통
6. 구제제공 또는 구제협의
출처: OECD (2018[3]), 「OECD 기업책임경영 실사 지침」, https://doi.org/10.1787/15f5f4b3-en.
이러한 단계들은 실사가 사전적 대응과 사후적 대응을 모두 포함하는 지속적인 과정이라는 점에서, 동시에 이루어지며 반복적으로 진행되도록 의도된 것이다. 이러한 단계들은 제2장에서 AI의 개발과 사용 맥락에 맞게 보다 자세히 설명되어 있다.
기업책임경영 실사 프레임워크는 다른 AI 위험관리 프레임워크들과 큰 틀에서 내용상 부합하며 (OECD, 2023[10]), 주요 쟁점들에 관하여 여러 프레임워크와 상당히 중복된다. 이 지침의 각 단계는 기존 AI 위험관리 프레임워크에 존재하는 관련 요구사항을 직접적으로 참조하며, 이에 따라 프레임워크 및 관할권 전반에 걸친 요구사항의 상호 참조 및 일관된 이행을 지원할 수 있다. 기업은 여타 기존 AI 위험관리 프레임워크의 권고사항을 유의미하게 이행함으로써, 기업책임경영 실사 접근방식에서 요구되는 기대사항의 상당 부분을 준수할 수 있다. 일부 영역에서는, 기존 프레임워크에서 포괄적으로 다루어지지 않았던, 특히 이해관계자 참여 및 구제와 관련된 부분에 대해, 기업책임경영 프레임워크가 추가적인 명확성을 제공하고 다른 프레임워크의 부족함을 해소한다.
법적 의무와의 관계
다국적기업 가이드라인은 적용 가능한 법률 및 국제적으로 인정된 기준에 부합하는 기업책임경영에 대한 자발적인 원칙과 기준을 제공한다. 다국적기업 가이드라인에서 다루는 문제는 국내법과 국제적 약속의 대상이 될 수 있다. 다국적기업 가이드라인은 기업의 법정 준수 사항 이상이 될 수도 있는 기업책임경영에 관한 권고사항을 제시한다. 정부의 권고사항은 기업이 법적 책임과 집행의 문제와는 별개로 다국적기업 가이드라인을 준수하는 것이다(다국적기업 가이드라인, 서문 제5항 참조 (OECD, 2023[1])).
다국적기업 가이드라인은 기업이 사업을 수행하는 관할권 및/또는 기업이 소재하는 관할권에서 국내법을 준수하는 것이 기업의 최우선적인 의무임을 명시하고 있다 (다국적기업 가이드라인, 제1장 제2항 참조 (OECD, 2023[1])). 실사는 기업책임경영과 관련된 사안에 관하여 기업이 법적 의무를 준수하도록 지원할 수 있다. 또한 국내법 및 규제가 다국적기업 가이드라인의 원칙 및 기준과 상충하는 관할권에서는, 기업은 실사를 통해 가능한 최대한의 범위 내에서 다국적기업 가이드라인을 이행할 수 있다. 아울러 국내법은 일부 경우 기업에 특정 기업책임경영에 관한 사안에 대해 조치를 취할 것을 요구할 수 있다(예: 미성년자에 대한 온라인 위험과 같은 특정 기업책임경영에 대한 사안과 관련된 법률).
다국적기업 가이드라인에 근거하거나 이를 참조하여 도출된 실사 기대사항은 점차 법적 요구사항에 통합되고 있다. 이 지침은 기업과 정부가 이러한 법적 요구사항의 일부를 어떻게 이행할 수 있는지에 관하여 보다 잘 이해하는 데 도움이 될 수 있으나, 이 지침을 법규 준수를 위한 기준으로 삼아서는 안 된다.
영업상 비밀유지
기업책임경영 실사를 시행할 때에는 상업적 기밀, 영업 비밀, 상업적으로 민감한 정보, 이러한 정보의 공유와 관련하여 적용될 수 있는 경쟁법 상 금지사항, 그리고 지식재산권법에 따라 보호되는 정보에 대해 충분한 주의를 기울여야 한다. 이러한 요소들은 정보공개, 투명성 및 이해관계자 참여의 일부 측면에 대한 정당한 제약이 될 수 있다. 그럼에도 불구하고 기업은 정당한 기밀성 고려사항을 감안하여 기밀성, 경쟁법 및 기타 관련 법적 우려사항을 적절히 고려하면서도, 선의에 기반하여 이해관계자와 유의미하게 소통하고 이들을 참여시키기 위한 노력을 기울일 것으로 기대된다.
경쟁법 준수 하의 기업책임경영 이행
지속가능성 이니셔티브의 일환으로 이루어지는 경우를 포함하여, 경쟁사 또는 사업 관계에 있는 자와 협력하여 기업책임경영 이행을 지원하는 것은 경쟁법이 허용하는 범위 내에서 이루어져야 한다 (OECD, 2015[11]).
다국적기업 가이드라인은 “기업과 기업이 참여하는 협력 이니셔티브는 관할권 내 경쟁법 문제를 이해하고 경쟁법 위반에 해당할 수 있는 활동을 피하기 위해 선제적인 조치를 취해야 한다. 그러나 신뢰할 수 있는 기업책임경영 이니셔티브는 특성상 경쟁법의 목적과 충돌하지 않으며, 이러한 이니셔티브에서의 협력은 일반적으로 경쟁법 위반을 야기하지 않을 것”이라 명시하고 있다(다국적기업 가이드라인, 제5장 제121항 참조 (OECD, 2023[1])).
기업은 협력 활동 및 경쟁법과 관련된 쟁점을 이해하기 위해 다음과 같은 세 가지의 광범위한 실무적 조치를 고려할 수 있다.
경쟁 당국에 자문 요청: 기업은 특정 행위 또는 협력 활동이 경쟁법에 반하는 것으로 간주될 수 있고 그에 따라 규제 위험을 야기할 수 있는지 여부가 불명확한 경우, 경쟁당국에 자문을 구할 수 있다.
투명성 확보: 당국은 행위가 전적으로 비공개로 이루어지는 경우, 경쟁사 간 이니셔티브 또는 합의에 대해 보다 회의적인 태도를 취하는 경향이 있다. 따라서 기업책임경영 이니셔티브에 관한 투명성은 경쟁 관련 우려를 완화하는 유용한 방법이 될 수 있다. 중요한 점은 합의가 실제로 반경쟁적인 경우, 그 합의가 공개적으로 이루어졌다는 사실 또는 이니셔티브를 둘러싼 투명성이 존재한다는 사실만으로는 법의 적용을 면할 수 없다는 것이다. 그러나 투명성은 잠재적으로 문제가 될 수 있는 쟁점을 드러내어, 이를 신속히 해결하도록 하는 데 기여할 수 있다.
기업책임경영 이니셔티브를 준법 프로그램에 통합: 기업은 자사의 행위가 경쟁법상 우려를 야기하는지 여부를 자체적으로 평가할 책임이 있으므로, 관련 위험에 대한 인식과 이를 조직 차원에서 어떻게 관리해야 하는지를 이해할 수 있도록 준법 프로그램 수립 및 이행이 권장된다. 대부분의 대기업은 이미 반독점 준법 프로그램을 갖추고 있을 가능성이 높으며, 이는 기업책임경영과 관련된 특정 협력 이니셔티브의 목적에 맞게 참고하거나 그에 맞게 조정하여 사용할 수 있다.
유의미한 이해관계자 참여
유의미한9 이해관계자 참여, 특히 근로자, 근로자 대표 및 노동조합, 영향을 받은 지역사회, 또는 부정적 영향의 위험에 가장 취약한 기타 이해관계자의 참여는 효과적인 실사를 위해 필수적이다. 이러한 참여는 신뢰할 수 있는 AI 시스템의 개발을 뒷받침한다. 이해관계자 참여는 실사 프레임워크의 모든 단계에 걸친 필수 요소이다. 또한 일부 관할권에서는 이해관계자 참여가 그 자체로 하나의 권리일 수도 있다(예: 의료 분야에서 AI를 적용할 때의 환자 동의, 유럽연합 인공지능법(EU AI Act) 제61조 참조).
또한 유의미한 이해관계자 참여는 기업에 다양한 이점을 제공할 수 있다. 예컨대, 신뢰를 구축하고 위기에 대한 회복탄력성을 제고하며, 시장 및 사회적 기대와의 정합성을 더욱 강화하는 데에도 도움이 된다. 이해관계자가 실사 과정 전반에 걸쳐 참여할 경우, 그들은 어떤 결정이 내려졌는지 뿐만 아니라 왜 그러한 결정이 내려졌는지까지 이해하게 되며, 그 결과 모든 선택에 동의하지 않더라도 절차적 신뢰가 형성된다. 초기 단계에서의 외부 피드백은 중요도가 낮은 위험을 해결을 위해 상당한 자원이 투입되기 전에 접근방식을 조정할 수 있도록 하여 잠재적으로 비용을 절감할 수 있다.
외부의 관점은 서비스가 충분히 제공되지 않은 시장 부문 또는 간과된 사용 사례를 식별하는 데 도움이 될 수 있다. 또한 기업은 AI 시스템 최종 이용자와의 직접적인 소통을 통해 기업의 추측이 아닌 실제 이용자의 요구사항을 밝혀낼 수 있다. 예를 들어, 의료 분야에서 AI 시스템을 개발 및 사용하는 기업은 의료 전문가 및 특정 환자 집단의 대표자들과 협의하는 과정에서, 미미한 정확도 향상보다는 해석 가능성이 더 중요하다는 점을 발견할 수 있다. 아울러 이해관계자의 의견을 반영하여 개발된 AI 시스템은 주요 우려사항이 사전에 해소되기 때문에 도입에 대한 장애요인이 더 적다.
이해관계자는 AI 시스템의 개발 및 사용 전반에 걸친 여러 단계에서 영향을 받을 수 있다. 예를 들어, AI 시스템을 학습시키는 데 자신의 개인정보나 지적재산(IP)이 사용되는 개인, 개발 단계에서 데이터 강화 서비스에 참여하는 근로자, 그리고 AI 연산으로 인한 피해의 영향을 받는 지역사회가 포함된다. 시스템 배포 이후에는, 예를 들어 AI 시스템에 의해 업무가 모니터링되는 근로자, 또는 AI 시스템을 사용하는 정부 서비스로 인해 영향을 받는 개인이 포함될 수 있다.
이해관계자 참여는 예컨대 회의, 공청회, 또는 협의 절차 등을 통해 관련 이해관계자와 양방향으로 상호작용하는 절차를 포함한다. 여기에서 관련 이해관계자는 이 지침이 다루는 사안과 관련하여 권리 또는 이해관계를 가지며, 그러한 권리 또는 이해관계가 기업의 AI 시스템 개발, 배포, 운영, 자금 조달, 판매, 라이선스, 거래 및/또는 사용과 관련된 부정적 영향으로 인해 영향을 받거나 받을 수 있는 개인 또는 집단 및/또는 그들의 적법한 대표자를 말한다.
이해관계자 참여가 유의미하기 위해서는 상호의 노력 위에 이루어져야 하며, 선의에 기반하고 이해관계자의 의견에 적극적으로 반응해야 한다. 이해관계자에게는 시의적절하고, 진실하며, 완전한 정보를 제공해야 하고, 이해관계자에게 영향을 미칠 수 있는 주요 결정이 내려지기 전에 의견을 제시할 기회를 부여해야 한다. 적절한 경우, 부정적 영향을 식별하는 과정에 이해관계자가 적극적으로 참여하도록 하는 것이 특히 중요하다.
AI 시스템의 급속한 개발과 실시간 수정은 기업이 유의미한 이해관계자 참여를 보장하기 위해 현행 관행을 개발하거나 이에 맞게 조정하도록 요구할 수 있다. 이해관계자 참여는 일회성 행사로 간주되어서는 안 되며, AI 시스템 생애주기에 내재화된 지속적인 과정으로 보아야 하고, 관련이 있는 경우 AI 개발 및 사용의 다른 측면(예: 데이터 수집 시 또는 최종 사용 단계)에도 통합되어야 한다. 실무적으로, 기업이 이해관계자를 참여하게 할 수 있는 방법은 여러 가지가 있다.10 이해관계자는 다음과 같은 방식으로 참여할 수 있다.
제품의 목적과 의도된 영향에 관한 내부 논의의 일환으로 참여
제품 설계의 일환으로 참여
데이터셋 큐레이션 및 검증의 일환으로 참여
학습 및 테스트의 일환으로 참여
시스템 사용 과정에서 지속적으로 참여
배포 후 테스트 및 평가의 일환으로 참여
다자 이해관계자 이니셔티브 및 독립 평가 절차를 통해 참여
AI 시스템이 근로자 활동 관리에 사용되는 환경에서, 근로자를 대상으로 하는 정기교육의 일환으로 참여. 근로자가 실사 과정에 유의미하게 참여할 수 있도록, 근로자는 AI 시스템의 역량과 위험에 관하여 정기적으로 최신 정보를 제공받고 안내받는 것이 중요하다.
기업은 이해관계자 참여와 관련하여 시행할 수 있는 기타 메커니즘이 존재하더라도, 근로자가 스스로 선택한 노동조합이나 대표 단체를 설립하거나 가입할 권리를 존중해야 한다. 여기에는 근로자가 스스로 선택한 노동조합이나 대표 단체를 설립하거나 가입하는 선택에 간섭하지 않는 것이 포함된다 (OECD, 2023, 다국적기업 가이드라인, 제5장 제1항(a)).
수백 개의 AI 시스템을 개발하거나 사용할 수 있는 규모가 매우 큰 기업의 경우, 각 AI 시스템 개발 과정의 여러 단계에서 이해관계자를 참여시키는 것이 현실적으로 어려울 수 있다. 중소기업 역시 이해관계자를 참여시키는 데 있어 자원 및 접근성 측면에서의 어려움에 처할 수 있다. 모든 기업은 AI 개발 속도로 인해, 참여 가능한 관련 이해관계자의 가용성이 제한될 수 있는 어려움에 처할 수 있다. 이러한 어려움은 이해관계자 참여를 신중하게 계획할 필요가 있음을 시사한다. 기업은 예를 들어, 상위 수준에서 이해관계자 참여를 진행하고, 그 과정에서 얻은 학습 내용을 제품 수준에 적용한다는 것을 목표로 하는 등, 다양한 방식으로 이해관계자 참여 방식을 선택할 수 있다. 제품별 참여(예: 설계 단계 참여 또는 영향을 받는 이해관계자 참여)는 특정 고위험 상황에서만 실질적으로 가능할 수 있다.
이해관계자가 AI 및 기업책임경영 관련 사안을 충분히 이해하지 못할 경우에도 이해관계자 참여에 어려움이 발생할 수 있다. 이해관계자가 AI 시스템의 기능, 한계 및 잠재적 결과를 이해하게 되면, 이해관계자는 정보에 기반한 결정을 내리고 위험관리 과정에 유의미한 의견을 제시할 수 있다. 이러한 지식은 이해관계자가 사전에 잠재적인 부정적 영향을 식별하고, 책임 있는 개발 및 배포 관행을 촉구할 수 있도록 한다. 기업은 AI 시스템에 대한 교육과 투명한 의사소통에 투자함으로써, 신뢰를 구축하고 협력적 문제 해결을 장려할 수 있으며, 이는 궁극적으로 더욱 효율적인 실사 과정으로 이어진다.
기업과 이해관계자는 자신들에게 실행 가능하고 효과적인 이해관계자 참여 방식을 함께 모색하는 것을 권장한다. 기업은 자사의 활동으로 인해 영향을 가장 크게 받을 가능성이 높은 이해관계자 혹은 그들의 대화 상대의 참여를 우선시해야 한다. 특히, 부정적 영향의 위험에 가장 취약한 이해관계자를 참여시키기 위한 특별한 노력이 필요하다.
이 지침은 기업이 다국적기업 가이드라인, 기업책임경영 지침 및 OECD AI 권고안을 이행하는 데 도움이 되도록 프레임워크를 제공하기 위한 것이다. 또한 이러한 기준과 기타 국제적, 국가적, 산업적 차원의 프레임워크, 이니셔티브 및 위험관리 관련 기타 정보원(특히 특정 위험 또는 사용 사례에 대해 더욱 자세한 정보를 제공하는 상황별 지침)과 병행하여 사용되어야 한다. 이 문서 전반에 걸쳐 다른 정보 출처들도 함께 인용되어 있다.
AI 관련 규제 및 자발적 프레임워크가 국가마다 상이하다는 점을 감안하여, 기업은 자사의 구체적 상황과 자사가 활동하는 규제 환경에 맞추어 실사 조치를 조정할 수 있다. 또한, 이러한 규제나 프레임워크를 준수하는 것은 이 지침의 관련 조항을 준수하는 데에도 종종 기여할 것이다.
이 지침의 사용자는 먼저 핵심 프레임워크와 실무 예시를 읽고 이해한 후, 미주에 인용되어 있는 구체적인 상황별 자료나 OECD.AI 도구 및 지표 카탈로그(OECD.AI Catalogue of Tools & Metrics) (OECD, n.d.[12])에서 이용 가능한 모듈을 참고할 수 있다.
← 1. 「인공지능에 관한 권고」(Recommendation on AI)는 모든 이해관계자에게 관련된 다섯 가지 상호 보완적인 가치 기반 원칙과 정책입안자를 위한 다섯 가지 권고를 제시하며, 이 지침에서는 이를 통칭하여 “AI 원칙”(AI Principles)이라 한다.
← 2. 다국적기업 가이드라인 제1장 제4항은 “이 가이드라인은 다국적기업에 대한 정확한 정의를 요구하지 않는다. 이 가이드라인은 가이드라인의 목적에 따라 어떠한 사업체가 다국적기업으로 판단될 수 있는지를 식별함에 있어서 광범위한 접근방식을 허용하고 있지만, 기업의 구조 또는 활동에 대한 국제적인 특성과 기업의 상업적 형태, 목적 또는 활동이 이러한 측면에서 고려하는 주요 요소이다”라고 명시하고 있다.
← 3. AI 시스템의 생애주기는 일반적으로 기획 및 설계, 데이터 수집 및 처리, 모델 구축 및/또는 기존 모델의 특정 업무 조정, 시험∙평가∙검증 및 유효성 확인, 사용을 위한 제공/배포, 운영 및 모니터링, 운영 종료/폐기 등 여러 단계를 포함한다. 이러한 단계는 종종 반복적인 방식으로 이루어지며, 반드시 순차적일 필요는 없다. AI 시스템의 운영 종료 결정은 운영 및 모니터링 단계 중 어느 시점에서든 이루어질 수 있다. AI 원칙은 AI 시스템 생애주기에 관여하는 기업을 “AI 행위자”(AI actors)로 지칭한다(OECD, 2024[2]).
← 4. 활동을 기준으로한 분류는 OECD 보고서 「AI 분야에서의 책임성 강화」(Advancing accountability in AI) (OECD, 2023[17])에서 마련되었으며, 이후 후속 초안 보고서인 「AI 분야 기업책임경영과 관련된 행위자, 쟁점 및 용어의 체계화 및 통합 초안」(Draft mapping and consolidation of relevant actors, issues, and terminology for Responsible Business Conduct in AI) [DSTI/CDEP/AIGO(2023)12]에서 추가로 구체화되었다. 이 후속 초안 보고서는 2022년 11월 AIGO 및 WPRBC 회의에서 논의된 바 있다.
← 5. 원자재와 관련된 위험 해결에 관한 추가 정보는 「OECD 책임 있는 광물 공급망을 위한 실사 지침」(OECD Due Diligence Guidance for Responsible Supply Chains for Minerals) (OECD, 2016[40])을 참조하면 된다. 전자 및 차량 제조와 관련된 위험 해결에 대한 추가 정보는 「전자 및 차량 제조 산업에서의 실사」(Due diligence in electronics and vehicle manufacturing) (OECD, 2025[39])를 참조하시오.
← 6. ‘배포’(deploy)라는 용어는 AI 원칙과 유럽연합 인공지능법에서 서로 다른 의미로 사용된다. AI 원칙에서의 배포는 AI 시스템을 사용할 수 있도록 제공하는 것으로 이해할 수 있다. 반면 유럽연합 인공지능법에서는 “배포자란 AI 시스템이 개인적이고 비전문적인 활동 과정에서 사용하는 경우를 제외하고, 자신의 권한 하에서 AI 시스템을 사용하는 자연인 또는 법인, 공공기관, 기관 또는 기타 단체를 말한다” (European Union, 2024[14])고 규정한다. 유럽연합 인공지능법상의 배포자에 대한 정의는 본 지침에서 ‘3 그룹: AI 시스템 사용자’로 설명하는 범주에 더욱 가깝다.
← 7. 국내연락사무소(NCPs)는 홍보 활동 수행, 문의 처리, 그리고 이의신청 사건에서 다국적기업 가이드라인 이행과 관련하여 제기되는 쟁점 해결에 기여함으로써, 다국적기업 가이드라인의 효용성을 제고할 의무를 가진다. 개인 또는 단체는 기업의 전 세계 어느 지역에서의 운영과 관련된 사안이라도, 해당 기업이 활동하거나 소재한 국가의 NCP에 이의신청(사건)을 제기할 수 있다. NCP는 당사자들이 쟁점을 해결할 수 있도록 조정이나 중재와 같은 합의에 의한 비당사자주의적 절차에 대한 접근방식을 촉진한다. NCP는 이의신청 절차를 종결하는 경우 최종 성명을 발표해야 한다. 또한 NCP는 해당 이의신청의 구체적 상황에 따라 권고를 제시할 수 있다. NCP 절차, 개별 NCP 또는 이의신청 사건에 관한 정보는 「OECD 다국적기업 기업책임경영 가이드라인」에서 참조할 수 있다 (OECD, 2025[39]).
← 8. 다국적기업 가이드라인은 또한 “기업은 소수성, 취약성, 또는 기타 상황으로 인해 더 큰 위험에 노출될 수 있는 개인(예: 인권옹호자)으로서 혹은 원주민을 비롯한 특정 집단이나 인구집단의 일원으로서 개인에 대한 부정적 영향에 특히 주의를 기울여야 한다. 「OECD 기업책임경영 실사 지침」(Due Diligence Guidance for Responsible Business Conduct), 「OECD 채굴 부문의 유의미한 이해관계자 참여에 관한 실사 지침」(Due Diligence Guidance on Meaningful Stakeholder Engagement in the Extractive Sector), 「OECD-FAO 책임농업공급망 지침」(Guidance for Responsible Agricultural Supply Chains)을 비롯한 여러 OECD 실사 지침에 자유의지에 따른 사전인지동의(Free, Prior and Informed Consent, FPIC) 관련 지침 등 이와 관련된 자세한 실용적 지침이 제시되어 있다. 여러 UN 문서는 원주민(UN 원주민권리선언, UNDRIP)에 대한 권리에 대해 자세히 논하고 있다.”고 명시한다(해설 45).
← 9. 유의미한 이해관계자 참여가 되기 위해서는, 그 참여가 양방향으로 이루어지고 선의에 기반하여 이루어지며 이해관계자의 견해에 반응하는 방식이어야 한다. 이해관계자에게는 진실하고 완전한 정보가 제공되어야 하며, 그들에게 영향을 미칠 수 있는 중대한 의사결정이 이루어지기 전에 의견을 제시할 적시의 기회가 부여되어야 한다(참조 (OECD, 2018[3])).
← 10. AI 기반 제품 및 서비스를 설계할 때 이해관계자의 유의미한 참여를 어떻게 보장할 것인지에 관한 추가 정보는 「AI 개발 과정에서 외부 이해관계자의 유의미한 참여를 위한 ECNL 프레임워크」 (European Center for Not-for-Profit Law, 2023[38])를 참조.