<사진 출처 : freepik.com>

 

법안의 주요내용

유럽연합 집행위의 ‘디지털 시대에 맞는 유럽’ 프로그램의 부의장인 마르그레테 베스타거는 발표문을 통해 ‘인공지능 신뢰는 있으면 좋은 것이 아니라 반드시 갖추어야 하는 것이다.’라고 말하면서 ‘이 랜드마 크 법안을 통해 유럽연합은 인공지능을 신뢰할 수 있게 만드는 새로운 글로벌 규범 개발을 선도하게 되 었다.’ 라고 선언했다. 이 법이 확정되면 유럽연합 시민이 고객이거나 직원인 어떤 회사의 인공지능 시스템도 그 인공지능의 결정이 영향을 미치는 경우는 이 법에 적용을 받아야 하며, 법을 위반했을 때에는 3천만 유로 또는 글 로벌 매출의 6%까지 (둘 중에 더 큰 쪽을 적용함) 벌금을 불릴 수 있다. 이 벌금은 뒤에 설명할 금지 대상의 인공지능 조항 위반과 학습용 데이터에 대한 조항 위반의 경우에 해당하며, 각 법률 조항 위반에 따라 각각 그 벌금의 규모가 다르다. 집행위가 이 법률 초안을 만들면서 내세운 인공지능 규율 프레임워크는 다음의 특정 목적을 이루어야 한다고 제안했다. Ÿ 유럽연합 시장에 출시하거나 사용하는 인공지능 시스템이 기존의 기본 권리와 연합의 가치를 존중하면서 안전해야 함을 보장해야 한다. Ÿ 인공지능에 대한 투자와 혁신을 활성화하기 위한 법률적 확실성을 보장해야 한다. Ÿ 인공지능 시스템에 적용할 수 있는 기본 권리와 안전 요구사항에 관련한 기존 법률 거버넌스 와 효과적인 집행을 개선해야 한다. Ÿ 적법하고 안전하며 신뢰할 수 있는 인공지능 응용을 위한 싱글 마켓 개발을 촉진하고 시장 분 열을 방지해야 한다. 타이틀 I에서는 이 법률이 적용되는 대상과 범위를 정의하고 있다. 유럽연합 내에서 사용하는 서비스 로 특정 사용 영역을 제한하며, 고 위험 인공지능에 대한 요구사항과 의무, 사람과 상호작용하는 시스템 에 대한 투명성, 그리고 시장 모니터링과 감시에 대한 법칙을 제시하고, 시스템 제공자, 사용자에 대한 정의를 하고 있다. 이 법안에서는 가장 눈에 띄는 부분은 앞에서 언급한 백서에서 제시한 위험 분류를 좀 더 명확히 만 들었는데, 여기에는 용납할 수 없는 위험, 고 위험, 제한된 위험, 최소 위험의 네 범주가 있다. 타이틀 II 에서는 금지 대상의 인공지능, 타이틀 III에서는 건강, 안정, 기본권에 대해 고 위험을 야기할 수 있는 인 공지능에 대한 특정한 규칙을 제시한다.

​

Ÿ 충분한 위험 평가와 완화 시스템 Ÿ 위험과 차별적 결과를 최소화할 수 있는 고 품질의 데이터셋 Ÿ 결과를 추적할 수 있음을 보장하는 행위 기록 Ÿ 시스템에 필요한 모든 정보와 준수를 평가하기 위한 기관의 목적에 필요한 상세한 문서 Ÿ 사용자에게 명확하고 충분한 정보 제공 Ÿ 위험을 최소화하기 위한 사람에 의한 적절한 수준의 관리 Ÿ 고 수준의 견고성, 보안 그리고 정확성

​

특히, 원격에서 이루어지는 모든 생체 인식 시스템은 고위험으로 고려해야 하며 엄격한 요구사항을 따 라야 한다. 이를 공개적으로 접근할 수 있는 장소에서 법 집행 목적을 위해 바로 실행하는 것은 원칙적 으로 금지해야 한다고 말한다. 저위험 인공지능 시스템은 특정한 투명성 의무를 갖는데, 챗봇과 같은 인공지능 시스템을 사용할 때 사용자는 자신이 기계와 상호작용을 하고 있다는 것을 알게 해야 하며, 이런 정보를 통해 계속할 지 아 니면 그만 둘지를 결정할 수 있게 해야 한다. 최소 위험을 갖는 시스템은 인공지능을 이용하는 비디오 게임이나 스팸 필터 같은 것인 것, 이미 이 범주의 시스템은 널리 사용하고 있기 때문에 이번 법안 제안 드래프트에는 포함하고 있지 않는다. 이런 것을 총괄할 수 있는 거버넌스로 집행위는 유럽 인공지능 위원회를 창설해 새로운 법을 감독하 고 시장을 감시할 것을 제안하고 있다. 위원회를 통해 인공지능에 대한 표준의 개발과 구현을 촉진하고 자 한다. 추가로 책임 있는 혁신을 촉진하기 위한 규제 샌드박스와 함께 고위험이 아닌 인공지능 시스템 을 위한 자발적 행동 강령을 제안했다.