[해외DS] EU AI 법, 통과에 한 걸음 더 다가가

18일, EU 대사 차원 AI 법 합의 달성 BSA 정책 책임자, 법안 지나치게 광범위해 부정적 영향 우려된다 밝혀 현재는 권고 단계, 유럽 의회 의원들 생체인식 고위험 분류 두고 대립 중

20
pabii research

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 데이터 사이언스 경영 연구소 (MDSA R&D)에서 영어 원문 공개 조건으로 콘텐츠 제휴가 진행 중입니다.

법안 지나치게 광범위하다 지적하는 비즈니스 무역 그룹도 있어

사진=AI Business

회원국 대표들이 합의에 성공하며 EU AI법(AI Act) 제정이 좀 더 가까워졌습니다.

AI Business는 유럽연합(EU) 평의회로부터 지난 금요일(18일) EU 대사 차원의 합의가 이뤄졌다는 사실을 확인했습니다. 다만 구체적인 내용은 공개되지 않았습니다.

합의문은 장관급 공식 승인을 받은 뒤 공개할 수 있다고 하는데, 다가오는 12월 6일 열릴 통신위원회에서 장관 승인이 논의될 예정입니다.

이후에는 이사회와 유럽 의회의 승인 과정이 남아 있습니다.

한편 (Business) Software Alliance(BSA)의 정책 책임자 Matteo Quattrocchi는 이 ‘미래의 법’이 여전히 지나치게 광범위하다고 주장했습니다.

Quattrocchi는 “AI 법은 위험 개념을 중심으로 올바르고 적절하게 구축되었다는 특징을 지닌다.”고 평하며 “BSA는 위험하지 않은 목적으로도 다양하게 이용될 수 있는 시스템에 고위험 의무를 적용하는 것이 유럽의 AI 개발, 배치 그리고 혁신에 부정적인 영향을 미칠 것을 우려하고 있다.”고 덧붙였습니다.

EU AI 법, 뭐가 달라지나?

EU AI 법이 통과된다면 기업이 개발하는 AI의 ‘위험도’를 시민의 권리와 프라이버시를 침해할 가능성에 따라 분류하는 시스템이 구축됩니다.

‘고위험’으로 분류된 AI에는 위험 관리 감독 강제 등 엄격한 ‘의무’가 부과되는데, AI 기반 채용 툴 등이 여기에 해당합니다.

AI 법안은 현재 권고 단계로, 유럽 의회에 제출돼 있는 상태입니다. 채택을 위한 표결은 내년 5월로 예정돼 있습니다.

하지만 예정대로 표결이 진행될지는 불투명한데, 생체인식 관련 조항을 두고 의원들이 첨예하게 대립하고 있기 때문입니다. AI 법은 생체인식을 ‘고위험’ 기술로 분류합니다. 따라서 이 법이 제정되면 법 집행 기관은 사법 기관이나 독립 기관의 승인 없이 공개적으로 접근 가능한 공간에서 이 기술을 사용하지 못하게 됩니다.


But business trade group says legislation is overly broad

The EU AI Act has taken a step closer to becoming law after Member States’ representatives reached an agreement.

The Council of the European Union confirmed to AI Business that an agreement was struck last Friday at the level of EU Ambassadors, although no text has been disclosed.

The agreed-upon text will only be disclosed once formally approved at the ministerial level. The ministerial approval will be discussed by the upcoming Telecommunications Council on Dec. 6.

The legislation also requires approval from the European Parliament alongside the Council, to be transposed into law.

However, Matteo Quattrocchi, director of policy at the (Business) Software Alliance (BSA) argued that the prospective law remains too broad.

“The defining feature of the AI Act is that it is rightly and appropriately built around the concept of risk,” Quattrocchi said. “BSA is concerned that applying high-risk obligations to AI systems that can be used for many different low-risk purposes will adversely affect AI development, deployment, and innovation in Europe.”

What is the EU AI Act?

The prospective regulation would force businesses developing AI to have systems categorized based on risk to citizens’ rights and privacy.

Should a system fall under the ‘high risk’ category, it would be subject to strict obligations, including forced implementation of risk management oversights. An example would be AI-based recruitment tools.

The legislation that has gone through the European Parliament has passed the recommendations stage, following a vote in May.

However, a delay in a vote on adopting the bill is expected as lawmakers are at loggerheads over provisions covering biometric identification systems. The AI Act would categorize these as ‘high-risk,’ with law enforcement agencies barred from using them in publicly accessible spaces without authorization by a judicial or independent body.

Similar Posts