[해외DS] 거래 조합, EU AI 법 시행 ‘사실상 불가능’하다 주장

BSA, 현재 AI 법안에서 범용 AI 툴 관련 요구 사항 뺄 것을 EU에 촉구 범용 AI 구성 요소 이해 어렵고, 유럽 오픈 소스 개발에 심각한 영향 미칠 것이라 경고 미국 데이터 혁신 센터도 동의, 유럽 기업 비용 부담 수십억 달러 될 것이라 주장

20
pabii research

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 데이터 사이언스 경영 연구소(MDSA R&D)에서 영어 원문 공개 조건으로 콘텐츠 제휴가 진행 중입니다.

사진=AI 비즈니스

전 세계 소프트웨어 제조업체를 대표하는 산업 조합인 소프트웨어연합(BSA, (Business) SoftWare Alliance) 은 현재의 AI 법안에서 범용 AI 툴과 관련된 요구 사항을 뺄 것을 EU에 촉구했습니다.

BSA는 보고서를 통해  “EU의 AI 법이 저위험 AI에 사실상 불가능하고 소급 적용되는 의무”를 부과할 것이라고 경고했습니다.

향후 적용될 EU의 AI 법에 따르면 AI를 개발하는 기업은 시민의 권리와 프라이버시를 위협하는 정도에 따라 AI를 분류해야 합니다. 만약 해당 AI 시스템이 ‘고위험’으로 분류된다면 위험 관리 감독 기능 구현 의무화를 비롯한 엄격한 기준이 적용됩니다.

BSA에 따르면 범용 AI 툴은 광범위하게 정의되기 때문에 해당 시스템을 구성하는 요소를 이해하는 것은 어렵습니다. 구체적으로 BSA는 논문을 통해 “범용 AI와 툴을 개발하는 이들에게 시장 출시 이전에 가능한 모든 용도에 대한 사전 위험 평가를 시행하도록 강제하고, 수명 주기에 따른 준수 의무를 설정한다면 해당 위험 혹은 시장의 니즈 없이는 사실상 불가능한 준수 의무가 만들어진다”고 주장했습니다.

아울러 BSA는 이 법안이 개발자에게 인센티브를 제공하지 않기 때문에 유럽에서의 오픈 소스 개발에 “심각한 영향을 미칠 것”으로 보고 있습니다.

여기서 끝이 아닙니다. BSA는 이 법안이 일반적으로는 AI로 분류되지 않는 소프트웨어까지 확장돼 법의 적용 범위가 AI 기술을 넘어서게 된다고 경고했습니다.

BSA는 “우리는 EU 기관이 범용 AI에 대한 최근의 법안을 거부하고, AI 법이 고위험 AI 사용 사례로 인한 문제를 해결하고 혁신을 지원하는, 즉 AI의 가치 사슬에 대한 위험 기반 접근 방식과 균형 잡힌 책임 할당을 유지하기 위한 정도로만 적용된다는 것을 확실히 하도록 촉구한다”라고 발표했습니다.

지난해 발의된 EU의 AI 법안은 현재 표결을 앞두고 있는데, EU 의회의 의원들은 그 범위의 정의를 두고 다양한 논쟁을 벌이고 있습니다.

많은 이들은 표결이 제 날짜에 이뤄지지 못할 것으로 예상하고 있습니다. 특히 해당 법안에는 법 집행 기관이 공개적으로 접근할 수 있는 공간에서 생체 인식 시스템을 사용하는 것을 비롯해 생체 인식 시스템을 제한하는 내용이 담겨 있는데, 이 부분에서 의견 불일치가 큰 상황입니다. 일부 의원들은 법 집행 기관이 안전장치를 갖춘 상태에서 기술을 사용하는 것을 허용해야 한다고 주장했습니다.

한편 BSA뿐 아니라 다른 단체도 EU의 AI 법안에 문제가 있다며 목소리를 높이고 있습니다. 지난 7월 미국에 있는 싱크탱크인 데이터 혁신 센터(The Center for Data Innovation)는 이 법안으로 유럽 기업이 수십억 달러에 이르는 비용을 부담할 수 있다고 지적했으며, 법안이 지나치게 광범위하다는 점을 비난했습니다.


An industry group representing software makers has called on the EU to remove requirements on general-purpose AI tools in its proposed legislation.

The (Business) Software Alliance (BSA) warned in a paper that the EU AI Act would impose “virtually impossible and retroactive obligations on low-risk AI.”

The EU’s prospective regulation would force businesses developing AI to have systems categorized based on risk to citizens’ rights and privacy. Should a system fall under the ‘high risk’ category, it would be subject to strict obligations, including forced implementation of risk management oversights.

BSA argues that general purpose AI tools are defined broadly, making it difficult to understand what would constitute such a system.

“Requiring developers of general-purpose AI and tools to comply with ex-ante risk assessments before market placement for all possible uses and establishing life cycle-long compliance obligations would create virtually impossible compliance obligations with no corresponding risk or market need,” the paper reads.

The BSA also contends that the legislation would “severely impact” open source development in Europe by disincentivizing developers.

The group further warns that the legislation expands to software not traditionally considered AI — thereby extending the Act’s scope beyond AI technologies.

“We strongly urge EU Institutions to reject the recent proposals on general purpose AI and ensure that the scope of the AI Act maintains its risk-based approach and a balanced allocation of responsibilities for the AI value chain, for a framework that protects fundamental rights while addressing the challenges posed by high-risk AI use cases and supports innovation.”

After being proposed last year, the bill is currently involved in various wrangling by lawmakers looking to define its scope before facing votes.

It already is facing delays over disagreements among EU parliament members over the bill’s restrictions on biometric identification systems, including its use by law enforcement agencies in publicly accessible spaces. Some legislators have argued that law enforcement agencies should be allowed to use the tech with safeguards in place.

The BSA isn’t the only group to take issue with the EU’s AI Act — a U.S.-based think tank said last July that the bill could cost European businesses billions of dollars. The Center for Data Innovation joined BSA in decrying the legislation for being overly broad.

Similar Posts