[해외 DS] 유럽연합, AI 법안에 한 걸음 더 다가서다

유럽 의회, AI 권고안 통과시켜 인공지능이 글로벌 디지털 경쟁에서의 게임 체인저 역할 할 것으로 기대 생체 인식 기술에 대한 논란으로, 실제 법안 실효되기에는 최대 1년 이상 지체될 것으로 보여

20
pabii research

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 데이터 사이언스 경영 연구소 (MDSA R&D)에서 영어 원문 공개 조건으로 콘텐츠 제휴가 진행 중입니다.

사진=AI 비즈니스

생체 인식 기술 사용에 대한 논란이 여전히 지속되고 있습니다.

최근 유럽 의회는 글로벌 기술 경쟁에서 EU가 뒤쳐지고 있다는 의원들의 경고에 AI 사용에 대한 권고안을 통과시킨 바 있습니다.

Members of European Parliament(이하 MEP)는 디지털 시대 인공지능 특별위원회(이하 AIDA)의 권고안을 통과시키기 위해 찬성 495표, 반대 34표, 기권 102표로 해당 안을 가결했습니다.

권고안은 건강 및 의학, 환경 및 기후 변화와 관련된 인공지능을 다루는 정책이 포함되었습니다.

이에 의회 관계자 A씨는 “권고안 통과를 통해 관련 인프라 구축을 통해 인공지능 산업을 발전시켜 자본 및 노동 생산성을 제고하고,  지속 가능한 성장 및 일자리 창출을 기대한다”고 밝혔습니다.

하지만 일각에서는 EU가 AI시스템을 위험으로 인식하고, 규제 개입의 수준을 높여야 한다는 목소리도 나오고 있습니다.

한 유럽 연합 정치권 관계자에 따르면, “권위적인 정권이 인공지능을 활용하여 유럽 시민의 자유를 제한하려는 의도가 다분하다”며 AI 권고안 가결에 대한 부정적인 입장을 내비쳤습니다.

 AI, 글로벌 디지털 경쟁에서의 게임 체인저 역할 할 것

독일 MEP 의원 Axel Voss는 해당 권고안 투표 직후 “인공지능은 글로벌 디지털 경쟁의 게임 체인저가 될 것”이라고 전했습니다. 이어 그는 “EU는 이제 AI에 대한 인간 중심적이고 신뢰할 수 있는 접근 방식을 촉진할 수 있는 인프라를 가지게 될 것이다”라며, “이번 권고안은 AI가 사회 전체에 가져올 수 있는 혜택을 최대한 활용하면서 인간의 기본권을 보장할 수 있을 것”이라고 밝혔습니다.

또한 AIDA 위원회 의장 Dragoş Tudorache는 “이번 가결된 AI 권고안은 권위주의를 타파하고, 인공지능을 통해 유럽 민주주의의 승리를 이끌어낼 수 있는 가장 확실한 수단 중 하나”라고 밝혔습니다.

가결된 AI 법안, 실효되려면 최소 1이상은 기다려야

지난 2020년 9월, AIDA 위원회는 인공지능이 유럽 경제에 미치는 영향을 조사하고, 제 3국에서 인공지능을 어떻게 활용하는지 분석하는 업무를 배정받은 바 있습니다. 

AI 권고안 통과와 함께, 위 조사 결과는 유럽연합의 AI규제 방식을 담은 ‘AI 법안’을 제정하는데 사용될 것으로 밝혀졌습니다.

현재 형태로 예상되는 법안은 AI 위험 수준을 4단계로 정의하고, 위험 수준이 일정 이상을 넘어가면 해당 AI 시스템을 법적으로 금지하는 것입니다. 위험 수준으로는 ▲수용할 수 없는 위험(사용 금지) ▲고위험(중요 인프라 및 취업・교육 등에 관한 시스템 포함) ▲제한된 위험(자신을 AI로 인식하는 챗봇과 같은 ‘특정 투명성 의무’가 있는 시스템 포함) ▲최소 위험 또는 무위험(AI지원 게임 및 필터 기술 등 대다수 시스템)등이 있습니다.

그러나 현재 Voss를 포함한 다수의 의원들이 해당 법안에 불만을 드러냈고, 이에 따라 AI법안이 실효되기까지는 시간이 더 지체될 것으로 예상되고 있습니다. Voss는 기본적인 법 시행은 국가 규제 기관에 맡기지만, 특정 인공지능에 대한 응용 여부는 위원회에 맡기는 ‘중앙 집중식 하이브리드’ 접근 방식으로 AI 시스템을 대해야 한다고 주장했습니다.

AI 적용 분야 중 가장 논란이 되는 부분은 안면 인식과 생체 인식 분야입니다. 현재 AI 법안은 모든 생체 인식 시스템을 ‘고위험’으로 간주하고 있습니다. 이는 법 집행 기관이 공개적으로 접근 가능한 공간에서 AI 시스템을 금지하는 것을 포함합니다.

한편 사법 또는 독립 기관이 승인한 특정 목적의 AI 생체 인식 시스템은 금지가 면제될 수 있습니다.

지난 2022년 2월에 나온 보고서에 따르면, AI 법안을 두고 지속되는 MEP간의 논쟁으로 인해 법안의 통과가 최대 1년까지 지연될 것으로 예상됩니다.


MEPs are still wrangling over biometric tech uses.

The European Parliament has passed recommendations on uses for AI as lawmakers warn the EU is falling behind in the global tech race.

MEPs voted 495 votes to 34, with 102 abstentions, to pass the recommendations from the Special Committee on Artificial Intelligence in a Digital Age (AIDA).

The recommendations include policy options covering AI related to health and medicine, the environment and climate change.

It said that with the necessary support infrastructure, education and training AI can increase capital and labor productivity, innovation, sustainable growth and job creation in the EU.

However, it also said that the EU should not always regulate AI as a technology – with MEPs instead recommending that the level of regulatory intervention should be proportionate to the type of risk associated with the particular use of an AI system.

The text warned against allowing for the proliferation of technologies used in mass surveillance, arguing that “authoritarian regimes” are applying AI to “rank their citizens or restrict freedom of movement.”

While no explicit mentions were made, this could be in reference to accusations that the Chinese government deployed AI systems from vendors including SenseTime and Yitu Technologies to track Uighur Muslims in the state of Xianjing.

As such, EU Parliamentarians called in its recommendations for international cooperation with “like-minded partners” to safeguard fundamental rights while also minimizing new technological threats.

AI a ‘game-changer in global digital competition’

German MEP Axel Voss, formerly the rapporteur of the EU’s controversial Copyright Directive, is the lead lawmaker on the European Parliament’s AI push.

Following the vote, he described AI as a “game-changer in global digital competition.”

“The EU now has the unique chance to promote a human-centric and trustworthy approach to AI. One that is based on fundamental rights, which manages risks while taking full advantage of the benefits AI can bring to the whole of society,” Voss added.

Joining Voss was AIDA Committee chair Dragoş Tudorache, who said that passing AI rules successfully is “paramount, as the struggle between authoritarianism and democracy is becoming more and more acute – and unfortunately more deadly, as we have seen with Russia’s unjustified invasion of Ukraine.”

Vote success – but AI Act is still at least a year out

The AIDA Committee started work back in September 2020. It was tasked with exploring the impact of AI on the EU economy and analyzing the approach to AI in third countries.

Following this vote, the findings will be used in the ongoing formation of the AI Act – the bloc’s attempt to regulate AI systems.

In its current form, the prospective legislation would see all AI systems deployed in the EU would be categorized in terms of their risk to citizens’ privacy, livelihoods and rights – with harsh restrictions or outright bans for those in higher-tier categories, like AI-based recruitment tools.

However, that piece of legislation continues to face delays as lawmakers, including Voss, are among a group of disgruntled MEPs unhappy over the bill. He joined calls for a “centralized, hybrid” approach where the basic implementation is left to national regulators and certain applications and impacts left to the Commission.

One of the most wrangled over applications is facial recognition and biometric systems. The prospective AI Act deems all remote biometric identification systems ‘high-risk.’ Further compounding this is a ban on law enforcement agencies from using such systems in publicly accessible spaces.

The prohibition does have some exemptions, with such systems only to be used in certain circumstances, with authorization by a judicial or independent body required.

Arguments and wrangling among MEPs could delay the passing of the AI Act by as much as a year, reports from back in February suggest.

Similar Posts