[해외DS] 백악관, AI 권리장전 발표

AI 개발하며 미국 시민 권리 해치지 않기 위해 채택해야 하는 5가지 원칙 현행 미국 정부 법률 중에 AI 내용 없지만 AI 권리장전도 법적인 효력 없는 권장 목록에 불과 백악관 과학기술정책실 주도, 연구원 등 전문가 자문도 구해

pabii research

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 데이터 사이언스 경영 연구소 (MDSA R&D)에서 영어 원문 공개 조건으로 콘텐츠 제휴가 진행 중입니다.

사진=AI 비즈니스

AI 비즈니스에 따르면 바이든 행정부가 ‘AI 권리장전(Bill of Rights)’, 즉 AI를 개발하면서 인권에 영향이 가는 일이 없도록 하는 일련의 원칙을 공개했습니다.

현재 시행되고 있는 미국의 정부 법률(government legislation) 중에는 AI의 사용과 관련된 것이 없습니다. 따라서 이번 권리장전은 기술이 개인의 권리와 자유에 미치는 영향에 초점을 맞춰 작성됐습니다.

그렇지만 사실 이 AI 권리장전은 원래 버전인 미국 권리장전이나 비슷한 개념이 제안된 EU의 AI 법(AI Act)과 달리 법적 효력이 없습니다. 단순히 구속력이 없는 백서이며 권장 목록에 불과합니다.

AI 권리장전 작성은 백악관 과학기술정책실이 주도하여 ‘인공 지능 시대에 미국 대중을 보호하기 위해 자동화 시스템의 설계, 사용 및 배포의 가이드라인을 만든다’는 목적하에 5가지 원칙이 만들어졌습니다.

백악관은 “AI 권리장전이 기술의 위협으로부터 모든 사람을 보호하고 우리의 최고 가치를 강화하는 방식으로 기술을 사용하는 사회를 만들기 위한 가이드라인이 될 것”이라고 설명했습니다.

다섯 가지 원칙은 다음과 같습니다.

  • 안전하고 효과적인 시스템(safe and effective systems)
  • 알고리즘 차별로부터의 보호(algorithmic discrimination protections)
  • 데이터 프라이버시(data privacy)
  • 통지와 설명(notice and explanation)
  • 인간 대안, 고려 사항 및 대비책(human alternatives, consideration and fallback)

백악관은 이러한 원칙을 정리하기 위해 연구원, 기술 회사 및 전문가의 의견을 구했습니다. 이들은 자동화 시스템이 대중의 권리/기회/중요한 요구사항에 대한 접근에 유의미한 영향을 미칠 수 있는 경우 언제든지 쓸 수 있는 가이드라인을 만들 때 도움이 된 일련의 가치를 창출하는 통찰력을 제공했다고 합니다.

AI 권리장전은 시스템 개발 단계에 통합되도록 설계됐습니다. 안전과 투명성을 보장하면서 알고리즘 차별의 가능성을 줄이기 위해서입니다.


The Biden administration has unveiled an ‘AI Bill of Rights’: a set of principles that should be adopted to avoid impact on civil rights when developing AI.

Given the lack of government legislation on how AI should be used, the Bill of Rights is written to focus on the impact the technology would have on personal freedoms and liberties.

Unlike the U.S. Bill of Rights, the AI version released today does not have the force of law — it’s simply a non-binding white paper. The EU proposed similar concepts in its AI Act, but that is actual legislation and not a recommendation list.

Created by the White House Office of Science and Technology Policy, the document covers five principles that it says should “guide the design, use, and deployment of automated systems to protect the American public in the age of artificial intelligence.”

The White House describes the document as “a guide for a society that protects all people from these threats — and uses technologies in ways that reinforce our highest values.”

Those five principles include safe and effective systems; algorithmic discrimination protections; data privacy; notice and explanation; and human alternatives, consideration and fallback.

To compile those principles, the White House sought insights from researchers, tech companies and experts to create a set of values that “help provide guidance whenever automated systems can meaningfully impact the public’s rights, opportunities, or access to critical needs.”

The principles are designed to be woven into system development to ensure safety and transparency, while also reducing the potential for algorithmic discrimination.

Similar Posts