[해외DS] 윤리적 AI, 기업의 마케팅 상술인가?

AI 비즈니스, 미국 AI 자문위원회 위원 및 SAS 데이터 윤리 관행 책임자 레지 타운센드와 인터뷰 타운센드, SAS가 윤리적 AI 주목하는 건 장기적 지속 가능성 추구와 직원의 관심 때문이다 AI가 직면한 가장 큰 문제는 “일반 대중의 인식”, 업계 종사자들이 정보를 대중과 공유해야 한다

20
pabii research

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 데이터 사이언스 경영 연구소(MDSA R&D)에서 영어 원문 공개 조건으로 콘텐츠 제휴가 진행 중입니다.

사진=AI 비즈니스

윤리적 AI, 사회적으로 수용 가능한 AI, 책임감 있는 AI. 이들은 전부 더 공정하고, 더 큰 대표성을 지닌 인공 지능을 뜻합니다. 최근 많은 이들이 여기에 주목하고 있습니다.

몇몇 테크 대기업들은 이미 행동에 나섰습니다. 마이크로소프트는 얼굴 및 감정 인식 도구의 사용을 철저히 조사하겠다고 약속했습니다. IBM은 사내 AI 윤리 위원회를 설치했고, 메타(Meta)는 AI 연구원에게 OPT 언어 모델을 검토해서 일부 유해한 행동을 제거하도록 지시한 바 있습니다.

하지만 기업의 이런 행동은 과연 진심에서 나온 것일까요? 순전히 냉소적인 마케팅 속임수, 그러니까 잠재적으로 고객을 끌어들이기에 유리하다는 판단에서 나온 선택은 아니었을까요?

AI 비즈니스는 이런 의문을 가지고 미국 AI 자문위원회 위원이자 SAS(데이터 분석 소프트웨어 SAS로 유명한 글로벌 분석 솔루션 제공 기업)의 데이터 윤리 관행 책임자인 레지 타운센드(Reggie Townsend)와 이야기를 나눴습니다.

타운센드의 설명에 따르면 SAS는 책임감 있게 AI에 접근하는 것을 시장 경쟁 차별화 요소가 아닌 직원 유지 방안으로 인식하고 있습니다. 그는 “우리는 이익보다는 사람 중심의 접근 방식을 취했다”며 “전사적 차원에서 AI의 윤리적 딜레마를 평가해야 할 것”이라고 말했습니다.

SAS에서, 사랑을 담아

타운센드는 회사가 오직 마케팅을 위해 윤리적인 AI 시스템을 내놓는다는 개념에 유감이라며 “언론은 그런 생각을 제가 실제로 업계에서 봤던 것보다 부풀려서 보도하고 있다”고 말했습니다. 회사가 일반인의 생각보다 윤리적 AI에 진심이라는 겁니다.

타운센드는 현실에서 회사가 윤리적 AI에 접근하는 방식이 진정한지에 대한 의문을 제기하는 대신 ‘재고 조사’로 눈을 돌렸습니다. 회사가 어떤 행동을 하는지 보겠다는 건데요, 그에 따르면 SAS는 자사의 소프트웨어가 사람에게 해를 끼치지 않도록 하는 데 집중하고 있으며 그 목표를 달성하기 위해 ‘인간 중심 접근 방식’을 채택했습니다.

타운센드는 “46년 동안 업계에 있었다는 것의 장점 중 하나는 빠른 주기와 느린 주기, 그리고 그 사이의 모든 것을 보았다는 것”이라며 “이를 통해 우리가 가장 중요하게 생각하는 것 중 하나는 기술에 대해 인간 중심적인 접근 방식을 취하는 것”이라고 말했습니다.

또한 그는 “우리는 경쟁적 차별화를 목적으로 윤리적 AI를 추구하지 않는다”며 “회사의 장기적인 지속 가능성 측면에서 그렇게 하는 게 최선이라는 지혜를 얻었기 때문”이라고 덧붙였습니다.

우리 모두 함께

최근 테크 업계의 유명 대기업들에는 감원 바람이 불고 있습니다. 하지만 시장 자체는 지속적인 성장세를 보이고 있기에 업계 종사자들의 잠재적인 고용 기회는 여전히 풍부합니다. 바로 이러한 시점에서 타운센드가 직원의 관점을 고려하는 것에 대한 의견을 제시한 것입니다.

기업은 IT 인력의 요구 사항을 충족하고자 원격 및 하이브리드 작업 환경 조성에 점점 더 많은 투자를 하고 있습니다. 특히 컴퓨터기술산업협회(CompTIA, 미국의 비영리 무역 협회, IT 업계 최고의 무역 협회 중 하나)가 2022년에는 약 178,000개의 새로운 기술 일자리가 생길 것이라는 예측을 내놓으면서 SAS와 같은 벤더사에게 직원의 ‘인식된 가치’, 즉 직원이 중요하게 생각하는 가치를 지킨다는 것은 중요한 고려 사항이 됐습니다.

이러한 견해에 맞춰, 타운센드는 윤리적 AI에 대한 SAS의 접근 방식을 ‘배에 탄 모든 사람과 하나’라고 설명했습니다.

타운센드는 “개발자가 ‘상황을 가져오는 사람’이라는 건 좋으나 이제는 각각의 기능을 가진 여러 집단에 소속된 사람들이 상황을 평가하는 과정이 반드시 선행되어야 한다”며 “영업사원이나 윗사람이 그 상황을 가져왔다 하더라도 마찬가지”라고 말했습니다. 누구 한 명의 생각으로 어떤 결정을 내리지 않는다는 겁니다.

아울러 “회사 운영 과정에 잠재적인 딜레마적 문제를 평가하는 AI 감독 위원회를 배치했다”며 “특정한 결정을 내릴 때 AI 감독 위원회의 활동을 조직의 최고 수준에서 고려하기 위한 작업을 계속하고 있으며 이를 운영하는 방법에 대한 프레임워크가 존재한다”고 덧붙였습니다.

늘어나는 자각

AI가 직면한 가장 큰 문제가 무엇일까요? 타운센드는 이 질문에 ‘일반 대중의 인식’이라고 답했습니다.

타운센드는 일반인들 사이에서는 AI와 관련 기술이 인간의 일자리를 빼앗고 인간을 노예로 만들 것이라는 인식이 팽배하다고 지적했습니다. 그의 말처럼 AI에 대한 두려운 인식은 점점 보편화되고 있습니다.

타운센드는 “일반 대중이 AI와 관련해 어떤 것이 실제로 존재하고, 어떤 것이 허상에 불과한지 인식하는 것은 굉장히 중요하다”고 말했습니다.

이어 그는 사람들은 잘 모르는 주제를 두려워하기 쉽기 때문에 이를 받아들이지 않는다고 말했습니다. 한편 이로 인해 인류에게 긍정적인 효용을 가져다줄 수 있는 AI를 받아들이지 않는 것은 매우 부끄러운 일이 될 수 있을 것이라 덧붙였습니다.

사실 AI가 인류를 장악할 것이라는 생각은 새로운 것이 아닙니다. 악의적인 로봇이나 컴퓨터 시스템이라는 오해는 대중 문화의 주요 요소로, 타운센드가 SAS에 합류한 2015년보다 훨씬 전부터 있었습니다. 타운센드는 이런 오해를 없애고 싶다고 했지만, 그러기 위해서는 모든 사람의 도움이 필요합니다.

또한 타운센드는 업계 종사자의 책임 의식을 강조했습니다.


Ethical AI. Socially acceptable AI. Responsible AI. However you phrase it, the concept of a fairer, more representative artificial intelligence is gaining traction.

Some big names in tech have already made strides. Microsoft has pledged to overhaul the usage of its facial and emotional recognition tools. IBM has an internal AI ethics board. And Meta tasked its AI researchers to audit its OPT language models to remove some harmful behaviors.

But are these considerations from a genuine, heartfelt place? Or a purely cynical marketing gimmick to take advantage of a potentially lucrative consideration for customers?

To find out, AI Business sat down with Reggie Townsend, a member of the U.S.’ national AI Advisory Committee and director of data ethics practices at SAS.

Townsend suggested that for SAS, approaching AI responsibly is not a market competitive differentiator, but rather one of employee retention. “We’ve taken a people-over-profit approach. And this is not to say that every single potentially ethical dilemma we just completely shy away from − no. Wisdom has taught us to evaluate the dilemmas.”

From SAS with love

Townsend admitted skepticism around the concept of a company presenting its AI systems as ethical purely for marketing purposes. “That is a phenomenon that I hear about more in the popular press than I’ve actually witnessed,” he said.

Instead, the data ethics director revealed he worked with colleagues at other organizations that are approaching AI in the same way as SAS, with a focus on ensuring the greatest benefit for the greatest number of people.

“Are there actors that may not be as thorough? Sure. Are there folks who have different risk profiles and pursue levels of risk that others may not? Certainly. Are there evil actors out there who just want to slap a label saying, ‘we are acting like the best?’ I don’t know if that is the case, at least that’s not my experience. I haven’t seen that for myself.”

Instead of questioning the reality of whether a company is genuine in its ethical AI approach or not, for Townsend, the focus was on taking stock.

He said that at SAS, the main focus is ensuring the company’s software “doesn’t hurt people.”

And to achieve that goal, the stalwart vendor has adopted what he described as a human-centric approach.

“One of the benefits of being around for 46 years is that we’ve seen fast cycles and slow cycles and everything in between,” Townsend explained. “And with a little bit of age comes some wisdom and you come to know what you care most about. And one of the things that we care most about is to make sure that we take a human-centric approach to our technology.”

“We aren’t doing [ethical AI] for the purpose of competitive differentiation, because wisdom has told us that this is the best thing to do in terms of long-term sustainability for a company. But also, that people inside of the company care about this sort of action and activity.”

We’re all in this together

Townsend’s comments on considering the view of the employee come at a time in tech when workers generally still having a multitude of potential offers in an ever-growing market despite some recent well-publicized job cuts at Big Tech companies.

Companies are increasingly investing in remote and hybrid work setups to support the demands of IT workforces. And with CompTIA projecting some 178,000 new tech jobs in 2022, the importance of maintaining the perceived values of staff is an important consideration for vendors like SAS.

To align with that view, Townsend described SAS’s approach as one with “everyone in the boat” when it comes to ethical AI.

“If the devs are the ones who bring the situation, great, but now it needs to be evaluated by a collection of folks across several functions. If the salespeople or higher-ups bring the situation, the same is true.”

“Operationally, we put an AI oversight committee in place that is responsible for making sure that we evaluate matters that are a potential dilemma. We have and are continuing to work through our methods by which we escalate that activity to the highest levels of organizations for certain decisions. It’s still a work in process, but at least we’ve got a framework for how to operationalize that.”

Raising awareness

When asked what the biggest issue facing AI was, Townsend pointed to awareness among the general public.

A perceived fear of AI is becoming increasingly common with what he described as a “predominant” view among the general public that AI and related technologies are going to take jobs and enslave humanity.

“It gets extravagantly bizarre,” he said. “It’s really important for the general public to just become aware of what is and what is not as relates to AI.”

“When people don’t know much about a subject, it’s easy to fear it. And when people don’t trust, they don’t trust because they are afraid and then they don’t adopt. And if they don’t adopt, is that the end of the world? Maybe not, but AI can beneficially impact our lives. Then it would be such a shame for us to not adopt (it).”

“If the greater part of the public doesn’t adopt and if we drive the tech underground, the people that will take advantage will be those with malintent, and we all lose in that scenario.”

The idea that AI is going to take over humanity is not a new one. A pop culture staple, the malevolent robot or computer system is a misconception that existed long before Townsend joined SAS back in 2015. It’s one he’s keen to quash — but it’ll need everyone’s help.

“It’s all of our responsibility (to inform the public). Those of us in the industry … have a duty to care. And part of caring means sharing,” he said. “We have a unique responsibility to share what we know with the general public. And one of the things that I tell them is now that you know you’ve got to go do better.”

Similar Posts