[해외DS] 전통적 경제 도구로 가격 결정 알고리즘을 만들 수 있다고?

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 데이터 사이언스 경영 연구소(MDSA R&D)에서 영어 원문 공개 조건으로 콘텐츠 제휴가 진행 중입니다.

전통적 경제 도구로 가격 결정 알고리즘을 만들 수 있다고?

오늘날 경제에서 가격 결정 알고리즘은 중요한 역할을 하고 있습니다. 하지만 일부 전문가들은 이 알고리즘이 소수 집단을 차별하고 인위적으로 가격을 부풀릴 가능성이 있다는 점을 우려하고 있습니다. 그런데 새로운 연구에 따르면 고대 로마로 거슬러 올라가는 전통적 경제 도구 ‘가격 통제’로 이 문제를 해결할 수 있음이 확인됐습니다.

가격 책정 알고리즘은 현재 아마존과 같은 테크 기업에서 제품군의 전체적인 가격을 결정하거나 우버(Uber) 및 리프트(Lyft)를 비롯한 차량 공유 서비스에서 실시간으로 요금을 계산하는 데 이용됩니다. 공급 및 수요 데이터뿐 아니라 많은 양의 소비자 개인 정보를 분석하여 개인이 가장 선호하는 제품을 정확하게 추천, 기업의 수익을 극대화하죠.

이는 지난 몇 년 동안의 많은 연구에서도 확인된 내용입니다. 구체적으로 설명하자면 고객의 구매 이력이나 선호도를 보고 다른 소비자에게 다른 가격을 책정하는, “개인 맞춤 가격 책정” 전략을 활용하면 기업의 수익이 극대화된다는 겁니다. 그런데 일부 연구에 따르면 이 전략은 알고리즘이 “의도치 않게” 소수 집단에 더 높은 가격을 책정하도록 유도할 수 있습니다. 예를 들면 알고리즘은 상당히 자주 거주지를 기반으로 소수 인종 혹은 민족에게 더 높은 이자를 부과합니다. 심지어 어떤 연구는 특정 실험 조건에서 가격 결정 알고리즘들이 서로 힘을 합쳐 가격 담합을 할 수 있다는 사실을 밝혀냈습니다.

일각에서는 이러한 알고리즘의 횡포에 대해 비판의 목소리를 높이고 있습니다. 정책 입안자와 기술 경영진 역시 지난 몇 년 동안 위와 같은 알고리즘의 문제점을 해결하고, 기업의 수익 창출과 의사 결정의 공정성 사이에서 균형을 찾기 위해서 머리를 맞대고 고민하고 있죠.

여기서 우리는 지난 2월 베이징 칭화대학교 연구원들이 온라인으로 발표한 연구에 주목할 필요가 있습니다. 이 연구는 상거래를 규제하는 전통적인 도구 중 하나인 ‘가격 통제’가 알고리즘의 ‘횡포’를 방지하는 데 적절하게 활용될 수 있음을 규명했습니다.

가격 통제는 사실 경제가 있는 한 항상 존재합니다. 기본적으로는 균형 가격이 지나치게 높거나 낮을 때 정부가 직접 나서서 가격을 통제하는 전략인데, 시장 리더가 독점을 형성하고 가격을 조작하는 상황을 견제하면서 시장의 공정성을 높이고 중소기업을 보호하는 겁니다. 가격 통제가 새롭게 주목을 받게 된 건 차량 공유 서비스들이 몇 년 전부터 “서지(surge)” 가격 결정 알고리즘을 적용했기 때문입니다. 서지 가격 결정 알고리즘은 운전자와 기업이 가능한 한 많은 수익을 올릴 수 있도록 특정 지역의 실시간 수요 정보를 활용합니다. 하지만 이 알고리즘으로 인해 수요가 상대적으로 큰 공항에서는 택시 요금이 수백 달러까지 치솟기도 하면서 일부 소비자들이 불만을 표시하는 일이 발생했습니다. 이에 대해 익명의 우버 관계자는 “가격 통제는 운전자의 수입 감소와 신뢰성 하락을 불러올 수 있기에 회사는 현재 알고리즘을 수정할 전략적 유인이 없는 상황이다”라고 전했습니다.

하지만 최근의 초인플레이션 상황에서 가격 통제 개념에 관심을 두는 이들은 늘어나고 있습니다. 코로나-19로 인해 많은 미국 기업이 문을 닫았을 때 미국 연방 정부는 양적 완화와 중소기업 대출로 손실을 충당했습니다. 이러한 양적 부양책이 인플레이션을 초래했기에 일각에서는 연방 정부가 회사가 소비자에게 책정하는 가격을 규제하여 경기를 안정시켜야 한다는 “가격 통제 정책”을 주장하고 있는 것입니다.

이번 논문을 발표한 칭화대학교 연구진은 “가격 통제는 알고리즘의 횡포로부터 소비자를 보호할 수 있을 뿐만 아니라 서비스를 제공하는 회사가 합리적인 이익을 도모할 수 있도록 한다.”라고 밝혔습니다. 연구진은 또한 가격 통제가 생산자와 소비자 모두의 “잉여(surplus)”에 어떤 영향을 미치는지를 알고 싶었다고 합니다. 여기서 잉여는 각 당사자가 거래에서 얻는 전체적인 금전적 이익을 의미합니다. 예컨대 어떤 소비자가 5달러의 가치가 있다고 생각한 재화를 3달러에 구매했다면 그 소비자의 잉여는 2달러가 됩니다.

논문의 공동 저자인 칭화대 대학원생 런저 쉬(Renzhe Xu)는 “개인 맞춤 가격 결정은 소비자 데이터의 가용성이 점점 증가하면서 오늘날 많은 산업에서 일반적인 관행행이 되었다.”라고 설명하며 “결과적으로는 소비자와 생산자 잉여의 균형을 맞추기 위해 효과적인 가격 통제 정책을 설계하는 것이 가장 중요할 것으로 보인다”라고 밝혔습니다. 쉬 연구원과 동료들은 엄밀한 수학적 증명을 통해 가격 통제가 이론적으로는 인공지능 알고리즘을 사용하는 판매자와 소비자 간의 잉여 균형을 맞춘다는 것을 증명했습니다. 또한 이들은 이전에 발표된 가격 결정 연구의 데이터를 분석해 가격 통제가 어떻게 현실 세계에서 소비와 수요의 균형을 맞추는지를 알아보았습니다.

예를 들어 지난 2002년 독일 키엘시의 연구진은 공공 해변에서 콜라를 구매한다거나 페리에서 케이크를 사려는 소비자의 의사(consumer’s willingness)를 측정했습니다. 연구 참가자들은 해당 상품에 대한 자신의 지불 의사를 밝힌 뒤 금액이 적혀 있는 공 여러 개가 들어있는 항아리에서 공 하나를 꺼냈습니다. 이후 자신의 지불 의사가 공에 적힌 금액보다 높으면 케이크를 구입할 수 있었지만, 그보다 낮으면 케이크를 구매할 수 없었습니다. 이 실험에서는 원하는 가격을 먼저 밝힌 다음에 무작위로 선택된 제안을 받게 될 것임을 알고 있는 상황에서 실험 참가자가 자신의 실제 지불 의사(wilingness to pay, WTP)를 훨씬 ‘기꺼이’ 밝힌다는 것이 확인됐습니다. 그동안 이러한 연구에서 사용되던 단순 설문 조사 방식을 능가한 것입니다.

소비자가 직접 가격을 설정한다면 소비자의 지불 의사를 파악한 판매자는 해당 소비자에게 맞춤형 가격을 제안할 수 있습니다. 실제 구매로 이어질 확률이 높은 소비자에게 더 높은 가격을 제시하는 것이죠. 가격 결정 알고리즘도 마찬가지인데, 이를 활용하는 기업은 검색 엔진 운영자 또는 소셜 미디어 플랫폼과 같은 빅 테크 기업에서 데이터를 수집해 개인 또는 그룹의 지불 의사를 추정, 소비자 잉여를 최소화하는 가격을 결정합니다. 쉬 연구원은 “알고리즘 가격 결정의 목적은 소비자 특성에 대한 매우 세분화된 데이터를 보고 소비자의 지불 의향을 정확하게 평가하는 것입니다”라고 설명했습니다.

이번 연구에서 연구진은 현실 세계의 가격 통제 효과를 확인하기 위해 상술한 2002년 연구의 지불 의사 데이터를 분석, 가격 통제가 판매자와 소비자 간의 잉여 균형을 어떻게 바꾸는지 추정했습니다. 분석 결과 케이크와 콜라 판매자가 소비자의 지불 의사를 사전에 확인해 얻을 수 있는 추가적인 이익은 합법적인 가격 통제로 사라졌습니다. 또한 가격 통제가 판매자의 수익 창출을 방해하지는 않았습니다.

하지만 가격 통제는 몇 가지 단점을 갖고 있습니다. 가격 결정 알고리즘은 소비자와 판매자의 잉여를 더 공정하게 분배함으로써 시장 전체의 잉여는 극대화합니다. 반면 가격 통제는 시장의 총 잉여 자체는 감소시키죠. 이 때문에 많은 경제학자는 가격 통제가 수요와 공급이 일치하고 시장 가격이 본질적인 가치로 회귀하는, 진정한 시장 균형의 형성을 방해한다고 주장합니다. 아울러 어떤 이들은 가격 통제가 아이러니하게도 상한선에 최대한 가깝게 가격을 고정하려는 시장 리더들의 담합 가능성을 높일 수 있다고 지적합니다. 애리조나 주립 대학의 재정학 부교수 Yuri Tserlukevich는 “실제로 인터넷 회사와 전력 회사는 사실상 독점이기 때문에 가격을 최대한 높게 책정한다.”라고 말했습니다.

그러나 현재 가격 결정 알고리즘을 사용하는 기업의 가격 담합 문제는 그렇게 중요하지 않은 것 같습니다. 대부분의 최신 가격 책정 알고리즘은 알고리즘 간에 효과적으로 정보를 공유할 수 있는 능력이 부족하기 때문입니다. 심지어는 정보를 공유할 수 있는 경우에도 AI 알고리즘이 다른 이질적인 알고리즘과 상호작용하라는 요청에 어떻게 반응할지 예측하기는 쉽지 않습니다. 가격 담합 동기가 하락하는 또 다른 요인은 많은 가격 책정 알고리즘이 “현재 편향”과 경쟁하도록 연결되어 있다는 것입니다. 즉 알고리즘은 미래 이익의 잠재력을 고려하지 않고 현재 수익에만 가치를 둡니다.

결론적으로 알고리즘은 프로그래머가 작동하도록 설정한 만큼만 윤리적으로 작동합니다. 설계를 조금만 변경하면 알고리즘에 가격을 담합하고 고정하는 방법을 가르칠 수 있으므로 가격 통제와 같은 규제 방법론 연구는 중요합니다. 칭화대학교 컴퓨터 과학 및 기술 부교수인 펭 수이(Peng Cui)에 따르면 “몇 가지 연구 방향이 존재합니다.” 수이 부교수는 앞으로 사생활 침해 제약으로 소비자 데이터에 대한 회사의 접근이 제한되는 상황 또는 소수의 회사만이 시장을 지배하는 상황처럼 많은 변수가 섞여 있는 복잡한 상황에서 가격 통제가 어떤 영향을 미치는지에 대해 연구할 필요가 있다고 말했습니다. 더 많은 연구 데이터가 쌓이면 복잡한 상황에서는 가장 간단한 해결책이 가장 효과적이라는 것이 확인될 수도 있다는 겁니다.

---

Price-setting algorithms play a major role in today’s economy. But some experts worry that, without careful checks, these programs might inadvertently learn to discriminate against minority groups and possibly collude to artificially inflate prices. Now a new study suggests that an economic tool dating back to ancient Rome could help curb this very modern concern.

Algorithms currently set prices for entire product lines at tech-heavy corporations such as Amazon and compute fares around the clock for ride-sharing services, including Uber and Lyft. Such programs may not always rely solely on supply-and-demand data. It is possible for algorithms to leverage massive sets of consumers’ personal information to calculate how companies can precisely offer individuals their most coveted products—and maximize profits while doing so.

In the past few years, a number of studies have suggested that pricing algorithms can learn to offer different prices to different consumers based on their unique purchasing history or preferences. And some research suggests that this strategy, referred to as “personalized pricing,” can unintentionally lead an algorithm to set higher prices for disadvantaged minority groups. For instance, brokers often charge higher interest rates to racial and ethnic minorities, and one possible factor is where people live: programs could target areas that have less competition. Other studies show that, under certain experimental conditions, such algorithms can learn to collude with one another to create price-fixing schemes.

When algorithms adopt such tactics in pursuit of maximum profits, experts often refer to these programs’ aggressive approach as “greedy.” For years, policy makers and tech executives have sought to balance the inherent greediness of algorithms’ logic with the human-level fairness of their decisions. A new preprint study, released online in February by researchers at Beijing’s Tsinghua University, may provide a surprisingly simple solution: it suggests that price controls—which are among the oldest and most elementary tools in regulating commerce—could be readily used to prevent the economic discrimination that may potentially result from greedy pricing algorithms while still maintaining reasonable profits for the companies using them.

Officially imposed price controls have existed as long as economies themselves. In their most basic form, they act as upper or lower limits on how much a seller is allowed to charge for a certain good or service. Theoretically, they promote fairness and protect smaller businesses by thwarting market leaders from forming monopolies and manipulating prices. Over the past few years, this once common regulatory tool has attracted fresh attention, in part because of ride-sharing companies’ use of “surge” pricing strategies. These businesses can use demand in a given area at a given time to modify their prices so drivers (and companies) earn as much as possible. This approach has occasionally spiraled into fares of several hundred dollars for a ride from an airport to a town or city, for example, and has raised calls for stronger regulation. A spokesperson for Uber, who asked to remain anonymous, says the company maintains its support for the current strategy because “price controls would mean … lower earnings for drivers and less reliability.” (Lyft and Amazon, mentioned separately earlier, have not responded to requests for comment at the time of publication.)

But interest in the concept of price controls has recently been gaining new ground, driven by record-high inflation rates. When COVID-19 forced many American businesses to close, the U.S. federal government padded losses with stimulus checks and small business loans. These monetary injections contributed to price inflation—and one way to control that inflation would be for the federal government to simply limit the price a company can charge.

The authors of the new Tsinghua University paper sought scientific evidence that such controls could not only protect consumers from algorithmic price discrimination but also allow companies using these digital tools to maintain reasonable profits. The researchers also wanted to see how price controls would affect the “surplus” of both the producers and consumers. In this context, a surplus refers to the entire monetary benefit each party derives from a transaction. For example, if the true price of a good is $5, but a consumer is somehow able to purchase it for $3, the consumer’s surplus would be $2.

“Personalized pricing has become common practice in many industries nowadays due to the availability of a growing amount of consumer data,” says study co-author Renzhe Xu, a graduate student at Tsinghua University. “As a result, it is of paramount importance to design effective regulatory policies to balance the surplus between consumers and producers.” Xu and his colleagues provided formal mathematical proofs to show how price controls could theoretically balance the surplus between consumers and sellers who use artificial intelligence algorithms. The team also analyzed data from previously published price-setting studies to see how such controls might achieve that balance in the real world.

For example, in one often-cited study from 2002, researchers in the German city of Kiel measured consumers’ willingness to purchase a snack: either a can of Coke on a public beach or a slice of pound cake on a ferry. As part of the experiment setup, participants stated the price they would be willing to pay for the goods before drawing marked balls from an urn to determine the price they would actually be offered. If their original offer was higher, they would be able to purchase the snack; otherwise, they would lose the opportunity. The experiment demonstrated that this scenario—in which participants knew they would receive a randomly selected offer after sharing their desired price—made buyers far more willing to disclose the true price they were willing to pay, compared with traditional methods such as simply surveying individuals. But part of the experiment’s value to future studies, such as the new Tsinghua paper, lies in the fact that it produced a valuable data set about real people’s “willingness to pay” (WTP) in realistic situations.

When a human rather than a random number generator sets the cost, knowing a consumer’s WTP in advance allows the seller to personalize prices—and to charge more to those whom the seller knows will be willing to pony up. Pricing algorithms achieve a similar advantage when they estimate an individual’s or group’s WTP by harvesting data about them from big tech companies, such as search engine operators or social media platforms. “The purpose of algorithmic pricing is to precisely assess consumers’ willingness to pay from the highly granular data of consumers’ characteristics,” Xu says. To test the potential impact of price controls in the real world, the researchers used the WTP data from the 2002 study to estimate how such controls would shift the trade-off of the sellers’ and buyers’ surplus. They found that the advantage that the experimental cake and Coke sellers achieved from their knowledge of consumers’ WTP would have been erased by a simple control on the range of prices considered legal. At the same time, the price controls would not prevent the sellers from earning profits.

This balance in power comes with some drawbacks, however. By achieving a fairer distribution of surpluses between algorithms (or, in the case of the Kiel experiment, sellers operating under a set of algorithmic rules) and consumers, the range constraint dampens the total surplus realized by all participants. For this reason, many economists argue that such regulations prevent the formation of a true market equilibrium—a point where supply matches demand and consumers can receive accurate prices in real time. Meanwhile some behavioral economists contend that price controls can ironically inspire increased collusion among market leaders, who seek to fix prices as closely to the given limit as possible. “Internet and power companies, for example, overcharge when they can because they are effectively monopolies,” says Yuri Tserlukevich, an associate professor of finance at Arizona State University, who was not involved in the new study.

For many of today’s algorithmic pricing agents, however, such price-fixing concerns carry less weight. That is because most modern pricing algorithms still lack the ability to effectively communicate with one another. Even when they can share information, it is often difficult to forecast how an AI program will behave when it is asked to communicate with another algorithm of a substantially different design. Another thing that prevents price-fixing collusion is that many pricing algorithms are wired to compete with a “present bias”—which means they value returns solely in the present rather than considering the potential for future gains that could stem from an action in the present. (In many ways, algorithms that consider future gains could also be described as types of greedy algorithms, although they opt to continually lower the price rather than increasing it.) AIs that have present bias often converge quickly to fair, competitive pricing levels.

Ultimately, algorithms can behave only as ethically as a programmer sets them up to act. With slight changes in design, algorithms might learn to collude and fix prices—which is why it is important to study restraints such as price controls. There are “several research directions open,” says the new study’s co-author Peng Cui, an associate professor of computer science and technology at Tsinghua University. He suggests future work could focus on how price controls would influence more complex situations, such as scenarios in which privacy constraints limit companies’ access to consumer data or markets where only a few companies dominate. More research might emphasize the idea that sometimes the simplest solutions are most effective.