[해외 DS] AI로 위조된 링크드인 프로필, 서비스 무관한 매출 유도해

AI로 만들어진 위조 프로필 악용 사례 증가, 서비스와 무관한 구매 유도한다 링크드인 최신 보고서, 비즈니스 소셜 미디어 위조 계정 수 무려 1,500만개라 밝혀 위조 프로필 범인 지목된 링센트럴, 외부 리드 제너레이션 소행이라며 전사적 조치 예고

2
pabii research

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 데이터 사이언스 경영 연구소 (MDSA R&D)에서 영어 원문 공개 조건으로 콘텐츠 제휴가 진행 중입니다.

사진=AI 비즈니스

지난 2022년 3월 29일 스탠포드 대학은 대학 산하의 사이버 정책 센터 ‘스탠포드 인터넷 옵저바토리(Stanford Internet Obervatory, 이하 SIO)’에서 유명 비즈니스 소셜 네트워크 서비스 링크드인(Linkedin)에 AI가 생성한 위조 프로필 약 1000개가 있음을 확인했다고 밝혔습니다.

인공지능이 만들어낸 얼굴(AI-generated face) 때문인데, 이렇게 위조된 프로필은 링크드인 회원들에게 해당 서비스와 무관한 특정 상품의 구매를 유도하는 방향으로 악용되고 있습니다.

미국 공영 라디오 내셔널 퍼블릭 라디오(National Public Radio, 이하 NPR)의 취재에 따르면 실제로 많은 기업이 이 사기극에 동참하고 있습니다. 위조 프로필의 채팅에 응답한 링크드인 유저는 곧바로 실제 판매원에게 연결됩니다. 익명을 요구한 한 업계 관계자는 NPR에 “특정 기업이 외부 마케터를 동원해 인가되지 않은 위조 프로필로 링크드인 유저를 끌어들여 기업의 매출액을 올리고자 했다.”고 전했습니다.

SIO는 왜 위조 프로필을 수사하기 시작한 걸까요? 바로 SIO의 핵심 인력 중 하나인 르네 디레스타(Renée DiResta) 연구원이 겪은 어이없는 에피소드 하나 때문입니다.

디레스타 연구원은 본인이 미국의 대형 클라우드 서비스 제공 기업 링센트럴(RingCentral)의 클라우드 공급자라고 주장하는 ‘키넨 램지(Keenan Ramsey)’라는 사람이 보낸 영업성 비공개 메시지를 받았습니다. 하지만 디레스타 연구원은 그 인물을 조사하면서 ‘램지’가 실제 인물이 아니라는 사실을 눈치챘습니다.

디레스타 연구원에 따르면 ‘램지’의 “얼굴은 위조한 티”가 났습니다. “정면 얼굴 사진은 머리카락이 사라졌다가 다시 나타나거나, 눈이 이미지 중앙으로 쏠리는 등 전반적으로 얼굴이 어색해 보였다”고 하네요.

이후 디레스타 연구원은 동료 연구원인 조쉬 골드스타인(Josh Goldstein)과 위조 계정 수사에 돌입했습니다. 그리고 실제로 단 몇 주 만에 상당한 양의 사기 프로필을 발견했죠. 골드스타인 연구원은 “위조 프로필을 인터넷에서 검색했을 때, 중복되는 프로필을 거의 발견할 수 없었다”고 전했습니다. 정말 열심히 만들었네요.

또한 연구원들은 위조 프로필 중 일부가 세일즈포스(Salesforce)나 아마존(Amazon)과 같은 유수 기업에서의 경력을 내세웠다고 밝혔습니다. NPR에 따르면 조사 결과 “실제로 해당 기업에서 일한 경력이 있는 직원은 아무도 없었”습니다.

이와 같은 위조 프로필은 당연하게도 링크드인의 프로페셔널 계정 관련 정책에 위배됩니다. 즉, 링크드인은 타인의 사진을 도용한 위조 프로필을 자사의 플랫폼에서 사용하지 못하도록 하고 있습니다. 링크드인의 최신 투명성 보고서에 따르면 링크드인을 포함한 비즈니스 전문 소셜 미디어 업계가 삭제한 위조 계정 수는 2021년을 기준으로 약 1,500만개에 이릅니다.

이와 관련해 링크드인 측 관계자는 “본사 정책상 모든 링크드인 프로필은 반드시 실제 유저를 대표해야 한다”고 못박았습니다.

아울러 회사가 “링크드인 커뮤니티에서 위조 프로필을 색출하고 제거할 수 있도록 기술적 방침을 꾸준히 업데이트하고 있다”며 “링크드인 유저가 실제 인물과 연결될 수 있도록 최선을 다할 것”이라고 덧붙였습니다.

한편 링센트럴 관계자는 “NPR이 잡아낸 위조 프로필 중 일부는 링센트럴과 협력 중인 외부 리드 제너레이션 업체 중 한 곳이 의도적으로 만들어냈다”라고 해명하며 “이러한 행동은 용납할 수 없으며 우리 회사의 고객에 대한 충성심을 명백히 저해하는 행동입니다.”라고 선을 그었습니다. 또한 “링센트럴에서 이와 같은 상황이 다시는 발생하지 않도록 리드 제너레이션을 보다 철저히 관리하고, 직원을 더욱 철저히 교육하겠습니다.”라고 밝혔습니다.


AI-generated faces reportedly are being used by marketers to solicit sales from potential customers via LinkedIn.

An investigation by National Public Radio (NPR) revealed that big and small companies have been using fake profiles as a way to expand their sales reach. Anyone who responds will be connected to a real salesperson. Companies contacted by NPR said they hired outside marketers to help with sales but had not authorized use of fake digital profiles.

The probe was based on the discovery by Stanford Internet Observatory researchers who found more than 1,000 LinkedIn profiles using potentially AI-generated faces.

Renée DiResta, one of the minds behind the discovery and a researcher with experience studying disinformation, gained inspiration for the investigation following a pitch from a suspected fake profile.

One ‘Keenan Ramsey’ claiming to be from cloud provider RingCentral private-messaged DiResta with a sales pitch. Upon inspection, she found that ‘Ramsey’ was not real.

“The face jumped out at me as being fake,” she told NPR, adding that ‘Ramsey’s’ headshot seemed off with bits of her hair disappearing and then reappearing and her eyes aligned in the middle of the image.

DiResta and colleague Josh Goldstein researched the issue and found plenty of fakes in a matter of weeks. “And when we searched for these personas on the internet, we didn’t find any evidence of them in other places, which is rare,” said Goldstein.

The profiles would often list a handful of prior work experiences which would include some big-name brands such as Salesforce or Amazon. Upon reaching out to the brands, NPR found no records of any employees to have worked at the companies − with the same result arising when contacting associated schools and colleges.

Such profiles go against LinkedIn’s professional community policies, which bars fake profiles or entities on its platform – including using “any other image that is not your likeness.” The professional social media site said it had removed around 15 million fake accounts in 2021, according to its most recent transparency report.

“Our policies make it clear that every LinkedIn profile must represent a real person,” a spokesperson from LinkedIn told AI Business.

“We are constantly updating our technical defenses to better identify fake profiles and remove them from our community, as we have in this case. At the end of the day it’s all about making sure our members can connect with real people, and we’re focused on ensuring they have a safe environment to do just that.”

RingCentral told AI Business that “some of the fake profiles NPR uncovered were generated by one of our third-party lead generation vendors. We do not believe this is an acceptable practice and is counter to our commitment to our customers. We are taking specific steps to update our approach to lead generation and to educate our people on what is and is not acceptable.”

Similar Posts