[해외DS] 더 이상은 그만: AI 이미지는 너무 진부하다

인터넷에 깔린 AI 이미지, 사람들의 이해 방해할지도 Better Images of AI, 더 좋은 AI 이미지 고르는 법 소개 AI 생성 이미지도 재생산일 뿐, 지금은 기존 비유 바꿔야 할 때

20
pabii research

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 데이터 사이언스 경영 연구소 (MDSA R&D)에서 영어 원문 공개 조건으로 콘텐츠 제휴가 진행 중입니다.

비영리 단체 Better Images of AI에 따르면 그런 ‘고정관념’은 좋지 않습니다.

사진=AI Business

인터넷에는 AI를 표현하는 ‘진부한’ 이미지가 넘쳐납니다. 흰색 플라스틱 피부를 가진 ‘보통의’ 로봇 사진, 무고한 민간인을 죽이기 위해 밖으로 나가는 터미네이터 같은 사이보그 사진….

AI Business에 따르면 많은 사람들은 이런 이미지를 ‘이제 막 주류가 된’ 기술의 일부라고 여깁니다. 기술을 이해하지 못했지만 정확하게 묘사하기 위해 노력한 미디어의 결과물이 아니냐는 생각인데, 수십 년째 이렇습니다.

AI Business는 이 문제를 해결하고자 칼을 빼든, ‘We and AI’의 CEO Tania Duarte가 이끄는 비영리 단체 ‘Better Images of AI’를 소개했습니다. 이 단체는 대중이 AI를 폭넓게 이해하지 못하면 기술에 대한 불신이 자라나고 단체(미디어 단체)는 계속해서 과소 평가될 것이라 경고했습니다.

Better Images of AI는 이번주에 크리에이터가 콘텐츠에서 AI를 더 잘 묘사하는 방법에 대한 가이드 역할을 할 보고서를 펴냈습니다. 보고서는 런던의 Alan Turing Institute에서 개최된 행사 때 발표됐는데, Alan Turing Institute는 그동안 이 단체의 업무에 도움을 준 곳입니다. BBC R&D 팀도 함께했습니다.

Alan Turing Institute의 마케팅 및 커뮤니케이션 부서를 이끄는 Mark Burey는 “우리 연구소에서 다각화 아이디어는 굉장히 중요합니다. 시각적인 요소가 실제로 마주한 문제의 복잡성을 해친다면 우리나 다른 이들이 과학을 이해하는 데 도움을 주지 어렵습니다.”라고 말했습니다.

Better Images of AI는 이미지 라이브러리를 신중하게 선별했습니다. 크리에이티브 커먼즈 라이선스를 사용해 크레딧을 받았다면 이들의 이미지 라이브러리를 무료로 내려받고 사용할 수 있는데, AI Business는 물론이고 The Washington Post, London School of Economics, Time Magazine 등이 여기서 얻은 이미지를 활용한 바 있습니다.

런던 Alan Turing Institute에서 열린 행사에서 보고서를 발표 중인 Kanta Dihal(케임브리지 대학교 소속 선임 연구원)/사진=AI Business

케임브리지 대학교 Leverhulme Center for the Future of Intelligence 소속 선임 연구원인 칸타 디할(Kanta Dihal)이 수행한 연구의 결과, 그리고 무엇이 AI 이미지를 구성하는 ‘좋은’ 혹은 ‘나쁜’ 요소인지 골라내기 위해 AI 업계 전반의 이해관계자와 크리에이티브가 여러 번 모인 회의와 워크숍 결과가 보고서에 수록됐습니다.

Duarte는 ChatGPT에서 비롯된 AI에 대한 관심의 급증은 대중이 미디어에 나오는 내용을 이해할 수 있어야 한다는 뜻이라고 덧붙였습니다.

Dihal은 “The Whiteness of AI”라는 제목의 논문을 쓴 적도 있는데, 여기에서 AI가 종종 흰색 휴머노이드 로봇으로 묘사된다고 언급한 바 있습니다. 또 이번 이미지 보고서의 서두에는 이러한 묘사가 AI가 백인에 의해, 백인을 위해 만들어질 뿐 아니라 더 지능적인 존재라는 생각을 불러일으킨다는 내용을 넣기도 했습니다.

Dihal은 Better Images of AI가 “가장 일반적이고 도움이 되지 않는 이미지 비유”를 분석하는 성과를 거뒀다고 평가했습니다. 아울러 법정 공간이나 법적인 환경에서 자동화가 이뤄진 사례가 늘어났는데, 그로 인해 의사봉이나 저울 같은 것을 들고 있는 로봇의 이미지를 사용하는 곳이 많아진 점이 우려된다고 덧붙였습니다.

AI에 대한 ‘나쁜 이미지’란?

Better Images of AI는 이미지가 AI를 묘사하는 데 도움이 되는지를 결정짓는 몇 가지 매개변수가 있다고 밝혔습니다. 가장 먼저 문제삼은 건 공상 과학 소설이나 흰색 로봇과 관련된 요소였고, 미켈란젤로의 종교적 프레스코인 “The Creation of Man”을 변형한 이미지라든지 의인화된 AI나 인간 두뇌의 윤곽을 표현한 이미지도 지적됐습니다.

Better Images of AI가 고른 피해야 할 이미지/사진=AI Business

Better Images of AI는 보고를 통해 앞서 말한 ‘도움이 안 되는’ 스톡 이미지 중 일부는 AI를 ‘속기’한, 특히 기술과 무관한 일반 대중을 위해 만들어진 결과물로 추정된다는 견해를 밝혔습니다. 창작자들이 ‘괜찮은’ AI 이미지를 찾는 건 안 그래도 어려운데, 미디어나 뉴스를 만들어낼 땐 시간 제한까지 있어서 이미지 사용 결정에 많은 시간을 할애하지 못하는 상황이 그 원인으로 지목됐습니다.

어떻게 하면 더 나은 AI 이미지를 고를 수 있을까?

Better Images of AI 팀은 더 나은 AI 이미지를 선택하는 기준으로 정직, 인간성, 필요성 그리고 특이성 네 가지를 제시했습니다. 이미지는 거의 불가능한 미래를 추정하는 게 아니라, 기술이 무엇을 할 수 있는지를 최대한 정확하게 묘사해야 합니다.

또 사람이 들어가는 이미지에는 소프트웨어 엔지니어부터 최종 사용자에 이르기까지 AI 개발 그리고 배포와 관련된 모든 집단이 들어가야 합니다. 아울러 Better Images of AI는 AI의 범주 안에 많은 것이 들어가지만, 종종 콘텐츠에 AI와 무관한 로봇 이미지가 삽입되는 문제가 있다고 지적했습니다.

Better Images of AI는 ‘더 나은 AI 이미지 라이브러리’에 하드웨어, 자율 주행, 인간-AI ​​협업 및 컴퓨터 비전의 사진을 수록했습니다. 그렇지만 여기서 끝은 아닙니다. 향후 라이브러리 개선 작업을 진행할 계획이 있다고 합니다.

Better Images of AI는 “엔지니어링에 이용되는 AI, 혹은 우주에서의 AI 같이 더 많은 주제를 다루고 싶습니다. 이런 주제를 가지고는 훨씬 더 섬세한 선택을 할 수 있어서입니다. 또 더 많은 사람과 조직이 (우리의 이미지 라이브러리를) 이용했으면 좋겠습니다.”라고 전했습니다.

AI가 생성한 이미지라면?

AI Business는 Midjourney 혹은 DALL-E 같은 텍스트-이미지 툴도 라이브러리를 구축할 때 도움이 되지 않겠느냐는 질문을 던졌습니다.

Duarte는 라이브러리의 일부 이미지에 AI가 이용됐다고 대답했는데, 좀 주저하긴 했지만 이 생각에 전적으로 반대하지는 않는다는 뜻을 밝혔습니다.

Duarte는 “몇 달 동안 논의했습니다. 우리의 성공 중 일부는 AI가 생성한 이미지를 찾는 사람들 덕분입니다. 우리는 이 프로젝트가 창의성과 창의적인 사람들의 가치를 보여주는 것임을 잘 알고 있습니다. 우리 워크샵에는 기술을 보고 새로운 은유, 새로운 개념, 새로운 표현 방식을 생각해 내는 사람들이 참여했습니다.”라고 말했습니다.

아울러 “하나를 집어낼 순 없지만, 이미지 생성기에 프롬프트를 넣어 새로운 개념을 테스트할 수 있다는 사실은 놀랍습니다. 이는 새로운 아이디어를 떠올릴 때 도움이 됩니다. 제가 바라는 건 아티스트가 이미지 생성기 훈련에 이용되는 데이터 세트에서 ‘인정’받는 것뿐입니다(아티스트의 저작권 문제를 언급한 듯 합니다).”라고 덧붙였습니다.

반면 Dihal은 기존 비유를 재생산하는 것이 아니라 바꾸는 작업을 할 때라면서, 현재는 AI로 만들어진 이미지도 기존의 비유를 반복하는 것에 불과하다고 말했습니다.


This nonprofit says such stereotypes are harmful

Cliché images of AI are all over the internet – whether a generic picture of a robot with white plastic skin or a Terminator-esque cyborg out to kill innocent civilians.

To many, these images are part and parcel for a technology that, while decades old, is just emerging onto the mainstream consciousness and struggles to be accurately depicted by media that do not understand it.

But one group has had enough. Better Images of AI is a nonprofit group led by We and AI CEO Tania Duarte. The group warns that without wider public comprehension of AI, mistrust in technology will grow and groups will continue to be underrepresented.

This week, Better Images of AI launched a report that acts as a guide for creators on how to better depict AI in their content. It was unveiled at an event at the Alan Turing Institute in London, which has been supporting the work, alongside the BBC R&D team.

“The idea of diversifying is really important to us as an institute because it doesn’t help us or anybody to understand the science if the visuals actually detract from the complexity of the issues that are faced,” said Mark Burey, head of communications and marketing at the Alan Turing institute.

The group’s image library is carefully curated and can be downloaded and used by anyone for free if credited using the Creative Commons license. Along with AI Business, the nonprofit’s images have been used in The Washington Post, the London School of Economics and Time Magazine, among others.
The report covers research by Kanta Dihal, a senior research fellow at the University of Cambridge’s Leverhulme Centre for the Future of Intelligence, as well as findings from a series of roundtables and workshops in which stakeholders and creatives from across AI came together to identify what constitutes a good or bad image of AI.

And the spike in AI interest stemming from ChatGPT means the public need to be able to understand what is being shown in the media, Duarte said.

Dihal also authored a paper titled “The Whiteness of AI,” in which she outlines that AI is often portrayed as white humanoid robots. At the launch of the Images report, Dihal said these depictions bring other associated ideas that AI is built by and for white people, as well as more intelligent.

The nonprofit also analyzed “the most common, unhelpful image tropes,” she said. Dihal warned of an increase in outlets using images of robots holding things like gavels and scales when referencing instances of increased automation in court and legal settings.

What constitutes a bad image of AI?

There are several parameters that can determine whether an image is unhelpful in its depiction of AI. According to the nonprofit, tropes to avoid include references to science fiction and white robots.

Also what to avoid are variations on Michelangelo’s religious fresco, The Creation of Man, anthropomorphized AI and human brain outlines.

The newly published report found that creators find it difficult to source decent images of AI and that deadlines, particularly in media and news settings, lead to quick decisions being made regarding image use.

The report also states that some of these unhelpful stock images have become so recognizable as “a shorthand for AI, especially for non-technical audiences.”

How to pick better images of AI

The Better Images of AI team point to four tenets for picking a better image of AI: honesty, humanity, necessity and specificity. Images need to represent the tech as accurately as possible showing what it can do, without extrapolating an unlikely future.

Any images including people should be inclusive of the groups involved in the development and deployment of AI, from software engineers all the way to end users. AI can encompass many things, but oftentimes content is accompanied by images of robots where none are involved.

The group’s better AI image library contains pictures of hardware, autonomous driving, human-AI collaboration and computer vision, but it wants to build out the image library in the near future.

“We’d like to have more topics, things like AI in engineering or AI in space – lots more nuanced choices within those topics. And we need them to be used by more people and organizations.”

What about AI-generated images?

But could text-to-image tools like Midjourney and DALL-E help the Better Images for AI team build out its library more?

Duarte told AI Business that they do have some images in the library that use AI. She expressed hesitancy but was not against the idea entirely.

“This has been months of discussion. Some of our success may come from people looking for images generated by AI. We are very conscious that this project is about showcasing the value of creativity and creative people. In our workshops, we have had people who are able to think about new metaphors, new concepts, new ways of expression, with input from technology,” Duarte said.

“There’s no one view but it’s amazing that you can test new concepts by giving a prompt to an image generator to help you come up with new ideas. I would only hope that we can get to a stage where artists can be credited in the datasets that image generators are trained on,” she added.

Dihal said that currently generated images of AI just regurgitate existing tropes, and that the need is to change them, not reproduce them.

Similar Posts