Defining and identifying attention capture deceptive designs in digital interfaces

Abstract:

Many tech companies exploit psychological vulnerabilities to design digital interfaces that maximize the frequency and duration of user visits. Consequently, users often report feeling dissatisfied with time spent on such services. Prior work has developed typologies of damaging design patterns (or dark patterns) that contribute to financial and privacy harms, which has helped designers to resist these patterns and policymakers to regulate them. However, we are missing a collection of similar problematic patterns that lead to attentional harms. To close this gap, we conducted a systematic literature review for what we call ‘attention capture damaging patterns’ (ACDPs). We analyzed 43 papers to identify their characteristics, the psychological vulnerabilities they exploit, and their impact on digital wellbeing. We propose a definition of ACDPs and identify eleven common types, from Time Fog to Infinite Scroll. Our typology offers technologists and policymakers a common reference to advocate, design, and regulate against attentional harms.

Conclusion:

As tech companies design their digital services to maximize time spent and daily visits, there is a need to better understand the design patterns that “steal” attention and harm digital wellbeing. To pursue this goal, we presented the results of a systematic literature review that provided a comprehensive overview of attention capture damaging patterns (ACDPs). Our typology of 11 ADCPs complements existing collections of damaging patterns that have been proposed in the domains of finance and privacy and is a call for designers and regulators to seriously consider attentional harms and the design patterns that promote them. We hope that the definition, criteria, and typology of ADCPs in this work serves as a common reference for technologists and policymakers aiming to align technology design with digital wellbeing.

Content

Abstract

• 많은 기업이 방문 주기와 체류 시간을 극대화하기 위해 심리적 취약점을 악용함에 따라 사용자들의 불만족이 증가
• ‘피해를damaging 주는 디자인 패턴’ 또는 다크 패턴에 대한 기존 연구는 주로 금전적 위해 또는 프라이버시 위해에 집중
• 본 연구는 주의력 위해attentional harms에 집중. 이를 Attention capture damaging patterns(ACDP)로 명명
• 43개 논문을 분석하여 ACDP의 특징을 파악하고 흔히 쓰이는 11개의 타입을 분류

1. Introduction

• ‘다크 패턴’으로 인해 많은 사람들이 디지털 기기를 너무 오래 쓰거나 강박적으로 쓰고 있다고 느낌. 몇몇은 중독을 호소.
• ‘dark’를 부정적 의미로 쓰지 않기 위해 deceptive 또는 damaging 등의 용어가 대안으로 제시되었음. 본 논문에서는 ‘damaging’을 채택.
• 지난 10년 간 많은 연구가 있었으나 주의력 위해에 대한 연구는 상대적으로 부족. Brignull의 오리지널 패턴 12 개 중에서도 “Disguised Ads”만 주의력과 관련이 있음.
• 체계적 문헌 검토(Systematic literature review)를 통해 Attention capture damaging patterns(ACDP)를 규정하고, 관련 웹사이트를 만들었음: attentioncapture.com/
  • Tristan Harris가 Aza Raskin과 함께 진행하는 팟캐스트 이름도 “Your Undivided Attention” —ak

2. Methods

PRISMA guideline에 따라 문헌 검토를 하였음.

• PRISMA?
  • “PRISMA is an evidence-based minimum set of items for reporting in systematic reviews and meta-analyses” —https://doi.org/10.1371/journal.pmed.1000100
  • Preferred Reporting Items for Systematic reviews and Meta-Analyses
  • 1999년 QUOROM (Quality of Reporting of Meta-analysis) 이후로 제안된 여러 개선안 중 하나.
  • 27개 체크리스트 항목과 네 단계 순서도로 구성. 편향을 줄이고 재현가능성을 높이는 등 문헌 연구 및 메타 분석의 품질을 높이기 위한 방법과 절차
• 검색된 1334개 문헌 중 43개를 분석

3. Systematic Literature Review of Attention Capture Deceptive Designs

3.1. Definition and Criteria

ACDP의 정의:

A recurring pattern in digital interfaces that a designer uses to exploit psychological vulnerabilities and capture attention, often leading the user to lose track of their goals, lose their sense of time and control, and later feel regret. 슬롯 머신? —ak

기준:

• C1. Exploit Psychological Vulnerabilities
• C2. Automate the User Experience:
  • 의미없는 일상적 해리(normative dissociation; 병리적 해리가 아닌 일상에서 겪는 해리; 백일몽, 몰입 상태, 영화에 빠져든 상태 등)를 유도하는 자동화된 UX 설계.
  • 자동화된 UX란? 사용자의 자율적 의사 결정 과정을 건너뛰기. 예: “다음 페이지를 보겠다”는 의사 결정 과정을 생략하고 콘텐츠를 무한히 공급.
  • Aza Raskin의 무한 스크롤 역시 Jef Raskin의 연구가 이어진 결과. Jef Raskin은 인간의 주의력이 유한하므로 사용자의 주의소재가 인터페이스가 아닌 과업 자체로 향하는 상태를 최대한 유지하게 만들어야 하며, 그래야 몰입 상태에 빠져들 수 있다고 주장. —ak
• C3. Lose Track of Goals for Use: 원래 목적을 잊고 다른 걸 하게 유도함.
• C4. Lost Sense of Time and Control: C2와 유사.
• C5. Sense of Regret: 몰입 경험과 달리 일상적 해리를 겪은 후에는 후회를 하곤 함. 전형적인 중독 증상. —ak

3.2. A Typology of Attention Capture Damaging Patterns

Typology? Taxonomy랑 비슷한 의미. 1) ‘이상적인 형태들ideal types’이라는 의미를 강조하고 싶었고, 2) taxonomy와 달리 엄밀한 배타적 소속성을 요하지 않아서 좋음.

세 가지 중요한 의사결정:

• 학문적 이름 vs. 일상적 이름: Christopher Alexander의 목적에 맞게 ‘살아있는’ 언어가 되길 바라며 일상적 이름을 쓰기로 함.
• 어떤 패턴을 포함시킬지 여부: 주의력 위해와 관련이 있는 ‘결과’를 낳는 패턴에 집중하기로 함. 예: “카운트다운 타이머”는 주의력을 빼앗기는 하지만 목적은 금전적 위해에 있으므로 포함시키지 않음.
• 맥락을 얼마나 고려할지 여부: 동일한 UI라도 맥락에 따라 해로울 수도 있고 아닐 수도 있음. 따라서 패턴을 기술할 때 맥락(주의력 위해로 이어질 가능성이 큰 상황이 무엇인지)을 포함하기로 하였음. CA의 패턴 언어도 맥락-문제-해결책 형식. 맥락 없이 존재하는 문제나 해결책은 없으므로. —ak

Typology:

• P1. Infinite Scroll: As the user scrolls down a page, more content automatically and continuously loads at the bottom.
• P2. Casino Pull-to-refresh: When the user swipes down on their smartphone, there is an animated reload of the page that may or may not reveal new appealing content.
• P3. Never-ending Autoplay: A new video is automatically played when the current one finishes. There is never a point for the user to stop and reflect, and the option to turn of autoplay is hidden or non-existent.
• P4. Guilty Pleasure Recommendations: Personalized suggestions that prey on individual consumer frailty to target user’s guilty pleasures and increase use time.
  • 어느 정도 즐거운 경험을 주는 콘텐츠를 제시하지만 경험한 후에는 후회하는 감정이 들게 만드는 종류의 추천. 충동을 잘 제어하지 못하는 사용자에게 특히 위험. 유튜브 바이럴 비디오 추천 등.
  • 사용자가 뭘 클릭하는지에 따라 학습을 하기 때문에 점점 더 사용자를 잘 낚게 됨. “Never-ending Autoplay”도 사용자가 언제 스크롤을 멈추는지, 어느 시점에 스크롤을 하는지 등에 따라 학습을 하기 때문에 큰 차이는 없음 —ak
• P5. Disguised Ads and Recommendations: Advertisements and recommendations, e.g., posts and sponsored pages, that are disguised as normal content into social networks’ newsfeeds.
• P6. Recapture Notifications: Notifications that are deliberately sent to recapture users’ attention and have them start a new usage session, e.g., notifications with recommended content or notifications about content the user has never interacted with.
• P7. Playing by Appointment: Users are forced to to use a digital service at specific times as defined by the service, otherwise the user may loose points and achievements.
• P8. Grinding: Users are forced to repeat the same process several times to unlock an achievement, e.g., a new level in a video game or a badge on a social network.
• P9. Attentional Roach Motel: Registering to and accessing attention-capture digital services is easy, while operations like logout or canceling an account are painfully difficult.
• P10. Time Fog: A pattern through which designers reduce users’ awareness of time spent, e.g., by hiding the smartphone’s clock.
• P11. Fake Social Notifications: The platform sends messages pretending to be another user or social notifications about some content the user has never interacted with.

4. Discussion

4.1. Damaging Design Patterns: A New Name for Dark Patterns

• Inclusive language를 쓰려는 노력의 일환으로 ‘dark’ patterns 대신 ‘deceptive’ patterns, ‘damaging patterns’ 등이 제안되었음.
• Caroline Sinders의 제안에 따라 damaging patterns를 대안으로 쓰고자 함.
• dark patterns의 ‘dark’가 모호하다는 지적이 있었는데 저자들은 오히려 이 점이 강점이라고 생각함. ‘damaging’도 마찬가지 강점이 있어서 선호.

4.2. Deception and Seduction

ACDP의 두 범주:

• Deception
  • 예: Disguised Ads and Recommendations, Fake Social Notifications
  • 규제 대상으로 종종 거론됨.
• Seduction
  • 예: Guilty Pleasure Recommendations
  • 학계에서 잘 다뤄지지 않음. Mathur et al에 따르면 ‘seduction’은 19개 정의 중 한 개에만 포함됨.
  • 어느 정도의 유혹이 윤리적으로 적절한지 구분하기 쉽지 않음. A/B 테스트|B 테스트를 제안하기도 하지만, ACDP의 경우 쉽지 않음. 왜? 체류시간 증가가 위해의 증가를 의미하는지 알기가 어렵기 때문. 정성 평가가 함께 이루어져야 함. Engagement 지표의 대표적 문제. 일반적으로 positive vs. negative engagement를 구분하기가 어려움. —ak

4.3. ACDPs Across Domains and Interfaces

• 기존 연구 대부분이 게임과 소셜 미디어에 치중되어 있음. 게임과 소셜 미디어의 위험성에 대한 우려가 크기 때문. 저자들 생각에는 이미 다른 분야에서도 ACDP가 널리 쓰이고 있음.
• 기존 연구 대부분이 GUI에 치중되어 있음. 하지만 ACDP는 VUI 등 다른 분야에 충분히 전용될 수 있을 것.

4.4. Implications for Designers

• 이미 존재하는 디자인이 주의력 위해를 가하는지 평가하기
• 사용자의 주의력을 존중하는 방식의 다른 디자인 대안을 제시하기
• 디지털 셀프 컨트롤을 위한 툴을 만들기. 예: 애플의 스크린타임과 포커스 모드 —ak

4.5. Limitations and Future Work

• 너무 빠르게 변하는 분야라 이번 연구에 포함된 논문 외의 새로운 논문이 빠르게 추가될 것
• 검색을 위한 키워드 선정을 주관적으로 하였음. 다만 모든 키워드와 선별 과정을 공개했으니(PRISMA) 평가/재현 가능할 것
• 문헌이 컴퓨터과학(HCI 등)에 한정되어 있음. 법학이나 사회과학 등 다른 분야로 확장하면 좋을 것

5. Conclusions

• ACDP를 정의하고, 기준을 만들고, 기준에 부합하는 11개 타입을 분류했음.
• 정의, 기준, 타입이 기술자들이나 정책결정권자들에게 잘 활용되길 바람.