경제타임스 김은국 기자 | 필요한 물건을 찾기 위해 스마트폰 앱을 켜면 AI가 제안하는 ‘맞춤형 상품’들이 화면을 장악한다. 정작 사야 할 생필품을 찾으려면 원치않는 추천 상품들을 한참이나 지나쳐야 하는 이른바 ‘스크롤 전쟁’이 일상이다. 편리함을 기치로 내건 AI 알고리즘이 오히려 소비자의 선택권을 침해하는 ‘디지털 방해꾼’으로 전락하고 있다.
■ "한 번의 클릭, 영원한 굴레"... 초개인화 알고리즘의 민낯
최근 유통업계의 화두는 단연 '초개인화 추천 시스템'이다. AI가 고객의 구매 이력은 물론 검색 패턴, 페이지 체류 시간 등을 실시간으로 수집해 소비자가 지갑을 열 때까지 유사 상품을 집요하게 노출하는 방식이다.
실제 국내 주요 플랫폼들의 알고리즘 작동 방식은 놀라울 정도로 정교하다.
패션 플랫폼(무신사, W컨셉 등)에서 특정 키워드를 입력하는 순간 메인 탭의 '나를 위한 추천' 영역이 즉각 재편된다. 앱을 종료해도 "보셨던 상품이 인기 급상승 중"이라는 푸시 알림이 따라붙으며 재방문을 강요한다. 이커머스(쿠팡, 11번가 등)에선 생필품 검색 시 '추천 검색어'부터 하단 리스트까지 동종 상품군으로 도배된다. 소비자가 다른 대안을 고민할 틈을 주지 않는 구조다.
기술적으로 이는 '콘텐츠 기반 필터링(Content-based Filtering)'과 '리타겟팅(Retargeting)'의 결합이다. 소비자가 소비한 콘텐츠의 속성을 분석해 비슷한 제품을 매칭하고, 앱 밖에서도 배너나 알림으로 해당 상품을 지속 노출하는 일종의 '디지털 잔상' 효과를 노리는 것이다.
■ 편리한 큐레이션인가, 지능적인 ‘필터버블’인가
업계는 이러한 시스템이 소비자의 탐색 시간을 줄여주는 '효율적 쇼핑 환경'이라고 항변한다. 한 이커머스 관계자는 "수천만 개의 상품 중 고객 취향에 근접한 상품을 골라주는 것은 고도화된 큐레이션 서비스이며 플랫폼의 핵심 경쟁력"이라고 강조했다.
하지만 학계의 시각은 우려 섞여 있다. 이른바 '필터버블(Filter Bubble)' 현상 때문이다. AI가 사용자의 과거 데이터에만 매몰되어 유사한 정보만 제공함으로써, 소비자가 새로운 취향을 발견할 기회를 차단하고 특정 정보에만 갇히게 만드는 현상을 말한다.
실제로 2021년 한국취업진로학회 논문에 따르면, 알고리즘이 소비자의 클릭을 기반으로 유사 상품을 반복 노출할 경우 사용자의 관심사가 인위적으로 강화되고 소비 선택이 한 방향으로 편중되는 '취향 강화 효과'가 뚜렷하게 나타났다. 미국 마케팅학회의 학술지 'Journal of Marketing' 역시 초개인화 알고리즘이 소비자의 자율성을 침해하고 정보 다양성을 급격히 감소시킨다고 경고한 바 있다.
■ "줄 때만 먹어라?"... 이제는 AI '거부권' 논의해야 할 때
전문가들은 고도화된 AI 예측 시스템에 대응해 소비자의 '알고리즘 통제권'이 보장되어야 한다고 지적한다. 추천된 목록 중 하나를 고르는 수준을 넘어, "더 이상 이 카테고리를 추천하지 마라"고 명령할 수 있는 권리가 필요하다는 것이다.
김시월 건국대학교 소비자정보학과 교수는 "과거 아마존의 '예측 배송' 기술이 현재는 개인화 알고리즘으로 더욱 정교해졌다"며 "수동적으로 추천을 받아들여야 하는 현 구조에서 소비자에게 알고리즘에 대한 '거부권'을 제도적으로 보장해야 한다"고 제언했다.
AI는 분명 쇼핑의 효율성을 높여주었지만, 역설적으로 소비자를 데이터의 감옥에 가두고 있다. 기업들이 '락인(Lock-in) 효과'에만 매몰되어 소비자 자율성을 외면한다면, AI 추천은 서비스가 아닌 '스팸'으로 전락할 수밖에 없다. 진정한 초개인화는 소비자가 '보지 않을 권리'까지 존중할 때 완성된다.
