경제타임스 김은국 기자 |   최근 직장인 A씨는 SNS를 이용하다 솔깃한 영상을 발견했다. 단정한 가운을 입은 가정의학과 전문의가 등장해 임상 데이터를 근거로 특정 성분이 탈모에 효과적이라고 설명하는 60초 분량의 숏폼 영상이었다. 신뢰감 있는 목소리와 정중한 고갯짓, 전문 용어를 구사하는 모습에 A씨는 구매 버튼을 누르려다 멈칫했다. 영상 속 의사의 눈 깜빡임이 미세하게 부자연스러웠기 때문이다. 확인 결과, 해당 전문의는 실존 인물이 아닌 생성형 AI로 만들어진 '가상 인간'이었다.

기술의 고도화가 뜻밖의 부작용을 낳고 있다. 전문가가 등장해 건강 정보를 전달하며 은근슬쩍 제품 구매를 유도하는 영상 콘텐츠가 급증하고 있는데, 이들 중 상당수가 AI로 생성된 가짜 전문가다. 이는 정보성 콘텐츠인 척하며 실제로는 검증되지 않은 제품을 파는 전형적인 'AI 워싱(AI Washing)' 사례다.

■ ‘마시는 위고비’의 함정…적발된 제품 31%가 AI 가짜 전문가 동원

한국소비자원의 최근 조사 결과는 충격적이다. 기적의 비만치료제로 불리는 ‘위고비’와 유사한 효과가 있다고 광고한 일반 식품 16개를 분석한 결과, 체중 감소 성분을 제대로 함유한 제품은 단 하나도 없었다. 더욱 심각한 것은 이들 광고의 31%가 AI로 생성한 가상 의사나 인플루언서를 내세워 소비자를 기만했다는 점이다.

이들은 "마시는 위고비", "GLP-1 호르몬 촉진" 등 의학적 착각을 불러일으키는 문구를 사용했으며, 제품의 88%를 알약 형태로 제작해 마치 전문 의약품인 양 포장했다. 식약처에 따르면 지난해 AI 가짜 전문가를 동원한 허위·과장 광고는 63건이 적발됐으며, 전체 온라인 부당 광고 건수는 2024년 기준 약 9만 6,000건으로 2021년 대비 1.6배나 급증했다.

■ 법망 비웃는 ‘치고 빠지기’ 수법…계도기간이 면죄부?

올해 1월부터 ‘인공지능 기본법’이 시행되면서 AI 생성물에는 반드시 표시 의무가 부여되지만, 현장은 무법지대나 다름없다. 현재 약 1년간의 계도기간이 운영되고 있어 법 위반 시에도 과태료 등 행정처분이 유예된다는 점을 악용하는 것이다.

수법도 갈수록 진화하고 있다.
· 유령 채널 운영 : 1~2주간 집중적으로 광고를 노출한 뒤 채널을 삭제하는 ‘치고 빠지기’식 전략을 구사한다.
· 댓글 조작 : “3주 만에 8kg 감량”, “병원 갈 필요 없다”는 식의 자동 생성 후기를 도배해 군중 심리를 자극한다.
· 단속 회피 : 광고 문구를 영상 자막이 아닌 음성으로만 삽입하거나, 제품명을 해시태그로만 표기해 AI 모니터링 시스템을 우회한다.

■ 정부, ‘24시간 내 차단’ 카드 꺼냈지만…플랫폼 책임론 대두

정부도 사태의 심각성을 인지하고 대응책 마련에 나섰다. 방통위와 방심위는 AI 허위 광고를 24시간 내 서면 심의해 차단할 수 있도록 법 개정을 추진 중이며, 공정거래위원회 역시 AI 가상 전문가의 추천 광고를 '기만적 광고'로 규정하고 징벌적 손해배상 검토에 착수했다.

하지만 전문가들은 사후 규제만으로는 한계가 명확하다고 입을 모은다. 이은희 인하대 소비자학과 교수는 “AI 광고는 실제 메시지의 주체가 드러나지 않아 책임 소재가 불분명하고 왜곡 가능성이 크다”며 “소비자가 한눈에 인지할 수 있도록 하는 사전적 표시 의무를 더욱 강화해야 한다”고 지적했다.

생성형 AI 기술은 영상 제작 비용을 획기적으로 낮췄지만, 그 혜택은 사기성 광고업자들에게도 고스란히 돌아갔다. 이제는 플랫폼사가 AI 생성 콘텐츠에 대한 필터링 책임을 더 무겁게 져야 한다는 목소리에 힘이 실리고 있다.

업계 관계자는 "AI는 밤새도록 수천 개의 광고 영상을 찍어낼 수 있다"며 "알고리즘 추천을 타고 퍼지는 건강 정보일수록 채널 프로필에 실제 의료진 정보가 있는지, AI 생성물 고지가 있는지 반드시 확인해야 한다"고 조언했다.