AI 도입에 적극적인 e커머스가 도리어 AI 부작용에 고심
e커머스 A플랫폼에 올라온 떡갈비 후기다. 체험 중심 리뷰와 달리 재료나 유래까지 설명하며 두 페이지를 가득 채우고 있다. 생성형 인공지능(AI)으로 만든 후기로 보인다.
10일 업계에 따르면 최근 e커머스는 AI를 활용한 신규 어뷰징에 몸살을 앓고 있다. 생성형 AI가 양산하는 가짜 리뷰에 무방비로 노출되며 플랫폼 신뢰도에 금이 가고 있다.
챗GPT·뤼튼·딥시크 등에 상품명과 구체적인 키워드를 입력하면 장문의 후기를 만들어준다. 마치 사용자가 체험한 것과 같은 리뷰를 완성하는데 소요되는 시간은 5초 남짓이다. 대다수 e커머스 플랫폼에서 생성형AI가 작성한 것으로 추정되는 리뷰를 쉽게 찾아볼 수 있다.
이미 사회관계망서비스(SNS)나 온라인 상에서는 ‘생성형AI로 리뷰 작성하는 법’ 등의 노하우가 공유되고 있다. 구매 내역을 사진으로 첨부한 후 질문하면 리뷰가 더욱 세세해진다는 구체적인 설명이 담겼다. 각 AI 특성에 맞춰 어떤 상품에 적합한 지에 대한 분석도 있다.
이같은 수법은 e커머스 ‘체험단’ 마케팅에 특히 악용되고 있다. 체험단은 다양한 상품을 무료로 제공 받는 대신 장문의 리뷰를 남기는 제휴 마케팅이다. 생생한 체험기를 통해 제품 신뢰도를 높이고 구매를 촉진하기 위해 업계에서 흔히 활용하는 방식이다.
생성형AI가 가짜 리뷰를 작성할 경우 체험단은 사실상 본래의 취지를 잃는다. 무료 상품만 챙기는 악성 체험단이 급증할 수 있다. 결국 상품 후기에 대한 전반적인 신뢰도 문제로 연결될 수 있다.
기존 어뷰징 수법과 연계돼 활용될 수 있다는 지적도 나온다. e커머스는 트래픽·리뷰 조작 등의 어뷰징에 여전히 몸살을 앓고 있다. 특히 빈 박스를 받아 허위 리뷰를 작성하는 ‘가구매’는 리뷰의 양과 질을 생성형AI를 통해 향상시킬 수 있다. 가구매는 악성 리뷰를 통해 경쟁사를 공격하는 방식으로도 활용되는 만큼 심각한 사안이다.
다만 e커머스 업계는 아직 뚜렷한 대안을 마련하지 못하고 있다. 기존 대행사 중심의 어뷰징과 달리 일반 소비자도 편하게 사용할 수 있을 뿐더러 사람과 AI 간 차이를 구분하기는 쉽지 않아서다. AI 도입에 적극적인 e커머스가 도리어 AI 부작용에 고심하는 모양새다.
해외에서는 이미 생성형AI 가짜 리뷰에 대한 문제점이 지속해서 제기되고 있다. 미국 연방거래위원회는 지난해 10월 AI 등이 작성한 가짜 후기의 거래·활용을 처벌하는 방안을 발표하기도 했다.
e커머스 업계 관계자는 “기존 어뷰징 수법은 실시간 모니터링, 사용자 신고 제도 등을 통해 꾸준히 제한하고 있다”며 “생성형AI 확산이 빨라지는 만큼 대비책 마련이 필요한 상황”이라고 말했다.
민경하 기자 maxkh@etnews.com
