기사 내용을 바탕으로 생성한 일러스트. 경기일보 AI 이미지


인공지능(AI)을 활용한 후기 조작 논란이 다이어트 식품 시장에서 이어지면서 소비자 불신이 커지고 있다.
31일 경기일보 취재 결과 최근 체형 변화가 과도하게 강조된 전·후 비교 사진들이 실제 소비자 후기인지에 대한 의문이 확산되며, 온라인상에서 유통 중인 다이어트 식품 후기 이미지 일부가 AI로 생성됐을 가능성이 나오고 있다.
광교에 거주하는 임연화씨(가명·27)는 다이어트 식품을 구매하기 위해 후기를 살펴보던 중, 한 후기 사진에서 어색함을 바다신2게임 느꼈다.
이에 임씨는 해당 이미지를 구글의 생성형 AI 서비스 ‘제미나이(Gemini)’에 분석 요청했다.
그 결과 “업로드된 이미지 중 일부가 Google AI 기술을 통해 생성되거나 수정된 것으로 확인됐다”라는 멘트가 출력됐다.
임씨는 “혹시나 했는데 AI가 이렇게 활용될 수 있다는 점이 불안하 릴게임몰 게 느껴졌다”며 “후기 사진을 믿고 구매하려고 했는데 AI임을 미리 알게 돼 다행이다”라고 말했다.
경기일보는 임씨에게 받은 해당 이미지와 다른 후기 사진들을 추가로 분석한 결과, 다수의 이미지에서 임씨와 같은 결과가 얻을 수 있었다.
분석에는 Google DeepMind가 개발한 AI 생성 콘텐츠 식별 기술 ‘Syn 바다이야기릴게임2 thID’를 활용했다.
SynthID는 AI로 생성된 이미지나 영상에 보이지 않는 디지털 워터마크를 삽입해, 사후 분석을 통해 생성 여부를 확인할 수 있도록 한 기술이다.
다만, 해당 분석 결과는 AI 생성 가능성을 판단하는 참고 자료로 활용되는 것으로, 모든 이미지의 생성 여부를 확정적으로 판별하는 것은 아니다.
바다이야기5만


기사 내용을 바탕으로 생성형 AI로 제작한 일러스트. Chat gpt


이처럼 일부 후기 이미지에 대한 소비자 우려가 나오는 가운데 최근 시행된 AI기본법이 대안이 될 수 있을지 관심이 쏠리고 있다.
바다신2 다운로드 1월 22일부터 시행된 ‘AI기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)’은 AI 산업을 육성하고 기술로 인해 발생할 수 있는 위험을 사전에 예방하기 위해 마련된 법안이다.
이 법은 구글이나 오픈AI처럼 국내 이용자를 상대로 AI 서비스를 제공하는 사업자에게 AI 생성물임을 알릴 투명성 의무를 부과한다.
AI 프로그램을 이용하는 이용자와 그로 인해 영향을 받는 이들은 대상자가 아니다.
최정진 가천대 법학과 교수는 “AI 기본법은 생성형 AI를 제공하는 기업이 어떤 기준과 책임 아래 서비스를 제공해야 하는지를 규율하는 법”이라며 “판매자가 직접 후기를 남기거나 지인을 통해 허위 후기를 유도한 경우에는 기존 표시·광고 관련 법령에 따라 충분히 제재가 가능하다”고 설명했다.
즉, 후기 이미지가 AI로 생성됐는지 여부보다 판매자의 개입 여부와 소비자를 속이려는 의도가 있었는지가 법적 판단의 핵심 기준이라는 것이다. 소비자가 자발적으로 AI를 활용해 후기를 작성한 경우에는 이를 단속하기 어렵지만, 판매자가 이를 이용해 소비자의 합리적 판단을 왜곡했다면 표시·광고에 관한 법률이나 전자상거래법을 통해 규율할 수 있다.
이민영 가톨릭대 법학과 교수도 “AI 기본법이 사업자 중심으로 설계된 것은 기존 법질서와의 충돌을 최소화하면서 사회적 보호가 필요한 영역을 보완하려는 취지”라며 “AI 후기 조작 문제 역시 AI 기본법이 아닌 표시광고법 등 기존 소비자 보호 법체계 안에서 다뤄지는 구조가 맞다”고 말했다.
아울러 이 교수는 “AI 기본법 시행으로 사업자가 AI 사용 사실을 고지해야 하는 원칙이 정착되면, 향후 AI 후기 조작과 같은 행위로 인해 소비자의 합리적 판단이 침해되는 사례는 점차 줄어들 가능성이 있다”고 내다봤다. 다만 “시행령과 가이드라인이 충분히 마련되지 않은 상태에서 법이 시행되는 점은 아쉬운 부분”이라며 “중소기업이나 스타트업의 경우 제도 변화에 대한 준비가 쉽지 않을 수 있다”고 말했다.
공혜린 기자 heygong00@kyeonggi.com