제품 구입 시 참고하는 인터넷 사용기는 과연 믿을 만할까? 온라인 쇼핑몰이나 호텔 예약 사이트 등을 이용하는 90%의 사람들이 사용자의 사용기를 살펴본다고 하며, 40%의 사람들이 이를 구입의 결정적 판단 기준으로 삼고 있다.

사람이 직접 쓴 사용기가 존재하는 한편, 코멘트 생성 AI가 자동으로 작성한 사용기도 영어권을 중심으로 증가하고 있다. 이러한 AI가 쓴 가짜 리뷰를 구분할 방법이 있을까? 핀란드 알토대 연구팀은 이 문제에 대해 연구 중이다.

작년 시카고대학이 연구 목적으로 개발한 레스토랑 리뷰 자동생성 AI는 오류가 많았다. 예를 들어 라스베이거스의 일본식 레스토랑 리뷰를 작성하는데 볼티모어의 이탈리안 레스토랑을 소개하는 등 사람들이 가짜임을 쉽게 알 수 있엇다. 

알토대 연구팀은 새로운 기술을 이용해 AI에 문맥을 만드는 기능을 부여했다. 여기에 레스토랑명, 소재지, 요리 장르에서 벗어나지 않고 리뷰를 작성하도록 했다. 그리고 실험 참가자에게 AI로 작성한 가짜 리뷰와 사람이 직접 쓴 진짜 리뷰를 구분하도록 했는데 가짜 리뷰는 60%의 확률로 진짜로 인식되었다.

그리고 교묘한 가짜 리뷰 작성 능력은 가짜 리뷰를 구분하는 성능도 향상시켰다. 연구팀은 이 AI를 바탕으로 제작한 가짜 리뷰 발견기는 평균 97%의 정밀도로 가짜 리뷰를 구분한다고 밝혔다.

최근 AI를 이용한 가짜 동영상 및 뉴스가 사회적인 문제를 일으키고 있다. 작년에는 갑자기 인터넷에서 동영상 편집 AI 딥페이크(Deepfakes)가 공개되었다. 이 편집기를 활용하면 유명 여배우의 얼굴을 성인 동영상 여배우의 얼굴과 바꾸는 것이 가능하다. 자신이 출연하지도 않은 성인 영화가 만들어 지는 것이다.

또 최근 카네기멜론대 연구팀이 만든 리사이클 갠(Recycle-GAN)이라는 AI는 특정인의 스피치를 다른 사람이 재현할 수 있도록 만들어졌다. 즉 본인이 실제로 말하지 않은 내용이라도, 나중에 말한 것처럼 편집할 수 있다. 예컨대 정치인의 스피치 영상 속 발언 내용을 바꿀 수도 있어 그야말로 가짜 뉴스를 만들 수 있는 기술이다.

영국 국회에서는 이런 기술이 민주주의를 위협하는 프로파간다 무기가 될 수 있다고 경계하면서 가짜 뉴스 특별위원회를 설립했다. 영국 정부는 올해 1월 영국의 IT 기업 신디시아(Synthesia)에 약 7만 파운드를 출자해 가짜 동영상을 간파하는 기술 개발을 진행하고 있다.

온라인 프로파간다의 전문가인 벤 니모에 따르면 현재는 SNS 상에서 딥페이크를 구분하는 방법은 없다고 전한다. 지금도 가짜 동영상, 뉴스, 리뷰를 만드는 AI와 이를 구분해 내는 AI의 개발 경쟁이 치열하게 전개되고 있다. 

베타뉴스 우예진 기자 (leejik@betanews.net)
Copyrights ⓒ BetaNews.net

• • 목록
  • 위로