인스타그램 관련 이미지 / AI 생성 일러스트(삽화)

인스타그램이 AI로 만들어진 인플루언서에게 정체를 밝히라고 요구하기 시작했다. 인스타그램은 8월 31일(현지시각) 기존 “AI 크리에이터” 라벨을 “AI 생성 프로필”로 바꾸고, 이를 붙이지 않은 계정의 노출을 줄이는 새 정책을 발표했다. 프로필에 등장하는 인물이 AI로 만들어졌거나 AI로 대부분 생성됐다면 이 라벨을 붙여야 한다. 라벨을 제대로 붙이지 않으면 릴스와 탐색 탭에서 팔로워가 아닌 사용자에게 추천되지 않는 식으로 노출이 제한된다. 반대로 라벨을 붙인 계정은 AI 인물을 프로필 주인공으로 뒀다는 이유만으로 불이익을 받지 않는다.

사람인 척하다 들통난 AI 인플루언서들

인스타그램은 이번 조치가 실제 사람처럼 보이는 프로필이 나중에 AI로 만들어진 것으로 드러나는 데 대한 사용자 불만에서 나왔다고 밝혔다. 인스타그램은 블로그 게시물에서 “생성형 AI가 사람들이 콘텐츠를 만드는 방식에서 더 큰 부분을 차지하게 되면서, 사람들은 사람처럼 보이는 프로필을 봤다가 나중에 그 인물이 AI로 생성됐다는 걸 알게 되는 걸 좋아하지 않는다는 이야기를 들었다”고 설명했다. 이어 “사람들은 프로필에 AI로 생성된 인물이 나온다는 사실을 알고 싶어 한다”고 덧붙였다.

실제로 문제가 된 사례가 여럿 보고됐다. 동성 데이팅 앱 구스(Goose)는 올해 초 와이어드(Wired) 취재로 도마 위에 올랐다. 와이어드는 겉보기에 AI로 생성된 남성 인플루언서 네트워크가 인스타그램에서 이 앱을 홍보한 사실을 확인했다며, 24개 넘는 계정이 AI 인플루언서로 보였고 일부는 사용자에게 직접 메시지를 보내 가입을 유도했다고 전했다. 건강·웰니스 분야도 골칫거리로 꼽혔다. 뉴욕타임스는 지난 7월 보도에서 소셜미디어에서 보충제를 판매하거나 건강 관련 주장을 펴는 AI 생성 의사·치료사·웰니스 인플루언서 수백 개를 발견했다고 전했다.

“AI 생성 프로필”, 무엇이 달라지나 / AI 생성 이미지

“AI 생성 프로필”, 무엇이 달라지나

기존 “AI 크리에이터” 라벨은 AI 콘텐츠를 정기적으로 올리는 프로필 전반에 붙는 일종의 포괄적 표시였다. 이를 대체하는 “AI 생성 프로필” 라벨은 프로필에 등장하는 인물 자체가 AI로 생성됐음을 알리는 데 초점을 맞춘다. 다만 모든 AI 활용에 라벨이 필요한 것은 아니다. 인스타그램은 사진 편집, 캡션 다듬기, 그래픽 제작, 그 외 창작 목적의 소소한 AI 활용에는 이 라벨을 붙일 필요가 없다고 밝혔다.

라벨을 붙이지 않은 계정은 실질적인 불이익을 받는다. 더 버지(The Verge)에 따르면 인스타그램은 자체 라벨을 붙이지 않은 AI 생성 프로필을 찾아내 릴스와 탐색 탭에서 비팔로워에게 추천되지 않도록 노출을 제한할 계획이다. 잘못 걸린 계정은 이의를 제기할 수 있다. 엔가젯(Engadget)이 인용한 인스타그램 대변인 발언에 따르면 “AI 인물을 다루면서 라벨을 쓰지 않은 계정은 곧 노출에 제한을 받을 수 있다”고 한다. 부당하게 제재를 받았다고 생각하는 크리에이터는 계정 상태(Account Status) 대시보드를 통해 이의를 제기할 수 있다.

AI 슬롭 범람 속 메타의 동시다발 조치

이번 발표에 앞서 인스타그램은 다른 사람의 얼굴을 활용해 이미지를 생성할 수 있게 한 AI 도구로 반발을 샀다. 이용자들은 자신의 공개 게시물이 명시적 동의 없이 활용됐다는 데 문제를 제기했고, 메타는 해당 기능을 삭제했다. 엔가젯은 가디언(The Guardian)이 앱과 브랜드를 홍보하는 AI 생성 “인플루언서” 무리를 발견했다고 전하기도 했다.

메타의 행보는 여기서 끝나지 않는다. 인스타그램 발표에 앞선 주에 메타는 페이스북과 인스타그램이 어린이·청소년에 미치는 영향을 둘러싼 의혹과 관련해 미국 여러 주와 180억 달러(약 24조 6,240억원, 1달러 1,368원 기준) 규모 합의에 도달했다. 합의에 따라 메타는 청소년 대상으로 하루 2시간의 기본 사용 제한, 취침 시간대를 막는 “나이트 모드”, 등교 시간 알림 무음 처리 등을 페이스북과 인스타그램에 도입한다.

The Decoder에 따르면 AI 생성 콘텐츠의 범람은 인스타그램만의 문제가 아니다. 유튜브 쇼츠의 21%가 이미 AI로 생성된 것으로 나타났고, 링크드인도 AI로 만든 콘텐츠로 넘쳐난다고 전했다. 새로 만들어지는 웹사이트의 35%가 전부 또는 일부 AI로 작성된다는 조사도 있다. The Decoder는 메타가 2024년 말 AI 프로필과 실제 사용자의 “공존”을 계획하며 공식 AI 캐릭터까지 출시하려 했지만 별다른 성과를 거두지 못했다고 짚었다.

라벨만으로는 AI 콘텐츠를 걸러낼 수 없다

새 라벨 정책이 인스타그램의 AI 콘텐츠 문제 전체를 해결하는 것은 아니다. 이 라벨은 AI로 생성된 인물이 등장하는 프로필에만 적용되며, 일반적인 AI 편집·보정 콘텐츠에는 적용되지 않는다. 즉 이용자가 플랫폼에서 AI로 만들어진 콘텐츠 전반을 걸러내는 기능은 이번 조치로 생기지 않는다. 창작 도구로 AI를 활용하는 크리에이터는 별도 표시 없이도 지금처럼 콘텐츠를 올릴 수 있다.

인스타그램은 이번 조치를 시작 단계로 규정하며 라벨 없이 AI 생성 인물을 내세운 계정을 찾아내는 작업을 이어갈 계획이라고 밝혔다. AI 인플루언서가 실존 인물처럼 사용자와 소통하며 제품을 홍보하거나 건강 정보를 전하는 사례가 늘어난 만큼, 이번 라벨 정책이 실제로 얼마나 많은 계정을 걸러낼지가 다음 관전 대상이 될 것으로 보인다.