바이트댄스의 인기 동영상 플랫폼이 '추천' 피드에 인공지능 콘텐츠를 얼마나 표시할지 결정하는 새로운 설정을 테스트 중입니다. 이는 생성형 모델이 생성하거나 편집하는 콘텐츠가 증가하는 추세에 대응하여 개인화를 강화하기 위한 또 다른 단계입니다.
또한, 이 회사는 눈에 보이지 않는 워터마크와 C2PA 콘텐츠 인증서를 통해 추적성을 강화합니다 . 이러한 조합은 앱 외부에서 편집된 경우에도 합성 소재를 식별하도록 설계되었습니다. 노출 제어와 향상된 라벨링이라는 두 가지 접근 방식을 통해 창의성과 신뢰의 균형을 맞추고자 합니다.
피드에서 어떤 AI를 볼지 결정하는 컨트롤
새로운 기능은 슬라이더 형태로 제공되며, 왼쪽으로 움직이면 AI가 생성한 동영상의 노출 빈도가 줄어들고, 오른쪽으로 움직이면 늘어납니다. 기본값은 중간 위치입니다. 이 기능을 통해 AI 생성 동영상이 완전히 사라지는 것은 아니지만, 추천 콘텐츠에서 노출 빈도를 조절할 수 있습니다.
새로운 기능은 콘텐츠 환경설정 의 "주제 관리"에 통합되었으며 , 기존처럼 예술, 패션, 시사 등의 카테고리를 늘리거나 줄일 수 있습니다. 일회성 필터와 달리, AI 기반 조정 기능은 다른 설정과 동일한 논리에 따라 계정 내 모든 주제에 일괄적으로 적용됩니다 .
이 옵션은 키워드 필터 및 "관심 없음" 버튼과 같은 기존 도구에 추가되어 피드의 본질을 바꾸지 않으면서 사람이 만든 콘텐츠와 자동화된 콘텐츠 간의 균형을 더욱 세밀하게 제어할 수 있도록 합니다.
감지 및 라벨링: C2PA 및 보이지 않는 워터마크
틱톡은 C2PA 콘텐츠 자격 증명 (출처 및 수정 내역을 나타내는 메타데이터)과 플랫폼 자체에서 읽을 수 있는 보이지 않는 워터마킹 시스템을 결합합니다 . 목표는 앱 외부에서 편집, 압축 또는 재내보내기가 이루어지더라도 디지털 발자국이 유지되도록 하는 것입니다.
회사에 따르면, 이 기술로 이미 1.300억 개 이상의 동영상 에 태그가 지정되었습니다 . 문제는 동영상이 다른 네트워크에 업로드될 때 눈에 보이는 태그가 사라진다는 점입니다. 따라서 보이지 않는 태그 지정은 삭제 시도에 대한 추가적인 보안 계층 역할을 합니다.
틱톡은 이번 조치를 통해 플랫폼에 게시되는 콘텐츠의 진정성을 강화하고, 오해의 소지가 있는 콘텐츠를 걸러내는 동시에 AI를 활용한 창의적인 실험을 위한 공간을 유지하고자 합니다.
유럽의 배치 및 범위
이번 발표는 더블린에서 열린 유럽 안보 포럼 에서 이루어졌으며 , 이 자리에서 회사는 자사의 라벨링 및 개인화 전략의 발전 과정을 자세히 설명했습니다. 슬라이더와 보이지 않는 마킹 기능은 특히 유럽 국가들을 중심으로 사용자들에게 점진적으로 도입될 예정입니다.
유럽 전역에 수억 명의 사용자를 보유한 커뮤니티를 위해 , 이번 지역별 출시를 통해 일상적인 경험과 "추천" 피드에서 합성 콘텐츠 노출에 대한 제어의 효과를 측정하는 것이 중요합니다. 회사는 커뮤니티 안전이 "절대 타협할 수 없는" 사항 이며 AI의 투명성이 최우선 과제라고 강조합니다.
이 계획에는 AI 활용 능력 및 안전 프로젝트를 강화하기 위한 2만 달러의 기금이 포함되어 있으며 , 모델이 생성하거나 편집하는 결과물의 특성을 이해하는 데 도움이 되는 교육 콘텐츠를 제공합니다.
크리에이터와 브랜드에 어떤 변화가 있을까요?
퍼블리셔에게 있어 C2PA(콘텐츠 전송 및 저작권법)와 보이지 않는 워터마크를 활용한 라벨링은 AI가 생성한 현실적인 콘텐츠와 다른 콘텐츠를 구분하는 더욱 신뢰할 수 있는 프레임워크를 제공합니다. 이는 신뢰도를 높이고, 기만적인 콘텐츠 에 대한 불만을 줄이며 , 광고 또는 크리에이티브 협업의 명확성을 확보하는 데 도움이 될 수 있습니다.
소비 측면에서, 슬라이더는 "전부 아니면 전무"라는 극단적인 선택을 피하고 사용자가 선호도에 따라 AI 활용 정도를 조절할 수 있도록 합니다 . 생성형 영상을 즐기는 사용자부터 시청 빈도를 낮추고 싶은 사용자까지 모두 만족할 수 있습니다. 개인화는 엄격한 차단이 아니라 알고리즘에 대한 추가적인 신호 역할을 합니다.
회사 측은 더욱 향상된 사용자 신호와 강력한 마크업을 결합하면 추천 시스템이 사용자의 선호도에 부합하는 콘텐츠를 우선시하면서도 새로운 콘텐츠 발견의 가능성을 차단하지 않을 것이라고 주장합니다.
다른 네트워크와 비교하면 어떻습니까?
다른 플랫폼들도 합성 콘텐츠에 라벨을 붙이는 데 진전을 보였지만 , 피드에 표시되는 AI 생성 동영상의 수를 명시적으로 제어할 수 있는 플랫폼은 거의 없습니다. 이러한 맥락에서 틱톡은 특정 주제를 기반으로 AI 생성 카테고리를 좁힐 수 있는 핀터레스트와 같은 접근 방식에서 영감을 얻고 있습니다.
전반적으로 틱톡의 제안은 능동적인 사용자 신호와 더욱 지속적인 기술적 추적을 결합하여 추천에서 사람과 자동화된 콘텐츠의 조합을 관리하는 방법에 대한 선례를 만들고 있습니다.
AI 노출 정도를 조절할 수 있는 슬라이더 와 보이지 않는 워터마크 도입 으로 틱톡은 사용자가 콘텐츠를 제어할 수 있도록 하면서도 플랫폼은 합성 콘텐츠를 식별하는 능력을 강화하는 시나리오를 만들어가고 있습니다. 유럽에서의 테스트 일정이 순조롭게 진행된다면, 이러한 균형은 명확성과 개인화를 잃지 않고 AI와 공존하는 새로운 기준을 제시할 수 있을 것입니다.