커뮤니티 가이드라인 집행 보고서

2019년 7월 1일 – 2019년 12월 31일
발간일: 2020년 7월 9일

보고서에 대하여

틱톡은 창의적 표현을 기반으로 하는 플랫폼입니다. 저희는 다양하고 성장하는 플랫폼 커뮤니티 속에서 사용자들이 각자의 독창성을 마음껏 표현할 수 있는 환경을 조성하기 위해 노력하고 있습니다. 우리는 심리적 안정 속에서 보다 스스로를 잘 나타낼 수 있고 창의적인 표현 또한 가능합니다. 바로 이런 이유 때문에 저희의 최우선 과제는 틱톡 플랫폼 상에서 누구나 안전하고 긍정적인 경험을 할 수 있는 분위기를 조성하는 것입니다. 우리는 2019년 12월 30일 첫번째 투명성 보고서를 발간하면서 틱톡이 어떠한 책임감을 가지고 데이터 요청에 응하며 지적 재산을 보호하는 지에 대해 정기적으로 우리 커뮤니티에 알리겠다고 약속했습니다. 이번 보고서에서는 보고 범위를 확대하여 아래의 내용도 함께 다루었습니다.

• 커뮤니티 안전을 지키기 위한 틱톡의 노력과 정책
• 커뮤니티 가이드라인 수립 및 이행 방식
• 커뮤니티 강화를 위해 틱톡이 제공하는 도구와 교육
• 커뮤니티 가이드라인 위반으로 삭제되는 영상의 갯수

또한, 콘텐츠 정책 범주 9가지에 대한 콘텐츠 자율규제 결과 보고도 시작합니다. 틱톡은 작년 말부터 커뮤니티 가이드라인 위반 영상들의 삭제 사유를 보다 투명하게 보고 할 수 있는 새로운 콘텐츠 자율규제 인프라를 도입하기 시작했습니다. 본 보고서에서는 새로 도입된 콘텐츠 자율규제 인프라를 통해 12월 한 달 동안 삭제된 영상에 대한 이유를 공유하고자 합니다. 추후 보고서에서는 6개월 동안의 데이터를 모두 공유 할 예정입니다. 틱톡은 커뮤니티의 신뢰를 얻기 위해 지속적으로 노력하겠습니다. 본 투명성 보고서 또한 사용자, 정책 입안자, 전문가들의 피드백을 반영하여 꾸준히 개선해 나갈 것입니다. 저희의 궁극적인 목표는 모든 프로세스와 조치에 대한 투명성을 최대한 증대시켜 틱톡이 누구에게나 재미있고 감동을 주는 플랫폼이 되도록 하는 것입니다.

보고서 데이터

동영상

2019년 하반기(2019년 7월 1일 ~ 12월 31일)에, 전세계적으로 커뮤니티 가이드라인 및 서비스 약관을 위반한 49,247,689개의 영상이 삭제 되었습니다. 이는 전체 사용자 업로드 영상들의 1%도 되지 않는 수치입니다. 틱톡은 자사 자율규제 시스템을 통해서 문제 영상들의 98.2%를 사용자들의 플래깅 전에 포착하고 삭제했습니다. 그 중 89.4%는 다른 사용자들이 보기 전에 삭제 되었습니다. 아래는 삭제된 영상이 가장 많았던 5개 국가의 목록입니다.

작년 말부터 저희는 틱톡 플랫폼에서 삭제된 영상의 삭제 이유를 더욱 투명하게 보고할 수 있도록 해주는 콘텐츠 자율규제 인프라를 전세계적으로 도입하기 시작했습니다. 특정 영상이 커뮤니티 가이드라인을 위반한 경우, 위반한 정책(들)이 안내된 후에 삭제됩니다. 따라서 다수의 정책을 위반한 영상의 경우 콘텐츠 자율규제 인프라 내 각기 다른 정책 범주에서 반복적으로 등장할 수도 있음을 시사합니다. 2019년 12월 한 달 동안, 새로운 콘텐츠 자율규제 인프라가 도입된 이후 삭제된 영상에 대해 정책 범주 별로 위반 내역을 아래와 같이 제공합니다. 12월 한 달 동안, 틱톡이 삭제 조치를 취한 전체 영상의 25.5%는 ‘성인 나체 노출 및 성행위’ 범주에 해당되었습니다. 미성년자들의 안전에 만전을 기함에 따라, 전체의 24.8%는 ‘미성년자 안전’ 정책 관련이었습니다. 세부적으로는 미성년자들의 주류나 마약 사용 등 위험, 유해, 불법 행위를 묘사하는 내용들이 주를 이루었으며 위반 정도가 큰 콘텐츠에 대해서는 즉시 삭제 조치를 취하는 동시에 계정을 해지하며, 필요시 NCMEC(전미 실종자 및 착취 피해자 센터) 및 사법 당국에 보고합니다. 21.5%는 ‘불법 행위 및 규제 품목’이 나타나는 콘텐츠인 것으로 나타났습니다. 그 밖에 15.6%는 ‘자살, 자해 및 위험한 행위에 관한 규정’을 위반한 경우였습니다. 기타 범주로는 ‘폭력적이거나 잔혹한 콘텐츠 규정’ 위반이 8.6%, ‘괴롭힘 및 따돌림 정책 위반’이 3%, ‘증오 발언, 부도덕성 및 사기성 콘텐츠와 위험한 개인 및 조직 관련’ 내용은 1% 미만이었습니다. 대부분의 콘텐츠 리뷰 대기열은 새로운 콘텐츠 자율규제 시스템으로 전환됐으며 추후 보고서에는 각 보고서의 전체 기간에 걸쳐 콘텐츠와 계정에 대해한 새부적 데이터가 포함될 예정입니다.

개요

사용자의 안전은 틱톡의 최우선 과제입니다. 틱톡은 글로벌 플랫폼으로서 국가/권역별 시장에서 사용자의 안전과 보안을 책임지는 수 천명의 직원을 두고 있습니다. 저희는 다양한 정책, 기술, 자율규제를 종합적으로 활용하여 커뮤니티 가이드라인 또는 서비스 약관을 위반한 영상의 삭제나 계정 사용 정지 등의 방식으로 문제적 콘텐츠나 행동에 대응합니다.

커뮤니티 지원 도구

기술과 자율규제 조치 (상세 내용은 아래 참고) 이외에도 저희는 사용자들이 직접 사용자 경험을 관리 및 통제할 수 있도록 다양한 장치를 제공하고 있습니다. 이를 통해 사용자들은 손쉽게 자신들이 올린 콘텐츠에 반응할 수 있는 사람을 제한하고, 자동 댓글 필터를 설정하는 등, 메시지 수신을 거부하거나 특정 사용자를 차단할 수 있습니다. 또한 커뮤니티 가이드라인에 저촉될 여지가 있는 사안이 발생할 경우, 틱톡 앱 상에서 해당 사안을 직접 신고하실 수도 있습니다.

계정 개인정보 보호

사용자들은 계정 초기 설정 단계를 포함하여 언제든 세분화된 개인정보 보호 설정을 할 수 있습니다. 예를 들어 비공개 계정으로 설정하면, 승인된 팔로워들만 사용자의 영상을 시청하고 댓글을 작성하거나 다이렉트 메시지(DM)를 보낼 수 있습니다. 메시지 기능 또한 사용자의 재량에 따라 설정할 수 있으며, 16세 미만 사용자의 계정인 경우 메시지 기능은 자동으로 차단됩니다. 뿐만 아니라, 사용자들은 특정 팔로워를 직접 삭제하거나 다른 사용자의 연락을 차단할 수 있습니다.

추가적인 콘텐츠 통제 방법

크리에이터들이 독창적인 콘텐츠를 제작하는만큼 타 사용자들과의 상호작용을 통제할 수 있는 권리를 보장 받아야 마땅합니다. 틱톡은 계정 수준을 넘어 개별 영상 별로 댓글을 작성하거나 및 듀엣 영상 제작을 허용하는 권한 등에 대한 콘텐츠 맞춤화 설정 옵션을 제공합니다. 사용자들은 자신의 영상에 대한 댓글 입력시 자동으로 차단되는 키워드 목록을 설정하여 개인화된 댓글 필터 기능을 활성화할 수도 있습니다. 사용자들은 또한 특정 영상에 대해 댓글 기능을 해제하고 선택된 사람들만 댓글을 달 수 있게 하거나, 모든 영상에 댓글 기능을 끌 수도 있습니다. 뿐만 아니라, 저희는 앱내 안전 및 웰빙 관련 영상들과 안전 센터를 통해 적극적인 사용자 교육을 실시하고 있습니다. 예를 들어, 틱톡은 탑 크리에이터들과 협력하여 사용자들이 스크린 타임을 관리하도록 장려하는 영상 시리즈를 제작했습니다. 스크린 타임 관리 기능을 통해 사용자들은 자율적으로 틱톡에서 보내는 시간을 제한할 수 있습니다. 사용자들은 제한 모드를 활성화하여 부적절한 콘텐츠가 추천되지 않게 할 수도 있습니다. 이러한 기능들은 저희 앱 설정 내 디지털 웰빙 섹션에서 찾으실 수 있습니다.

커뮤니티 가이드라인으로 공동체 원칙 확립

틱톡은 진정성 있고 긍정적인 경험을 추구하는 사용자들의 글로벌 커뮤니티입니다. 사용자 커뮤니티와 틱톡 간의 약속은 커뮤니티 가이드라인에 제시되어 있는 저희 정책에서 출발합니다. 틱톡 커뮤니티 가이드라인은 안전하고 긍정적인 온라인 환경 조성을 위한 핵심 원칙입니다. 저희는 앱상에서 변화하는 트렌드와 유해성 우려가 있는 콘텐츠로부터 사용자들을 보호하고자 해당 가이드라인을 수시로 업데이트하고 있습니다. 틱톡은 커뮤니티 내 신뢰, 존중, 신뢰 등의 가치를 발전시키기 위한 노력을 이어나갈 것입니다. 저희는 모든 사용자들이 커뮤니티 가이드라인을 준수하여 틱톡이 재밌고 환영받는 플랫폼이 되도록 함께해 주실 것을 믿습니다. 커뮤니티 가이드라인을 위반하는 경우 해당 콘텐츠 혹은 계정 삭제로 이어질 수 있습니다.

정책 집행

전 세계에 걸쳐서 틱톡에는 매 분마다 수 만개의 영상이 업로드됩니다. 업로드 되는 모든 영상은 사용자 안전보장과 웰빙 증진이라는 책무의 가중으로 이어집니다. 틱톡은 커뮤니티 가이드라인을 집행하는데 있어 자사 기술과 콘텐츠 자율규제를 결합하여 가이드라인을 위반하는 계정과 콘텐츠를 파악하여 삭제하고 있습니다.

기술

기술은 우리가 효과적으로 정책을 집행함에 있어 핵심적인 요소입니다. 저희 시스템은 커뮤니티 가이드라인에 저촉될 여지가 있는 콘텐츠에 대해 자동으로 플래그(flag)하도록 개발되었습니다. 이러한 시스템을 기반으로 특정 패턴과 징후를 포착하여 정책을 위반한 해당 콘텐츠를 플래깅(flagging)하여 신속하게 대응하고 피해를 최소화 합니다. 일례로 사기성 또는 스팸 콘텐츠의 대다수는 자동 삭제됩니다. 또한 트렌드, 학계 연구 결과, 업계 모범 사례 등을 정기적으로 연구 및 반영하여 시스템을 지속적으로 개선하고 있습니다.

콘텐츠 자율규제

현재 기술 수준을 고려했을 때 기술 자체에만 의존하여 정책 집행을 하는 것은 다소 무리가 있습니다. 예를 들어 풍자와 같은 특정 콘텐츠의 가이드라인 위반 여부를 판별할 때 문맥과 같이 기술적 수단만으로는 판단이 어려운 요소들이 누락될 수도 있습니다. 따라서 숙련된 자율규제 담당자들로 구성된 저희 자율규제 담당 팀은 기준을 위반하는 콘텐츠 검토 및 해당 콘텐츠 삭제 업무를 지원하고 있습니다. 경우에 따라 자율규제 담당 팀은 위험한 시도 또는 유해한 오보를 비롯하여 규정을 위반하는 콘텐츠를 적극적으로 삭제하기도 합니다. 저희는 사용자들이 신고한 내용을 기반으로도 콘텐츠 자율규제를 수행하고 있습니다. 앱 내 신고 기능을 활용하여 사용자가 판단하기에 부적절한 콘텐츠나 계정을 보다 쉽게 플래깅 할 수 있으며 가이드라인 위반 사유를(폭력, 유해, 희롱, 혹은 증오 발언 등) 목록에서 직접 선택할 수 있습니다. 자율규제 담당자가 신고된 영상이 가이드라인을 위반했다고 판단하면 해당 영상은 즉시 삭제됩니다.

기타 보고서

• 정부 삭제 요청 보고서
• 정보 요청 보고서
• 지적 재산 삭제 요청 보고서