틱톡 투명성 보고서 2019 H2

틱톡 투명성 보고서

2019년 7월 1일 – 2019년 12월 31일

발간일: 2020년 7월 9일


서문

틱톡은 창의적 표현을 기반으로 하는 플랫폼입니다. 저희는 다양하고 성장하는 플랫폼 커뮤니티 속에서 사용자들이 각자의 독창성을 마음껏 표현할 수 있는 환경을 조성하기 위해 노력하고 있습니다. 우리는 심리적 안정 속에서 보다 스스로를 잘 나타낼 수 있고 창의적인 표현 또한 가능합니다. 바로 이런 이유 때문에 저희의 최우선 과제는 틱톡 플랫폼 상에서 누구나 안전하고 긍정적인 경험을 할 수 있는 분위기를 조성하는 것입니다. 

우리는 2019년 12월 30일 첫번째 투명성 보고서를 발간하면서 틱톡이 어떠한 책임감을 가지고 데이터 요청에 응하며 지적 재산을 보호하는 지에 대해 정기적으로 우리 커뮤니티에 알리겠다고 약속했습니다. 이번 보고서에서는 보고 범위를 확대하여 아래의 내용도 함께 다루었습니다.

  • 커뮤니티 안전을 지키기 위한 틱톡의 노력과 정책  
  • 커뮤니티 가이드라인 수립 및 이행 방식 
  • 커뮤니티 강화를 위해 틱톡이 제공하는 도구와 교육  
  • 커뮤니티 가이드라인 위반으로 삭제되는 영상의 갯수

또한, 콘텐츠 정책 범주 9가지에 대한 콘텐츠 자율규제 결과 보고도 시작합니다. 틱톡은 작년 말부터 커뮤니티 가이드라인 위반 영상들의 삭제 사유를 보다 투명하게 보고 할 수 있는 새로운 콘텐츠 자율규제 인프라를 도입하기 시작했습니다. 본 보고서에서는 새로 도입된 콘텐츠 자율규제 인프라를 통해 12월 한 달 동안 삭제된 영상에 대한 이유를 공유하고자 합니다. 추후 보고서에서는 6개월 동안의 데이터를 모두 공유 할 예정입니다.
틱톡은 커뮤니티의 신뢰를 얻기 위해 지속적으로 노력하겠습니다. 본 투명성 보고서 또한 사용자, 정책 입안자, 전문가들의 피드백을 반영하여 꾸준히 개선해 나갈 것입니다. 저희의 궁극적인 목표는 모든 프로세스와 조치에 대한 투명성을 최대한 증대시켜 틱톡이 누구에게나 재미있고 감동을 주는 플랫폼이 되도록 하는 것입니다.

사용자 안전에 최선을 다하는 틱톡

사용자의 안전은 틱톡의 최우선 과제입니다. 틱톡은 글로벌 플랫폼으로서 국가/권역별 시장에서 사용자의 안전과 보안을 책임지는 수 천명의 직원을 두고 있습니다. 저희는 다양한 정책, 기술, 자율규제를 종합적으로 활용하여 커뮤니티 가이드라인 또는 서비스 약관을 위반한 영상의 삭제나 계정 사용 정지 등의 방식으로 문제적 콘텐츠나 행동에 대응합니다. 

커뮤니티 지원 도구                                      

기술과 자율규제 조치 (상세 내용은 아래 참고) 이외에도 저희는 사용자들이 직접 사용자 경험을 관리 및 통제할 수 있도록 다양한 장치를 제공하고 있습니다. 이를 통해 사용자들은 손쉽게 자신들이 올린 콘텐츠에 반응할 수 있는 사람을 제한하고, 자동 댓글 필터를 설정하는 등, 메시지 수신을 거부하거나 특정 사용자를 차단할 수 있습니다. 또한 커뮤니티 가이드라인에 저촉될 여지가 있는 사안이 발생할 경우, 틱톡 앱 상에서 해당 사안을 직접 신고하실 수도 있습니다. 

계정 개인정보 보호                                    

사용자들은 계정 초기 설정 단계를 포함하여 언제든 세분화된 개인정보 보호 설정을 할 수 있습니다. 예를 들어 비공개 계정으로 설정하면, 승인된 팔로워들만 사용자의 영상을 시청하고 댓글을 작성하거나 다이렉트 메시지(DM)를 보낼 수 있습니다. 메시지 기능 또한 사용자의 재량에 따라 설정할 수 있으며, 16세 미만 사용자의 계정인 경우 메시지 기능은 자동으로 차단됩니다. 뿐만 아니라, 사용자들은 특정 팔로워를 직접 삭제하거나 다른 사용자의 연락을 차단할 수 있습니다. 

추가적인 콘텐츠 통제 방법

크리에이터들이 독창적인 콘텐츠를 제작하는만큼 타 사용자들과의 상호작용을 통제할 수 있는 권리를 보장 받아야 마땅합니다. 틱톡은 계정 수준을 넘어 개별 영상 별로 댓글을 작성하거나 및 듀엣 영상 제작을 허용하는 권한 등에 대한 콘텐츠 맞춤화 설정 옵션을 제공합니다. 사용자들은 자신의 영상에 대한 댓글 입력시 자동으로 차단되는 키워드 목록을 설정하여 개인화된 댓글 필터 기능을 활성화할 수도 있습니다. 사용자들은 또한 특정 영상에 대해 댓글 기능을 해제하고 선택된 사람들만 댓글을 달 수 있게 하거나, 모든 영상에 댓글 기능을 끌 수도 있습니다.  

뿐만 아니라, 저희는 앱내 안전 및 웰빙 관련 영상들과 안전 센터를 통해 적극적인 사용자 교육을 실시하고 있습니다. 예를 들어, 틱톡은 탑 크리에이터들과 협력하여 사용자들이 스크린 타임을 관리하도록 장려하는 영상 시리즈를 제작했습니다.  스크린 타임 관리 기능을 통해 사용자들은 자율적으로 틱톡에서 보내는 시간을 제한할 수 있습니다. 사용자들은 제한 모드를 활성화하여 부적절한 콘텐츠가 추천되지 않게 할 수도 있습니다. 이러한 기능들은 저희 앱 설정 내 디지털 웰빙 섹션에서 찾으실 수 있습니다.   

커뮤니티 가이드라인으로 공동체 원칙 확립 

틱톡은 진정성 있고 긍정적인 경험을 추구하는 사용자들의 글로벌 커뮤니티입니다. 사용자 커뮤니티와 틱톡 간의 약속은 커뮤니티 가이드라인에 제시되어 있는 저희 정책에서 출발합니다. 틱톡 커뮤니티 가이드라인은 안전하고 긍정적인 온라인 환경 조성을 위한 핵심 원칙입니다. 저희는 앱상에서 변화하는 트렌드와 유해성 우려가 있는 콘텐츠로부터 사용자들을 보호하고자 해당 가이드라인을 수시로 업데이트하고 있습니다. 틱톡은 커뮤니티 내 신뢰, 존중, 신뢰 등의 가치를 발전시키기 위한 노력을 이어나갈 것입니다.                                     

저희는 모든 사용자들이 커뮤니티 가이드라인을 준수하여 틱톡이 재밌고 환영받는 플랫폼이 되도록 함께해 주실 것을 믿습니다. 커뮤니티 가이드라인을 위반하는 경우 해당 콘텐츠 혹은 계정 삭제로 이어질 수 있습니다.  

정책 집행                                 

전 세계에 걸쳐서 틱톡에는 매 분마다 수 만개의 영상이 업로드됩니다. 업로드 되는 모든 영상은 사용자 안전보장과 웰빙 증진이라는 책무의 가중으로 이어집니다. 틱톡은 커뮤니티 가이드라인을 집행하는데 있어 자사 기술과 콘텐츠 자율규제를 결합하여 가이드라인을 위반하는 계정과 콘텐츠를 파악하여 삭제하고 있습니다.       

기술

기술은 우리가 효과적으로 정책을 집행함에 있어 핵심적인 요소입니다. 저희 시스템은 커뮤니티 가이드라인에 저촉될 여지가 있는 콘텐츠에 대해 자동으로 플래그(flag)하도록 개발되었습니다. 이러한 시스템을 기반으로 특정 패턴과 징후를 포착하여 정책을 위반한 해당 콘텐츠를 플래깅(flagging)하여 신속하게 대응하고 피해를 최소화 합니다. 일례로 사기성 또는 스팸 콘텐츠의 대다수는 자동 삭제됩니다. 또한 트렌드, 학계 연구 결과, 업계 모범 사례 등을 정기적으로 연구 및 반영하여 시스템을 지속적으로 개선하고 있습니다.            

콘텐츠 자율규제       

현재 기술 수준을 고려했을 때 기술 자체에만 의존하여 정책 집행을 하는 것은 다소 무리가 있습니다. 예를 들어 풍자와 같은 특정 콘텐츠의 가이드라인 위반 여부를 판별할 때 문맥과 같이 기술적 수단만으로는 판단이 어려운 요소들이 누락될 수도 있습니다. 따라서 숙련된 자율규제 담당자들로 구성된 저희 자율규제 담당 팀은 기준을 위반하는 콘텐츠 검토 및 해당 콘텐츠 삭제 업무를 지원하고 있습니다. 경우에 따라 자율규제 담당 팀은 위험한 시도 또는 유해한 오보를 비롯하여 규정을 위반하는 콘텐츠를 적극적으로 삭제하기도 합니다.

저희는 사용자들이 신고한 내용을 기반으로도 콘텐츠 자율규제를 수행하고 있습니다. 앱 내 신고 기능을 활용하여 사용자가 판단하기에 부적절한 콘텐츠나 계정을 보다 쉽게 플래깅 할 수 있으며 가이드라인 위반 사유를(폭력, 유해, 희롱, 혹은 증오 발언 등) 목록에서 직접 선택할 수 있습니다. 자율규제 담당자가 신고된 영상이 가이드라인을 위반했다고 판단하면 해당 영상은 즉시 삭제됩니다.   

2019년 하반기 조치 대상 콘텐츠 

2019년 하반기(2019년 7월 1일 ~ 12월 31일)에, 전세계적으로 커뮤니티 가이드라인 및 서비스 약관을 위반한 49,247,689개의 영상이 삭제 되었습니다. 이는 전체 사용자 업로드 영상들의 1%도 되지 않는 수치입니다. 틱톡은 자사 자율규제 시스템을 통해서 문제 영상들의 98.2%를 사용자들의 플래깅 전에 포착하고 삭제했습니다. 그 중 89.4%는 다른 사용자들이 보기 전에 삭제 되었습니다.

아래는 삭제된 영상이 가장 많았던 5개 국가의 목록입니다. 

국가 및 지역 삭제 영상 수
India 16,453,360
United States 4,576,888
Pakistan 3,728,162
United Kingdom 2,022,728
Russia 1,258,853

작년 말부터 저희는 틱톡 플랫폼에서 삭제된 영상의 삭제 이유를 더욱 투명하게 보고할 수 있도록 해주는 콘텐츠 자율규제 인프라를 전세계적으로 도입하기 시작했습니다. 특정 영상이 커뮤니티 가이드라인을 위반한 경우, 위반한 정책(들)이 안내된 후에 삭제됩니다. 따라서 다수의 정책을 위반한 영상의 경우 콘텐츠 자율규제 인프라 내 각기 다른 정책 범주에서 반복적으로 등장할 수도 있음을 시사합니다. 2019년 12월 한 달 동안, 새로운 콘텐츠 자율규제 인프라가 도입된 이후 삭제된 영상에 대해 정책 범주 별로 위반 내역을 아래와 같이 제공합니다.

12월 한 달 동안, 틱톡이 삭제 조치를 취한 전체 영상의 25.5%는 '성인 나체 노출 및 성행위' 범주에 해당되었습니다. 미성년자들의 안전에 만전을 기함에 따라, 전체의 24.8%는 '미성년자 안전' 정책 관련이었습니다. 세부적으로는 미성년자들의 주류나 마약 사용 등 위험, 유해, 불법 행위를 묘사하는 내용들이 주를 이루었으며 위반 정도가 큰 콘텐츠에 대해서는 즉시 삭제 조치를 취하는 동시에 계정을 해지하며, 필요시 NCMEC(전미 실종자 및 착취 피해자 센터) 및 사법 당국에 보고합니다. 21.5%는 '불법 행위 및 규제 품목'이 나타나는 콘텐츠인 것으로 나타났습니다. 그 밖에  15.6%는 '자살, 자해 및 위험한 행위에 관한 규정'을 위반한 경우였습니다. 기타 범주로는 '폭력적이거나 잔혹한 콘텐츠 규정' 위반이 8.6%, '괴롭힘 및 따돌림 정책 위반'이 3%, '증오 발언, 부도덕성 및 사기성 콘텐츠와 위험한 개인 및 조직 관련' 내용은 1% 미만이었습니다.  

대부분의 콘텐츠 리뷰 대기열은 새로운 콘텐츠 자율규제 시스템으로 전환됐으며 추후 보고서에는 각 보고서의 전체 기간에 걸쳐 콘텐츠와 계정에 대해한 새부적 데이터가 포함될 예정입니다.

용어 및 정의                                                         

특정 콘텐츠가 틱톡 커뮤니티에 적합한 지를 결정할 때, 아래의 용어 밎 정의를 기반으로 자율규제 전략을 수립합니다. 보다 올바른 정책 환경 이해를 위해 신빙성 있는 다수의 전문가들의 도움을 받아 문제가 되는 콘텐츠와 행동 양식에 즉시 대응할 수 있는 정책과 자율규제 전략을 개발합니다. 틱톡의 미국 콘텐츠 자문위원회에 포진한 여덞 명의 전문가들과 ConnectSafely.org, 실종 및 학대 아동을 위한 전미 센터, WePROTECT 글로벌 얼라이언스 등과 같은 단체의 도움을 받고 있습니다.  

  • 위험한 개인 및 조직: 우리는 위험한 개인이나 조직이 우리 플랫폼을 테러리즘, 범죄 또는 기타 유해 활동에 악용하는 것을 허용하지 않습니다. 공공 안전에 위협이 된다고 믿을 만한 이유가 있을 때, 우리는 계정 금지 조치를 취하고 필요 시 법집행 당국과 협력합니다. 
  • 불법 행위 및 규제대상 물품: 우리는 불법 행위의 묘사와 홍보는 물론 특정 규제 대상 물품의 거래, 판매, 홍보 및 사용을 금합니다. 그 지역 내 또는 세계 대부분 국가에서 불법이거나 규제 대상인 활동이나 물품과 관련된 콘텐츠는 게시된 지역에서는 그러한 활동과 물품이 합법적이라 할 지라도 삭제될 수 있습니다. 그러나 대중에게 교육적, 과학적, 예술적 및 뉴스로서의 가치가 있는 콘텐츠에는 예외를 허용할 수도 있습니다.  
  • 폭력적이고 잔혹한 콘텐츠: 우리는 과도하게 잔인하거나 충격적인 콘텐츠, 특히 무자비한 폭력이나 고통을 미화하는 콘텐츠를 허용하지 않습니다. 그러나 특정한 상황에서 뉴스로서 가치가 있거나 어떤 이슈에 대한 인식을 제고하는 콘텐츠인 경우 예외를 허용합니다. 실질적인 폭력의 위험이 있거나, 공공 안전에 위협이 될 가능성이 있을 때, 계정을 금지하거나 필요 시 해당 법집행 당국과 협력합니다.    
  • 자살, 자해 및 위험 행위: 우리는 해를 입힐 수 있는 활동에 참여하는 것을 장려하지 않습니다. 또한 다른 사용자들에게 위험한 활동에 참가할 것을 권장하는 것도 허용하지 않습니다. 우리는 자살 또는 자해를 장려하는 콘텐츠를 허용하지 않지만, 자살 또는 자해 관련 이슈에 대한 인식을 제고하기 위해 사용자들이 경험을 공유하는 것은 허용합니다. 

    틱톡은 전세계 업계 전문가들의 도움을 받아 자율규제에서 적절한 균형을 이루기 위해 노력하고 있습니다. 급박하게 자해 위험이 감지되는 콘텐츠를 발견하면, 틱톡은 현지 긴급 구조대에 연락하여 안전 여부를 확인할 수 있습니다.
  • 증오 발언: 우리는 보호 대상 특성을 기반으로 특정 개인이나 그룹을 공격하거나 폭력을 조장하는 콘텐츠를 용인하지 않습니다. 우리는 증오 발언이 포함된 콘텐츠를 허용하지 않으며, 그러한 콘텐츠는 우리 플랫폼에서 삭제됩니다.
  • 괴롭힘 및 따돌림: 사용자들은 수치, 모욕, 따돌림 또는 괴롭힘을 당할 걱정 없이 안심하고 자유롭게 자신을 표현할 수 있어야 합니다. 우리는 학대성 콘텐츠가 사람들에게 얼마나 큰 심리적인 스트레스를 가하는 지 잘 이해하고 있으며, 따라서 우리 플랫폼에서는 학대성 콘텐츠나 행동을 용인하지 않습니다.    
  • 성인 나체 노출 및 성행위: 우리는 틱톡 플랫폼에서 성적으로 노골적이거나 성적 만족을 추구하는 콘텐츠를 허용하지 않습니다. 여기에는 애니메이션 콘텐츠도 포함됩니다. 성적 콘텐츠는 많은 국가에서 법 위반에 따른 벌금이나 동의 없는 영상 공유(예: 리벤지 포르노)를 통해 사용자에게 피해를 입히는 등 많은 위험이 따릅니다. 뿐만 아니라, 지나치게 성적인 콘텐츠는 여러 문화권에서 불쾌감을 초래합니다. 그러나 나체 노출이나 성적으로 노골적인 콘텐츠라도 교육적, 사실 기록(다큐멘터리), 과학적 또는 예술적인 의도인 경우 예외를 인정할 수도 있습니다.   
  • 미성년자 안전: 우리는 아동 안전을 최우선시하며 미성년자를 대상으로 한 약탈적 행위 또는 그루밍 행위에 대해 무관용 정책을 펼치고 있습니다. 디지털 세계를 묘사하거나 또는 현실 세계를 묘사하거나 그 포맷에 상관없이 아동 학대, 아동 나체 노출, 또는 아동의 성 대상화를 묘사하거나 유포하는 콘텐츠는 허용되지 않으며 그러한 콘텐츠는 해당 법 당국에 신고될 것입니다. 청소년 범죄에 가담한 미성년자를 묘사하는 콘텐츠 또한 허용하지 않습니다. 
  • 부도덕성 및 사기성: 우리 커뮤니티 멤버 중 누군가를 속이거나 오도하는 목적의 콘텐츠는 신뢰를 기반으로 하는 틱톡 커뮤니티에 해가 됩니다. 우리는 그러한 콘텐츠를 플랫폼 상에서 허용하지 않습니다. 여기에는 스팸 행위, 사칭 행위, 허위 정보 캠페인 등이 포함됩니다.  

정부 요청에 부응

아래 내용은 2019년 하반기 중 전세계 정부들로부터 틱톡이 받은 합법적 요청의 양 및 그에 대한 저희의 대응에 관한 정보를 제공합니다. 우리는 사용자의 권리와 프라이버시를 존중하므로 정부는 적합한 법률 문서를 서면으로 제출해야 합니다. 적절한 채널을 통해 이루어지지 않은 요청은 고려되지 않습니다.

합법적 사용자 정보 요청 

정보 요청이 있을 때마다 저희는 법률 검토를 통해 요청 당사자가 법 집행 관련 수사와 연계하여 증거 수집 권한이 있는지 또는 임박한 위험 상황에서 긴급 수사를 위한 것인지를 판단합니다. 이와 관련한 틱톡의 정책과 관행에 대한 정보는 법 집행 데이터 요청 지침을 참고하시기 바랍니다.

아래 표는 2019년 하반기(7월 1일 ~ 12월 31일) 틱톡이 받은 국가별 정보 요청 횟수와 그에 대한 틱톡의 응답 비율을 나타내고 있습니다.  

주: 틱톡은 위 목록에 열거된 국가 이외에는 계정 정보에 대한 합법적 요청을 받지 않았습니다.

정부로부터의 콘텐츠 삭제 요청                                    

간혹 정부 기관에서 틱톡 플랫폼 내의 특정 콘텐츠를 삭제해달라는 요청을 받는 경우도 있습니다. 그런 경우, 틱톡은 커뮤니티 가이드라인과 서비스 약관 및 준거법에 비추어 관련된 모든 콘텐츠를 검토하고 있습니다.                                         

아래 표는 2019년 하반기 (7월 1일 ~ 12월 31일) 법률 기관으로부터 받은 콘텐츠 삭제 또는 제한 요청 내용입니다.

주: 틱톡은 위 목록에 나열된 국가의 정부 외에 콘텐츠 삭제 혹은 제한 요청을 받은 바 없습니다.

지적 재산권 침해 콘텐츠 게시 중단

틱톡은 사용자들의 창의성을 원동력으로 움직입니다. 틱톡 플랫폼은 사용자들이 자신을 표현하는 무대이며, 저희는 이를 보호하기 위해 최선을 다하고 있습니다. 

틱톡 커뮤니티 가이드라인과 서비스 약관은 제3자의 지적 재산권을 침해하는 콘텐츠를 금하고 있습니다. 틱톡은 DMCA(디지털 밀레니엄 저작권법) 등 저작권법 위반을 이유로 한 정당한 게시 중단 요청일 경우 이에 응합니다. 저작권 소유자로부터 잠재적 지적재산권 침해에 대한 유효한 통지를 받는 즉시, 틱톡은 신속하게 위반 콘텐츠를 삭제하게 됩니다.                                         

타인의 저작권을 침해하는 모든 활동은 계정 정지 또는 삭제 조치 대상이 될 수 있습니다. 틱톡의 저작권 침해 주장 평가 방법에 대한 자세한 정보는 저희 지적 재산권 정책을 참고해 주십시오.   

주: 저작권 소유자, 그 대리인, 또는 변호사가 저작권 침해 게시 중단 통지를 보낸 경우에만 저작권 침해 콘텐츠 게시 중단 통계에 반영되어 있습니다.  

향후 계획

틱톡은 창의성을 표현하고자 하는 모든 사람들을 위해 틱톡 커뮤니티를 진정성있고 포용적이며 안전한 커뮤니티로 발전시키고자 노력해 왔으며, 그러한 노력과 발전에 큰 자부심을 느낍니다. 하지만 여기에 그치지 않고 저희는 더 큰 발전을 할 수 있다는 사실을 잘 알고 있습니다. 

투명성 보고서에 대한 여러분의 의견을 소중히 받겠습니다. transparencyreport [at] tiktok [dot] com 으로 연락해 주십시오. 향후 보고서에서 더 많은 정보를 공유하도록 하겠습니다.   



투명성 보고서 아카이브

2020년 1월 1일 - 6월 30일
2019년 7월 1일 - 12월 31일
2019년 1월 1일 - 6월 30일