セーフティセンター

TikTok 透明性レポート

2021年1月1日ー2021年3月31日

はじめに


TikTokは創造的な表現に基づく多様でグローバルなコミュニティです。私たちは誰もが安心して動画を作成し、コミュニティを見つけ、楽しむことができる環境を維持するよう努めています。真の自分を安心して表現するためには、安全性を実感できることが不可欠であると考えています。私たちはコミュニティガイドラインを遵守し、ガイドラインに違反するアカウントやコンテンツは削除されます。私たちはポリシー施行の透明性を約束し、コミュニティと信頼関係を構築し、説明責任を果たします。コミュニティガイドラインや利用規約に違反し削除されたコンテンツの件数と性質を可視化するため、定期的に透明性レポートを公開しています。

これまで半年毎に透明性レポートにて公開しておりましたが、今後TikTokコミュニティへの説明責任をより高めるため、透明性レポートの報告する頻度を四半期毎に変更します。法執行機関、政府、および知的財産の削除要求に関連する情報は、それらの要求の処理と応答の性質上、引き続き隔年ごとに公開します。

TikTokのコミュニティガイドラインは、プラットフォーム上のすべてのコンテンツに適用されます。ポリシー、運用、安全、セキュリティの専門家で構成されるTikTokチームが協力して、運用できる公平なポリシーの策定に努めています。私たちのポリシーは、デジタルの安全性と人権に関するさまざまな外部の専門家から収集したフィードバックを考慮しており、サービスを提供する市場の地域の文化に留意しています。私たちは、個人、または組織の要求のみに基づいてポリシーを策定することはありません。また、TikTokの誰もが一方的にコミュニティガイドラインを変更することもできません。私たちの究極の目標は、創造的な自己表現を可能に基づく多様でグローバルなコミュニティを可能にするガイドラインを作成することです。

本レポートは、2021年の第1四半期(2021年1月1日から3月31日)にかけてプラットフォームから削除されたコンテンツとアカウントの件数と性質を可視化します。 TikTokを13歳以上の人々のみが利用するプラットフォームとして保つために、削除された13歳未満の疑いのあるユーザーアカウント数を初めて公開します。本レポートには、COVID-19感染症及びワクチンに関する誤った情報拡散抑止への対応など、プラットフォームのセキュリティを保護するために進行中の取り組みに関する情報も含まれています。

今後、本レポートの全文を透明性センターにて公開します。この透明性センターは、透明性レポートや、プラットフォームを安全に保つ方法に関する情報など、さまざまな情報を公開しています。透明性レポートについてご質問やご意見がありましたら、transparency [at] tiktok [dot] comまでご連絡ください。

青少年の安全性

TikTokは、未成年者の安全性を確保するポリシーやツールの作成において、ユーザーの年齢に適したより安全なプラットフォームの形成を心がけています。2021年1月、青少年のプライバシー保護に関する安全性を強化するため、16歳未満(TikTokをご使用になれる13歳から15歳)までのすべての登録アカウントのデフォルトのプライバシー設定を「非公開」に変更、そして動画ダウンロードの禁止、コメント、デュエットリミックス機能での交流を制限しました。16〜17歳のユーザーの場合、デュエット機能とリミックス機能のデフォルト設定は「友達のみ」に設定され、動画ダウンロードのデフォルト設定は「オフ」となっており、設定をオンにしない限り、ユーザーが作成した動画のダウンロードはできません。

青少年のユーザーが安全に利用できる環境づくりはTikTokが継続的に実施している最も重要な取組みであり、以前導入された機能であるダイレクトメッセージ、ライブ配信、仮想ギフトの年齢制限に加え、今回のより強固なプライバシー保護のためのデフォルト設定の変更は、その重要なステップです。私たちは、ユーザー自身がどのコンテンツを誰と共有するかを十分な情報を得たうえで選択し、自分に合ったTikTok体験を選択できることをゴールとしています。特に青少年のユーザーにプライバシー権限についてより深く知ってもらうことで、自身のオンライン上でのあり方を慎重に考え、管理するきっかけとなることを願っています。さらに、10代の子どもとデジタルリテラシーについて話し合うきっかけとなるよう、保護者向けの機能やリソースを制作しました。例えば、ペアレンタルコントロール機能を使用して、保護者が子どものアカウントと連携することで、子どもが視聴できるコンテンツの内容を制限したり、使用制限時間を設定したり、ダイレクトメッセージを送ることのできるユーザーを制限したりすることが可能です。

コミュニティのウェルビーイング

TikTokコミュニティが新しい料理のレシピから様々な文化の伝統、庭造りのアイデアなどを発見したり面白いコンテンツを楽しめる素晴らしい場所である背景には、コミュニティの多様性があります。TikTokは、すべてのユーザーが支えられ、温かく迎えられるコミュニティづくりに取り組んでいます。これを体現するため、配慮や丁寧なふるまいを促進するための新しい機能等を展開しています。

  • 不適切なコメントを含むコメントの投稿前に、自身のコメントの影響を検討を促す機能の導入。
  • クリエイターの動画に投稿されたすべてのコメントをフィルタリングし、承認したコメントのみが動画に表示されるようにする機能の導入。
  • Cyberbullying Research Centerとのパートナシップの発表。ネットいじめに関する知見を深め、新しい施策していくことを目的としています。日本では、内閣サイバーセキュリティセンター(NISC)が推進する「サイバーセキュリティ月間」に合わせ、誹謗中傷等の啓発活動を著名人、NPO、専門家の皆さまと連携し実施。

TikTokは、すべてのユーザーが気兼ねなく、自信を持って、自分らしくTikTokで表現できることを望んでいます。本年2月、TikTokはボディ・インクルーシビティへの理解を示すため、摂食障害の専門家と協働し、ネガティブな会話を見つけたり、自分のポジティブな面や強みについて考えたり、悩んでいるかもしれない友人をサポートできるウェルビーイングに関するリソースページを導入しました。また、摂食障害への理解の啓発および摂食障害を抱えているまたは乗り越えようとしているユーザーを支援することを目的とし、関連するハッシュタグと連動するチャレンジページを公開しました。

健全なプラットフォームに向けた取組

私たちは、プラットフォームの誠実性を危険にさらすコンテンツや行為に対向する措置を続けています。違法行為や規制対象品に関するこの目標を達成するために、 Coalition to End Wildlife Trafficking Onlineに参画しました。これにより、業界の人々と協力し、ベストプラクティスや新しいコンテンツやトレンドの領域で協力することができます。

さらに、TikTokは、誤情報が特定されたときに削除、または制限します。国際ファクトチェックネットワークによって認定された11の組織と提携し、南北アメリカ、APAC、EMEAの21の言語と57の地域でファクトチェックをサポートしています。ファクトチェックで偽造コンテンツが確認された場合は、プラットフォームから削除します。今年の最初の3か月で、未確認コンテンツの拡散低減を目指した機能を導入しました。この機能は、ファクトチェックが決定的でない場合やコンテンツを確認できない場合、特にイベント展開中の共有を減らすため、視聴コンテンツが実証されていない可能性がある旨を視聴者に通知します。

新型コロナウィルス

TikTokは引き続き公衆衛生の専門家と協力し、コミュニティの安全を維持し、新型コロナウィルスとワクチンに関する情報を提供できるようサポートしていきます。2021年第1四半期では、「COVID-19 information hub 」は全世界で1,535,114,921回視聴されました。ユーザーを情報ページに誘導するバナーを1,002,100本の動画に追加し、 11,846,566,486回視聴されました。また、関連するCOVID-19とワクチンのハッシュタグにPSA(Public Service Announcement)を追加し、ユーザーをWHOや地域の公衆衛生情報に誘導しましたが、これらは 19,660,517,152回視聴されました。また、2021年の第1四半期にCOVID-19の誤情報を助長する動画30,624 本を削除しました。これらの動画のうち、79.6%はユーザーの皆様から通報される前に削除され、88.4% はTikTokにアップロードされてから24時間以内に削除され、61.2%は視聴回数ゼロでした。

コミュニティーガイドラインの実施レポート

動画

2021年の第1四半期(1月1日~3月31日)には、61,951,327 件の動画がコミュニティガイドラインや利用規約違反として削除されました。これはTikTokにアップロードされた全動画の1%未満にあたります。上記の動画のうち、91.3%の動画は報告を受ける前に発見され削除され、81.8%の動画は誰にも視聴される前に削除を完了しました。また、93.5%の動画は投稿から24時間以内に削除されました。

以下の表は、削除された動画が多い上位5つの市場を表しています。

国・市場 完全削除
アメリカ 8,540,088
パキスタン 6,495,992
ブラジル 6,128,568
ロシア 3,747,364
インドネシア 2,757,292

ブラジルやパキスタンなどの市場では、引き続き機械を用いて自動的に違反コンテンツを検出し削除する作業を行っています。削除された動画のうち、8,832,345本がコミュニティガイドラインの違反コンテンツとして検出され、自動的に削除されました。これらの動画は下記のグラフには反映されていません。

動画作成者は、動画の削除に対し異議を申し立てることができます。申し立てを受け取ると、動画を再度確認し、誤って削除された場合は復元されます。2021年の第1四半期では、申し立ての後2,833,837件の動画が復元されました。私たちは常に一貫性と公平性を維持した審査に努めています。今後とも誤検知を減らし、モデレーションチームに継続的な教育及びトレーニングを提供していきます。

下図は、ポリシー違反によって削除された動画件数が示されています。動画が複数のポリシーに違反している場合はそれぞれの違反が反映されています。

下表は、審査チームによって削除された動画のうち、ポリシー上の理由で積極的に削除された割合を示しています。積極的な削除とは、動画が報告される前に検出し削除することを意味します。24時間以内の削除とは、プラットフォームに投稿されてから24時間以内に動画が削除されたことを意味します。

予防的削除率 24時間以内削除率
成人ヌードと性行為 86.1% 89.8%
ハラスメントといじめ 66.2% 83.8%
ヘイトによる振る舞い 67.3% 83.9%
違法行為と規制対象品 96.0% 95.6%
誠実性と信頼性 78.5% 88.9%
未成年の安全性 97.1% 96.2%
自殺、自傷行為、危険行為 93.7% 91.7%
暴力的で生々しいコンテンツ 93.4% 93.6%
暴力的な過激な行為 82.1% 87.1%

成人ヌードと性行為

TikTokは、すべてのユーザーの皆様にとって安全なプラットフォームづくりに努めており、ヌードや性的に露骨なコンテンツを削除しています。削除された動画のうち15.6% がこのポリシーに違反しており、前回のレポートの20.5%から減少しています。TikTokはポルノとヌードの厳密な削除を徹底しています。成熟した(ただし違反ではない)テーマのコンテンツは、削除するのではなく、ユーザーの「For You)レコメンド)」フィードに配布しないように制限しています。これらの動画の86.1%を通報前に削除し、89.8%を投稿後24時間以内に削除しましたが、これは前回のレポートよりも若干減少しています。

ハラスメントといじめ

TikTokは、包摂的で、創造的に自己表現ができるコミュニティーを目指しており、コミュニティメンバーが侮辱されたり、いじめられたり、ハラスメントを受けることを許しません。削除した動画のうち8がこのポリシーに違反しており、2020年の下半期の6.6%から増加しています。この増加は、昨年末に行われたポリシーの更新による、いじめ行為に対する保護が強化されたこと、またいじめやハラスメントを検知するためのシステムが緩やかに進歩したことを反映しています。これらの動画の66.2%は報告される前に削除、83.8%は投稿されてから24時間以内に削除されました。 いじめを防ぐために、この分野での予防的な検出の改善に取り組んでおり、クリエイター自身が自分のTikTok上の体験を管理する上で役立ついくつかのツールを導入しました。これには、多数のコメントや、レポート、ユーザーブロックなどのツールが含まれています。

ヘイトによる振る舞い

TikTokは多様で包摂的なコミュニティであり、いかなる差別も認めていません。昨年このポリシーを「ヘイトスピーチ」から現在の「ヘイト行為」に変更し、ヘイトスピーチやプラットフォーム外の行動に対して、より包摂的なアプローチを採用しました。削除した動画の2.3%がこのポリシーに違反し、2020年の下半期から0.3%僅かに増加しました。この増加は、ヘイトスピーチやヘイトイデオロギーに対するポリシーの保護が強化されたことと、ヘイトスピーチの検出能力が格段に向上した新しいモデルにより、削除数が増加したことの両方に起因すると考えられます。 ヘイト行為の動画の67.3%は報告される前に削除、83.9% は投稿されてから24時間以内に削除されました。

違法行為と規制対象品

TikTokは、プラットフォーム上にて犯罪行為や、薬物、タバコ、アルコール、その他の規制物質や規制品の販売促進や取引を可能にしないように努めています。今年の第1四半期では、削除された動画の21.1%がこのポリシーに違反しており、2020年後半の17.9%から増加し、違法コンテンツをプラットフォームに投稿しようとする企てが増えていることが見受けられます。これらの動画のうち96%が報告される前に削除、 95.6%は投稿されてから24時間以内に削除されました。自動化と検出システム関連の改善の強化の成果と考えられます。

誠実性と信頼性

TikTokは信頼がコミュニティの基盤を形成していると考えており、偽のエンゲージメント、なりすまし、誤った情報を伴うコンテンツやアカウントを禁じています。削除された動画の2%がこのポリシーに違反しており、2020年下半期の2.4から減少しました。削除された動画の78.5%は報告前に削除、 88.9%は投稿されてから24時間以内に削除されました。私たちは誤報検出AIモデルの反復と改善を続けており、2020年の下半期で2021年の第1四半期に予防的検出の顕著な増加に貢献しました。

未成年の安全

TikTokは未成年者の安全に取り組み、このポリシーを定期的に強化しています。2021年の第1四半期に削除された動画の36.8%がこのポリシーに違反し、2020年下半期の36%から僅かに増加しました。これらの動画の97.1%の動画は報告前に削除、 96.2%の動画は投稿から24時間以内に削除されました。このように検知機能が継続的に向上しているのは、コンテンツがアップロードされた際に、コンテンツが閲覧される前に違反行為を特定してフラグを立てるモデルを進化させてきた結果です。

自殺、自傷行為、危険行為

私たちは、コミュニティの皆様一人一人の健康と健全な生活を大切にしており、協力的なコミュニティを育むよう努めています。削除された動画の5.7%がこのポリシーに違反しました。2020年下半期の6.2から減少しています。これは、コンテンツを迅速に削除し、コンテンツを検索しているユーザーを専門家のサポートや緊急リソースにリダイレクトするために一丸となって取り組んでいるため、これらの動画の全体的な量が減少したためだと考えています。これらの動画の93.7%は報告される前に削除、 91.7%は投稿されてから24時間以内に削除されました。

暴力的で過激な行為

TikTok内外の暴力に対して、私たちは確固たる姿勢をとります。削除された全ての動画のうち、0.5%の動画がこのポリシーに違反しました。2020年の下半期の0.3%からは僅かに増加しました。これらの動画の82.1%は報告される前に削除、 87.1%は投稿されてから24時間以内に削除されました。この削除の増加は、禁止されているコンテンツや行為の観点から、暴力的な脅威や暴力への扇動と見なされるものをより詳細に説明しているガイドラインによるものと考えられます。 暴力関連性のある動画に検出システムを開発していると同時に、ユーザーやNGO組織からのレポートも確認しています。

暴力的で生々しいコンテンツ

TikTokは創造性を応援するプラットフォームですが、衝撃性や暴力は推奨しません。2020年下半期と同様に、削除されたすべての動画の8.1%がこのポリシーに違反しました。これらの動画の93.4%は報告される前に削除、 93.6%は投稿されてから24時間以内に削除されました。前回のレポートからのわずかな改善であり、ポリシーの強化とコンテンツの検出の改善の結果です。

アカウント

2021年第1四半期では、11,352,549のアカウントがコミュニティガイドラインまたは利用規約違反により削除されました。そのうち、7,263,952のアカウントが13歳未満の方のものと判断され削除されました。これはTikTokの全アカウントの1%未満にあたります。さらに、71,470,161のアカウントが自動的に作成されるのを未然に阻止し、スパムアカウントによって投稿された12,378,928の動画が削除されました。

広告

TikTokには、虚偽の広告や不正な広告、誤解を招くような広告からユーザーを保護するための厳格なポリシーがあります。広告主アカウントと広告コンテンツは、これらのポリシーを遵守し、コミュニティガイドラインや広告ガイドライン、利用規約に従わなければなりません。2021年の第1四半期では1,921,900件の広告が広告ポリシーとガイドラインへの違反により却下されました。TikTokは、広告コンテンツが我々の基準に沿うことができるよう人材の育成やテクノロジーの開発に日々精力的に取り組み、広告表示における安全・健全な環境づくりにを努めています。

セキュリティ

昨年10月に、セキュリティの脆弱性を積極的に特定して解決するための脆弱性管理プログラムを拡張して、グローバルな「バグ・バウンティ・プログラム」を開始しました。このプログラムは、グローバルなセキュリティ研究者がバグを発見し、責任を持って私たちのチームに開示することを奨励します。加害者が脆弱性を悪用する前に解決できるようにすることで、私たちの全体的なセキュリティ成熟度を強化することにつながります。

2021年の第1四半期に、TikTokは33件の有効な提案を受け取り、それのうち29件が解決されました。 8件の公開依頼があり、8件すべてが公開されました。 TikTokが報奨金を支払うのに平均して3日かかります。 応答効率に関しては、TikTokの平均初回応答時間は8時間、解決時間は30日です。


用語と定義

TikTok コミュニティに適切なコンテンツを決定する際、以下の用語と定義を使用して審査戦略を決定します。私たちは、信頼のおける多くの専門家と協力して広範なポリシー背景を理解し、不適切なコンテンツや行動に対処するポリシーと審査戦略を策定します。

  • 暴力的で過激な行為 TikTok内外の暴力に対して、私たちは確固たる姿勢をとります。私たちのプラットフォームを使用して暴力行為を脅かしたりその扇動をすること、危険な個人や組織を宣伝することを許されません。公共の安全への脅威がある場合、またはアカウントがプラットフォーム外での暴力を助長・称賛するために使用されている場合、アカウントを一時停止または禁止する場合があります。正当な理由がある場合は、関連当局に脅威を報告します。TikTokのプラットフォーム上で暴力的で過激な個人や組織を特定するために、他のプラットフォームやオフラインで利用可能な情報を検討することがあります。 TikTokでそのような個人や組織を見つけた場合、アカウントを閉鎖します。
  • 違法行為と規制対象品 TikTokは犯罪活動を助長しないよう努めています。特定の規制対象品の取引、販売、宣伝、使用、および犯罪行為の描写または宣伝を禁止します。一部のコンテンツが、ある地域または国で違法または規制されている活動や物品に関連する場合、当該活動や物品に関する投稿が合法でも、削除されることがあります。
  • 暴力的で生々しいコンテンツ TikTokは創造性を奨励するプラットフォームですが、衝撃的な内容や暴力は推奨しません。極度に衝撃的、生々しい、サディスティック、または残酷なコンテンツや、プラットフォームでの極端な暴力や苦痛を推奨、正常化、または美化するコンテンツは許可されません。公共への脅威がある場合、アカウントを一時停止または削除し、正当な理由がある場合は、関連する法務当局に報告します。
  • 自殺、自傷行為、危険行為私たちは、コミュニティを構成する個人の健康と幸福を大切にします。自殺、自傷行為、摂食障害につながる可能性のある活動を描写、促進、正常化、または美化するコンテンツは許可されません。また、重大な怪我や死亡につながる可能性のある危険な活動に参加したり、他人に参加を促したりするコンテンツをユーザーが共有することは許可されていません。
  • ヘイトによる振る舞いTikTokは多様で包括的なコミュニティであり、差別を許可しません。ヘイトスピーチを含むコンテンツや憎悪に満ちた行動を含むコンテンツを禁じており、プラットフォームから削除します。ヘイトスピーチ違反に関与したり、ヘイトスピーチに関連するアカウントをTikTokプラットフォームから停止または削除します。
  • ハラスメントといじめ私たちは、虐待を恐れる必要のない開かれたコミュニティと個別の表現を信じています。コミュニティのメンバーが辱めを受けたり、いじめられたり、嫌がらせを受けることを容認しません。虐待的コンテンツや行動は深刻な心理的苦痛を引き起こす可能性があり、プラットフォームから削除されます。
  • 成人のヌードと性行為アニメコンテンツを含む、性的に露骨または満足感を与えるようなコンテンツを禁じています。性的コンテンツは、一部の管轄区域では法的罰則につながったり、同意のない画像(リベンジポルノなど)を共有することでユーザーに害を及ぼすなど、多くのリスクを伴います。また、明らかに性的なコンテンツは、特定の文化において攻撃的内容になる可能性があります。教育、ドキュメンタリー、科学、または芸術的目的で、ヌードや性的に露骨なコンテンツに関する内容は例外として認められます。
  • 未成年者の安全私たちは、プラットフォーム上の未成年者の安全を確保することに真摯に取り組んでいます。TikTokで未成年者の虐待、危害、危険、または搾取は許しません。未成年者の虐待、搾取、ヌードを描写するアニメやデジタルで作成または操作されたメディアを含むコンテンツは、当社のプラットフォーム違反であり、検出され削除されます。TikTokは、18歳未満を未成年としています。
  • 誠実性と信頼性私たちは、信頼が私たちのコミュニティの基盤を形成していると信じています。プラットフォームの誠実性やユーザーの信頼を損なう可能性のある活動は許可されません。スパムや欺瞞、なりすまし、危害や知的財産権を侵害する誤解を招く情報を含むコンテンツまたはアカウントを削除します。






過去の透明性レポート

2021年1月1日~年3月31日

2020年7月1日~12月31日

2020年1月1日~6月30日

2019年7月1日~12月31日

2019年1月1日〜6月30日