ジギ・タイラーは、「ティックトック・クリエイター・マーケットプレイス（TikTok Creator Marketplace：TCM）」と呼ばれる、広告主がトップクリエイターとつながることができるプラットフォームに参加している。タイラーは先日、TCMに掲載されている自分のバイオグラフィが自動的にモデレートされていることについて、ひどく不穏な気持ちになった。
タイラーがバイオグラフィにいくつかのフレーズを入力すると、「Black lives matter（ブラック・ライブズ・マター）」「supporting black people（黒人を支援する）」「supporting black voices（黒人の声を支持する）」「supporting Black success（黒人の成功を後押しする）」などいくつかが、不適切なコンテンツであるとして警告が出されたのだ。しかし、黒人を白人に置き換えたバージョンの同様のフレーズは承認された。
タイラーはティックトック動画で、自分のスマートフォンでそれらのフレーズを入力したときの映像を前にして、「TCMで『白人至上主義を支持する』と入力して確定すると、承認されるのです」と述べた。TCMに掲載されるためには、自分が書いたことを削除しなければならなかった。
タイラーは、引き続き投稿した動画で、「私はネオナチです」「私は反ユダヤ主義者です」というフレーズが承認され、「私は黒人です」というフレーズには警告が出されたことを示した。この話は、ティックトックでの黒人クリエイターの扱いにすでに不満を感じていた視聴者の後押しもあり、爆発的に広まった。
ティックトックの広報担当者は、「インサイダー（Insider）」へのコメントで、「重大な」エラーについて謝罪し、タイラーが目の当たりにしたことは、ヘイトスピーチに関連する言葉をブロックするために設定された自動フィルターの結果であると説明した。コメントによれば、このシステムは、「語順に関係なく、フレーズに警告を出すように誤って設定されていた」という。同社がリコード（Recode）に説明したところによると、このときのエラーは、「Black（黒人）」と「audience（視聴者）」という単語が含まれていたために発生したもので、ヘイトスピーチ検出機能が「audience」の「die（死ぬ・死ね）」を検出し、不適切な組み合わせとして警告を出したのだという。
公開、そして拡散
ティックトックで起こった事件はこれだけではない。数週間前、ティックトックは、一部のアンドロイドユーザーに、顎のラインを細くする強制的な美容フィルターと思われるものを誤って適用した。
4月には、あるティックトック・クリエイターが、ティックトックの新しい自動キャプション機能が「アジア人女性」というフレーズをブロックしていることに気づいた。また、2021年初頭には、インターセックスのクリエイターが、#intersexのハッシュタグがアプリ上で検索できなくなっていることを発見した。
これらはすべて、ティックトックで繰り返されるパターンの例だ。まずクリエイターが、プラットフォーム …