21 lutego 2019 r. 19-letni Brazylijczyk, mieszkaniec Kurytyby za pomocą TikToka transmitował do sieci swoje samobójstwo. Dzień wcześniej, również poprzez swoje konto na TikToku, zapowiedział, że planuje specjalny występ. Specjalny występ okazał się występem ostatnim.
Jak twierdzi “The Intercept” 280 osób oglądało na żywo moment, w którym Brazylijczyk odbiera sobie życie. Nagranie, pokazujące martwe ciało młodego człowieka było dostępne przez półtorej godziny. Do sieci trafiło o 15.23. Moderatorzy, zaalarmowani przez innych użytkowników, dowiedzieli się o filmie o godzinie 17.00. Pod filmem pojawiło się 497 komentarzy. 15 użytkowników wysłało skargi. Przedstawiciele TikToka nie powiadomili od razu policji o wydarzeniu, nie próbowali się też skontaktować z rodziną. Pierwszym podjętym działaniem było uruchomienie działu PR, który miał opracować strategię zapobiegającą rozejściu się informacji w sieci.
Od godziny 17:00 do 19:56 brazylijskie biuro TikToka pracowało nad zminimalizowaniem ewentualnie niekorzystnego wpływu wydarzenia na reputację serwisu. W efekcie firma powiadomiła policję prawie trzy godziny po tym, gdy dowiedziała się o samobójstwie. W tym czasie zdążyła przygotować oświadczenie prasowe i przeszukać sieć w poszukiwaniu kopii nagrania.
W oświadczeniu, cytowanym przez “The Intercept” przeczytać można, że firma nie zezwala na „treści promujące obrażenia ciała lub samobójstwa (…). Jesteśmy głęboko zasmuceni tym tragicznym incydentem. Rodzinie składamy wyrazy współczucia. (…) Zachęcamy każdego, kto potrzebuje wsparcia lub jest zaniepokojony zachowaniem najbliższych, by skontaktował się z telefonem zaufania.”
Szczegóły sprawy zostały ujawnione przez byłego pracownika brazylijskiego biura ByteDance, spółki macierzystej TikTok. Dostarczył on serwisowi “The Intercept” dokument pokazujący kolejne kroki TikToka, które miały zapobiec kryzysowi wizerunkowemu.
Sprawą zajął się także Business Insider, który przedstawicielom TikToka zadał pytanie o sposób moderowania treści i postępowanie firmy w tym konkretnym przypadku. W odpowiedzi na te pytania, TikTok stwierdził, że w czasie działań podejmowanych w związku z nagraniem nastolatka wystąpiły “problemy”, ale firma wyciągnęła konsekwencje w stosunku do niektórych pracowników.
Facebook i Twitter współpracują z instytucjami specjalizującymi się w zapobieganiu samobójstwom, takimi jak National Suicide Prevention Lifeline. Ludzkich moderatorów wspomagają algorytmy sztucznej inteligencji. Ich zadaniem jest przede wszystkim zapobieganie samobójstwom, m.in. przez intensywne przeszukiwanie takich wpisów, które sugerują, że internauta planuje targnąć się na życie.
TikTok, który zadebiutował w 2018 roku, pobrany został ponad 1,5 mld razy na całym świecie. Brazylia jest uważana za jeden z największych rynków TikToka. | CHIP
Moderatorzy YouTube’a dostali dokument, że wiedzą o stresie wynikającym z pracy