Písničky z 90. let, alternativní móda, italské recepty, roztomilá zvířata, internetové vtipy, které chápou jen další uživatelé. To všechno se může ukázat v přívalu videí, když si otevřete TikTok. Ale jen pokud vás to opravdu zajímá. Aplikace ušije feed pro každého přesně na míru.
Začnete se sledováním krátkých videí s předpokladem, že na aplikaci strávíte jen pár chvil. Jenže uplynou desítky minut a vy zjistíte, že nekonečný proud obsahu sledujete pořád dál – a dobře se u toho bavíte. TikTok si nejde jen tak vyzkoušet, protože vás hned pohltí.
Zajímá vás spíš to, co publikují uživatelé, které znáte, nebo chcete objevovat něco nového? V druhém případě vám TikTok doporučí příspěvky prostřednictvím takzvané For You Page nebo zkráceně FYP Ty jsou vybrané speciálně pro vás, na míru vašim zálibám a tomu, co máte rádi. Zdánlivě to vypadá, jako by šlo o nějaké „kouzlo”.
V aplikaci můžete velmi snadno vytvářet videa nebo sledovat příspěvky od ostatních. TikTok je ale známý hlavně tím, jak prostřednictvím doporučených videí otiskuje náš vnitřní život. „Algoritmus TikToku znal mou sexualitu lépe než já sám,“ svěřuje se jeden z uživatelů s tím, jak rychle síť poznala, že je gay. Jak je možné, že nás TikTok tak dobře zná? Že přesně ví, jaká videa nám předkládat, abychom tu dobrovolně trávili čas, i když bychom možná radši dělali něco jiného?
Návykový produkt
„Myslím, že genialita TikToku spočívá v rozhraní, v němž na jedné straně lze prohlížet obsah lidí, které sledujete, a na té druhé si zas můžete říct: ,TikToku, ukaž mi, co si myslíš, že bych rád viděl.‘,“ popisuje profesor Joshua Tucker z New York University.
Na své popularitě získala aplikace TikTok nejvíce během pandemie. Lidé zůstávali doma kvůli protiepidemickým opatřením a tisíce znuděných teenagerů se bavily natáčením krátkých videí. Od roku 2016, kdy začala síť fungovat, si připsala víc než miliardu uživatelů. Na konci letošního roku dokonce TikTok předběhl Google a Facebook a stal se nejnavštěvovanější doménou na světě.
V případě tiktokových doporučených videí uživatelé často mluví o „svém algoritmu“ nebo o tom, že příspěvek našli „na svojí For You Page“. Jako by to snad bylo rozšíření jejich já. „Je to svým způsobem pravda,“ upozorňuje profesor Julian McAuley z University of California San Diego. „Existuje jen jeden algoritmus, ale vstupní data pro něj jsou všechno, co jste tu kdy udělali. Každý dostává doporučení na základě historie své aktivity (na TikToku).“
A právě to je základní principem uniklého dokumentu, který se v prosinci loňského roku objevil v médiích. Novinářům ho zprostředkoval přímo zaměstnanec TikToku. Informace byly určené pro netechnické pracovníky společnosti a poskytují poměrně podrobný popis toho, jak aplikace funguje – a proč se z ní stal „někdo by řekl až návykový“ produkt, upozorňuje novinář Ben Smith, který dokument analyzoval pro The New York Times.
Pátrání novinářů z deníku The Wall Street Journal ukázalo, že pro algoritmus TikToku je nejdůležitějším měřítkem čas strávený sledováním videa.
Materiál se údajně jmenuje „TikTok Algo 101” a vytvořil ho inženýrský tým v Pekingu. Mluvčí společnosti Hilary McQuaide potvrdila, že je pravý. Odhaluje „matematické jádro” TikToku a poskytuje vhled do způsobu, jakým společnost vnímá lidi a jejich chování – jako tvory, kteří se neradi nudí a zároveň jsou citliví k popkulturním podnětům. Ale jak to funguje?
TikTok tě do dvou hodin pozná
Když si na TikToku vytvoříte nový účet, algoritmus vám nejdříve začne nabízet videa, která jsou zrovna u ostatních uživatelů nejpopulárnější. Mají otestovat, jaká bude vaše reakce na různé kategorie obsahu – od tancujících teenagerů po rekonstrukci domu nebo recepty či roztomilá štěňata.
„Je to jako sledovat sestřih filmových upoutávek, z nichž každá je vytvořena tak, aby zaujala vaše oko a ucho, ale s každým dalším klipem musíte začít budovat příběh znovu. Udělá tahle kočka něco vtipného? Rozejde se tenhle pár? Vypije ten pán pět piv? Nebo je to jen blikající nesmysl obrázků a textů?“ zamýšlí se ve své eseji novinář Kyle Chayka.
A The Wall Street Journal pak pátral po tom, jak algoritmus TikToku funguje. Využil přes stovku uměle vytvořených účtů ovládaných boty, skrz které simuloval chování uživatelů Tiktoku. Zjistil, že platforma odhadne zájmy každého z nich za méně než dvě hodiny.
Algoritmus při výpočtech využívá několik klíčových prvků: jaká videa označíme lajkem, počet komentářů, dále to, kolik času u videa strávíme a jestli ho dokoukáme do konce nebo si ho přehrajeme znovu. Posuzuje ale i fakt, že si video vůbec pustíme a nescrollujeme hned dál. Všechny tyto hodnoty jsou dosazeny do rovnice a každé video je na základě toho „skórované”. Podle toho, jaké skóre video dostane, tedy jak moc je podobné všem našim zájmům a aktivitám v aplikaci, je nám pak doporučeno video s nejvyšším skóre, tedy s nejvíce odpovídajícím obsahem tomu, co jsme sledovali v minulosti, co jsme komentovali a lajkovali. Jde o předpovědi založené na strojovém učení.
Čtěte také: Scrollovat donekonečna a ještě dál. Jak se z našich obrazovek staly továrny na vztek?
Takže jestli máte rádi například jezevčíky či japonskou kulturu a tato videa i komentujete a lajkujete, navíc je často dokoukáte do konce, algoritmus přiřadí všem videím týkajícím se těchto témat vysoké skóre – a pak vám je ukáže na vaší stránce doporučených obsahů.
Tvůrci aplikace počítali i s tím, že se lidé neradi nudí. Pokud nám tedy algoritmus ukazuje videa, jež se nám obvykle líbí, příliš často, rychle se začneme nudit a aplikaci zavřeme, popisuje dokument. TikTok nás ale nechce zahltit jen jedním typem obsahu. Proto občas vynuceně doporučí i něco dalšího, k rozptýlení. Ukáže třeba více různých videí od jednoho tvůrce, o kterém předpokládá, že by se nám jeho tvorba mohla líbit. Stanovuje také denní limit na videa, která jsou ve stejné kategorii – abychom nevídali třeba příliš často spoty o vaření.
Cílem aplikace je to, aby tu uživatelé trávili co nejvíce času a aby se sem vraceli. A ukazuje se, že právě čas je důležitý parametr i pro algoritmus TikToku. Před dvěma lety společnost na svém blogu popisovala, že využívá informace o lajkování, komentářích a sdílení jako měřítko, jak vypočítat, s jakými obsahy interagujeme nejvíc.
@hannahland3the gorls who get it get it and the gorls who don’t don’t♬ original sound – americanutopia
Pátrání novinářů z deníku The Wall Street Journal ale ukázalo, že nejdůležitějším měřítkem ze všech je čas strávený sledováním videa. Tedy jestli jsme si ho pustili, jak dlouho jsme ho sledovali, jestli jsme ho pozastavili, sledovali znovu nebo scrollovali dál. To má daleko větší váhu než ostatní faktory. Algoritmus podle toho vypočítá, vůči jakým videím jsme „nejcitlivější“, co nás donutí na obsah kliknout a sledovat až do konce.
Uniklý dokument také ukazuje, že TikTok posuzuje „kvalitu tvorby” jednotlivých autorů, než jejich videa doporučí. Záleží na tom, jak často tvůrci videa publikují (čím více, tím lépe), jak dlouho jsou na aplikaci aktivními přispěvateli (čím déle, tím lépe) a zda svá videa zpeněží. Proto skutečným měřítkem je spíš celková popularita tvůrců, tedy nejen to, zda na videích vydělávají peníze, například z reklamy. Samotné zpeněžení videa není pro algoritmus rozhodujícím signálem k tomu, aby ho divákům doporučil. Mnohem důležitější je to, zda ho lidé lajkují.
Nezáleží, co komentujete, zdá se, že TikTok zajímá pouze to, jestli jste byli nějak aktivní, zapojili se, a pak se vás snaží krmit tím, co ,zdánlivě‘ chcete.
Kvůli větší popularitě si tak dokonce někteří tvůrci o lajky vyloženě říkají. Tuhle chybu ovšem udělají jen ti, kteří nevědí, že se jejich prosba do algoritmu TikToku okamžitě negativně promítne. Společnost má totiž i tohle ošetřené – aplikace taková videa identifikuje a potlačuje. Proto pokud své diváky požádáte, aby vaše video označili srdíčkem, algoritmus vás spíš nikomu nedoporučí.
V bludném kruhu
TikTok sice sleduje naši aktivitu v online prostoru, ale nevyhodnocuje naše motivace. Je jedno, jestli něco kritizujete nebo chválíte – pro algoritmus je to jedna a ta samá interakce.
Student Lazar Odic z Kanady na TikToku narazil na videa stoupenců konspiračních teorií, v nichž kritizovali očkování proti covidu-19. Jejich vystoupení mu přišla hloupá a nesmyslná. Pár z nich tedy v tomto duchu okomentoval. Výsledkem jeho aktivity ovšem bylo, že se mu jich na TikToku začalo objevovat čím dál víc. A algoritmus k tomu jako bonus přidal ještě videa, u kterých si spočítal, že by se mohla líbit právě lidem z aktivakcinačního hnutí. „Nezáleží, co komentujete, zdá se, že TikTok zajímá pouze to, jestli jste byli nějak aktivní, zapojili se, a pak se vás snaží krmit tím, co ,zdánlivě‘chcete,“ popisuje Odic.
The Wall Street Journal při svém experimentu s boty sledoval podobný proces toho, jak se člověk dostane od populárních mainstreamových videí k specifickému obsahu cílenému na jeho zájmy. Například botovi, který byl naprogramován jako uživatel zajímající se o politiku, byla nabízená videa o volebních konspiracích a QAnon hnutí.
@atbrandeeno I am not saying anything, but wtf…? #biden #maga #trump #conservatives #conservativetiktok #conservative #politics ♬ original sound – AtBrandeeno
Algoritmus nás dostává do prostředí, kde se neustále točí dokola několik stejných témat a ze kterého není úniku. Výše popsané příklady ukazují, že systém, na jakém TikTok funguje, může být potenciálně škodlivý. Nejlíp to věděl právě zaměstnanec TikToku, který dokument poskytl veřejnosti. Obsah interního materiálu ho znepokojil, proto se rozhodl s ním jít na veřejnost. Obával se, že fungování algoritmu povede k sebepoškozování uživatelů nebo je bude vystavovat obsahům, jako je například propagace poruchy příjmu potravy.
Problémem je, že aplikace nám ukazuje podobný obsah, jaký tu sledujeme nejvíce nebo opakovaně. Je pak snadné se propadnout do bludného kruhu, kdy bude naše FYP zaplněná obsahem, který nám může i škodit. A jelikož se TikTok postupně stal ústředním místem, kde se formuje online kultura i kultura generace Z, představují popsané mechanismy potenciální nebezpečí hlavně pro děti a teenagery.
@3.a.m.pain.simp #fyp #foryou #painhub #eating #relatable #mum #pain #noteating ♬ I Think I’m OKAY – Machine Gun Kelly & YUNGBLUD & Travis Barker
„Algoritmus zjišťuje, že depresivní obsah je užitečný pro vytváření interakce, a proto protěžuje právě taková depresivní videa. Vnucuje lidem stále extrémnější příspěvky, aby je donutil trávit v aplikaci víc a víc času,“ upozorňuje Guillaume Chaslot, zakladatel společnosti AlgoTransparency. Právě takový obsah nás totiž v internetovém přívalu informací dokáže pravděpodobně nějak zaujmout.
„Je šílený nápad nechat tiktokový algoritmus řídit životy našich dětí,“ myslí si Chaslot. „Skrze každé video, které tu dítě sleduje, o něm získává TikTok určitou informaci. Během několika hodin dokáže algoritmus odhalit jeho hudební vkus, fyzickou přitažlivost, jestli je v depresi, jestli ho zajímají drogy a další citlivé informace. Je tu velké riziko, že některé z těchto informací budou použité proti němu,“ vyjadřuje Chaslot své obavy a dodává, že informace mohou být zneužité k posílení závislosti na aplikaci.
TikTok tvrdí, že pečlivě monitoruje publikované obsahy a že tu fungují moderátoři, kteří škodlivá videa mažou, pokud jsou v rozporu s pravidly této sociální sítě. Jde například o obsah týkající se sebepoškozování nebo sebevražd. Platforma uvedla, že ke kontrole obsahů využívala kombinaci počítačů a lidí-moderátorů. Jenže ti mohou chybovat a některá videa proklouznou.
Nadbytečná data a bezpečnostní riziko
Aby si algoritmus mohl spočítat, co chceme vidět, ukládá velké množství informací. TikTok nás velmi dobře zná právě proto, že sbírá mnohem více dat, než si uvědomujeme.
Novinář Ben Smith, který obsah uniklého dokumentu zpracovával pro The New York Times, údajně viděl materiály, které dokazují, že moderátoři aplikace mají přístup nejen k veřejně publikovaným videím, ale také k obsahům, které si posíláme navzájem s přáteli. A dokonce i k tomu, co máme uložené v systému jen jako nepublikovaný koncept. To je rozdíl oproti aplikacím, jako jsou WhatsApp nebo Signal, které poskytují šifrování.
Čtěte také: Poručíme tělu, dešti: Jak technologičtí giganti vydělávají na vašem zdraví
A objevují se i otázky týkající se toho, jestli by čínská vláda v budoucnu nemohla aplikaci využít k propagandě. Když začalo TikToku narůstat množství uživatelů, řešilo se nejen v USA, jestli neposkytuje velké množství nasbíraných dat Číně, nebo zda je nezneužije jiným způsobem. Data v rukou zahraniční vlády mohou být podle Forbesu rizikem kvůli šíření propagandy na sociálních sítích u uživatelů, kteří tyto platformy používají jako primární zdroj informací. Proto může být TikTok popisován jako bezpečnostní riziko.
Sbírání dat o uživatelích či dopady na psychiku teenagerů řešily i jiné platformy. TikTok jen s větší naléhavostí ukazuje, že je třeba s tím něco dělat.
V roce 2020 Amazon dokonce poprosil své zaměstnance, aby si aplikaci smazali ze svých mobilů kvůli obavám ze špionáže ze strany čínské vlády. Americká armáda zakázala, aby byl TikTok ve vládních mobilech.
Někteří analytici vidí aplikaci jako hrozbu, jiní však tuto paniku vnímají jako bezpředmětnou. Zpráva Citizen Lab, organizace pro monitorování kybernetické bezpečnosti z Toronta, ukazuje, že obavy jsou nepodložené. Nenašly se žádné důkazy o tom, že by TikTok přenášel data do Číny.
@lukedonkinpov: baby riding a scooter♬ original sound – Luke Donkin
„Řada jiných produktů – od sociálních sítí po banky a kreditní karty – ukládá mnohem cennější data o svých uživatelích, upozorňuje novinář Ben Smith a dodává, že pokud by se zahraniční bezpečnostní služby chtěly dostat k těmto datům, nejspíš by našly lepší způsob, jak je získat. A nutno dodat, že tajné služby jistě zajímají důležitější informace než to, jestli máte rádi videa zvířat a vaření.
To, že o nás TikTok sbírá tolik dat, se může zdát na první pohled jako další důvod ke smazání aplikace. Jenže je v tom sama? „Není to o nic horší ani lepší než to, co už dělá Facebook, Google a tisíce aplikací,“ popisuje Ian Thornton-Trump z Cyjax CISO. „Každá bezplatná služba bude chtít nějak zpeněžit data, která hromadí.“
„Strašení tím, že nás TikTok sleduje nebo něco cenzuruje, odvádí pozornost od skutečnosti, že tyhle problémy jsou mnohem rozsáhlejší. Nejde jen o jednu konkrétní korporaci nebo fakt, že ji vlastní čínská společnost,“ myslí si Samm Sacks, specialistka na kybernetickou bezpečnost. Nebezpečí se skrývá v jakémkoli ukládání dat a našich soukromých informací a v potenciálu jejich zneužití.
Čtěte také: Influenceři bez práce, globální Jih bez spojení a digitální apokalypsa. Co ukázal výpadek Facebooku?
Na příkladu této aplikace se ukazují negativní jevy, které se v souvislosti se sociálními sítěmi řeší už delší dobu. Eticky sporné sbírání osobních informací o uživatelích či dopady na duševní zdraví teenagerů se v minulosti týkaly i Facebooku či Instagramu. TikTok nám jen nyní s větší naléhavostí ukazuje, že je třeba s tím něco dělat.
Digitální orákulum založené na matematice
„TikTok rychle začne číst vaši duši, jako by šlo o nějaký druh božského digitálního orákula, a rozkryje všechny vrstvy vaší osobnosti, které možná vaše vlastní vědomá mysl dosud neznala,“ popisuje v článku pro Mashable Jess Joho.
Jde o hledání toho perfektního letního filmu, který ale nikdy nepřijde. Pokaždé se totiž objeví větší a dražší blockbuster.
Mechanismus, který aplikace používá, ale není nic magického. Nejde o žádné magické orákulum, jen o technologii. Profesor Julian McAuley uvádí, že nastavení TikToku a jeho algoritmu je pro sociální sítě poměrně tradiční. Profesor nerozumí, proč se ho každý ptá znepokojeně na to, jak TikTok funguje. „Zdá se, že tu existuje určitý dojem (médií či veřejnosti?), že rozluštili nějaký magický kód, pro doporučování (videí), ale většina toho, co jsem viděl, se mi zdá docela normální.“
Hlavní přednostní je ale podle McAuleyho to, že aplikace kombinuje strojové učení s hromaděním obrovského množství dat. Vytváří prostředí, kde jsou uživatelé necháni na pospas tomu, co jim algoritmus doporučí. Strojové učení umožňuje aplikacím obecně zpracovávat velké množství dat a z toho rychle odvodit, jaké jsou naše osobní preference, místo aby všem poskytovaly stejný obsah.
@faithandferdinandmama’s boy ♬ American Dream – Pasha Grozdov
TikTok nám o nás samotných neříká vlastně nic nového. Jenom reflektuje to, čemu věnujeme nejvíce pozornosti v online prostoru, co probouzí naši zvědavost. Proto v případech lidí, kteří si díky TikToku uvědomili, že jsou homosexuálové, nemuselo jít o to, že by o tom nevěděli, ale spíše o to, že ve skutečném světě to museli skrývat kvůli předsudkům společnosti, která je homofobní. Až v digitálním světě se mohli svobodně vyjádřit a svobodně sledovat ostatní uživatele z LGBTQ+ komunity. Protože digitální prostor TikToku je jenom náš, a nikdo jiný ho nesleduje.
Problémem pak může být závislost, jakou někteří uživatelé TikToku přiznávají. „Tento systém znamená, že klíčová je tu doba, po jakou video sledujeme. Algoritmus se snaží přimět lidi, aby byli závislí, místo aby jim dával to, co skutečně chtějí,“ myslí si Guillaume Chaslot z ArgoTransparency.
The New York Times v této souvislosti připomínají slova dramatika Davida Mameta, který se v roce 1998 pohrdavě vyjádřil o letních velkofilmech jako o „pseudoumění“, které diváky přitahuje jen proto, že je nikdy plně neuspokojí. Jde o hledání toho perfektního letního filmu, který ale nikdy nepřijde. Pokaždé se totiž objeví větší a dražší blockbuster.
A právě to může být důvodem, proč se na TikTok stále vracíme. Sice se u videí dobře bavíme, ale protože jsou krátká, rychlá a je jich tu nekonečně mnoho, jako by se jejich sledování stávalo úkolem, který nemá konec. Je to jako cesta za hledáním toho nejvtipnějšího a nejlepšího obsahu. Protože pokaždé můžeme objevit ještě vtipnější meme nebo lepší recept na těstoviny.
