Informația Harghitei – jurnal independent singurul jurnal independent editat în limba română din județul Harghita
- Elementul cheie al aplicaţiei: algoritmul de funcţionare
Să vorbim un pic despre algoritmul TikTok, cel care îţi învaţă interesele şi îţi arată clipuri în funcţie de ele. Din punct de vedere tehnic, modul de funcţionare al acestuia este unul secret, astfel încât nu putem spune foarte multe. Însă putem vorbi despre ceea ce se vede din utilizarea aplicaţiei şi ceea ce putem analiza în legătură cu el.
Potrivit declaraţiilor oficiale ale reprezentanţilor TikTok, acest algoritm se bazează pe interacţiunea utilizatorului cu clipurile de pe platformă: vizualizări, share-uri (distribuiri), like-uri, ce alţi utilizatori urmăreşti etc.
Ceea ce îl diferenţiază de algoritmul celorlalte platforme este felul în care recomandă clipuri.
În cazurile altor aplicaţii (Facebook, Instagram) recomandările sunt făcute în baza interacţiunii utilizatorului cu conţinutul existent (like-uri, comentarii, share-uri etc.).
Însă în cazul TikTok situaţia e diferită. Astfel, platforma poate să îţi recomande clipuri şi chiar să reuşească să îţi ghicească preferinţele fără ca tu, utilizator, să interacţionezi în vreun fel cu ea, în afară de a urmări clipuri. Algoritmul poate analiza tipul de clipuri vizualizate, timpul petrecut vizualizând un clip (adică dacă acesta a fost vizualizat în totalitate sau doar parţial), numărul de vizualizări al unui clip (adică de câte ori ai revăzut un anumit clip).
De altfel, acest algoritm seamănă puţin cu cel al YouTube, însă este mult mai avansat din punct de vedere al „citirii” preferinţelor utilizatorului.
Până aici nimic nou/nepotrivit. E şi normal ca ţie, utilizator, dacă îţi plac clipurile cu pisici, să îţi recomande astfel de clipuri, şi nu din cele legate de construirea unei case, de exemplu.
Însă adevărul este unul mult mai complicat de atât.
Să luăm ca exemplu un experiment făcut de The Wall Street Journal (wsj.com), în care au fost create peste 100 de conturi automate de TikTok (boţi), fără a avea în spate o persoană reală, fiindu-le dată o identitate aleatorie (vârstă, locaţie, interese etc.).
Nici unuia dintre conturi nu i-a fost atribuit vreun sex, iar domeniile de interes nu au fost introduse în aplicaţie, ci au fost doar atribuite în scopul testului.
Singura interacţiune a acestor utilizatori (boţi) cu aplicaţia a fost prin vizualizarea clipurilor: tipul lor, cât timp s-au oprit asupra unui clip cu un anumit tip de conţinut, numărul de revederi, fiind lăsaţi să urmărească clipuri pe platformă (parţial, complet, de mai multe ori), fără a interacţiona în alt fel cu conţinutul (mesaje, like-uri, share-uri).
Aplicaţia nu ştia, însă, că în spatele contului nu se află o persoană reală, ci un bot.
La prima pornire a aplicaţiei aceasta arată o selecţie de clipuri variate, foarte populare, cu multe milioane de vizualizări, în general selectate de moderatori (angajaţi ai companiei). Clipuri cu animale, dansuri, sport, religie, dar şi cu diferite manifestări ale stării persoanelor (bucurie, tristeţe, depresie, nervozitate etc.). Aceste clipuri variate reprezintă prima interacţiune a persoanei cu conţinutul aplicaţiei.
După multe vizualizări şi după ce algoritmul identifică cu ce clipuri rezonează utilizatorul, conţinutul oferit începe să fie format din clipuri cu mai puţine vizualizări (sub 1 milion), care trec mai uşor de moderare.
Rezultatele obţinute din experiment i-au fost prezentate lui Guillaume Chaslot, fost angajat al Google şi una dintre persoanele care au lucrat la algoritmul YouTube. Acesta este, în prezent, specialist în analiza datelor şi algoritmilor.
Chaslot spune că algoritmul TikTok, faţă de cel al altor platforme social-media, este mult mai puternic şi poate învăţa mult mai repede interesele unui utilizator, dar şi vulnerabilităţile acestuia.
De altfel, TikTok a identificat mare parte a intereselor boţilor în mai puţin de două ore. Pe unele dintre ele chiar în mai puţin de 40 de minute.
Comparativ cu YouTube, unde clipurile prezentate vin în procent de 70-75% de la sistemul de recomandări, în cazul TikTok procentul este de 90-95%.
Unul dintre cele 100 de conturi a fost creat ca fiind o persoană de 24 de ani, din SUA, statul Kentucky, cu înclinaţii spre depresie şi tristeţe.
După 3 minute de la pornirea aplicaţiei şi la al 15-lea clip utilizatorul s-a oprit la primul video din categoria de interes, la care se uită de două ori. Din acel clip aplicaţia a adunat date importante despre conţinut, uitându-se la autorul clipului, muzica de pe fundal, descrierea clipului, categoria din care face parte (în funcţie de cuvintele cheie – hashtag) şi le-a asociat cu utilizatorul.
După acest prim clip, aplicaţia îi arată încă unul, la 23 de video-uri distanţă, adică după 4 minute de vizualizare, având ca subiect despărţirea în relaţie.
Următoarele clipuri la care s-a oprit bot-ul au fost cu cuvinte cheie ca #durere, #anxietate, #depresie.
După peste 200 de clipuri urmărite, adică aproximativ 35 de minute, 93% din conţinutul recomandat către acest user a avut ca subiect tristeţea şi/sau depresia.
Un reprezentant al TikTok a spus că restul de 7% din conţinut este recomandat pentru a încerca să determine utilizatorul să descopere ceva diferit, însă experimentul a arătat că, de fapt, majoritatea clipurilor din acel 7% conţinut era formată din reclame.
Totodată, reprezentantul TikTok a comunicat că rezultatele experimentului nu sunt reprezentative, întrucât o persoană reală este interesată de mai multe lucruri.
Însă chiar şi unii boţi cărora le-au fost atribuite subiecte de interes diverse şi diferite au ajuns să fie prinşi într-o nişă particulară de interes şi să fie duşi mai departe doar pe acea cale.
După analiza datelor şi a clipurilor vizualizate de utilizatorul bot din Kentucky, Guillaume Chaslot a precizat că algoritmul a detectat că acest conţinut depresiv este foarte util în a influenţa interacţiunea utilizatorului cu platforma şi a recomandat în continuare astfel de conţinut. În acest sens se poate observa că platforma îi împinge pe utilizatori către un conţinut tot mai extrem pentru a îi face să petreacă mai mult timp pe platformă.
TikTok mai spune că permite utilizatorilor să facă selecţii ale clipurilor alegând opţiunea „Nu sunt interesat” la cele nedorite. Însă Chaslot spune că asta nu e suficient, deoarece algoritmul este capabil să găsească conţinut la care utilizatorul e vulnerabil, care să îl facă să reacţioneze şi să se uite în continuare. Dar ceea ce e mai important este că asta nu înseamnă că acel conţinut chiar îi place şi se află printre preferinţele lui, ci este conţinutul care e cel mai probabil să îl ţină pe platformă cât mai mult timp.
Dar să spunem că domeniile de interes configurate pentru bot-ul din Kentucky, tristeţea şi depresia, sunt nişte trăiri care te pot face foarte uşor să aluneci pe o pantă periculoasă. Însă experimentul arată că până şi unii boţi cu interese generale au fost duşi într-o „gaură de vierme”, au fost împinşi spre o zonă în care conţinutul a ajuns să fie foarte personalizat/nişat. De exemplu, un bot cu interese generale despre politică a ajuns într-o zonă cu clipuri dominate de teorii ale conspiraţiei privind alegerile şi mesaje provenind de la grupări extremiste.
După cum arată rezultatele experimentului, aproape toate conturile create au alunecat, mai devreme sau mai târziu, într-o „gaură de vierme” cu conţinut foarte nişat, specific. Mergând spre clipuri de nişă, posibilitatea de a întâlni mesaje periculoase/dăunătoare, care nu sunt oprite de moderatori sau de sistemul de filtrare, este foarte mare şi foarte greu de controlat odată ce ai intrat în acel „joc”. Pentru un bot, de exemplu, singurul mod în care a putut fi „deviat” de la nişa în care intrase (clipuri despre ADHD1) a fost să îi fie schimbate domeniile de interes sau să i se configureze specific să nu mai caute astfel de clipuri.
Sumarizând rezultatele din experimentul de mai sus, putem afirma că TikTok este o platformă care îţi poate arăta conţinut foarte divers şi distractiv, dar poate împinge către utilizator şi conţinut care să îl facă să se scufunde în cele mai negre trăiri. Acest lucru se poate întâmpla şi fără să fie nevoie ca aplicaţia să colecteze informaţii personale despre el, dat fiind faptul că clipurile pot fi vizionate şi fără a crea un cont.
***
În a treia parte vom extinde puţin modul în care TikTok ne urmăreşte şi vom vedea cum se încearcă reproducerea unor acuzaţii făcute de specialiştii din ţările care au interzis aplicaţia pe dispozitivele guvernamentale.
De asemenea, vom trece în revistă şi diferenţele dintre TikTok şi alte aplicaţii asemănătoare, precum Facebook sau Instagram.
Eusebiu Z.
1. Attention-deficit/hyperactivity disorder (ADHD) – Tulburarea de deficit de atenţie şi hiperactivitate.
