Nekim mladim korisnicima TikToka prikazuje se potencijalno opasan sadržaj koji bi mogao potaknuti poremećaje prehrane, samoozljeđivanje i samoubojstvo, tvrdi grupa za sigurnost na internetu. Istraživanje TikTok algoritma koje je proveo Centar za suzbijanje digitalne mržnje (CCDH) otkrilo je da se određenim računima opetovano servira sadržaj o poremećajima prehrane i drugim štetnim temama nekoliko minuta nakon pridruživanja platformi.
Grupa je stvorila po dva računa u SAD-u, Britaniji, Australiji i Kanadi predstavljajući se kao 13-godišnjaci. Jedan račun u svakoj zemlji dobio je žensko ime, a drugi je dobio slično ime, ali uz referencu na gubitak težine uključenu u korisničko ime.
Uspoređen je sadržaj koji je poslužen tim računima u prvih 30 minuta na TikToku. CCDH je rekao da je koristio ovu metodu korisničkog imena jer su prethodna istraživanja pokazala da će neki korisnici s problemima tjelesne težine to često izraziti putem svojih društvenih mreža.
Brzina preporuke sadržaja štetna
CCDH je također naveo da su računi korišteni u studiji izrazili sklonost prema videozapisima o slici tijela, mentalnom zdravlju i poremećajima prehrane pauziranjem relevantnih videozapisa i pritiskom na gumb za lajk.
U izvješću grupe ne pravi se razlika između sadržaja s pozitivnom namjerom i sadržaja s jasnijom negativnom namjerom - pri čemu CCDH tvrdi da u mnogim slučajevima nije bilo moguće definitivno utvrditi namjeru videa te da čak i oni s pozitivnom namjerom mogu još uvijek biti uznemirujući za neke.
Izvješće grupe za online sigurnost tvrdi da je sama brzina kojom TikTok preporučuje sadržaj novim korisnicima štetna. Tijekom istraživanja CCDH je utvrdio da je jednom od njegovih računa poslužen sadržaj koji spominje samoubojstvo u roku od tri minute nakon pridruživanja TikToku, a sadržaj o poremećaju prehrane poslužen je jednom računu u roku od osam minuta.
Grupa navodi da su u prosjeku istraživanim računima svakih 39 sekundi servirani videozapisi o mentalnom zdravlju i slici tijela. Istraživanje je pokazalo da su najranjiviji računi - koji su uključivali reference o slici tijela u korisničkom imenu - dobili tri puta više štetnog sadržaja i 12 puta više sadržaja povezanog sa samoozljeđivanjem i samoubojstvom.
CCDH je rekao da je studija otkrila zajednicu poremećaja prehrane na TikToku koja koristi i kodirane i otvorene hashtagove za dijeljenje materijala na stranici, s više od 13 milijardi pregleda njihovih videa.
"Roditelji će biti šokirani kada saznaju istinu"
Platforma za dijeljenje videozapisa uključuje stranicu For You, koja koristi algoritam za preporuku sadržaja korisnicima dok stupaju u interakciju s aplikacijom i prikuplja više informacija o interesima i preferencijama korisnika.
Imran Ahmed, izvršni direktor CCDH-a, optužio je TikTok da "truje umove" mlađih korisnika. "Promiče kod djece mržnju prema vlastitom tijelu i ekstremne sugestije o samoozljeđivanju i poremećen, potencijalno smrtonosan odnos prema hrani", rekao je.
"Roditelji će biti šokirani kada saznaju istinu i bit će bijesni što zakonodavci ne uspijevaju zaštititi mlade ljude od velikih tehnoloških milijardera, njihovih neodgovornih aplikacija za društvene mreže i sve agresivnijih algoritama."
Nakon istraživanja CCDH je sa Zakladom Molly Rose, koju je osnovao Ian Russell nakon što je njegova kći Molly okončala život nakon gledanja štetnog sadržaja na društvenim mrežama, objavila novi vodič za roditelje. Vodič potiče roditelje da "otvoreno" razgovaraju sa svojom djecom o društvenim medijima i sigurnosti na internetu te da potraže pomoć grupa za podršku ako su zabrinuti za svoje dijete.
Kao odgovor na istraživanje, glasnogovornik TikToka, rekao je: "Ova aktivnost i rezultirajuće iskustvo ne odražavaju stvarno ponašanje ili iskustvo stvarnih ljudi. Redovito se savjetujemo sa zdravstvenim stručnjacima, uklanjamo kršenja naših pravila i pružamo pristup resursima podrške svima kojima je to potrebno."
"Svjesni smo da je sadržaj koji nudi jedinstven za svakog pojedinca i ostajemo usredotočeni na poticanje sigurnog i ugodnog prostora za sve, uključujući ljude koji odluče podijeliti svoja iskustva oporavka ili educirati druge o ovim važnim temama."
Grupa je stvorila po dva računa u SAD-u, Britaniji, Australiji i Kanadi predstavljajući se kao 13-godišnjaci. Jedan račun u svakoj zemlji dobio je žensko ime, a drugi je dobio slično ime, ali uz referencu na gubitak težine uključenu u korisničko ime.
Uspoređen je sadržaj koji je poslužen tim računima u prvih 30 minuta na TikToku. CCDH je rekao da je koristio ovu metodu korisničkog imena jer su prethodna istraživanja pokazala da će neki korisnici s problemima tjelesne težine to često izraziti putem svojih društvenih mreža.
Brzina preporuke sadržaja štetna
CCDH je također naveo da su računi korišteni u studiji izrazili sklonost prema videozapisima o slici tijela, mentalnom zdravlju i poremećajima prehrane pauziranjem relevantnih videozapisa i pritiskom na gumb za lajk.
U izvješću grupe ne pravi se razlika između sadržaja s pozitivnom namjerom i sadržaja s jasnijom negativnom namjerom - pri čemu CCDH tvrdi da u mnogim slučajevima nije bilo moguće definitivno utvrditi namjeru videa te da čak i oni s pozitivnom namjerom mogu još uvijek biti uznemirujući za neke.
Izvješće grupe za online sigurnost tvrdi da je sama brzina kojom TikTok preporučuje sadržaj novim korisnicima štetna. Tijekom istraživanja CCDH je utvrdio da je jednom od njegovih računa poslužen sadržaj koji spominje samoubojstvo u roku od tri minute nakon pridruživanja TikToku, a sadržaj o poremećaju prehrane poslužen je jednom računu u roku od osam minuta.
Grupa navodi da su u prosjeku istraživanim računima svakih 39 sekundi servirani videozapisi o mentalnom zdravlju i slici tijela. Istraživanje je pokazalo da su najranjiviji računi - koji su uključivali reference o slici tijela u korisničkom imenu - dobili tri puta više štetnog sadržaja i 12 puta više sadržaja povezanog sa samoozljeđivanjem i samoubojstvom.
CCDH je rekao da je studija otkrila zajednicu poremećaja prehrane na TikToku koja koristi i kodirane i otvorene hashtagove za dijeljenje materijala na stranici, s više od 13 milijardi pregleda njihovih videa.
"Roditelji će biti šokirani kada saznaju istinu"
Platforma za dijeljenje videozapisa uključuje stranicu For You, koja koristi algoritam za preporuku sadržaja korisnicima dok stupaju u interakciju s aplikacijom i prikuplja više informacija o interesima i preferencijama korisnika.
Imran Ahmed, izvršni direktor CCDH-a, optužio je TikTok da "truje umove" mlađih korisnika. "Promiče kod djece mržnju prema vlastitom tijelu i ekstremne sugestije o samoozljeđivanju i poremećen, potencijalno smrtonosan odnos prema hrani", rekao je.
"Roditelji će biti šokirani kada saznaju istinu i bit će bijesni što zakonodavci ne uspijevaju zaštititi mlade ljude od velikih tehnoloških milijardera, njihovih neodgovornih aplikacija za društvene mreže i sve agresivnijih algoritama."
Nakon istraživanja CCDH je sa Zakladom Molly Rose, koju je osnovao Ian Russell nakon što je njegova kći Molly okončala život nakon gledanja štetnog sadržaja na društvenim mrežama, objavila novi vodič za roditelje. Vodič potiče roditelje da "otvoreno" razgovaraju sa svojom djecom o društvenim medijima i sigurnosti na internetu te da potraže pomoć grupa za podršku ako su zabrinuti za svoje dijete.
Kao odgovor na istraživanje, glasnogovornik TikToka, rekao je: "Ova aktivnost i rezultirajuće iskustvo ne odražavaju stvarno ponašanje ili iskustvo stvarnih ljudi. Redovito se savjetujemo sa zdravstvenim stručnjacima, uklanjamo kršenja naših pravila i pružamo pristup resursima podrške svima kojima je to potrebno."
"Svjesni smo da je sadržaj koji nudi jedinstven za svakog pojedinca i ostajemo usredotočeni na poticanje sigurnog i ugodnog prostora za sve, uključujući ljude koji odluče podijeliti svoja iskustva oporavka ili educirati druge o ovim važnim temama."
