Pokušaji reguliranja društvenih mreža dosad nisu imali puno uspjeha. Mladi ljudi su bez zaštite izloženi mržnji i nasilju. To pokazuje godišnje izvješće organizacije Jugendschutz.net, prenosi Deutsche Welle.
Beba leži na trbuhu i spava, ruke i noge opušteno ispružene. Dirljiva slika, objavljena na društvenoj mreži Instagram. Roditelji javno dijele emocionalne i intimne trenutke svoje djece i time postižu veliku pozornost, skupljaju lajkove i pratitelje. No jesu li fotografije dobre i za dijete?
Slobodno dostupne slike djece na internetu kopiraju se, obrađuju i manipuliraju, stavljaju u drugi kontekst, koriste u svrhe zlostavljanja i komentiraju na seksualiziran način. Čak su se i u slučaju uspavane bebe pojavili takvi komentari.
Ovaj primjer zabilježen je u aktualnom godišnjem izvješću Jugendschutz.net, institucije u Njemačkoj koja se financira iz javnih sredstava za zaštitu djece i mladih na internetu.
"Samo vrh ledenog brijega"
Izvješće pokazuje: mladi su na internetu i dalje nedovoljno zaštićeni od seksualizacije, mržnje i nasilja. Jugendschutz.net je 2025. godine zabilježio više od 15.000 slučajeva. "To je samo vrh ledenog brijega", rekao je Stefan Glaser, voditelj kompetencijskog centra koji su zajednički osnovali savezna država i savezne pokrajine.
Ta institucija prima online prijave kršenja odredbi o zaštiti mladih i također sama istražuje na internetu. Ona po potrebi kontaktira vlasnike platformi poput TikToka, YouTubea, Instagrama, Snapchata, Discorda ili WhatsAppa te uključuje tijela kaznenog gonjenja.
Dječja pornografija i fantazije nasilja
Prema Glaseru, u 93 posto svih slučajeva registriranih 2025. radilo se o slučajevima seksualnog nasilja - i to pretežno o dječjoj pornografiji. Četiri posto svih prekršaja odnosilo se na politički ekstremizam. Tome se pridodaju drastične fantazije mržnje i nasilja prema ženama i djevojkama.
Dosad podcijenjen problem je i glazbeni streaming servis Spotify, koji se sve češće pojavljuje kao mjesto za krajnje desničarsku glazbu, seksualizirano nasilje nad maloljetnicima te playliste sa samoozljeđujućim ili suicidalnim porukama.
Chatbotovi sa seksualiziranim "vlastitim životom"
Mnogi se rizici dodatno pogoršavaju umjetnom inteligencijom (AI), čija je primjena znatno dobila na važnosti. "Manipulirane slike služe kao sredstvo za širenje ekstremističkih narativa ili za ponižavanje. Umjetno se stapa sa stvarnim i iskrivljuje percepciju stvarnosti", rekao je Glaser.
Botovi koji pomoću generativne umjetne inteligencije komuniciraju s korisnicima sve više djeluju kao pravi partneri - sa slobodno oblikovanim, fiktivnim osobnostima, djelomično prema stvarnim uzorima.
Savjetuju, treniraju ili simuliraju odnose. Istraživanja Jugendschutz.neta pokazuju posebno problematičnu stranu. "Chatbotovi razvijaju vlastiti život, opisuju seksualne radnje s maloljetnicima i mogu se kreirati kao maloljetni likovi koji djeluju seksualizirano", objasnio je Glaser.
Uzrok su, između ostalog, slabi filteri i nedovoljno sigurne postavke. Učinkovita kontrola dobi korisnika nedostaje, a postojeće opcije prijavljivanja jedva štite maloljetnike. Jer i to otkriva godišnje izvješće: kada obični korisnici prijave kršenja zaštite mladih, vlasnici platformi reagiraju samo u dva posto slučajeva. Kada se uključe službene institucije poput Jugendschutz.neta, tada se djeluje u gotovo svim slučajevima.
Politika zaostaje za razvojem
Predstavljajući godišnje izvješće, savezna ministrica za obitelj Karin Prien (CDU) nazvala je sve to "zastrašujućom stvarnošću" s kojom su djeca i mladi uglavnom suočeni bez zaštite.
"Još smo daleko od toga da djeci i mladima omogućimo sigurno i bezbrižno sudjelovanje u digitalnom svijetu", rekla je Prien. Potrebni su "sigurnost, zaštita i jasna pravila" koja "napokon moraju držati korak s tehnološkim razvojem".
No upravo tu nastaju problemi. U Europskoj uniji od 2024. vrijedi Digital Services Act (DSA). On obvezuje pružatelje usluga da osiguraju "visoku razinu sigurnosti i privatnosti" za maloljetnike. Platforme moraju aktivno analizirati rizike i svoje usluge učiniti sigurnima za djecu. To uključuje, primjerice, da su profili mladih standardno privatni.
Algoritmi koji preporučuju dodatni sadržaj trebaju se prilagoditi, a funkcije koje potiču ovisnost, poput automatske reprodukcije ili push obavijesti, trebaju se ograničiti. Svako četvrto dijete već pokazuje rizično ili ovisničko korištenje društvenih mreža, rekla je Prien. Na razini EU-a u pripremi je i Digital Fairness Act (DFA). Njime se želi ciljano djelovati protiv "dizajnerskih praksi koje stvaraju ovisnost i štetne su" te ograničiti uporaba AI-ja na društvenim mrežama.
Regulacija završava na sudu
Ključno pitanje je verifikacija dobi. Jednostavne izjave korisnika više se ne smatraju dovoljnima. No još nema tehničkih rješenja koja se ne mogu lako zaobići. U Australiji, gdje od prosinca 2025. vrijedi dobno ograničenje za mlade pri korištenju društvenih mreža, uspjesi su zasad ograničeni. U prvim studijama više od polovice mladih mlađih od 16 godina i dalje je bilo aktivno na platformama.
Problem je i to što platforme ne žele izgubiti unosan posao koji ostvaruju zahvaljujući povećanoj pažnji korisnika. Polarizirajući ili emocionalno nabijeni sadržaji stvaraju posebno veliku pažnju.
Ministrica Prien istaknula je da se praktički svaka regulacija pravno osporava te da prođu godine dok se ti slučajevi ne riješe pred europskim sudovima.
Borba - u okviru mogućeg
Teška borba, no ministrica za obitelj inzistira na dosljednosti. "Tko želi zaštititi djecu, mora biti spreman suočiti se sa strukturama moći u digitalnom svijetu i, ako treba, i sukobiti se s njima." Ona ističe da treba postići da država više ne zaostaje za tehnološkim razvojem.
Do tada vrijedi rečenica koju je Prien također izrekla prilikom predstavljanja godišnjeg izvješća Jugendschutz.neta: "Vlasti se pokušavaju boriti protiv ekscesa u okviru postojećih propisa."
Beba leži na trbuhu i spava, ruke i noge opušteno ispružene. Dirljiva slika, objavljena na društvenoj mreži Instagram. Roditelji javno dijele emocionalne i intimne trenutke svoje djece i time postižu veliku pozornost, skupljaju lajkove i pratitelje. No jesu li fotografije dobre i za dijete?
Slobodno dostupne slike djece na internetu kopiraju se, obrađuju i manipuliraju, stavljaju u drugi kontekst, koriste u svrhe zlostavljanja i komentiraju na seksualiziran način. Čak su se i u slučaju uspavane bebe pojavili takvi komentari.
Ovaj primjer zabilježen je u aktualnom godišnjem izvješću Jugendschutz.net, institucije u Njemačkoj koja se financira iz javnih sredstava za zaštitu djece i mladih na internetu.
"Samo vrh ledenog brijega"
Izvješće pokazuje: mladi su na internetu i dalje nedovoljno zaštićeni od seksualizacije, mržnje i nasilja. Jugendschutz.net je 2025. godine zabilježio više od 15.000 slučajeva. "To je samo vrh ledenog brijega", rekao je Stefan Glaser, voditelj kompetencijskog centra koji su zajednički osnovali savezna država i savezne pokrajine.
Ta institucija prima online prijave kršenja odredbi o zaštiti mladih i također sama istražuje na internetu. Ona po potrebi kontaktira vlasnike platformi poput TikToka, YouTubea, Instagrama, Snapchata, Discorda ili WhatsAppa te uključuje tijela kaznenog gonjenja.
Dječja pornografija i fantazije nasilja
Prema Glaseru, u 93 posto svih slučajeva registriranih 2025. radilo se o slučajevima seksualnog nasilja - i to pretežno o dječjoj pornografiji. Četiri posto svih prekršaja odnosilo se na politički ekstremizam. Tome se pridodaju drastične fantazije mržnje i nasilja prema ženama i djevojkama.
Dosad podcijenjen problem je i glazbeni streaming servis Spotify, koji se sve češće pojavljuje kao mjesto za krajnje desničarsku glazbu, seksualizirano nasilje nad maloljetnicima te playliste sa samoozljeđujućim ili suicidalnim porukama.
Chatbotovi sa seksualiziranim "vlastitim životom"
Mnogi se rizici dodatno pogoršavaju umjetnom inteligencijom (AI), čija je primjena znatno dobila na važnosti. "Manipulirane slike služe kao sredstvo za širenje ekstremističkih narativa ili za ponižavanje. Umjetno se stapa sa stvarnim i iskrivljuje percepciju stvarnosti", rekao je Glaser.
Botovi koji pomoću generativne umjetne inteligencije komuniciraju s korisnicima sve više djeluju kao pravi partneri - sa slobodno oblikovanim, fiktivnim osobnostima, djelomično prema stvarnim uzorima.
Savjetuju, treniraju ili simuliraju odnose. Istraživanja Jugendschutz.neta pokazuju posebno problematičnu stranu. "Chatbotovi razvijaju vlastiti život, opisuju seksualne radnje s maloljetnicima i mogu se kreirati kao maloljetni likovi koji djeluju seksualizirano", objasnio je Glaser.
Uzrok su, između ostalog, slabi filteri i nedovoljno sigurne postavke. Učinkovita kontrola dobi korisnika nedostaje, a postojeće opcije prijavljivanja jedva štite maloljetnike. Jer i to otkriva godišnje izvješće: kada obični korisnici prijave kršenja zaštite mladih, vlasnici platformi reagiraju samo u dva posto slučajeva. Kada se uključe službene institucije poput Jugendschutz.neta, tada se djeluje u gotovo svim slučajevima.
Politika zaostaje za razvojem
Predstavljajući godišnje izvješće, savezna ministrica za obitelj Karin Prien (CDU) nazvala je sve to "zastrašujućom stvarnošću" s kojom su djeca i mladi uglavnom suočeni bez zaštite.
"Još smo daleko od toga da djeci i mladima omogućimo sigurno i bezbrižno sudjelovanje u digitalnom svijetu", rekla je Prien. Potrebni su "sigurnost, zaštita i jasna pravila" koja "napokon moraju držati korak s tehnološkim razvojem".
No upravo tu nastaju problemi. U Europskoj uniji od 2024. vrijedi Digital Services Act (DSA). On obvezuje pružatelje usluga da osiguraju "visoku razinu sigurnosti i privatnosti" za maloljetnike. Platforme moraju aktivno analizirati rizike i svoje usluge učiniti sigurnima za djecu. To uključuje, primjerice, da su profili mladih standardno privatni.
Algoritmi koji preporučuju dodatni sadržaj trebaju se prilagoditi, a funkcije koje potiču ovisnost, poput automatske reprodukcije ili push obavijesti, trebaju se ograničiti. Svako četvrto dijete već pokazuje rizično ili ovisničko korištenje društvenih mreža, rekla je Prien. Na razini EU-a u pripremi je i Digital Fairness Act (DFA). Njime se želi ciljano djelovati protiv "dizajnerskih praksi koje stvaraju ovisnost i štetne su" te ograničiti uporaba AI-ja na društvenim mrežama.
Regulacija završava na sudu
Ključno pitanje je verifikacija dobi. Jednostavne izjave korisnika više se ne smatraju dovoljnima. No još nema tehničkih rješenja koja se ne mogu lako zaobići. U Australiji, gdje od prosinca 2025. vrijedi dobno ograničenje za mlade pri korištenju društvenih mreža, uspjesi su zasad ograničeni. U prvim studijama više od polovice mladih mlađih od 16 godina i dalje je bilo aktivno na platformama.
Problem je i to što platforme ne žele izgubiti unosan posao koji ostvaruju zahvaljujući povećanoj pažnji korisnika. Polarizirajući ili emocionalno nabijeni sadržaji stvaraju posebno veliku pažnju.
Ministrica Prien istaknula je da se praktički svaka regulacija pravno osporava te da prođu godine dok se ti slučajevi ne riješe pred europskim sudovima.
Borba - u okviru mogućeg
Teška borba, no ministrica za obitelj inzistira na dosljednosti. "Tko želi zaštititi djecu, mora biti spreman suočiti se sa strukturama moći u digitalnom svijetu i, ako treba, i sukobiti se s njima." Ona ističe da treba postići da država više ne zaostaje za tehnološkim razvojem.
Do tada vrijedi rečenica koju je Prien također izrekla prilikom predstavljanja godišnjeg izvješća Jugendschutz.neta: "Vlasti se pokušavaju boriti protiv ekscesa u okviru postojećih propisa."
