Instagram pravi još jedan korak u svom alati za roditeljski nadzor i prevencija digitalne štete među maloljetnicima. Platforma, u vlasništvu Mete, najavila je da će početi obavještavati roditelje kada otkrije da njihova tinejdžerska djeca više puta pretražuju pojmove vezane za samoubistvo ili samopovređivanje u kratkom vremenskom periodu.
Promjena ne znači otvaranje neselektivnog prozora na sve što mladi rade na aplikaciji, već aktiviranje vrlo specifičan znak upozorenja kada postoji stalna aktivnost na ovim vrstama osjetljivih pretraga. Ideja je da porodice mogu intervenirati na vrijeme, s informacijama i profesionalnom podrškom, umjesto da ovi faktori rizika ostanu skriveni na ekranu djetetovog mobilnog telefona.
Kako će funkcionirati novo upozorenje o potrazi za samoubistvom?
Društvena mreža insistira da to neće biti obavještenje za pojedinačni upit, već za ponavljanje u kratkom vremenskom perioduTek kada sistem otkrije nekoliko uzastopnih pokušaja pretraživanja izraza koji promovišu samoubistvo, samopovređivanje ili sugerišu namjeru samopovređivanja, aktiviraće se upozorenje upućeno roditeljima ili starateljima.
Da bi definisao tu tačku aktivacije, Meta tvrdi da je analizirao obrasci pretraživanja kod tinejdžera i sarađivali su sa stručnjacima iz svoje Savjetodavne grupe za samoubistva i samopovređivanje. Uz njihovu pomoć, postavili su prag koji zahtijeva nekoliko pretraga u kratkom periodu, s namjerom da se izbjegnu trivijalna upozorenja koja smanjuju korisnost alata.
U narednim sedmicama, i roditelji i mladi koji već koriste nadzor dobit će prethodnu obavijest u aplikaciji s objašnjenjem da će ovo nova funkcija obavještenja Bit će implementirano. Nakon toga, ako sistem otkrije rizično ponašanje, bit će poslano obavještenje.
Pretrage koje mogu pokrenuti upozorenje uključuju jednostavne pojmove poput „samoubistvoThesamopovređivanje„Fraze koje podstiču samopovređivanje ili izjave koje sugerišu da tinejdžer možda razmišlja o samopovređivanju. Ne radi se samo o izolovanim riječima, već o izrazima koji, uzeti zajedno, ukazuju na…“ moguća situacija emocionalne ranjivosti.
Nakon izdavanja, upozorenje će stići do roditelja koji su registrovani za roditeljski nadzor putem različitih kanala: e-mail, SMS, WhatsApp poruke Osim toga, pojavit će se kao obavještenje u aplikaciji. Dodirom na njega otvorit će se poruka preko cijelog ekrana s jasnim objašnjenjem onoga što se dogodilo i linkovima do specijaliziranih resursa.
Šta će roditelji vidjeti i koji će im resursi biti dostupni?
Poruka koju će odrasli primiti ukazivat će na to da je tinejdžer o kojem brinu pokušao ponovljeno pretraživanje sadržaja vezanog za samoubistvo ili samopovređivanje u kratkom intervalu. Neće prikazati kompletnu historiju aktivnosti, ali će jasno pokazati da je postojao obrazac ovakvih upita.
Uz te informacije, Instagram će ponuditi direktan pristup Materijal razvijen u saradnji sa stručnjacima za mentalno zdravlje i sigurnost djeceOsmišljen da pomogne u pokretanju osjetljivih razgovora bez prevelikog dramatiziranja, ali bez minimiziranja potencijalnih rizika, cilj je pružiti roditeljima praktične vodiče o tome šta pitati, kako slušati i kojim uslugama pristupiti ako smatraju da je potrebno poduzeti daljnje mjere.
Meta priznaje da primanje takvog upozorenja može biti pravi šok i priznaje da to može biti uznemirujuće za svaku porodicuUprkos tome, kompanija tvrdi da je korisnije imati ove informacije rano nego otkriti potencijalnu krizu kada se ona već pogoršala. Njihovim riječima, radi se o tome da se odraslima pruže "neophodni alati za intervenciju" ako online pretrage njihovog djeteta ukazuju na to da mu je potrebna podrška.
Kompanija također naglašava da će obavještenja biti poslana samo onima koji su ih aktivirali. funkcije roditeljskog nadzoraDrugim riječima, održava se određena ravnoteža između privatnosti i zaštite: neće bilo koja odrasla osoba moći vidjeti ove signale, već samo oni koji su već ovlašteni za nadzor računa maloljetnika.
Osim toga, Meta navodi da će nastaviti preispitivati kako sistem funkcioniše u praksi, slušajući povratne informacije porodica i stručnih organizacija kako bi prilagodila prag aktivacije ako je potrebno, tako da upozorenja ne postanu stalna buka koja se na kraju ignoriše.
Postojeće zaštite: blokiranje rezultata i linije za pomoć
Nova roditeljska upozorenja su dodatak nizu mjera koje je Instagram već imao na snazi. smanjiti izloženost adolescenata štetnom sadržaju. Trenutno, ako račun maloljetnika pokuša pretraživati pojmove koji su jasno povezani sa samoubistvom ili samopovređivanjem, platforma blokira rezultate i umjesto toga prikazuje linkove do linija za pomoć i specijaliziranih organizacija.
To znači da tinejdžeri ne vide objave ili profile koji bi mogli veličati ili promovirati samodestruktivno ponašanje. Umjesto toga, nudi im se mogućnost da kontaktiraju... usluge psihološke podrške ili pristupiti pouzdanim informacijama o mentalnom zdravlju. Čak i kada su pretrage općenito povezane s emocionalnim temama, ali bez direktnog spominjanja samoubistva, aplikacija može preusmjeriti na određene resurse.
Što se tiče objavljenog sadržaja, Meta tvrdi stroge politike protiv promocije samoubistva i samopovređivanjaKompanija omogućava korisnicima razgovarajte o vlastitim iskustvima i teškoćamaMeđutim, ove vrste objava su skrivene od tinejdžera, čak i ako prate osobu koja ih dijeli, ako se smatraju potencijalno uznemirujućim ili nesigurnim za maloljetnike.
Instagram također navodi da, u situacijama kada otkriju neposrednu opasnost po fizičku sigurnost korisnika, mogu... kontaktirajte hitne službe lokalno stanovništvo. Ove vrste intervencija, koje se provode oprezno i od slučaja do slučaja, dio su njihovog protokola u suočavanju s ozbiljnim prijetnjama fizičkom povredom.
Uvođenjem porodičnih upozorenja, kompanija ima za cilj osigurati da upozorenja ne ostanu ograničena na digitalni svijet. Ideja je kombinirati tehnologiju otkrivanja rizika s mogućnošću roditelja da... pratiti i nadgledati šta se dešava van ekrana.
Gdje će prvo biti lansirani i kada bi mogli stići u Španiju i Evropu?
Prema Meti, početno uvođenje ove funkcije će se dogoditi u Sjedinjene Američke Države, Ujedinjeno Kraljevstvo, Australija i KanadaNa tim tržištima, obavještenja će početi da se šalju tokom sljedeće sedmice porodicama koje već koriste alate za roditeljski nadzor na Instagramu.
Kompanija kaže da joj je namjera proširiti alat na drugim regijama tokom cijele godineTo uključuje evropske zemlje poput Španije, iako još nije određen tačan vremenski okvir. Postepeno širenje je dijelom posljedica potrebe za prilagođavanjem funkcije različitim regulatornim okvirima i pravnim kontekstima u vezi sa zaštitom podataka i maloljetnicima.
U Evropi će lansiranje biti podložno propisima kao što su Opšta uredba o zaštiti podataka (RGPD) i zahtjeve novog Zakona o digitalnim uslugama (DSA), koji zahtijevaju od velikih platformi da opravdaju i detaljno dokumentiraju svoje sisteme preporuka, moderiranja i zaštite za ranjive korisnike.
Španija, koja je posljednjih godina intenzivirala debatu o korištenju mobilnih telefona i društvenih mreža od strane maloljetnika, predvidljivo će se fokusirati na to kako se oni upravljaju. osjetljiva upozorenjaKo pristupa informacijama, kako se one čuvaju, koliko dugo i kakve garancije imaju tinejdžeri u pogledu svoje privatnosti.
U svakom slučaju, Metina objava je u skladu s rastućim pritiskom evropskih vlada i dječjih organizacija da velike mreže preuzmu odgovornost. veća odgovornost za mentalno zdravlje mladih ljudibez jednostavnog čekanja da vlasti uvedu stroža ograničenja.
Delikatna ravnoteža: zaštita, privatnost i "poštena" obavještenja
Jedna od tačaka koju kompanija najviše naglašava je potraga za „pravu ravnotežu“ između upozorenja i neizazivanja nepotrebne uzbuneAko bi sistem aktivirao obavještenja za bilo koji dvosmislen pojam ili za sporadične pretrage, roditelji bi mogli biti preopterećeni i izgubiti povjerenje u korisnost alata.
Da bi se to izbjeglo, Meta objašnjava da se odlučila za prag koji zahtijeva nekoliko pretraga u kratkom perioduČak i uz rizik da se u nekim slučajevima pošalje upozorenje koje zapravo ne odražava ozbiljnu situaciju, nekoliko stručnjaka koje je kompanija konsultovala smatra da je bolje biti oprezan i pružiti informacije, sve dok su ponuđeni adekvatni resursi i upozorenje nije predstavljeno kao dijagnoza.
Organizacije poput Parent Zone ili Centra za istraživanje sajber-nasilja istakle su da kada tinejdžer aktivno traži informacije o samoubistvu ili samopovređivanju, dati roditeljima jasnu informaciju To može napraviti veliku razliku. Ne radi se o zamjeni stručnjaka, već o tome da se porodicama pruži prostor da postavljaju pitanja, ponude podršku i, ako je potrebno, potraže specijaliziranu pomoć.
Istovremeno, zabrinutost zbog digitalna privatnost maloljetnikaIako se funkcija aktivira samo ako postoji roditeljski nadzor, neke grupe ističu da je bitno mladima jasno objasniti koje vrste informacija se mogu dijeliti s njihovim roditeljima i u koju svrhu, kako ne bi imali osjećaj da ih se špijunira bez razloga.
Meta tvrdi da se ovaj pristup uklapa u njenu posvećenost "modelu zajedničke odgovornosti": platforma primjenjuje filtere i blokove, algoritmi detektuju signale rizika, a porodice dobijaju alate za intervenciju, uvijek u okviru ograničenja koje postavljaju propisi svake zemlje.
Sljedeći korak: obavještenja za razgovore s Metinom umjetnom inteligencijom
Pored pretraga, kompanija je također najavila da radi na slična upozorenja povezana s umjetnom inteligencijomSve više tinejdžera se okreće chatbotovima kako bi razgovarali o osjetljivim temama, a Meta želi osigurati da, ako njihova umjetna inteligencija otkrije određene razgovore o samoubistvu ili samopovređivanju, i roditelji mogu dobiti upozorenje.
Prema kompaniji, njeni AI modeli su već obučeni da sigurno reagirati na maloljetnikenudeći poruke podrške, preporuke za kontaktiranje odraslih osoba od povjerenja i, u nekim slučajevima, linkove do profesionalnih resursa. Dodatni sloj koji se priprema sastojat će se od obavještavanja porodica kada se s chatbotom stalno razgovara o samopovređivanju.
Plan je da se ova nova obavještenja pokrenu za „određena iskustva sa vještačkom inteligencijom“ na kraju ove godinePrvo na tržištima gdje je nadzor već uspostavljen, a zatim i na ostalima. Kao i kod pretraga, očekuje se da će se funkcija postepeno prilagođavati lokalnim propisima, posebno unutar Evropske unije.
Ova evolucija odražava promjenu u okruženju: zaštita maloljetnika više nije ograničena na ono što se objavljuje i vidi u tradicionalnom feedu, već se proširuje na interakcije s automatiziranim sistemima sposobni za vođenje složenih razgovora, nešto što zabrinjava regulatore i dječje organizacije u Evropi i drugim regijama.
Za Metu će izazov biti pokazati da ova nova upozorenja ne postoje samo na papiru, već se primjenjuju rigorozno, transparentno i uz dovoljan vanjski nadzor kako bi se stvorilo povjerenje među roditeljima, edukatorima i vlastima.
Instagramov potez je dio konteksta globalni pritisak na društvene mreže jačanje sigurnosti djece i adolescenata, posebno u pogledu mentalnog zdravlja. Povezivanjem tehnologije otkrivanja rizika s direktnom podrškom porodici, platforma ima za cilj prelazak s reaktivne moderacije na model rane prevencije. Ostaje da se vidi kako će se to implementirati u Španiji i ostatku Evrope, ali smjer ukazuje na scenario u kojem roditelji, škole, stručnjaci i platforme sve više dijele odgovornost za stvaranje manje neprijateljskog digitalnog okruženja za mlade ljude.
