Facebook-gruppen introducerar verktyg i Europa för att hjälpa till att identifiera inlägg från utsatta personer: öppen kamp mot självskadebeteende och självmord
Facebook och Instagram tar ytterligare ett steg framåt när det gäller att stödja den komplexa frågan om psykisk hälsa. De två sociala nätverken har beslutat att utvidga regleringen mot innehåll som uppmanar till självmord och självskadebeteende till att omfatta även EU.
Redan 2016 inledde Facebook sin kampanj för att hjälpa dem som riskerar att begå självmord och självskadebeteende genom att införa en anonym rapporteringstjänst för att snabbt identifiera alla särskilt utsatta användare. Med tiden utvidgades åtgärderna till att även omfatta Instagram, som sedan dess har kommit att omfattas av det sociala nätverket. Även om detta system redan är i kraft i många andra länder har det i Europa stött på större svårigheter, särskilt på grund av EU:s förordning om skydd av privatlivet, som inte tillåter att sådant innehåll behandlas med hjälp av mänskligt stöd, vare sig för erkännande eller för att vända sig till stödgrupper.
Facebook och Instagram, hur de för närvarande agerar vid riskfyllt innehåll
För att identifiera potentiellt farliga inlägg som, som i det här fallet, kan reta upp personer med svårigheter har ett system som bygger på en teknik som kan känna igen riskfyllt innehåll utvecklats. När de väl har identifierats innebär processen att sådana inlägg, oavsett om de är i text- eller fotoformat, t.ex. bilder, teckningar, memes eller faktiska foton, skickas vidare till en granskningsgrupp som består av verkliga personer och inte representeras av en artificiell intelligens.
När granskningsgruppen har analyserat innehållet kan den agera på flera sätt. Som ett första steg kan teamet besluta att ta bort inläggen eller bilderna, eller om de bedöms vara mer riskabla kommer de att kontakta personen med lokala organisationer som kan hjälpa dem att hantera dessa frågor, eller till och med kontakta räddningstjänsten om det behövs.
Och det är den sista delen som Facebook arbetar med och försöker hitta en lösning tillsammans med lagstiftaren för att äntligen utöka sitt stöd till europeiska medborgare som hittills har varit utestängda från denna typ av hjälp.
Facebook och Instagram, nödnummer för självmord och självskadebeteende
Enligt Facebook och Instagram ger de system som används för att upptäcka inlägg om självmord och självskadebeteende redan utmärkta resultat. Enligt meddelandet har över 90 procent av det innehåll som identifierades mellan april och juni 2020 identifierats av tekniken, till och med innan andra användare av plattformarna hade rapporterat det.
De två plattformarna blir alltmer engagerade och har också valt att tillhandahålla en stödtjänst för personer som söker efter konton eller hashtaggar med anknytning till dessa frågor. I nära samarbete med många lokala hjälporganisationer vill de två stora nätverken fungera som en länk mellan de två parterna, alltid i enlighet med de strikta bestämmelser om skydd av privatlivet som gäller i Europa.