#
Facebook har infört en ny algoritm som automatiskt raderar alla falska konton. Så här fungerar det och vem det påverkar
Men kanske har Facebook äntligen hittat ett sätt att ta bort falska profiler och troll av olika slag, och det är en extremt komplex metod som kallas "Deep Entity Classification" (DEC). Resultatet? Fantastiskt, enligt Facebook: 6,6 miljarder falska profiler raderas under 2019.
Storartade resultat, och dessutom kvävs miljontals försök att skapa falska profiler varje dag, återigen tack vare DEC. Siffror som indirekt också visar hur stor branschen för falska profiler är i de sociala nätverken. Facebook först och främst, men inte bara Facebook. Facebook har svarat på en sådan stor utmaning med en lika stor algoritm: i DEC analyseras mer än 20 000 parametrar för varje profil, för att vara säker på att en legitim profil inte raderas och samtidigt göra algoritmen mycket svårare att fuska.
Facebook DEC: hur den fungerar
De första algoritmerna för att motverka förfalskningar tog hänsyn till några få parametrar, till exempel antalet vänskapsförfrågningar som skickats under en viss tidsperiod av den misstänkta profilen. Det första man gör med en falsk profil är att skicka snabba förfrågningar till användare över hela världen. Det var dock lätt för branschen för falska profiler att programmera om strategin genom att sprida vänförfrågningarna på ett sådant sätt att filtret kunde kringgås. Med DEC tar Facebook dock inte bara hänsyn till en profils nätverk av vänner och de vänförfrågningar som skickats, utan även till samma parametrar som tillämpas på den analyserade profilens kontakter.
DEC tittar även på profilens gruppmedlemskap, dagliga aktivitet, privata meddelanden och många andra parametrar för att se till att den profil som ska raderas verkligen är falsk.
Facebook DEC: riskabla beteenden
Facebook hävdar att det uppskattade antalet falska profiler på det sociala nätverket idag inte överstiger 5 %, vilket är något fysiologiskt och beror på att man inte kan dra åt algoritmen för mycket, annars riskerar man att döda riktiga profiler med misstänkt beteende. Förra året tog det sociala nätverket till exempel bort 900 falska sidor, grupper och profiler som använde mycket sofistikerade metoder för att sprida propaganda för Trump: profilbilder som genererades av AI-algoritmer, ett komplext nätverk av simulerade relationer, interaktioner, gilla- och tvärdelningar och framför allt en kommandocentral i Vietnam som skötte allt detta. Ett sådant beteende är helt klart i fara och bör förr eller senare drabbas av den nya klassificeringen av djupa enheter.