Facebook har tagit hjälp av ett analysföretag för sociala medier för att hitta falska profiler och hittat några med datorgenererade foton
Facebooks hårda slag mot falska profiler. Det sociala nätverket i Menlo Park har beslutat att slå ner på förekomsten av falska profiler med foton av ansikten som skapats med hjälp av artificiell intelligens och som enligt analysföretaget Graphika, som analyserar sociala medier, främst användes för att sprida regeringspropaganda på plattformen.
Det sociala nätverket meddelade på tisdagen att 155 konton, 11 sidor, nio grupper på Facebook och sex konton på Instagram hade tagits bort på grund av "oäkta samordnat beteende för en utländsk eller statlig enhet". Det innehåll som främjades av kontona var särskilt inriktat på händelser i Sydostasien och USA. Bland de vanligaste inläggen i den första, största gruppen av profiler fanns inlägg om Pekings intressen i Sydkinesiska havet och Hongkong, medan det i den andra, mindre än den föregående, fanns inlägg om de framtida amerikanska presidentkandidaterna Pete Battigie, Joe Biden och Donal Trump, med både för- och emot-toner.
Falska profiler på Facebook: resultaten av undersökningen
För att bättre förstå och få fram viktig information om frågan bad Facebook Graphika att göra en djupgående analys av de falska profilerna innan de stängdes och försvann.
Företaget, som är knutet till det amerikanska försvarsdepartementet, har i sina undersökningar i vissa fall fått fram särskilt alarmerande uppgifter, särskilt när det gäller identitetsstölder.
Fake profiler: varifrån användarnas bilder kommer
I vissa fall upptäckte Graphika att profilbilderna var helt äkta, men stulna från bilder som lagts ut på nätet av riktiga personer och som lätt kan identifieras genom en omvänd sökning. I andra fall visade studien dock att de fiktiva karaktärerna på det sociala nätverket skapades av generativa Adversial Networks (GANs), som använder sig av neurala nätverk för att skapa mycket realistiska mänskliga ansikten som är trovärdiga för det mänskliga ögat.
Företagets misstankar om användningen av GANs väcktes av 12 profilbilder med oegentligheter i utseendet. Bilderna visade förvrängda bakgrunder eller element som inte var helt symmetriska trots att de var det i verkligheten, t.ex. öron och glasögon. För att exakt kunna avgöra hur bilderna ser ut överexponerade företaget bilderna efter att ha gjort dem ogenomskinliga, vilket avslöjade elementens felställning.
Falska profiler och artificiell intelligens: en ny trend?
Och även om förmågan att observera gör det möjligt att upptäcka falska profilbilder och tillhörande falska profiler är det inte första gången som liknande beteende har rapporterats av grupper med tvivelaktiga avsikter. I september 2020 försökte ett annat nätverk med koppling till Rysslands Internet Research Agency (IRA) använda samma knep för att främja den falska webbplatsen PeaceData.