En algoritm kan känna igen falska konton genom att analysera data som offentliggjorts av användarna
WhatsApp har blockerat över två miljoner konton för att motverka spridningen av falska och farliga nyheter i Indien. Det Facebook-kontrollerade företaget sade att 95 procent av dessa användare blockerades för att de hade brutit mot gränserna för hur många gånger meddelanden kan vidarebefordras i det asiatiska landet.
Denna operation är en modell som kan tillämpas i andra länder, till exempel Italien, med tanke på att WhatsApp med samma teknik som används i Indien redan kan känna igen och blockera åtta miljoner falska konton per månad i hela världen, av totalt 2 miljarder aktiva konton.
Falska nyheter i Indien har redan krävt liv
I Indien, där WhatsApp har det största antalet användare med över 400 miljoner prenumeranter, är spridningen av falska nyheter och ogrundade rykten ett stort socialt problem. Många människor förlitar sig faktiskt på meddelandeappen för att informera sig om aktuella händelser och nyheter om Covid-19 och när falska nyheter blir virala kan de nå tiotusentals användare på några timmar och omintetgöra alla försök att motverka spridningen.
Förr i tiden har vissa falska meddelanden och videor, som cirkulerade okontrollerat i landet, utlöst många våldsincidenter, och till och med orsakat sex personers död 2018, som felaktigt anklagades för att ha kidnappat barn i flera indiska delstater. Den farliga situationen fick WhatsApp att i april 2020 begränsa delningen av ett enskilt meddelande till högst fem personer i Indien, vilket fick miljontals användare att skapa andra konton för att öka meddelandets "viralitet".
Släckningen av kontona, som ägde rum mellan den 15 maj och den 15 juni, syftade därför till att begränsa spridningen av meddelanden via dessa falska konton. Företaget sa att åtgärden endast påverkar dem som har skickat "höga och onormala antal meddelanden" med obekräftade nyheter, foton och videoklipp.
WhatsApp hamnar ofta i centrum för kontroverser om spridning av falska nyheter och delning av känsliga uppgifter i Indien, där en bitter konflikt med New Delhis regering för närvarande pågår om nya lagar som sedan i maj kräver att utvecklare av meddelandeappar ska rapportera den ursprungliga avsändaren av ett meddelande som vidarebefordras om och om igen. Enligt WhatsApp är detta mycket skadligt för användarnas integritet och frihet, medan New Delhi hävdar att reglerna är avsedda att förhindra missbruk och felaktig information.
Privatliv och falska nyheter: hur upptäcker WhatsApp falska konton
För att upptäcka falska konton använde Facebookföretaget artificiell intelligens. En algoritm analyserade användarnas beteende utan att läsa innehållet i privata konversationer, som skyddas av kryptering från början till slut.
Programmet analyserade framför allt alla användares offentliga uppgifter, som antalet, profilbilden och fraserna i WhatsApp-statusar, registrerade antalet vidarebefordringar och delningar av meddelanden samt samlade in rapporter om skräppost och blockeringar mellan användare. Denna verksamhet väcker dock frågor om skyddet av personuppgifter och den verkliga sekretessen för meddelanden som utbyts i chattar och grupper.