Ökad Risk för Felaktiga Blockeringar
Det har blivit allt vanligare att användare drabbas av felaktiga blockeringar på grund av detta system. Ett exempel är när användare rapporterar att deras konton stängs av på grund av misstankar om bedrägeri eller spam-aktivitet, ofta utan klar anledning. Enligt information som finns tillgänglig på nätet har antalet felaktigt blockerade Instagramkonton ökat, vilket skapar frustration och osäkerhet bland användarna.
Begränsad Support och Återställning
När en blockering inträffar, är det inte alltid möjligt att återfå kontrollen över ditt konto snabbt. Att skicka in identitetsbevis som ett körkort för att bevisa att man inte är en bot har visat sig vara ineffektivt i vissa fall. Detta beror delvis på att det inte finns någon aktiv och responsiv kundsupport från Meta. Användare rapporterar att det kan ta veckor eller till och med månader att återfå kontroll över sitt konto, om det alls är möjligt.
Total Förlust av Digital Närvaro
Jämförelse med Chat Control i EU
För att sätta detta i perspektiv, kan man fundera över vad som skulle hända om ett liknande system som Chat Control i EU implementerades. Chat Control är ett förslag som skulle tillåta automatisk skanning av meddelanden för att upptäcka olagligt innehåll. Om en AI missbedömer och felaktigt blockerar eller rapporterar en individ, skulle det kunna leda till att hela ens digitala liv, inklusive bankkonton, betalkort och andra kopplade tjänster, stängs av. Ett sådant scenario visar hur farligt det kan vara när AI-gjorda bedömningar går fel, särskilt om dessa beslut har så stora konsekvenser för individens vardag.