Hur säker är du att den person du passionellt "debatterar" med online är en riktig andnings person? Hur vet du om de bara är en annan sorglig supporter av vad som helst och inte någon med regeringens (eller andra) stöd?
Spotting ryska bots eller betalda shills är ingen lätt uppgift. Det blir emellertid allt viktigare, eftersom anklagelser av nationstater som blandar sig i andras affärer fortsätter att virvla runt. Kan du fånga dem? Här är vad du behöver veta.
Bots vs Shills
Låt oss börja med att skilja bots och shills.
Bot: En bot är ett falskt socialt mediekonto under kontroll av en organisation eller regering som vill påverka onlinebemyndigheten. Till exempel, en Twitter bot för att retweeta vissa hashtags och fraser i sådana volymer som det förstärker det specifika ämnet. Ett annat exempel är att Reddit botsar nedåtriktade åsikter som inte är överens med botkontrollerns uppfattning (medan de stämmer överens med dem som håller med). Bots kräver volym för framgång på vissa plattformar, medan andra gånger kan bara några få början på att forma en konversationsriktning.
Shill: En shill är annorlunda. Shills är riktiga människor som aktivt engagerar sig i att forma online (i detta fall) diskussion och åsikt - samtidigt som de får betalning i utbyte mot deras närvaro. Shills främjar företag, regeringar, offentliga figurer och mycket mer, för personlig vinst, i huvudsak engagera sig i propaganda.
Beroende på organisation eller regering kan shills arbeta i samband med stora botnätverk för att skapa intensiva vokala online-rörelser. Och medan de kombinerade insatserna av shills och bots formar online-opinionen, påverkar dessa ansträngningar allt mer än bara sociala medier.
Övningen är också känd som astroturfing, varigenom organisationer och regeringar curates samtalet genom "vanliga" medlemmar av allmänheten.
Ryska bots och shills
Ryska bots och shills dominerade samtal i slutet av 2016 USA: s presidentval. Kommentatorer och kritiker tillägnade sig en stor mängd ljudupptag och kolumn inches som diskuterar rollen av ryska backade bots och shills för att påverka diskussionen kring vissa ämnen.
Faktum är att Robert Mueller, det specialråd som undersöker störningar i presidentvalet, nyligen anklagade 13 amerikanska baserade ryssar som en del av den misstänkta ryska backa propagandamaskinen Internet Research Agency (IRA).
Nu när Twitter har slutfört sin botrening kan jag komma undan? pic.twitter.com/Utl1nCNgtF
- Ryska Bot (@ RussianBot007RU) 24 februari 2018
Påståendena om inflytande är långtgående. De sträcker sig från att helt enkelt skapa amerikanska ljudidentiteter online, för att stjäla identiteterna hos amerikanska medborgare, att begära minoritetsaktivister och så kallade "sociala rättvisa-krigare", för att skapa instagramgrupper som "Woke Blacks" för att påverka minoritetsröstningen. Och det finns också många andra exempel.
Sociala medier är ett av de främsta redskapen för inflytande. Plattformarna vet att det finns ett problem också. I januari 2018 sa Twitter att det var e-post 677.775 personer i USA som tweeted IRA-innehåll. Samtidigt som ursäkt, rensar Twitter bot konton, vilket ledde till att #twitterlockout hashtag trenden bland övervägande konservativa lutande Twitter-användare.
Och för alla skrik av felaktigt spel och orättvist inriktning finns det bevis för att "konservativa retweeted ryska trollar ungefär 31 gånger oftare än liberaler och producerade 36x fler tweets".
Dessutom hävdar Twitter att deras botrengöring är "apolitisk" och att de verkställer övergripande regler "utan politisk partiskhet".
Så Twitter tar bort ryska Bot-konton som trollar som GOP-aktivister och vad dyker upp på deras plats? "Progressiva" ryska Bot-konton till trolldem Dems att dela vår fest som de gjorde republikanerna. Titta vid liv, människor.
- Amee Vanderpool (@girlsreallyrule) 25 februari 2018
Det är inte att säga bots, shills och astroturfing är det enda ansvaret för konservativa figurer.
Så långt tillbaka som 2007 var kampanjpersonalerna för Clinton anonymt uppbyggda på pro-Hilary-platser, medan under 2016-presidentens debatter var Clinton-kampanjen föremål för hundratusentals automatiserade bot-tweets (dock betydligt färre än Donald Trump).
Inte alla robotar
Twitter och andra sociala medier plattformar är inte plågad av bots, som vissa publikationer skulle få dig att tro. Vi kan bryta ner Twitter bot hashtag interaktion för att förstå hur deras backers försöker påverka konversationen.
Computational Propaganda Project (CCP), sponsrat av Oxford University, studerar noga dessa interaktioner. Tabellen nedan visar [PDF] skillnaden i automatisering mellan interaktioner med pro-Trump eller pro-Hilary hashtags, liksom den totala andelen icke-automatiserade tweets, mellan 1 november och 9 november 2016:
KKP definierar hög automatisering som "konton som skickar minst 50 gånger om dagen" med minst en av de valspecifika hashtagen. Studien anser allt under den tröskeln låg automatisering, det vill säga en riktig person. Tabellen visar en mycket högre procentandel av lågnivåautomatisering, vilket indikerar att mycket högre antal vanliga användare interagerar.
Studien noterar att vissa mänskliga användare oundvikligen sveps in i den höga automatiseringsfästet. Det noteras också att konton som visar hög automatisering även i sällsynta fall använder termer från Mixed Hashtag Cluster-fästet (bar Trump-Clinton-kombinationer på grund av ren retweetvolym).
Vi kommer aldrig att få veta den fullständiga bilden av hur många robotar som arbetar på någon social media-plattform. Nyligen gjorda forskningsberäkningar [PDF] som automatiserade bots utgör nästan 15 procent av alla Twitter-användare, vilket ger över 40 miljoner enskilda botkonton .
Da'wah Center Protest
Ett utmärkt exempel på direkt ryskt inflytande är 2016 Houston Da'wah Center protest.
Facebook-gruppen "Heart of Texas" lade upp en annons som letade efter sympatisörer för att delta i en protest "för att stoppa islamiseringen av Texas". Protestet sattes till middag den 21 maj, möte vid Da'wah Center. Samtidigt, en annan grupp - de så kallade "United Muslims of America" - organiserade ett motprotokoll på samma gång och plats.
De två grupperna träffades i mitten och, förutsägbart, "växelverkan mellan de två grupperna så småningom eskalerade till konfrontation och verbala attacker."
Vid den tiden insåg ingen uppsättning demonstranter att deras respektive grupper inte var riktiga. Det vill säga; Grupperna var konstruktionen av en rysk-backad "trollgård" som existerar enbart för att manipulera politisk, ras och religiös spänning i USA.
Så att hitta en bot på sociala medier
Att erkänna bots och shills på sociala medier är inte alltid lätt. Varför? Eftersom annars skulle fler människor inser vad som händer.
Förse mig inte fel vi alla interagerar med bots och shills, det är själva sociala mediernas karaktär år 2018. Operatörer mottar tusentals dollar i månaden till subtilt (och ibland mer brazenly) påverkan konversation.
Det finns emellertid några botspottningstips att tänka på:
- Kontot bara reposts / retweets, aldrig göra egna inlägg, skickar samma svar till andra människor.
- Konton som bara repost / retweet kommentarer som gjorts av flera andra liknande konton (varav vissa är troligen bots).
- Vissa konton snabbt (sannolikt automatiskt) inlägg som svar på "trigger" ämnen snabbare än mänskligt möjligt.
- Mänskliga cykler. Verkliga människor tenderar att posta i brister, som täcker olika ämnen, samt ha kännbar nedetid för dag / nattcykler.
- Standardprofilbilder. Till exempel en Facebook-profil med bilden av en man eller kvinna, eller en Twitter-profil med standardäggbilden.
- Profiler som är produktiva kring stora händelser - val, skandaler, terroristattacker - men förblir vilande vid andra tillfällen. Det kommande 2018-halvtidsvalet kommer att se swathes of bot konton återaktivera.
Andra saker att leta efter är automatiska systemiska downvotes på webbplatser som Reddit. Bots hämtar på titeln på en inlämning och börjar omedelbart lägga ned kommentarer som inte är överens med deras programmering. (Downvoting hide kommentarer samt deras svar från andra användare, och är ett enkelt sätt att hindra avvikande åsikter. Hur Upvote Systems har skadat onlinegrupper Hur Upvote Systems har skadat Online Communities Läs mer.)
Så att Spot Shill på sociala medier
Spotting pay-shills är svårare eftersom onus är på kontot som upprätthåller utseendet på en vanlig social media användare. Inlägg som främjar ett visst ämne eller formar onlinesamtalet kan komma bland vanliga vardagliga diskussionspunkter för att inte skapa misstankar.
Några vanliga taktik är:
- Ändra berättelsen om ett hett ämne mot något som främjar agendan för den som betalat för shillen
- Konsekvent attackerar något som inte ingick i den inledande konversationen (ibland kallad "whataboutism", där en shill argumenterar med att använda termer som "men hur om när X gjorde Y")
En annan spotting taktik är den mänskliga cykeln. Vanliga människor måste sova, äta, dricka och så vidare. Om ett enskilt konto hanterar att posta på en enda dagordning kontinuerligt i 24-timmarsperioder, kommer någonting sannolikt att gå.
Men "riktigt bra" shills arbetar hårt. I stället för att bara attackera och motsäga åsikt och försöka forma diskussionen, kommer de långsamt att bli vän och infiltrera en grupp innan de går på jobbet.
Kan du stoppa ryska bots?
Tyvärr, förutom att rapportera misstänkta konton, finns det lite direktåtgärd att ta emot shill eller bot konton. Som de säger, mata inte trollarna.
Valberedningen i mitten av 2018 håller fast vid horisonten (kontrollera den politiska bias av vilken webbplats som helst i spetsen. Kontrollera de politiska förslagen på vilken mediewebbplats som helst i denna massiva databas. Kontrollera de politiska förslagen på någon mediewebbplats i denna massiva databas. Varje media Webbplatsen har en politisk partiskhet, men ibland är det inte lätt att se hur förtjust de är. Den här databasen spårar och analyserar dem för din bekvämlighet. Läs mer). Medan effekten av shill och bot-konton kanske är större än någonsin, vet du nu mer om hur man upptäcker vissa typer av beteenden.
Bildkrediter: raptorcaptor / Depositphotos