Nu skall nättrollen ut med automatik
Antisocialt beteende på nätet kan göra människors liv eländigt.
Trolls är ett gissel för många en webbplatser.
Troll är den allmänna beteckningen på människor som medvetet ägnar sig åt antisocialt beteende genom att publicera trådar eller inlägg i syfte att störa, uppröra eller nervärdera andra människor i sina meddelanden.
I bästa fall skapar de en frustrerande situation för moderatorerna, i värsta fall kan de göra människors liv ett elände.
Ett sätt att identifiera troll tidigt i deras onlinekarriärer och förhindra deras värsta överdrifter skulle vara ett värdefullt verktyg.
Justin Cheng vid Stanford University i Kalifornien och några kompisar säger att de har skapat just ett sådant verktyg genom att analysera beteendet hos troll på flera välkända webbplatser och skapa en algoritm som exakt kan upptäcka dem efter så få som 10 inlägg.
De säger att deras teknik bör vara av stor praktisk betydelse för de människor som upprätthåller olika forum och grupper på nätet.
Arbetsgruppen studerade och analyserade tre nyhetsgrupper: den allmänna nyhetssajten CNN.com, den politiska nyhetssajten Breitbart.com och spelsajten IGN.com.
Deras undersökning genererade en lista med användare som har förbjudits för antisocialt beteende, över 10.000 totalt.
De har också tillgång till alla de meddelanden som skickats av dessa användare under deras aktiva period.
Chengs arbetsgrupp bestämde sig för att ställa tre olika frågor om antisociala användare.
Först om de är antisocialt hela samhällslivet eller endast mot slutet.
För det andra, om samhällets reaktion orsakar deras beteende så det blir värre och slutligen,
om antisociala användare kan noggrant identifieras tidigt.
Genom att jämföra de meddelanden som skickats av användare som stängts av mot meddelanden postade av användare som aldrig fått en tillsägelse eller slängts ut upptäckte gruppen några tydliga skillnader.
Detta visar tydligt att användare som senare stängs av tenderar att skriva med sämre kvalitet redan från första inlägget. Inte bara det, kvaliteten på deras poster minskar med tiden.
Intressant, Cheng och övriga i gruppen säger att skillnaderna i sätt att skriva mellan troll och vanliga användare är så uppenbart att det är relativt enkelt att hitta dem med hjälp av en inlärningsalgoritm.
"Faktum är att vi behöver bara följa fem till 10 inlägg innan en klassificering är möjlig och ett program kan göra en tillförlitlig prognos"
Det kan visa sig vara användbart. Asocialt beteende är ett allt allvarligare problem som kräver stora insatser från moderatorer.
Denna process innebär ofta att antisociala användare tillåts verka mycket längre än nödvändigt.
"Våra metoder kan effektivt identifiera troll och andra ej önskvärda skribenter tidigt i sociala media och lindra en del av denna börda," säger Cheng och co.