Slovenská spoločnosť TrollWall nedávno vyvinula unikátny softvér, ktorého cieľom je skrývať nenávistné komentáre spod príspevkov na sociálnych sieťach Facebook a Instagram. Funguje na báze umelej inteligencie a ako sa ukázalo, je skutočne efektívny. Začala ho totiž používať už aj kancelária českého prezidenta Petra Pavla.
Efektívny a nápomocný
Ako iste sám vieš, sociálne siete sú plné nenávistných, často až extrémistických komentárov. A hoci existovali a stále existujú moderátori, ktorí sa snažia takéto komentáre odstraňovať a osoby ktoré ich zverejňujú varovať či limitovať, ich úsilie samo o sebe často nestačí.
Medzeru, ktorú tvorí aj nedostatočný počet moderátorov, sa rozhodla vyplniť spoločnosť TrollWall. Tá vyvinula vlastný model neurónovej siete, ktorý pomáha moderovať diskusie v online priestore. Tento model dokáže rozpoznať a automaticky schovať komentáre, ktoré vyhodnotí ako vulgárne či nenávistné. Chráni tak reputáciu majiteľov profilov na sociálnych sieťach, ale predovšetkým samotných používateľov pred toxickými vplyvmi, ktoré môžu takéto komentáre spôsobiť.
Model bol natrénovaný na analýze viac ako štvrť milióna komentárov zo sociálnych médií. Vďaka anotáciám viacerých nezávislých expertov sa umelá inteligencia naučila rozpoznávať a detegovať nenávistný a vulgárny obsah, a to nielen na základe kľúčových slov, ale aj z kontextu.
„TrollWall dokáže rozpoznať nielen známe nadávky a ich variácie, ale aj kontextuálny hejt. Napríklad spojenie „ty si potkan“ označí za hejt, kým „uhryzol ma potkan“ nie,“ hovorí šéf technológií v TrollWall Pavol Bujňák. Firma pritom nezabudla na ľudský faktor. Vždy je prítomný administrátor, ktorý má plnú kontrolu nad moderovaným obsahom s tým, že dokáže jednoducho odkryť akýkoľvek komentár, ktorý umelá inteligencia vyhodnotila ako problematický.
„Veľkú pozornosť sme venovali etickým aspektom trénovania modelu. Záleží nám na tom, aby umelá inteligencia vyhodnocovala komentáre v čo najväčšej možnej miere nezaujato a zohľadňovala rôzne perspektívy. Počas jej vývoja neustále prebiehala manuálna kontrola našimi expertami s cieľom minimalizovať nespravodlivé hodnotenia. Model sa neustále spresňuje, pretože sa učí na dátach z praxe,“ vysvetľuje Filip Stryčko, šéf vývoja umelej inteligencie v TrollWall.
Kapacity budú rásť
TrollWall vďaka poctivému tréningu dokáže identifikovať a automaticky skrývať nenávistné príspevky, čím sa výrazne znižuje množstvo obsahu, ktoré musia manuálne kontrolovať komunitní manažéri, moderátori alebo administrátori stránok na sociálnych sieťach. Výsledkom je potom efektívna správa profilov, takmer okamžité reakcia na problémový obsah, ako aj celkové zlepšenie bezpečnosti komunít na sociálnych sieťach.
„Najťažšie je ustrážiť diskusiu na profiloch, ktoré generujú veľký počet komentárov. Naša technológia vie reagovať v priebehu sekúnd a zabráni tomu, aby sa nenávistné komentáre presadili a boli viditeľné na popredných pozíciách. V budúcnosti plánujeme zapracovať aj ďalšie pokročilé funkcie . Chceme byť schopní pomáhať komunitným manažérom rýchlejšie reagovať, napríklad navrhovaním odpovedí na časté otázky na základe vlastných podkladov. Posvietiť si chceme aj na dezinformácie a hoaxy. Už dnes pracuje TrollWall s databázou konšpirátori.sk, no v odhaľovaní a potláčaní dezinformácií máme väčšie ambície,“ uvádza Tomáš Halász, generálny riaditeľ TrollWall.
Softvérové riešenie TrollWall robí komunitný manažment škálovateľným a dostupným prakticky pre každého – od firiem rôznych veľkostí a neziskových organizácií až po verejné inštitúcie alebo stránky médií bez ohľadu na objem komentárov.
„TrollWall je dostupný ako klasické SaaS (software as a service) cloudové riešenie za veľmi férových podmienok, pretože chceme, aby bol dostupný pre každého. Od začiatku preto podporujeme mimovládne organizácie, ktoré sú často poddimenzované, no čelia veľkému počtu nenávistných komentárov. Sami sme v minulosti spravovali diskusie a vieme, aké to je zažiť nálet hejterov a nemať kapacitu to riešiť. Aj vďaka stále rastúcemu počtu spokojných komerčných klientov vieme TrollWall bezplatne poskytnúť organizáciám, ktoré ho potrebujú a nemôžu si ho dovoliť za komerčné ceny,“ dodáva Halász.
Hejt na internete nemá čo hľadať
TrollWall len na slovenskom Facebooku skontroloval už viac ako 2 milióny komentárov a skryl vyše 300 000 hejtov. Na manažovanie diskusii ho používa napríklad Denník N a dokonca aj kancelária českého prezidenta Petra Pavla. Slovenská umelá inteligencia už dnes chráni desiatky profilov z radov firiem, mimovládnych a neziskových organizácií či médií.
Firma v spolupráci s komunikačnou agentúrou Seesame, ktorá sa špecializuje na manažment digitálnej reputácie, nedávno založila inciatívu #bezhejtu, ktorej cieľom je eliminovať nenávistné prejavy z diskusií na internete.
„V posledných rokoch zažívame nárast nenávistných prejavov v online priestore. Analýza ukázala, že až 15,47 % zo vzorky viac ako 500 000 komentárov bolo vulgárnych alebo nieslo znaky nenávistného prejavu. Sme presvedčení, že ich filtrovaním dávame viac priestoru slušnej a konštruktívnej debate,“ hovorí Dávid Benedig, šéf digitálu v agentúre Seesame, ktorá taktiež využíva softvér TrollWall pri správe profilov svojich klientov.