TECHBYTE.skTECHBYTE.skTECHBYTE.sk
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Čítaš: Slovenská AI na odstraňovanie nenávistných komentárov TrollWall prekonáva očakávania. Používa ju aj kancelária českého prezidenta
Zdieľať
TECHBYTE.skTECHBYTE.sk
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Hľadať
  • Domov
  • Tech
  • Recenzie
  • Veda
  • Elektromobilita
  • Domácnosť
  • Gaming
Sleduj TECHBYTE
© 2024 BYTE Media s.r.o. Všetky práva vyhradené.

Slovenská AI na odstraňovanie nenávistných komentárov TrollWall prekonáva očakávania. Používa ju aj kancelária českého prezidenta

9. júna 2023 9:37
Roman Drexler
9. júna 2023
Zdieľať
5 min
Zdieľať

Slovenská spoločnosť TrollWall nedávno vyvinula unikátny softvér, ktorého cieľom je skrývať nenávistné komentáre spod príspevkov na sociálnych sieťach Facebook a Instagram. Funguje na báze umelej inteligencie a ako sa ukázalo, je skutočne efektívny. Začala ho totiž používať už aj kancelária českého prezidenta Petra Pavla.

Efektívny a nápomocný

Ako iste sám vieš, sociálne siete sú plné nenávistných, často až extrémistických komentárov. A hoci existovali a stále existujú moderátori, ktorí sa snažia takéto komentáre odstraňovať a osoby ktoré ich zverejňujú varovať či limitovať, ich úsilie samo o sebe často nestačí.

Medzeru, ktorú tvorí aj nedostatočný počet moderátorov, sa rozhodla vyplniť spoločnosť TrollWall. Tá vyvinula vlastný model neurónovej siete, ktorý pomáha moderovať diskusie v online priestore. Tento model dokáže rozpoznať a automaticky schovať komentáre, ktoré vyhodnotí ako vulgárne či nenávistné. Chráni tak reputáciu majiteľov profilov na sociálnych sieťach, ale predovšetkým samotných používateľov pred toxickými vplyvmi, ktoré môžu takéto komentáre spôsobiť.

NEWSBYTE
ÚRSO varuje: Radikálny návrh z Bruselu môže zruinovať Slovensko. Čo nás čaká?

ÚRSO varuje: Radikálny návrh z Bruselu môže zruinovať Slovensko. Čo nás čaká?

POZOR: Android 16 obíde stovky smartfónov! Ste medzi postihnutými? (zoznam)

POZOR: Android 16 obíde stovky smartfónov! Ste medzi postihnutými? (zoznam)

Slovensko čaká deň „D“: Keď nastane, ekonomika sa ocitne v pasci, z ktorej niet návratu

Slovensko čaká deň „D“: Keď nastane, ekonomika sa ocitne v pasci, z ktorej niet návratu

ÚRSO varuje: Radikálny návrh z Bruselu môže zruinovať Slovensko. Čo nás čaká?
ÚRSO varuje: Radikálny návrh z Bruselu môže zruinovať Slovensko. Čo nás čaká?
POZOR: Android 16 obíde stovky smartfónov! Ste medzi postihnutými? (zoznam)
POZOR: Android 16 obíde stovky smartfónov! Ste medzi postihnutými? (zoznam)
Slovensko čaká deň „D“: Keď nastane, ekonomika sa ocitne v pasci, z ktorej niet návratu
Slovensko čaká deň „D“: Keď nastane, ekonomika sa ocitne v pasci, z ktorej niet návratu

Model bol natrénovaný na analýze viac ako štvrť milióna komentárov zo sociálnych médií. Vďaka anotáciám viacerých nezávislých expertov sa umelá inteligencia naučila rozpoznávať a detegovať nenávistný a vulgárny obsah, a to nielen na základe kľúčových slov, ale aj z kontextu.

„TrollWall dokáže rozpoznať nielen známe nadávky a ich variácie, ale aj kontextuálny hejt. Napríklad spojenie „ty si potkan“ označí za hejt, kým „uhryzol ma potkan“ nie,“ hovorí šéf technológií v TrollWall Pavol Bujňák. Firma pritom nezabudla na ľudský faktor. Vždy je prítomný administrátor, ktorý má plnú kontrolu nad moderovaným obsahom s tým, že dokáže jednoducho odkryť akýkoľvek komentár, ktorý umelá inteligencia vyhodnotila ako problematický.

„Veľkú pozornosť sme venovali etickým aspektom trénovania modelu. Záleží nám na tom, aby umelá inteligencia vyhodnocovala komentáre v čo najväčšej možnej miere nezaujato a zohľadňovala rôzne perspektívy. Počas jej vývoja neustále prebiehala manuálna kontrola našimi expertami s cieľom minimalizovať nespravodlivé hodnotenia. Model sa neustále spresňuje, pretože sa učí na dátach z praxe,“ vysvetľuje Filip Stryčko, šéf vývoja umelej inteligencie v TrollWall.

Kapacity budú rásť

TrollWall vďaka poctivému tréningu dokáže identifikovať a automaticky skrývať nenávistné príspevky, čím sa výrazne znižuje množstvo obsahu, ktoré musia manuálne kontrolovať komunitní manažéri, moderátori alebo administrátori stránok na sociálnych sieťach. Výsledkom je potom efektívna správa profilov, takmer okamžité reakcia na problémový obsah, ako aj celkové zlepšenie bezpečnosti komunít na sociálnych sieťach.

„Najťažšie je ustrážiť diskusiu na profiloch, ktoré generujú veľký počet komentárov. Naša technológia vie reagovať v priebehu sekúnd a zabráni tomu, aby sa nenávistné komentáre presadili a boli viditeľné na popredných pozíciách. V budúcnosti plánujeme zapracovať aj ďalšie pokročilé funkcie . Chceme byť schopní pomáhať komunitným manažérom rýchlejšie reagovať, napríklad navrhovaním odpovedí na časté otázky na základe vlastných podkladov. Posvietiť si chceme aj na dezinformácie a hoaxy. Už dnes pracuje TrollWall s databázou konšpirátori.sk, no v odhaľovaní a potláčaní dezinformácií máme väčšie ambície,“ uvádza Tomáš Halász, generálny riaditeľ TrollWall.

Neprehliadnite

Mimoriadne, Slovensko, vláda, štát, zákon, legislatíva, novela, zákaz
Regulačný úrad bije na poplach: TOTO rozhodnutie bude pre Slovensko likvidačné
Mimoriadne, Slovensko
Štát čelí VEĽKÉMU problému: Ekonómovia sa obávajú dňa „D“. Keď nastane, nebude cesty späť
peniaz, peniaze, euro, bankovky, DPH
Za každý 1 kilometer až 0,27 €: Začalo platiť ďalšie MASÍVNE zdražovanie, prikízala to EÚ

Softvérové riešenie TrollWall robí komunitný manažment škálovateľným a dostupným prakticky pre každého – od firiem rôznych veľkostí a neziskových organizácií až po verejné inštitúcie alebo stránky médií bez ohľadu na objem komentárov.

„TrollWall je dostupný ako klasické SaaS (software as a service) cloudové riešenie za veľmi férových podmienok, pretože chceme, aby bol dostupný pre každého. Od začiatku preto podporujeme mimovládne organizácie, ktoré sú často poddimenzované, no čelia veľkému počtu nenávistných komentárov. Sami sme v minulosti spravovali diskusie a vieme, aké to je zažiť nálet hejterov a nemať kapacitu to riešiť. Aj vďaka stále rastúcemu počtu spokojných komerčných klientov vieme TrollWall bezplatne poskytnúť organizáciám, ktoré ho potrebujú a nemôžu si ho dovoliť za komerčné ceny,“ dodáva Halász.

Hejt na internete nemá čo hľadať

TrollWall len na slovenskom Facebooku skontroloval už viac ako 2 milióny komentárov a skryl vyše 300 000 hejtov. Na manažovanie diskusii ho používa napríklad Denník N a dokonca aj kancelária českého prezidenta Petra Pavla. Slovenská umelá inteligencia už dnes chráni desiatky profilov z radov firiem, mimovládnych a neziskových organizácií či médií.

Firma v spolupráci s komunikačnou agentúrou Seesame, ktorá sa špecializuje na manažment digitálnej reputácie, nedávno založila inciatívu #bezhejtu, ktorej cieľom je eliminovať nenávistné prejavy z diskusií na internete.

„V posledných rokoch zažívame nárast nenávistných prejavov v online priestore. Analýza ukázala, že až 15,47 % zo vzorky viac ako 500 000 komentárov bolo vulgárnych alebo nieslo znaky nenávistného prejavu. Sme presvedčení, že ich filtrovaním dávame viac priestoru slušnej a konštruktívnej debate,“ hovorí Dávid Benedig, šéf digitálu v agentúre Seesame, ktorá taktiež využíva softvér TrollWall pri správe profilov svojich klientov.

Zdieľaj tento článok
Facebook Kopírovať odkaz Vytlačiť
Predchádzajúci článok Energetické nápoje, Taurín Zázračná látka? Častá prísada v energetických nápojoch spomalila starnutie u myší aj opíc
Ďalší článok POZOR: Hackeri majú novú taktiku. Stiahnu si fotku z vášho Facebooku, cez AI vás vyzlečú a začnú vydierať

Najčítanejšie

peniaze, blesková správa
Zobudíme sa do zlého sna: POTVRDILI ďalšie zvýšenie cien. Slováci budú viac platiť za absolútne základnú vec
13. júla 2025
Dopravná značka ZBE
Vodiči, POZOR: Začala platiť nová dopravná značka. Kto ju nepozná, dostane pokutu 200 €
13. júla 2025
Radar
Tu radšej dávajte pozor: Nasadili 450 rýchlostných radarov, vodiči im neujdú, pokuty počítajú v MILIÓNOCH eur
13. júla 2025
peniaze, fond, euro, bankovky
Koniec legendy na Slovensku po vyše 50 rokoch: Všetci zamestnanci dostali výpovede
13. júla 2025

Najnovšie články

  • Regulačný úrad bije na poplach: TOTO rozhodnutie bude pre Slovensko likvidačné
  • POZOR: Máte jeden z týchto telefónov? Android 16 nedorazí na stovky obľúbených smartfónov! (ZOZNAM)
  • Štát čelí VEĽKÉMU problému: Ekonómovia sa obávajú dňa „D“. Keď nastane, nebude cesty späť
  • Vylialo sa 100 000 litrov rádioaktívnej vody: Potvrdili únik z najväčšieho jadrového reaktoru v Európe
  • Vytvorila sa „atmosférická rieka“: Spadnúť môže gigantický objem zrážok, prepísať má 1000-ročné záznamy

Bude sa vám páčiť

Mimoriadne, peniaze, štát, zákon, DPH, transakčná daň, pokuta

Rozpútajú nevídané PEKLO: Slovensku NEČAKANE hrozí 500% nárast cien, platili by sme to povinne

13. júla 2025
Mimoriadne, Slovensko

MIMORIADNE: Štát bije na POPLACH. Na Slovákov tajne poľuje známa služba, za škody nezodpovedá (čo sa deje)

13. júla 2025

Prečo platíme na Slovensku viac? Štát opäť zlyhal a sklamal ľudí, sme najhorší a najdrahší

12. júla 2025

AI robot operoval so 100-PERCENTNOU presnosťou: Špičkoví chirurgovia sa len pozerali

12. júla 2025

 

Spájame vedu, technológie a internetovú kultúru.

Dôležité odkazy

  • Kontakt
  • Reklama
  • O nás
  • Cookies
  • Podmienky používania

Spoj sa s nami

© 2025 BYTE Media s.r.o. Všetky práva vyhradené.
Vitaj späť!

Prihlás sa do svojho účtu

Username or Email Address
Password

Zabudol si heslo?