Startup-ul românesc VoicePatrol, care ajută la combaterea comportamentelor și incidentelor toxice la care sunt expuși copiii, adolescenții și alți utilizatori ai platformelor online de jocuri video, a obținut acum o nouă finanțare, de 3,4 milioane de dolari, de la fonduri de investiții, inclusiv cu susținere din bani europeni. 

Runda de investiții este condusă de fondul românesc de capital de risc GapMinder, care a obținut capital inclusiv din fondurile europene alocate României prin Planul Național de Redresare și Reziliență (PNRR). 

La runda de finanțare au mai participat fondurile de investiții Impact Ventures, Ollin Ventures și The Build Fund. 

Cu banii obținuți, VoicePatrol va  accelera extinderea internațională și dezvoltarea tehnologiei sale bazate pe inteligență artificială. 

Startup-ul românesc permite studiourilor de gaming să detecteze și să gestioneze în timp real toxicitatea severă din chat-ul vocal, pe PC, console și VR, făcând diferența între comportamentul nociv și „trash talk”-ul specific competițiilor. 

Aproape toate incidentele de toxicitate severă din chat-ul vocal rămân nedetectate atunci când studiourile se bazează în principal pe sesizările jucătorilor și pe conversațiile semnalate manual, potrivit datelor colectate din jocuri care folosesc VoicePatrol. 

VoicePatrol susține că „reduce toxicitatea severă cu 55%-75% în decurs de trei săptămâni, reducând în același timp costurile de moderare cu 30%-70% și extinzând acoperirea la 100% din lobby-urile publice”. 

Firma a fost lansată de Matei Trebien (CEO și inginer în Machine Learning – foto dreapta) și Cătălin Cășuneanu (CTO și inginer Fullstack – foto stânga), în timpul pandemiei COVID-19, într-o perioadă în care industria de gaming s-a dezvoltat rapid, iar preocupările legate de toxicitatea severă din chat-ul vocal online au devenit tot mai vizibile. 

VoicePatrol abordează una dintre cele mai dificile provocări din jocurile video cu mai mulți jucători: moderarea comunicării vocale fără a afecta interacțiunea competitivă și dinamica socială care sunt esențiale pentru comunitățile de gaming. 

„Și eu am fost adolescent și am folosit un limbaj nepotrivit în jocurile video. Pentru că, hai să recunoaștem, este distractiv. Dar e o diferență între acest lucru și a fi cu adevărat toxic. Sau a fi un abuzator. Studiourile ne angajează pentru a-i identifica pe acești oameni. Avem trei reguli. În primul rând, monitorizăm doar lobby-urile publice. În al doilea rând, nu există kick-uri sau ban-uri automate; aceste decizii trebuie luate manual, în urma unei verificări umane. În al treilea rând, materialele audio sunt șterse după procesare, cu excepția celor mai grave cazuri, în care fișierele pot fi păstrate ca dovezi. 

Provocarea de machine learning este, de fapt, dublă. Trebuie să lăsăm conversațiile normale și trash talk-ul competitiv să existe, iar acest lucru necesită o înțelegere profundă a limbajului jocurilor video, nu doar o simplă căutare după cuvinte-cheie. Apoi trebuie să procesăm totul rapid și la costuri reduse, folosind propria noastră infrastructură AWS, fără apeluri către API-uri ale unor terți care ar adăuga latență și costuri. Dacă facem toate acestea bine, jocurile devin pur și simplu mai distractive”, spune Matei Trebien, CEO și cofondator al VoicePatrol. 

Compania lucrează cu business-uri din industria jocurilor, de la studiouri independente până la dezvoltatori AAA, pe platforme PC, console și VR. 

„Gamingul este o industrie globală de 213,9 miliarde de dolari, iar pe măsură ce experiențele multiplayer continuă să se dezvolte, siguranța jucătorilor devine o provocare critică pentru dezvoltatorii și platformele de gaming. VoicePatrol rezolvă această problemă la nivel de infrastructură, folosind inteligența artificială pentru a detecta toxicitatea extremă în timp real și pentru a interveni în mai puțin de 5 secunde. Am investit pentru că Matei și echipa VoicePatrol au construit o tehnologie care răspunde unei probleme reale, la o scară foarte mare. Credem, de asemenea, că moderarea vocală în timp real va deveni o componentă esențială a infrastructurii jocurilor multiplayer”, spune Robert Herscovici, Investment Director la GapMinder VC. 

Cum lucrează VoicePatrol cu studiourile de dezvoltare de jocuri

Studiourile care se bazează în principal pe monitorizarea jucătorilor raportați manual de alți utilizatori și pe verificări aleatorii identifică doar o mică parte din incidentele de toxicitate severă, potrivit datelor VoicePatrol colectate din jocurile care folosesc tehnologia companiei. 

Abordarea VoicePatrol începe prin a le arăta studiourilor de gaming adevărata amploare a toxicității severe din chat-ul vocal. Printr-un audit gratuit de două săptămâni, bazat pe monitorizarea și semnalarea în timp real a lobby-urilor publice, compania evidențiază diferența dintre incidentele despre care studiourile știu deja și cele care rămân nedetectate. 

După ce amploarea problemei este stabilită, studiourile pot implementa intervenții automate concepute pentru a schimba comportamentul jucătorilor. Aceste intervenții reduc încălcările repetate și permit studiourilor să evite măsuri inutil de agresive împotriva jucătorilor care nu sunt, în esență, persoane cu un comportament problematic. 

VoicePatrol spune că oferă o „combinație rară” de moderare mai eficientă, acoperire mai largă și costuri mai reduse. În decurs de trei săptămâni de la activarea funcțiilor de avertizare și dezactivare automată a chat-ului vocal (auto-warn și auto-mute), fiecare client a înregistrat o reducere de 55%-75% a toxicității severe în lobby-urile publice. 

Clienții care au trecut de la soluțiile concurenței raportează mai puține cazuri în care jucătorii sunt semnalați în mod eronat, în timp ce un client a înregistrat, chiar din prima zi, o creștere de trei ori a numărului de cazuri de toxicitate severă identificate corect. În același timp, clienții și-au redus costurile lunare de moderare cu 30%-70%, extinzând în același timp acoperirea la 100% din lobby-urile publice, mai afirmă startup-ul. 

Obiectivul pe termen lung asumat de VoicePatrol este să îmbunătățească în permanență acuratețea modelelor de machine learning pe măsură ce limbajul folosit în gaming evoluează, reducând în același timp costurile de infrastructură asociate moderării în timp real. 

Dincolo de combaterea toxicității severe, compania dezvoltă modalități de a încuraja activ comunități pozitive de chat vocal, inclusiv o tehnologie care recompensează comportamentul constructiv al jucătorilor.