Η Ubisoft και η Riot Games ενώνουν τις δυνάμεις τους για να αντιμετωπίσουν το επιβλαβές περιεχόμενο στις συνομιλίες παιχνιδιών

Η Ubisoft και η Riot Games ένωσαν τις δυνάμεις τους για ένα νέο ερευνητικό έργο, επιδιώκοντας να κάνουν τους διαδικτυακούς χώρους βιντεοπαιχνιδιών πιο ασφαλείς. Η κατάργηση της «βλάβης» – μιας σύνθετης λέξης με πολλές γωνίες σημασίας – στις συνομιλίες βιντεοπαιχνιδιών είναι κρίσιμη και συνεχής δουλειά, και το έργο τους, Zero Harm in Comms, στοχεύει τελικά να αναπτύξει ένα πιο διακριτικό και ισχυρό πλαίσιο από οτιδήποτε άλλο διαθέσιμο ότι. Είναι ένας σημαντικός στόχος και ένας που αναγνωρίζουν και οι δύο εκδότες μπορεί να επιτευχθεί μόνο ως ομάδα.

«Δεν μπορούμε να το λύσουμε μόνοι μας», λέει ο Yves Jacquier, Εκτελεστικός Διευθυντής του Τμήματος Έρευνας και Ανάπτυξης La Forge της Ubisoft. «Θέλουμε να οικοδομήσουμε το πλαίσιο για αυτό, να μοιραστούμε τα αποτελέσματα με την κοινότητα, να δούμε πώς πάει και να φέρουμε περισσότερους ανθρώπους».

Πως λειτουργεί, λοιπόν?

Στον πυρήνα του, το ερευνητικό έργο Zero Harm in Comms στοχεύει στη δημιουργία μιας κοινής βάσης δεδομένων με ανώνυμα δεδομένα, που θα χρησιμοποιείται για την εκπαίδευση των συστημάτων της Ubisoft και της Riot για τον εντοπισμό και τον μετριασμό της διασπαστικής συμπεριφοράς. Η ιδέα συνελήφθη μεταξύ του Jacquier και του Wesley Kerr, Επικεφαλής Τεχνικής Έρευνας της Riot Games, οι οποίοι ενδιαφέρονται και οι δύο για την τεχνητή νοημοσύνη και τη βαθιά μάθηση, καθώς και τις τεχνικές καινοτομίες σε αυτόν τον χώρο. Ενώ συνδέονταν με κοινά ενδιαφέροντα και συγκεκριμένα κοινές προκλήσεις, κατέστη σαφές ότι το επιβλαβές περιεχόμενο είναι τεράστιο και και οι δύο δεν ήταν ικανοποιημένοι με τις λύσεις που ήταν διαθέσιμες αυτήν τη στιγμή.

«Συμφωνήσαμε ότι οι λύσεις που μπορούμε να χρησιμοποιήσουμε σήμερα δεν επαρκούν για το είδος της ασφάλειας των παικτών που έχουμε στο μυαλό μας για τους παίκτες μας», λέει ο Jacquier.

«Πραγματικά αναγνωρίσαμε ότι αυτό είναι ένα μεγαλύτερο πρόβλημα από αυτό που μπορεί να λύσει μια εταιρεία», λέει ο Kerr. Και πώς λοιπόν θα συνεννοηθούμε και θα αρχίσουμε να έχουμε ένα καλό χέρι στο πρόβλημα που προσπαθούμε να λύσουμε; Πώς μπορούμε να αντιμετωπίσουμε αυτά τα προβλήματα και μετά να προωθήσουμε περαιτέρω ολόκληρο τον κλάδο;»

[UN]  Η Ubisoft και η Riot Games ενώνουν τις δυνάμεις τους για να αντιμετωπίσουν το επιβλαβές περιεχόμενο στις συνομιλίες παιχνιδιών - Yves Jacquier
Ιβ Ζακιέ

Συλλέγονται από διάφορα αρχεία καταγραφής συνομιλιών στο χαρτοφυλάκιο παιχνιδιών της Ubisoft και της Riot, τα δεδομένα – συμβολοσειρές κειμένου – καθαρίζονται από Προσωπικά Αναγνωριστικά στοιχεία (PII) και προσωπικές πληροφορίες. Στη συνέχεια χαρακτηρίζονται από συμπεριφορά – είναι αυτό εντελώς ουδέτερο, για παράδειγμα, ή είναι ρατσισμός ή σεξισμός; και χρησιμοποιείται για την εκπαίδευση αυτοματοποιημένων συστημάτων για την καλύτερη αναγνώριση και ανάλυση αυτής της επιβλαβούς συμπεριφοράς από το άλμα.

Το κλειδί για το έργο βρίσκεται στον τεράστιο όγκο δεδομένων που προσπαθεί να συγκεντρώσει το δίδυμο. Με περισσότερα δεδομένα, αυτά τα συστήματα μπορούν θεωρητικά να κατανοήσουν τις αποχρώσεις και το πλαίσιο πέρα ​​από τις λέξεις-κλειδιά.

«Υπάρχουν λέξεις-κλειδιά που μπορούν να αναγνωριστούν αμέσως ως κακές», εξηγεί ο Jacquier. «Ωστόσο, είναι συχνά πολύ πιο δύσκολο να αναλύσεις. Για παράδειγμα, αν δείτε “Θα σε βγάλω έξω” σε μια συνομιλία, τι σημαίνει αυτό; Είναι μέρος της φαντασίας; Εάν παίζετε ένα ανταγωνιστικό σουτέρ, μπορεί να μην είναι πρόβλημα, αλλά αν πρόκειται για άλλο είδος παιχνιδιού, το πλαίσιο μπορεί να είναι εντελώς διαφορετικό.”

Φυσικά, είναι αδύνατο να διδάξουμε στην τεχνητή νοημοσύνη κάθε πιθανό επιβλαβές σενάριο, αλλά το δίδυμο εξηγεί ότι ο στόχος είναι να τελειοποιήσουν τα συστήματά τους για να αναζητήσουν αυτά τα συγκεκριμένα παραδείγματα και να τα ανιχνεύσουν με μεγάλη πιθανότητα.

[UN]  Η Ubisoft και η Riot Games ενώνουν τις δυνάμεις τους για να αντιμετωπίσουν το επιβλαβές περιεχόμενο στις συνομιλίες παιχνιδιών - Wesley Kerr
Ο Γουέσλι Κερ

Χτίζοντας μια καλύτερη βιομηχανία

Είναι μια αρχή και και οι δύο εταιρείες θέλουν να είναι εξαιρετικά ορατές στους παίκτες τους για να ενθαρρύνουν μια πιο φιλόξενη εμπειρία παιχνιδιού. «Θέλουμε οι παίκτες να γνωρίζουν ότι αναλαμβάνουμε δράση για αυτό», λέει ο Kerr.

«Αυτή η ορατότητα και η επικοινωνία με τον παίκτη θα είναι κρίσιμη για να καταλάβουν ότι αυτό συμβαίνει στο παρασκήνιο. Μπορεί να μην τους ενδιαφέρει πώς συμβαίνει. απλά θέλουν να ξέρουν ότι τα πράγματα βελτιώνονται και τα πράγματα βελτιώνονται».

Ο Jacquier και ο Kerr εργάζονται στο έργο Zero Harm in Comms για περίπου έξι μήνες και σχεδιάζουν να μοιραστούν τις γνώσεις τους και τα πιθανά επόμενα βήματά τους με την ευρύτερη βιομηχανία το επόμενο έτος. Και οι δύο συμφωνούν ότι η δημιουργία ενός ασφαλέστερου διαδικτυακού περιβάλλοντος είναι ζωτικής σημασίας σε μια εποχή όπου όλοι είναι συνδεδεμένοι στο διαδίκτυο και αμφότεροι επαναλαμβάνουν την ελπίδα ότι περισσότεροι εκδότες θα έρθουν στο εξωτερικό για να προχωρήσουν πέρα ​​από το μοντέλο λέξεων-κλειδιών που έχει αποδειχθεί ανεπαρκές για τόσο καιρό.

«Είναι 2022», λέει ο Jacquier. «Όλοι είναι συνδεδεμένοι και όλοι θα πρέπει να αισθάνονται ασφαλείς, τελεία».

«Αυτό είναι ένα σπουδαίο πρώτο βήμα και ένα πολύ μεγάλο έργο», λέει ο Kerr. «Δεν θέλουμε να το κάνουμε μόνοι μας».

Το όνομά μου είναι ο Tom Hopkins Είμαι ο επικεφαλής επεξεργαστής στο AssociathingGamer. Είμαι pro gamer και ξοδεύω πολύ χρόνο παίζοντας βιντεοπαιχνίδια και τα αναθεωρούμε. Είμαι επίσης δημοσιογράφος και προσπαθώ να βρω τα πιο καυτά νέα για τον αγαπητό μας χρήστη στις βιομηχανίες βιντεοπαιχνιδιών και τεχνολογίας.