Bluesky è sotto accusa per aver consentito nomi utente con insulti razzisti

I problemi di moderazione di Bluesky continuano mentre gli utenti minacciano di lasciare il sito per protestare contro la sua incapacità di segnalare insulti nei nomi utente degli account.
Molti utenti, in particolare gli utenti neri, sono frustrati dal fatto che Bluesky non si sia scusato per aver consentito agli insulti razzisti di passare attraverso i suoi strumenti di moderazione anche se violano le linee guida della community della piattaforma.
È l'ultima mancanza per l'azienda, che ha subito un contraccolpo per essere stata lenta nel reprimere l'incitamento all'odio e le minacce contro le comunità emarginate.
La piattaforma è anche sotto accusa per aver rimosso numerosi insulti razzisti, abili e transfobici dal suo elenco di parole contrassegnate in un controverso aggiornamento della scorsa settimana.
"Le nostre linee guida della comunità pubblicate ieri riflettono i nostri valori per una comunità sana e stiamo lavorando per diventare amministratori migliori ogni giorno", ha dichiarato il CEO di Bluesky Jay Graber in un post sabato.
La scorsa settimana, gli utenti hanno segnalato un account che utilizzava un insulto razziale come nome utente.
L'account era attivo da 16 giorni prima che gli utenti lo segnalassero.
Bluesky ha rimosso l'account lo stesso giorno.
"Gli handle degli utenti che sono parole insultanti sono una forma di molestia", ha detto Bluesky in un post.
"Abbiamo implementato una modifica in modo che questi handle non possano più essere creati nell'app." Bluesky ha aggiornato il suo elenco di parole vietate, che include insulti, imprecazioni e nomi di celebrità che non possono essere utilizzati come nomi utente durante la creazione di un nuovo account.
Ma la modifica non ha tenuto conto degli account già esistenti e un utente è stato in grado di modificare il proprio handle in un insulto razziale ore dopo l'aggiornamento.
Gli utenti hanno contrassegnato quell'account e si sono chiesti perché fosse in grado di passare attraverso il filtro delle parole vietate di Bluesky.
Come molti utenti hanno sottolineato su GitHub, l'aggiornamento ha anche rimosso numerosi insulti razzisti, abili e transfobici dall'elenco delle parole che gli utenti non possono usare nei loro handle.
L'aggiornamento ha suscitato un acceso dibattito nei commenti di GitHub, in cui alcuni utenti hanno sostenuto che alcune parole considerate insulti in inglese hanno significati innocui in francese e spagnolo.
Altri hanno notato che l'elenco impedisce solo agli utenti di includere parole contrassegnate nei loro nomi utente, non di utilizzarle nei post.
Bluesky alla fine ha bloccato il filo e lo ha contrassegnato come "troppo acceso".
"La prossima volta che sento qualcuno dire che il codice non può essere razzista o abile, gli indicherò semplicemente questo commit", ha commentato l'utente di GitHub siobhandougall sull'aggiornamento prima che Bluesky bloccasse il thread.
“Niente da dire al riguardo? O bloccherai semplicemente i commenti in modo da poter fingere che non ci siano conseguenze? In segno di protesta contro i passi falsi di Bluesky e la mancanza di scuse per non aver implementato un filtro per l'insulto, gruppi di utenti hanno minacciato di abbandonare la piattaforma.
Rudy Fraser, che ha creato Blacksky, un feed personalizzato per gli utenti di Black Bluesky, ha dichiarato che avrebbe eliminato il suo account se Bluesky non avesse risposto.
"Qualcun altro può ospitare il feed, se lo desidera", ha pubblicato.
"Il silenzio di Bluesky vi ha reso tutti audaci." Altri hanno promesso di smettere completamente di interagire con la piattaforma.
Il famoso Dril su Twitter ha annunciato uno "sciopero per la pubblicazione da qui fino a quando non renderanno tutti non razzisti o altro".
Alcuni utenti hanno seguito.
Aveta, un ingegnere del software che ha plasmato l'utenza di Bluesky invitando centinaia di utenti neri di Twitter durante i primi giorni di Bluesky, ha pianto la riduzione della comunità nera sull'app.
"Tutte le belle persone che [io] ho aiutato a invitare a sinistra", ha pubblicato.
“Letteralmente questa è la mia comunità, black tech.
maledetto uomo.
Il giorno successivo, Bluesky ha annunciato aggiornamenti ai termini di servizio e alle linee guida della community.
Le linee guida della community vietano agli utenti di utilizzare la piattaforma per "infrangere la legge o causare danni ad altri", ha affermato la società in un post.
Gli utenti sono inoltre tenuti a "trattare gli altri con rispetto" e Bluesky non consente comportamenti che "prendono di mira le persone in base alla loro razza, sesso, religione, etnia, nazionalità, disabilità o orientamento sessuale".
Nei commenti, gli utenti hanno chiesto all'azienda se applicherà le linee guida della community e si sono chiesti se Bluesky assumerà più personale umano per il suo team di fiducia e sicurezza, invece di fare affidamento sulla moderazione automatizzata.
La società non ha risposto ai commenti degli utenti, ma ha pubblicato un thread il giorno successivo, affermando che il razzismo e le molestie "non hanno posto su Bluesky".
La società ha anche affermato di aver investito nell'espansione del proprio team di fiducia e sicurezza, migliorando e chiarendo le politiche e dando priorità agli strumenti di moderazione.
“Mercoledì, gli utenti hanno segnalato un account che aveva un insulto come handle.
Questo handle violava le nostre linee guida della community ed è stato un nostro errore che ne ha consentito la creazione ", ha dichiarato Bluesky nel thread, che è stato pubblicato dopo la mezzanotte EST.
“40 minuti dopo che è stato segnalato, l'account è stato rimosso e il codice che ha permesso che ciò accadesse è stato corretto.
Per renderlo un posto fantastico man mano che cresciamo, continueremo a investire in moderazione, feedback e sistemi di supporto che si adattano al numero di utenti dell'app.
Bluesky non ha rilasciato scuse pubbliche.
Gli utenti amareggiati non se lo aspettano dalla piattaforma.
"Non sono sicuro del motivo per cui qualcuno sta aspettando che lo staff di Bluesky si scusi", ha scritto lo sviluppatore di software Angie Jones.
“Ovviamente, non sono dispiaciuti, né pentiti.
Credi che si siano dimenticati di escludere quella parola?! Ovviamente no." Almeno uno sviluppatore Bluesky si è scusato.
Bryan Newbold, che è stato ampiamente taggato su GitHub per aver pubblicato l'aggiornamento delle parole vietate, ha spiegato che l'aggiornamento ha sostituito l '"elenco di insulti contribuito pubblicamente" con un "elenco di emergenza" basato sull'identificazione di insulti rivolti agli utenti neri.
L'elenco di emergenza includeva anche termini antisemiti, ha affermato in un commento su GitHub.
L'elenco delle parole vietate era una "misura temporanea" che da allora è stata sostituita con una "mitigazione più complessa" che "avrà sicuramente bisogno di essere rivista nel tempo".
Newbold ha anche affrontato le critiche in un thread di Bluesky domenica.
“Ho preso decisioni e commesso errori.
quelli hanno causato danni a persone reali, compresi i neri, compresi i neri davvero fantastici [e] ben informati che hanno sostenuto Bluesky ", ha scritto.
"Mi dispiace.
sentirsi piuttosto male per questo.
fa schifo.
riconquistare/guadagnare la loro fiducia, e quella di tutti gli altri, sarà difficile”.