Il controllo dei commenti online

Versione stampabile
perspective, troll

La battaglia contro gli “hate speech”, i discorsi che incitano all’odio, è uno dei capisaldi dell’Unione Europea. Per gli euroburocrati sono “hate” tutti quei discorsi che diffondono, promuovono, giustificano, l’odio razziale, la xenofobia, l’antisemitismo e altre forme di intolleranza (contro le donne, gay, disabili e così via). Nulla da eccepire ma, come sappiamo, la Ue sta chiedendo da tempo aiuto ai padroni del web, Google e i grandi social media, per contenere troll, "haters" e "fake news", le notizie bufala - vedi la recente lettera della Boldrini a Facebook. Così, le grandi corporation di Internet non sono rimaste con le mani in mano. 

Google ha da poco lanciato “Perspective”, un’interfaccia di programmazione (API) ancora in fase sperimentale che, sfruttando la tecnologia del "machine learning", una forma di intelligenza artificiale, dovrebbe facilitare la vita agli editori mettendogli a disposizione una sorta di "moderatore" virtuale dei commenti lasciati dagli utenti agli articoli online. Perspective assegna un punteggio ai commenti “tossici”, insulti, discorsi di odio, tutto ciò che può spingerci ad abbandonare una conversazione, in modo da segnalare frasi nocive permettendo a editori e lettori stessi di prendere una serie di contromisure. 

Sulla carta, tutto molto bello e utile, tutto assolutamente corretto come politicamente corrette sono le grandi corporation del web. Peccato però che di recente la MIT Technology Review, cioè la rivista di quello che è forse il più grande centro di cervelloni al mondo, il Massachusetts Institute of Technology, in un suo articolo ha dimostrato che Perspective non è poi così intelligente come sembra: il sistema di controllo dei commenti lanciato da Google non riesce a distinguere gli insulti dagli hate speech o da altre  frasi di significato ambiguo o controverso che pure rientrano nei discorsi di istigazione all’odio. 

Qualche esempio: Perspective attribuisce il 96 per cento di tossicità a insulti come "Trump sucks" –  e sembra quasi che i Googlocrati ci tengano a evidenziare che la stragrande maggioranza degli attacchi riguardi il nuovo, e poco amato dai padroni del web, presidente degli Usa –, ma la frase "Hitler non era un anti-semita" scende al 53 per cento dell’indice tossico. "L’Olocausto non è mai avvenuto", cioè il concetto chiave del negazionismo antisemita, ottiene un misero 21 per cento di tossicità. Negare l’esistenza delle camere a gas e dei campi di sterminio nazisti, a quanto pare, è più facile di quel che sembra agli occhi di Perspective. 

Se è per questo altre frasi bestiali come "gasa gli ebrei" ottengono il 29 per cento di tossicità, mentre "Per favore, gasa gli ebrei. Grazie" appena il 7 per cento. Se questi sono i risultati della grande invenzione lanciata da Google, tornando all’Unione Europea, viene da chiedersi: non è che adesso gli euroburocrati riserveranno applausi e strette di mano al nuovo nato di Google magari favorendo l’introduzione di Perspective tra i gruppi editoriali del web europeo, e la Boldrini con quelli italiani? Gli alfieri del politicamente corretto, sempre in ansia di regolamentare tutto, si faranno buggerare anche stavolta da Big Web?

CommentiCommenti 3

Antonio (non verificato) said:

Il termine "intelligenza artificiale" è abusato e fuorviante. Di artificiale c'è molto. Di intelligenza zero.