A-K-M-E – Slurs come segnali linguistici
t.me/akme_lab
29.05 – dalle ore 21:00
Tra NLP, modelli transformer e dinamiche algoritmiche
Nel contesto dei social network, gli slurs, ovvero gli insulti e i concetti discriminatori operano come feature linguistiche ad alta entropia, capaci di perturbare in modo significativo i modelli NLP basati su architetture transformer.
Analizziamo assieme cercando di comprendere il fenomeno da una prospettiva linguistica computazionale, osservando come i token tossici influenzino embeddings, attention patterns, loss surfaces e sistemi di ranking.
L’obiettivo è mostrare come la tossicità linguistica sia un effetto emergente dell’interazione tra strutture linguistiche, architetture transformer, dataset imperfetti e metriche di ottimizzazione.
– failure modes dei modelli di rilevazione tossicità: bias nei dataset, overfitting su pattern superficiali, misclassificazione in contesti ironici o citazionali
– analisi delle attention heads: heads specializzate nella rilevazione di segnali tossici, saturazione dell’attenzione e perdita di contesto pragmatico
– limitazioni delle context windows: difficoltà nel disambiguare uso descrittivo vs offensivo, soprattutto in sequenze brevi o rumorose
– propagation bias nei sistemi di raccomandazione: amplificazione dei token ad alta reattività, feedback loop tra engagement e ranking, distorsione delle distribuzioni linguistiche
– impatto sulle loss functions: penalizzazioni non uniformi, gradient explosion in presenza di token tossici, difficoltà nella calibratura dei modelli di moderazione
29 maggio a partire dalle 21:00
