Profilazione e personalizzazione non sono sinonimi

Autore: Matteo Navacci

Il digitale è invecchiato male perché abbiamo abbassato la guardia contro il deterioramento e l’inquinamento dell’infosfera, scambiando gli abusi per libertà d’espressione, la profilazione per personalizzazione, lo spionaggio per sicurezza […]

Ci piace molto questo estratto dell’ultimo libro di Luciano Floridi (Il verde e il blu, 2020) perché in modo semplice e conciso esprime bene la sostanza di un fenomeno di cui ci occupiamo spesso: la profilazione.

La profilazione è probabilmente il cuore pulsante dell’economia digitale e del capitalismo di sorveglianza.

Per profilazione si intende: “qualsiasi forma di trattamento automatizzato di dati personali consistente nell’utilizzo di tali dati per valutare determinati aspetti personali relativi a una persona fisica, in particolare per analizzare o prevedere aspetti riguardanti il rendimento professionale, la situazione economica, la salute, le preferenze personali, gli interessi, l’affidabilità, il comportamento, l’ubicazione o gli spostamenti di detta persona fisica” (art. 4 Reg. UE n. 679/16 – GDPR)

Questa definizione di profilazione, adottata nel Regolamento Europeo per la protezione dei dati (GDPR) trova la sua origine nella Raccomandazione CM/Rec (2010)13 del Consiglio d’Europa, che descrive la profilazione come un processo composto da tre fasi:

• Data warehounsing: raccolta e memorizzazione dei dati su larga scala;
• Data Mining: analisi automatizzata per individuare correlazioni;
• Applicazione delle correlazioni ad una persona fisica, per individuare caratteristiche di comportamenti presenti o future.

La profilazione non è un’attività tipicamente umana, ma volendo fare un paragone è possibile assimilarla al fenomeno umano dello stereotipo.

Lo stereotipo è una caratteristica soggettiva semplificata e persistente applicata ad un luogo, un oggetto, un avvenimento o ad un gruppo riconoscibile di persone accomunate da certe caratteristiche o qualità.

In psicologia lo stereotipo è un’opinione precostituita, generalizzata e semplicistica, che non si fonda cioè sulla valutazione personale dei singoli casi ma si ripete meccanicamente, su persone o avvenimenti e situazioni

Viceversa, per personalizzazione si intende l’attività di conferire carattere personale, adattare al carattere, all’attività, alle esigenze o necessità, ai gusti di una persona, o di più persone, ciò che altrimenti sarebbe comune o tradizionale, convenzionale, standardizzato.

È facile ora capire che profilazione e personalizzazione sono due concetti estremamente diversi.

Scopo della profilazione non è quindi elaborare dati al fine di creare beni o servizi personalizzati, ma trovare correlazioni tra individui, al fine di assegnare un profilo (stereotipo) che possa descrivere in modo semplificato e generalizzato il loro comportamento.

Questi profili sono principalmente utilizzati per sviluppare meccanismi di persuasione con l’unico scopo di spingere le persone a compiere delle azioni desiderate e predeterminate, come comprare un prodotto.

Oggi ci sono molte società di data analytics che offrono servizi di “cognitive profiling”, per coinvolgere i clienti al momento giusto, e spingerli verso il comportamento desiderato.

Il caso Cambridge Analytica insegna in realtà che la profilazione unita alla psicografia è ormai utilizzata in ogni settore umano, a partire dalla politica.

Nonostante tutto, la profilazione è un’attività per sua natura soggetta ad errori.

Da un lato, perché è un’attività che prevede una semplificazione e generalizzazione della realtà. Dall’altro, perché gli algoritmi di machine learning utilizzati per analizzare e correlare i dati soffrono spesso di bias e malfunzionamenti nascosti, da cui derivano decisioni pregiudizievoli per le persone

Lo scorso anno Apple è stata oggetto di indagine in merito algoritmi di credit scoring (una forma di profilazione finanziaria) usati per il servizio di carta di credito, perché in modo automatizzato assegnavano un limite di credito inferiore alle donne, a parità di condizioni

La profilazione è uno dei grandi problemi del nostro periodo storico, perché rischia di rimuovere in modo sistemico e subdolo tutta la nostra libertà di autodeterminazione.

Se ogni nostra scelta è preconfezionata sulla base di un profilo arbitrario che qualcuno ha costruito su di noi, come possiamo esercitare il nostro libero arbitrio?

Come possiamo mantenere saldi i nostri principi democratici se gli elettori sono subdolamente manipolati attraverso campagne mirate di fake news sulla base di profilazione psicografica?

Questo sono le domande che la società e la politica dovrebbe porsi.

I dati personali sono la manifestazione digitale della nostra identità.

Trattare dati in modo non etico, subdolo, e senza rispetto per i diritti delle persone significa condannarci ad un futuro disumano, fatto di algoritmi nascosti che condizionano fin dalla nascita la nostra vita.