NEWS

I rischi della 10 years challenge
Post by: Mv service
23/09/2020 16:15

Spopola sui social la sfida che invita a mettere a confronto foto di 10 anni fa e di oggi. Ma siamo proprio sicuri di voler insegnare a un algoritmo a riconoscere come cambiano le persone nel corso degli anni?

Facebook (Getty Images)

Ogni volta che un captcha code vi chiede di indicare in quali immagini sono presenti delle automobili o un cane, non state solo dimostrando di non essere dei bot. State prima di tutto addestrando un’intelligenza artificiale (per la precisione, un algoritmo di image recognition) a riconoscere una macchina o un cane in tutte le sue forme, colori e posizioni.

I sistemi di machine learning hanno bisogno di centinaia di migliaia di dati (e altrettanti tentativi) per imparare a fare tutto ciò che oggi va sotto il nome di intelligenza artificiale: capire le indicazioni che date ad Alexa, trascrivere correttamente ciò che state dettando allo smartphone e riconoscere i volti ripresi da una telecamera di sorveglianza o che compaiono nelle foto che postate su Facebook.

A proposito di foto e di Facebook. Vi sarà sicuramente capitato di vedere la (e magari partecipare alla) 10 years challenge, in cui si confrontano le proprie foto di oggi con quelle scattate una decina di anni fa. Visto così, si tratta di un innocuo giochino tipicamente da social network, giusto? Come sottolineato dalla scrittrice Kate O’Neill, questa visione ingenua poteva andare bene una decina di anni fa. Oggi invece dovrebbe venire spontaneo domandarsi come verranno utilizzati tutti questi dati e se serviranno ad addestrare un algoritmo a riconoscere come cambiano le persone con il progredire dell’età.

Il tweet in questione, che poi è stato ampliato in un articolo su Wired Usa, potrebbe sembrare un po’ paranoico: perché mai dovremmo vedere tutto ciò che avviene su Facebook come potenzialmente pericoloso? In fondo, la 10 years challenge è solo un passatempo divertente. Un po’ come quei quiz in cui, dopo aver risposto ad alcune domande, ci viene detto che personalità abbiamo o a quale personaggio storico assomigliamo. Il problema, come probabilmente saprete, è che quiz di questo tipo sono esattamente quelli sfruttati, per fare solo un esempio, da Cambridge Analytica per mettere a punto uno dei più inquietanti sistemi di propaganda elettorale mai visti (e che potrebbero aver contribuito alla vittoria di Donald Trump).

Il punto, quindi, è proprio che oggi non possiamo più permetterci l’ingenuità con cui per lungo tempo ci siamo approcciati ai giochini da social come la 10 years challenge. Sarebbe il caso di valutare sempre quale sia l’utilizzo che può essere fatto dei dati che diamo in pasto alle piattaforme (e ai loro algoritmi) e quali potrebbero essere le potenziali implicazioni tecnologiche e sociali.

Ovviamente, come sottolinea la stessa O’Neill, Facebook possiede già una marea di nostre immagini personali. Ma è evidente che facogitare centinaia di migliaia di foto in cui noi stessi mettiamo a confronto come siamo oggi rispetto a dieci anni fa può, come minimo, semplificare notevolmente il lavoro all’algoritmo del social network, offrendogli delle immagini già perfettamente etichettate e databili con assoluta precisione (oltre che prive del “rumore” causato dalla scelta di molti utenti di Facebook di usare foto di animali, cartoni o personaggi famosi come immagine del profilo). Tutto questo potrebbe permettere all’algoritmo di imparare come uomini e donne cambiano nel corso del tempo e anche a riconoscere la stessa persona nonostante lo scorrere degli anni.

“In poche parole”, scrive O’Neill, “grazie a questo meme oggi è possibile costruire un database molto ampio di fotografie, attentamente etichettate, che mostrano le persone com’erano dieci anni fa e come sono oggi”. Detto questo, potrebbe anche essere che la 10 years challenge sia realmente nata in modo del tutto spontaneo e che nessuno la stia utilizzando per scopi ignoti.

Ma sarebbe un atteggiamento davvero ingenuo, soprattutto considerando quanto si stiano diffondendo gli algoritmi di face recognition che, un domani, ci permetteranno di pagare usando solo il nostro volto, di riconoscerci all’interno di un negozio (automatizzando tutto il processo di acquisto e mostrando sconti pensati appositamente per noi) e ovviamente ampliare ulteriormente le potenzialità delle telecamere di sorveglianza che – in Cina, negli Stati Uniti, nel Regno Unito e altrove – stanno diventando onnipresenti.

La 10 years challenge, in particolare, potrebbe tornare molto utile per tre differenti utilizzi del riconoscimento facciale, alcuni, ma non tutti, socialmente utili. “Questa tecnologia”, scrive sempre O’Neill, “potrebbe aiutare a ritrovare i bambini scomparsi. (…) Se i bambini sono stati smarriti da tempo, potrebbero avere un aspetto molto diverso rispetto alle loro ultime foto; quindi un algoritmo affidabile, in grado di riconoscere come si cambia con l’età, potrebbe essere estremamente utile”.

Nei regimi autoritari, però, la stessa tecnologia potrebbe risultare estremamente utile per riconoscere i dissidenti anche a distanza di anni, nel momento stesso in cui vengono inquadrati dalle telecamere di sorveglianza. Oppure per schedare chi partecipa a manifestazioni sgradite con la certezza di poterlo sempre riconoscere (allo stesso modo, potrebbe tornare molto utile per individuare con maggiore facilità i latitanti, sostituendo le famose ricostruzioni che ci mostrano, per esempio, che volto potrebbe avere oggi il superlatitante Matteo Messina Denaro).

I timori relativi a queste tecnologie, insomma, sono sempre gli stessi: da una parte possono facilitare il lavoro delle forze dell’ordine, dall’altra rischiano di precipitarci in una società in cui tutti siamo costantemente sorvegliati. La 10 years challenge, da questo punto di vista, potrebbe contribuire ad addestrare questi sistemi e a renderli sempre più efficienti. Potrebbe anche non essere così, ma il punto è un altro: in un’epoca in cui l’intelligenza artificiale è sempre più pervasiva, in cui i nostri dati sono vengono sfruttati in modo improprio dai colossi della Silicon Valley e in cui il timore della sorveglianza di massa si fa sempre più largo, dovremmo prestare molta più attenzione ai possibili utilizzi di quelli che a prima vista sembrano solo innocui giochini. O il caso Cambridge Analytica non ci ha insegnato proprio nulla?

[Aggiornamento del 17/1/2019, ore 15:15. In merito all’articolo un portavoce di Facebook commenta:“Si tratta di un meme creato dagli utenti e che è diventato virale in modo spontaneo. Non abbiamo iniziato noi questo trend, in cui vengono utilizzate foto già esistenti sulla piattaforma, e non guadagniamo nulla da questo meme (se non ricordarci quanto fosse discutibile la moda nel 2009). Per inciso, gli utenti di Facebook possono, in qualsiasi momento, scegliere se attivare o disattivare il riconoscimento facciale”].


Fonte: WIRED.it