Sei in: Home » Ricerca » Terza Missione » Big Data » Valerio Cencig - Chief data officer del Gruppo IntesaSanpaolo

Valerio Cencig - Chief data officer del Gruppo IntesaSanpaolo

di Luigi Crimella

Bene i big data e l’intelligenza artificiale, ma in parallelo occorre sviluppare l’etica

Big data e Intelligenza artificiale: è il nuovo binomio che corre sulla bocca di tutti, specie quando si parla di applicazioni legate alle vendite, marketing, finanza, ricerca scientifica, sicurezza, gestione dei trasporti, servizi sociali. L’esplosione dei “dati” e il progressivo affinamento della loro analisi, con forme di auto-apprendimento dei computer guidati da sempre più potenti algoritmi di calcolo, apre interessanti prospettive di sviluppo per molti comparti. Uno di questi, tra i primi ad essere impattato da tali novità, è quello bancario e finanziario. Per capire come l’intelligenza artificiale (abbreviata in AI – artificial intelligence) e i big data siano entrati nelle istituzioni finanziarie abbiamo intervistato Valerio Cencig, Data Officer del gruppo Intesa Sanpaolo.

1 - Quale ruolo gioca l’AI nelle Banche?
CENCIG - In una era in cui i dati crescono più della nostra capacità di elaborarli, l’AI è una necessità: come le precedenti rivoluzioni industriali hanno sostanzialmente sostituito o alleggerito il lavoro muscolare, superando i limiti fisici del corpo, ora tocca alla nostra mente, non programmata per una tale complessità. Ma l’AI non è solo una necessità, bensì anche una straordinaria opportunità di business: si stima che l’AI sia la seconda tra le Innovazioni in termini di impatto massimo sulla creazione di volumi di business, ma la prima per Impatto minimo, ossia in termini di certezza dell’effetto (fonte: McKinsey).

2 – E’ indubitabile l’aiuto che l’AI potrà dare all’uomo in tutti i campi. Nello specifico, quali saranno i vantaggi per il mondo bancario e finanziario?
CENCIG
- Il vantaggio dell’AI, ed in generale dei modelli di Machine Learning sottesi, è che tali modelli, a differenza di quelli rule based, che nel tempo non migliorano ma anzi peggiorano, perché non si adattano alle mutate condizioni in essere, evolvono e crescono in capacità ad ogni “generazione”. Le Banche dovranno quindi trasformarsi da Financial Company a Data (Driven) Company. Da segnalare che l’AI giocherà un ruolo importante non solo lato Banche, ma anche lato Clienti che, tramite Assistenti Virtuali, saranno supportati nella scelta della banca o meglio dei prodotti/prezzi di volta in volta migliori. Pertanto nascerà anche un MarkeThing, orientato agli Assistenti Virtuali che decideranno in alcuni casi in nome e per conto dei loro Utenti.

3 – Ci può fare qualche esempio?
CENCIG
- Sono davvero innumerevoli, perché tutti i Prodotti e Servizi della banca stanno diventando sempre più Data/AI intensive. Ecco alcuni esempi tra i tantissimi possibili: la valutazione del merito creditizio delle aziende svolta non più tramite l’analisi dei bilanci, disponibili tardivamente e di norma su base annuale, ma attraverso un collegamento diretto ai sistemi ERP delle aziende clienti, per una valutazione continua ed in tempo reale. Un altro campo riguarda il paradigma cosiddetto Always Connected che ha un importante risvolto business, perché significa essere sempre raggiungibili da un suggerimento, una offerta ed un servizio; il Customer relationship management (CRM) diventerà quindi sempre più real time.

4 – Le banche e società finanziarie ed assicurative stanno quindi predisponendosi per un contatto con la clientela always connected, cioè in presa diretta 24 ore su 24?
CENCIG
– L’orientamento è di favorire un marketing personalizzato e di massa contemporaneamente. Ogni persona diventerà potenzialmente un mercato singolo, puntiforme, servito in modo individuale e personalizzato, rendendo obsolete tutte le tecniche passate di segmentazione della Clientela. Di conseguenze anche il pricing diventerà sempre più dinamico, basato su Who, When e Why, cioè una offerta specifica basata sul chi-quando-perchè che cambia di volta in volta e di cliente in cliente. Nel settore assicurativo, ad esempio, la dinamica degli incidenti auto e la perizia dei danni saranno prodotte automaticamente attraverso l’analisi dei dati registrati e delle foto, con risarcimenti più veloci e minori possibilità di frode.

5 - Non c’è il rischio che a un certo punto l’AI possa sostituire l’uomo?
CENCIG
- Non credo ci sia questo pericolo, almeno nel medio termine: credo più in una collaborazione Uomo Macchina (Cobots); anzi, è nostra responsabilità indirizzare la ricerca in modo da potenziare le capacità umane, piuttosto che semplicemente rimpiazzarle. Certamente le Macchine sostituiranno l’Uomo in alcune attività più ripetitive ed esecutive, lasciando però all’Uomo quelle più complesse e tipicamente umane, come comunicare, ispirare, guidare, scegliere, ecc. Insomma, i robot ci renderanno più umani! E’ importante comprendere che la “difesa” del lavoro e del nostro ruolo passa attraverso la capacità di continuare ad imparare, sempre e per tutta la vita, soprattutto sviluppando quelle qualità non replicabili dalle macchine, come il Problem Solving, la Creatività, la Comunicazione, la Social Awareness, la Leadership, l’Iniziativa, la Curiosità.
Al riguardo nasceranno nuove professioni, legate ai dati, che richiederanno una azione importante di formazione (a partire dalle Università) e riqualificazione (interna alle Aziende), con un forte supporto pubblico (ad es. tramite agevolazioni fiscali), dal momento che le skill sono un fattore determinante per la competitività del Paese.

6 - Quindi il futuro potrà essere “tutto rosa e fiori”?
CENCIG
- Come tutte le grandi innovazioni, la combinazione di big data, potenza di calcolo e metodologie algoritmiche presenta anche numerosi, rilevanti e nuovi rischi potenziali. Ad esempio, l’Università di Oxford ha iscritto l’AI tra le catastrofi in grado di distruggere il Pianeta, insieme a Mutamento Climatico, Guerra Nucleare, ecc.. Vorrei provare ad indicare alcuni di tali rischi che mi pare si possano già oggi individuare. Uno è certamente l’Opacità. I modelli di Machine Learning funzionano spesso come delle black box e non è sempre possibile stabilirne con precisione le dinamiche. Il tema può essere particolarmente rilevante nei casi in cui “la fiducia conta” (es. modelli di scoring cioè di una qualche valutazione di merito), anche se ci sono eccezioni in cui l’opacità è un fattore positivo (es. modelli anti-terrorismo). C’è poi un secondo rischio che riguarda la Responsabilità. Poiché gli algoritmi di AI non sono deterministici, ma evolvono autonomamente imparando dall’esperienza, ossia dai dati, chi è responsabile ad esempio dell’incidente provocato da una vettura a guida autonoma? Anche nel quotidiano l’AI è talmente efficiente che rischia di de-responsabilizzare l’Uomo.

7 – Tra le critiche più forti e motivate che si sollevano verso il mondo dei dati e oggi anche dell’AI, ci sono quelle che riguardano i pregiudizi e il condizionamento che le grandi Data companies possono sviluppare. Cosa ne pensa?
CENCIG
– Al riguardo ci sono vari fattori da considerare. Quanto ai Bias, gli algoritmi di AI “imparano” dai dati; se questi riflettono dei pregiudizi, anche le decisioni degli algoritmi ne saranno affetti. La stessa cosa vale per l’innovazione, in quanto, in assenza di specifici interventi, gli algoritmi tendono a replicare i trend passati. Sul piano della Sicurezza l’AI permette di potenziare gli attacchi esistenti (es. cybersecurity) e di crearne di nuovi (es. comandando “sciami” di mini droni). Anzi, anche se “silenziosa”, è nel continuo in atto una “guerra” tra AI attaccanti ed AI difensive, nel cyber-spazio. C’è poi il grande tema del Controllo e Condizionamento. Le grandi Data Company (Google, Amazon, Facebook, Microsoft ed Apple) hanno un enorme potere di osservazione e condizionamento. Hanno una visione del mercato e della società ad altissima risoluzione. Intercettano opportunità e minacce prima degli altri. Conoscono quello che leggiamo, compriamo, condividiamo. Ad es. siamo ormai abituati a farci una idea delle cose leggendo i primi 10 risultati che otteniamo dai motori di ricerca, ma sono davvero “neutrali”?

8 – Qui si entra nei temi della privacy, dell’occupazione minacciata e dei monopoli. Sarà possibile gestire tutti questi fattori?
CENGIC
– Quanto alla Privacy, oggi ci sono nuove sfide; ad es. Smart TV e Smart Speaker ascoltano ciò che diciamo. Ma anche solo analizzando il modo in cui usiamo la tastiera (ritmo, pause, correzioni, ecc.) è possibile ricostruire un profilo psicologico (e situazionale) delle persone, trascendendo le classificazioni tradizionali tra dati “personali” e non. Quanto all’Occupazione, anche se, come detto sopra, l’AI potrebbe avere ricadute complessivamente positive, alcuni settori e professioni saranno ampiamente automatizzati, generando localmente ricadute occupazionali importanti. Quanto poi ai Monopoli, la Mass Customization conduce a Mercati Puntuali (il singolo Cliente), facile preda degli attori monopolistici in campo, e ciò per via della enorme asimmetria informativa tra Azienda e Cliente. Oggi le prime 5 Data Company capitalizzano 3,5 trillioni, quanto il PIL della Germania e 6 volte la Borsa Italiana, pari alla capitalizzazione della sola Amazon. Se nell’era degli Small data la preoccupazione era la Privacy, nel mondo dei Big data, a rischio di suonare enfatici o allarmisti, è la Libertà ed il Libero Arbitrio (stimolante al riguardo un Ted Talk di Cukier).

9 - Come fare quindi per catturare gli indubbi benefici, limitando i rischi?
CENCIG
- Occorre aprire una discussione franca ed allargata, finalizzata a promuovere un’adozione responsabile e sicura dell’AI. In tale contesto gioca senz’altro un ruolo di prim’ordine il Regulator, che dovrà agire a tutela della collettività, tramite azioni mirate, come ad esempio: la creazione di Organismi collettivi a difesa degli Individui; una maggiore cooperazione tra i diversi Regulator (antitrust, data protection, ecc.); lo sviluppo di una nuova generazione di legali e leggi relative all’auditabilità o “autopsia” dell’AI. Occorrerà puntare anche allo sviluppo di standard di affidabilità per l’AI, commercialmente vincolanti, anche attraverso sandbox pubbliche, e all’incentivazione fiscale di tecnologie AI socialmente virtuose (non solo accettabili) e ambientalmente friendly (non solo sostenibili). Ma leggi e norme non sono sufficienti; occorre in parallelo uno sviluppo dell’Etica, che deve tornare a giocare un ruolo importante nella Società e nell’Economia. Deve svilupparsi maggiore cultura, sensibilità ed attenzione presso il pubblico ed i manager di impresa, anche promuovendo la scrittura di codici di auto-condotta. Gli esperti di AI dovranno prestare un “giuramento di Ippocrate” ed improntare ogni loro attività avendo l’obiettivo di promuovere Prodotti e Servizi che “migliorino il Mondo”.

(12 febbraio 2019)
©Riproduzione Riservata


Corsi di Laurea Master e Post Laurea

Ateneo partner o membro di