Ginni Rometty (IBM): “Non sapete spiegare gli algoritmi di IA? Uscite dal mercato!”

Ci sono crescenti preoccupazioni sul fatto che i sistemi di intelligenza artificiale siano diventati una "scatola nera", di cui nessuno riesce a spiegare i processi decisionali

La CEO di IBM, Ginni Rometty, ha affermato che le aziende che non riescono a spiegare le decisioni prese dalle loro soluzioni di intelligenza artificiale dovrebbero uscire dal mercato.

In un articolo pubblicato nell’ambito del World Economic Forum che si sta svolgendo nella stazione sciistica svizzera di Davos, la Rometty ha auspicato l’arrivo di una “nuova era della responsabilità dei dati” caratterizzata dalla trasparenza intorno all’IA.Ci sono crescenti preoccupazioni sul fatto che i sistemi di intelligenza artificiale siano diventati una “scatola nera”, di cui nessuno – nemmeno il suo creatore – riesce a spiegare i processi decisionali.

“Riguardo alle nuove funzionalità dell’intelligenza artificiale, dobbiamo essere trasparenti su quando e come viene applicata, su chi l’ha addestrata, con quali dati e in che modo” ha scritto il presidente e CEO di IBM.

“Questa IA riflette schemi derivati da competenze professionali? Può includere bias e pregiudizi imprevisti? Dobbiamo spiegare perché i suoi algoritmi prendono un certo tipo di decisioni. Se un’azienda non può farlo, i suoi prodotti non dovrebbero essere sul mercato“.

Vi sono crescenti preoccupazioni sul fatto che i sistemi di intelligenza artificiale – principalmente nelle loro applicazioni basate su reti neurali, deep learning, algoritmi complessi e modelli grafici probabilistici – siano diventati una “scatola nera” di cui nessuno, nemmeno i suoi creatori, riesce a spiegare i processi decisionali.

Nella sua policy, IBM afferma di sostenere “le politiche di trasparenza e governance dei dati che garantiranno alla gente la comprensione di come un sistema di IA sia arrivato a una determinata conclusione o raccomandazione”.

Analogamente, Oracle e Amazon Web Services stanno cercando modi per rendere le proprie offerte AI più facilmente spiegabili ai clienti. Altri fornitori, come Google, hanno invece messo in dubbio il valore dello “spiegare cosa pensa una IA e perché”, sostenendo che nemmeno gli umani non sono molto bravi nel descrivere il proprio processo decisionale.

“I big data sommati alla IA stanno aprendo la strada a nuove innovazioni, hanno ampliato l’accesso a opportunità e offerto soluzioni ad alcuni dei problemi più urgenti della società. Ecco perché sto sollecitando tutti i miei colleghi leader nel mondo degli affari e dei governi ad adottare principi di gestione dei dati e trasparenza come quelli che ho menzionato. IBM li ha fatti propri e riteniamo che siano fondamentali per guadagnare la fiducia del pubblico”, ha aggiunto la Rometty.

WHITEPAPER GRATUITI

  • Computerworld Speciale Industria 4.0
    white paper

    Computerworld Italia – Speciale Industria 4.0

    Un PDF da scaricare per leggerlo comodamente su pc o tablet e avere sotto mano e in un unica soluzione le notizie, le analisi e gli approfondimenti sulla trasformazione in atto nel settore manifatturiero, da più parti definita "quarta rivoluzione industriale".
  • white paper

    Computerworld Italia – Speciale GDPR

    Un PDF da sfogliare online o scaricare per leggerlo comodamente su pc o tablet, per avere sotto mano e in un unica soluzione le notizie, le analisi e gli approfondimenti su come le aziende devono affrontare l'arrivo del GDPR.
  • white paper

    Computerworld Italia – Speciale Data Center

    Un PDF da sfogliare o scaricare su pc o tablet per avere sotto mano le notizie, le analisi e gli approfondimenti sulle principali tendenze dei Data Center: integrazione con il Cloud, approccio software-defined, ottimizzazione delle prestazioni energetiche e molto altro