Big data e algoritmi. Prospettive critiche

Big data e algoritmi costruiscono correlazioni, regolarità e quantificazioni per proporre interpretazioni dei fenomeni sociali in base ad automatismi matematici. Tuttavia, come svela questo libro, è un’illusione pensare che una comprensione automatica di abitudini ed eventi possa essere oggettiva e neutrale. Le tecnologie dell’intelligenza artificiale ambiscono a definire ciò che è stato e ad anticipare il futuro, ma sono state inventate e sviluppate da esseri umani, e ne conservano perciò il genio, l’instabilità, i pregiudizi, spesso anche l’arroganza. Affidarsi ad algoritmi per prendere decisioni in contesti incerti come quelli della vita reale, dove non è possibile determinare gli obiettivi univocamente, consente a chi definisce i criteri di farlo all’ombra dell’opacità del dispositivo tecnico, senza doversi assumere responsabilità, anche a rischio di esiti iniqui. È quindi necessario chiedere giustizia su dati e algoritmi: chi è oggetto di processi decisionali automatici deve ottenere spiegazioni esplicite e condivise per le scelte, pubbliche o private che siano. Le valutazioni algoritmiche non possono essere l’alibi per un nuovo latinorum della tecno-aristocrazia internazionale.

Big data e algoritmi costruiscono correlazioni, regolarità e quantificazioni per proporre interpretazioni dei fenomeni sociali in base ad automatismi matematici. Tuttavia, come svela questo libro, è un’illusione pensare che una comprensione automatica di abitudini ed eventi possa essere oggettiva e neutrale. Le tecnologie dell’intelligenza artificiale ambiscono a definire ciò che è stato e ad anticipare il futuro, ma sono state inventate e sviluppate da esseri umani, e ne conservano perciò il genio, l’instabilità, i pregiudizi, spesso anche l’arroganza. Affidarsi ad algoritmi per prendere decisioni in contesti incerti come quelli della vita reale, dove non è possibile determinare gli obiettivi univocamente, consente a chi definisce i criteri di farlo all’ombra dell’opacità del dispositivo tecnico, senza doversi assumere responsabilità, anche a rischio di esiti iniqui. È quindi necessario chiedere giustizia su dati e algoritmi: chi è oggetto di processi decisionali automatici deve ottenere spiegazioni esplicite e condivise per le scelte, pubbliche o private che siano. Le valutazioni algoritmiche non possono essere l’alibi per un nuovo latinorum della tecno-aristocrazia internazionale.