Basta esse­re   pre­sbi­te­ro, teo­lo­go e defi­nir­si filo­so­fo ita­lia­no del Ter­zo ordi­ne rego­la­re di San Fran­ce­sco,  Inse­gna­re  pres­so la LUISS Gui­do, per uti­liz­za­re  un ter­mi­ne ossi­mo­ro e con­tra­ni­mo  ed incan­ta­re una platea ?

.Vener­dì 13 novem­bre, nel­la sede di Con­fin­du­stria Caser­ta, padre Pao­lo Benan­ti ha pre­sen­ta­to il suo ulti­mo sag­gio, Il caso Guil­lou, nell’ambito dell’incontro «Eti­ca, intel­li­gen­za arti­fi­cia­le e futu­ro». L’appuntamento rien­tra nel ciclo pro­mos­so dal Grup­po di lavo­ro sull’intelligenza arti­fi­cia­le, nato nel 2025 per volon­tà del pre­si­den­te Lui­gi Del­la Gat­ta e soste­nu­to dai vice­pre­si­den­ti Adol­fo Bot­taz­zo e Cle­lia Cri­sci. Al cen­tro del con­fron­to una doman­da: come gover­na­re una tec­no­lo­gia che appren­de, con­di­zio­na il lavo­ro e inter­vie­ne nel­la vita del­le persone?

Lo stu­dio­so  ha pre­so le mos­se dal­la vicen­da di Nico­las Guil­lou, magi­stra­to fran­ce­se del­la Cor­te pena­le inter­na­zio­na­le, col­pi­to nel 2025 da san­zio­ni sta­tu­ni­ten­si dopo i man­da­ti d’arresto con­tro i ver­ti­ci del gover­no israe­lia­no. La con­se­guen­za è sta­ta l’e­sclu­sio­ne da ser­vi­zi digi­ta­li e finan­zia­ri, con il bloc­co di account e stru­men­ti di paga­men­to. Una sor­ta di «mor­te digi­ta­le», sen­za le ordi­na­rie garan­zie di un pro­ce­di­men­to giu­di­zia­rio. Non è sol­tan­to la vicen­da di un magi­stra­to: per­de­re l’ac­ces­so alla posta elet­tro­ni­ca, ai ser­vi­zi ban­ca­ri e alle piat­ta­for­me signi­fi­ca esse­re esclu­si da una par­te cre­scen­te del­la vita quotidiana.

La rifles­sio­ne di Benan­ti riguar­da  la sovra­ni­tà e la sepa­ra­zio­ne dei pote­ri e le  isti­tu­zio­ni pub­bli­che, impre­se tec­no­lo­gi­che avan­za­te e reti finan­zia­rie sono com­pli­ci nel­l’e­se­gui­re una san­zio­ne,  Un pro­ble­ma che ren­de dif­fi­ci­le indi­vi­dua­re chi deci­de e soprat­tut­to a chi rivol­ger­si per con­te­sta­re il prov­ve­di­men­to. È que­sto il pun­to più con­vin­cen­te del suo ragionamento.

Più discu­ti­bi­le, inve­ce, è la for­mu­la ripor­ta­ta nel­la pre­sen­ta­zio­ne del libro: «l’al­go­rit­mo deci­de sen­za appel­lo, la piat­ta­for­ma ese­gue sen­za respon­sa­bi­li­tà». Un’e­spres­sio­ne effi­ca­ce sul pia­no comu­ni­ca­ti­vo, ma impre­ci­sa sul pia­no tec­ni­co e giu­ri­di­co. Un algo­rit­mo non deci­de auto­no­ma­men­te: ese­gue istru­zio­ni e pro­ce­du­re defi­ni­te da per­so­ne. Anche nei siste­mi di appren­di­men­to auto­ma­ti­co, archi­tet­tu­ra, dati e obiet­ti­vi sono il risul­ta­to di scel­te uma­ne. La respon­sa­bi­li­tà, quin­di, non appar­tie­ne alla mac­chi­na, ma a chi pro­get­ta, gesti­sce e uti­liz­za il sistema.

Attri­bui­re all’al­go­rit­mo una deci­sio­ne rischia di offri­re un ali­bi pro­prio a chi dovreb­be rispon­der­ne. Il pro­ble­ma non è la volon­tà del­la mac­chi­na, ma l’as­sen­za di garan­zie: una base giu­ri­di­ca, una deci­sio­ne moti­va­ta, il dirit­to di esse­re ascol­ta­ti e la pos­si­bi­li­tà di ricor­re­re a un giudice.

Su que­sto ter­re­no si inse­ri­sce il pen­sie­ro del­l’a­mi­co oli­vet­tia­no Fede­ri­co Fag­gin,  inven­to­re del micro­cip e del­le reti neu­ra­li,  che a Caser­ta in una pre­ce­den­te occa­sio­ne, ave­va soste­nu­to che la coscien­za non è un algo­rit­mo e non può esse­re ripro­dot­ta attra­ver­so il cal­co­lo. Per Fag­gin una mac­chi­na può ela­bo­ra­re sim­bo­li e pro­dur­re risul­ta­ti, ma non per que­sto com­pren­de il signi­fi­ca­to di ciò che fa. La respon­sa­bi­li­tà non può esse­re tra­sfe­ri­ta a un siste­ma auto­ma­ti­co. Una posi­zio­ne che, pur par­ten­do da pre­sup­po­sti filo­so­fi­ci diver­si, non è sta­to evi­den­zia­to da  Benan­ti: man­te­ne­re l’es­se­re uma­no al cen­tro del­le decisioni.

Di segno diver­so è la rifles­sio­ne di Ric­car­do Cam­pa, espo­nen­te del tran­su­ma­ne­si­mo, che si inter­ro­ga sul­la pos­si­bi­li­tà di un’e­vo­lu­zio­ne tec­no­lo­gi­ca capa­ce di gene­ra­re for­me di coscien­za supe­rio­ri a quel­la uma­na. Ma si trat­ta di un’i­po­te­si sul futu­ro. Il caso Guil­lou riguar­da inve­ce il pre­sen­te, nel qua­le die­tro ogni pro­ce­du­ra auto­ma­tiz­za­ta esi­sto­no anco­ra sog­get­ti uma­ni e respon­sa­bi­li­tà identificabili.

Anche il ter­mi­ne «algo­re­ti­ca», caro a Benan­ti, meri­ta una pre­ci­sa­zio­ne. Gli algo­rit­mi pos­so­no esse­re pro­get­ta­ti rispet­tan­do prin­ci­pi eti­ci e cri­te­ri di tute­la, ma non pos­sie­do­no un’e­ti­ca pro­pria. Un siste­ma impo­sta­to per evi­ta­re discri­mi­na­zio­ni non diven­ta giu­sto: sono le per­so­ne e le orga­niz­za­zio­ni che devo­no rispon­de­re del­le sue conseguenze.

Il mes­sag­gio per gli impren­di­to­ri pre­sen­ti a Con­fin­du­stria Caser­ta è con­cre­to. Affi­da­re posta elet­tro­ni­ca, con­ta­bi­li­tà, paga­men­ti e archi­vi a piat­ta­for­me ester­ne signi­fi­ca dipen­de­re da infra­strut­tu­re che pos­so­no esse­re sospe­se anche per deci­sio­ni assun­te lon­ta­no dal­l’a­zien­da. Ser­vo­no con­trat­ti chia­ri, respon­sa­bi­li iden­ti­fi­ca­bi­li, copie auto­no­me dei dati e pro­ce­du­re alter­na­ti­ve per garan­ti­re la con­ti­nui­tà dei servizi.

Benan­ti ha por­ta­to a Caser­ta un pro­ble­ma che non riguar­da sol­tan­to il futu­ro del­l’in­tel­li­gen­za arti­fi­cia­le, ma il fun­zio­na­men­to del­la demo­cra­zia e l’au­to­no­mia del­le impre­se. La sua dia­gno­si richia­ma giu­sta­men­te l’at­ten­zio­ne sui nuo­vi pote­ri tec­no­lo­gi­ci, ma occor­re evi­ta­re che il lin­guag­gio fini­sca per nascon­de­re chi quei pote­ri li esercita.

La que­stio­ne, in fon­do, è sem­pli­ce: deci­de qual­cu­no, ese­gue una mac­chi­na, rispon­de una per­so­na. Il pote­re resta degli uomi­ni. Ed è agli uomi­ni, non agli algo­rit­mi, che biso­gna chie­de­re conto.

Mau­ro Neme­sio Rossi