Come tanti miei lettori sanno il titolo del blog 'Free software in Free World' è legato al problema del 'codice nascosto'.
Ovvero solo il programmatore può sapere cosa fa il programma se il software non è libero (Open Source).
In un mondo sempre più di oggetti intelligenti abbiamo sempre più oggetti blindati da cui dipendiamo.
Troverete mille articoli su questo nel mio Blog, dall'allarme per l'auto alla lavatrice.
Oggi siamo circondati da oggetti 'intelligenti', ma come un umano può sbagliare, a maggior ragione un algoritmo può non aver tenuto conto di situazioni particolari o aver ricevuto input sbagliati e sbagliare.
Il software oramai è dappertutto, da una lavatrice all'auto a guida autonoma.
Quello che cambia è il rischio, una lavatrice può non lavare, surriscaldarsi e prendere fuoco.
In tal caso però è abbastanza facile distinguere tra cause interne ed esterne.
Immaginate un auto a guida autonoma, quella che nella pubblicità ti salva se ti stai addormentando con il rischio di andare a sbattere.
E se succedesse il contrario? Io le ho chiesto di andare dritto e lei è andata a falcidiare i pedoni?
Se questo accade (se ne uscite vivi), come si fa a sapere di chi è la colpa?
Qualunque programmatore un minimo scrupoloso mantiene un Log degli eventi (la storia), in pratica 'i sensori mi hanno detto questo, io ho reagito così'.
Ma siamo sicuri che questo Log ci sia?
Peccato che se anche c'è, di norma gli unici in grado di leggerlo sono quelli della casa che ha scritto il software.
In pratica se mi chiedi se ho sbagliato te lo dico io, senza che tu abbia gli strumenti per dimostrare il contrario.
Vedi la vicenda della monoruota che si è spenta causandomi lesioni varie, l'assistenza potrebbe darmela indietro dicendo 'non è successo niente' e io non sarei in grado di replicare (anche perché una volta che il costruttore ce lo ha in mano, azzerare ogni eventuale traccia di eventi accaduti ci vuole un attimo).
Sarebbe come dire, un Boeing cade, andiamo a chiedere a loro se era tutto apposto.
Ovviamente negli anni ci si è resi conto della necessità delle 'scatole nere', queste contengono tutti gli ultimi eventi rilevanti e non è manipolabile dalle compagnie aeree e soprattutto è analizzabile da parti terze, ma per gli aerei.
Quanta gente dovrà farsi male con i monopattini, le monoruote, e le auto a guida autonoma, o anche solo assistita?
La scatola nera dovrebbe essere un must per questi dispositivi, quando da decisioni di un software dipende la vita e l'integrità delle persone, tutte le decisioni prese i dati rilevati ecc. devono finire in una scatola nera, anche per i monopattini, monoruote ecc.
La Germania lo sta richiedendo per le auto a guida autonoma.
Noi neanche ci poniamo il problema, anzi, ci fidiamo così tanto che neanche richiediamo l'uso del casco nei mezzi elettrici.