In un'epoca in cui immagini sintetiche, deepfake e flussi di lavoro di intelligenza artificiale sempre più complessi dominano il nostro panorama digitale, la questione della fiducia nei dati non è mai stata così critica. Come possiamo fare affidamento sui dati che alimentano le nostre decisioni più importanti, dalla gestione di inondazioni e incendi boschivi alla sicurezza nazionale, alla risposta alle emergenze e alla pianificazione delle infrastrutture?
Si pensi alle catastrofiche inondazioni in Germania nel 2021. Nonostante i sistemi di allerta avanzati, sono emersi dubbi sull'accuratezza e la tempestività dei dati alla base dei modelli di previsione delle inondazioni, contribuendo a ritardi nelle evacuazioni e alla perdita di oltre 180 vite umane. In Australia, durante gli incendi boschivi del 2020, lacune e imprecisioni nelle immagini satellitari hanno reso più difficile per i soccorritori pianificare e impiegare le risorse in modo efficace.
La posta in gioco è altrettanto alta per la sicurezza nazionale e l'informazione pubblica. Nel 2022, un video deepfake di un importante leader politico è diventato virale, indebolendo brevemente la fiducia del pubblico e sollevando urgenti interrogativi sull'autenticità e l'attribuzione. Durante la pandemia di COVID-19, la disinformazione e la comunicazione di dati incoerenti hanno seminato confusione e complicato gli sforzi per coordinare una risposta efficace alla salute pubblica. Questi non sono scenari marginali: sono un'anteprima di ciò che accade quando l'integrità, la provenienza e l'affidabilità dei dati non sono integrate nei nostri sistemi in modo progettuale.
Per questo motivo, l'Open Geospatial Consortium (OGC) sta sviluppando un quadro di riferimento completo per l'integrità, la provenienza e l'affidabilità (IPT) dei dati geospaziali. Questo lavoro mira a creare una base solida su cui le organizzazioni di tutto il mondo possano fare affidamento e costruire, per garantire che i loro dati non siano solo utili, ma anche affidabili.
Questo è l'inizio di un'iniziativa della durata di un anno volta a definire cosa siano realmente i dati geospaziali affidabili e come noi, in quanto comunità globale, possiamo garantire che siano alla base dei sistemi da cui tutti dipendiamo.
Perché è importante adesso
Oggi le organizzazioni si affidano a un ecosistema di dati sempre più vasto e interconnesso, spesso acquisendo dati da provider esterni o elaborandoli tramite modelli di intelligenza artificiale "black-box". Ma questa comodità ha un costo: possiamo essere sicuri che i dati siano ciò che dichiarano di essere?
Abbiamo già visto immagini satellitari manipolate, modelli urbani 3D generati dall'intelligenza artificiale e reti stradali sintetiche. Questi non sono solo rischi teorici: sono sfide reali per la fiducia del pubblico, l'accuratezza operativa e la responsabilità.
In ambienti ad alto rischio, l'incertezza sull'integrità o l'origine dei dati può portare ad analisi errate, alla mancata ricezione di avvisi o persino a fallimenti nelle policy. È ora di passare dalla fiducia cieca alla fiducia basata sulle prove.
Cominciamo con alcune definizioni e un esempio per definire la prospettiva dell'OGC nella costruzione di questo framework.
L'integrità si riferisce al modo in cui i dati sono stati gestiti durante tutto il loro ciclo di vita, comprese le loro caratteristiche quali contenuto, accuratezza e completezza, dalla raccolta all'elaborazione e alla distribuzione. L'integrità può essere compromessa da manomissioni, errori o modifiche non documentate, pertanto le misure di sicurezza sono essenziali per garantirne l'affidabilità.
La provenienza si riferisce all'origine dei dati, a come sono stati modificati e a chi o cosa ha effettuato tali modifiche. La provenienza viene compromessa quando le operazioni che alterano i dati non vengono registrate, influenzando sia la tracciabilità che l'integrità.
Quando l'integrità e la provenienza dei dati sono ben documentate, coerenti e immodificabili, si pongono le basi per la fiducia nei dati stessi. La fiducia non significa semplicemente che l'utente sia certo che i dati soddisfino le sue aspettative, ma anche che la fonte, l'evoluzione e l'idoneità dei dati possano essere descritte in modo inequivocabile, in modo che anche altri possano utilizzarli.
Ad esempio, un satellite con parametri di fotocamera noti cattura un'immagine. Tale immagine viene trasmessa direttamente a un'organizzazione che la adatta a un modello del terreno utilizzando un algoritmo ben definito. L'immagine adattata viene quindi utilizzata per calcolare le dimensioni di un lago, sapendo che la sorgente ha una certa risoluzione in pixel e che l'elaborazione ha incluso la manipolazione dei dati per mantenere la risoluzione originale. Se ciascuna di queste transazioni, dalla raccolta all'elaborazione fino alla consegna, viene documentata utilizzando parametri standardizzati e univoci, gli utenti possono essere certi che i dati siano adatti alle loro esigenze e che le analisi possano essere convalidate e riprodotte.
COSTRUIRE LA FIDUCIA NEI DATI GEOSPAZIALI: PROGRESSI E PASSI SUCCESSIVI
L'OGC e altri enti hanno compiuto progressi significativi nello sviluppo di standard , strumenti e framework che migliorano l'IPT nei dati geospaziali. Questi sforzi forniscono le basi per garantire l'affidabilità, la tracciabilità e l'usabilità dei dati in tutti i settori. Alcuni aspetti del framework IPT sono già in atto o lo saranno a breve, come ad esempio i seguenti.
Integrità
Gli standard per i metadati definiscono i dati originali e quelli trasformati. Esistono standard consolidati per la registrazione dei metadati, ma è necessario sviluppare linee guida per l'uso efficace di una terminologia comune che consenta confronti "equivalenti".
Il registro dei modelli di sensori dell'OGC garantisce descrizioni coerenti delle capacità dei sensori. Questo registro risolve una parte del problema, ma è necessario sviluppare o integrare insiemi di definizioni simili per descrivere altre fonti e metodi di acquisizione dei dati.
Provenienza
Il linguaggio di markup per i dati di addestramento (Training Data Markup Language for AI) dell'OGC standardizza i set di dati di addestramento e validazione. Nell'ambito dell'OGC è in fase di sviluppo un nuovo progetto volto a creare metadati specializzati per descrivere i modelli di intelligenza artificiale utilizzati nell'elaborazione dei dati geospaziali.
Il registro delle misure di qualità dei dati di OGC e ISO stabilisce descrizioni quantificabili e coerenti della qualità dei dati. Queste misure di qualità sono applicabili alla descrizione dell'integrità dei dati e dell'impatto dell'elaborazione che determina la provenienza delle informazioni.
I componenti fondamentali per la tracciabilità dei dati vengono implementati dall'OGC in numerosi progetti dell'Unione Europea. Gli standard API dell'OGC sono costituiti da una serie di elementi funzionali implementabili in modo indipendente che, nel loro insieme, possono essere assemblati per creare un'implementazione. Allo stesso modo, i descrittori delle operazioni che influiscono sull'integrità dei dati e che fanno parte della tracciabilità possono essere modulari e inseriti in ogni fase del ciclo di vita dei dati.
Quello che viene dopo
Nonostante questi progressi, non è ancora stato completato un modello di Trust completo, basato su componenti IPT interoperabili e basati su standard.
Nel corso del prossimo anno, l'OGC collaborerà con i suoi membri e partner per:
- Integrare i componenti di base dell'IPT nei sistemi operativi e nei flussi di lavoro
- Garantire che i descrittori siano leggibili dalla macchina, a prova di manomissione e utilizzabili
- Parametri IPT del pacchetto con set di dati per la trasparenza end-to-end
- Rispecchiare le esigenze degli utenti del mondo reale attraverso una collaborazione aperta e test condivisi
Sii parte del futuro dei dati affidabili
Questo blog avvia un'analisi più approfondita del framework Integrità, Provenienza e Fiducia e di come noi, in quanto comunità, possiamo costruire insieme qualcosa di significativo e scalabile.
Pubblicheremo approfondimenti tecnici, casi d'uso concreti e opportunità di coinvolgimento durante tutto l'anno. Che tu sia uno sviluppatore di standard, un utente di dati, un professionista dell'intelligenza artificiale o un dipendente pubblico, la tua esperienza è fondamentale.
Unisciti al movimento:
Rendiamo l'affidabilità dei dati visibile, misurabile e condivisa, affinché tutti possano prendere decisioni migliori con sicurezza.
