Scopri come integrare le pratiche di Responsible AI nel tuo flusso di lavoro ML utilizzando TensorFlow
TensorFlow si impegna ad aiutare a compiere progressi nello sviluppo responsabile dell'IA condividendo una raccolta di risorse e strumenti con la comunità ML.
Cos'è l'IA responsabile?
Lo sviluppo dell'IA sta creando nuove opportunità per risolvere problemi complessi e reali. Sta anche sollevando nuove domande sul modo migliore per costruire sistemi di intelligenza artificiale a vantaggio di tutti.
Best practice consigliate per l'IA
La progettazione di sistemi di intelligenza artificiale dovrebbe seguire le migliori pratiche di sviluppo del software tenendo al contempo un approccio centrato sull'uomo
approccio al ML
Equità
Poiché l'impatto dell'IA aumenta in tutti i settori e le società, è fondamentale lavorare per sistemi che siano equi e inclusivi per tutti
Interpretabilità
Comprendere e fidarsi dei sistemi di intelligenza artificiale è importante per garantire che funzionino come previsto
Riservatezza
L'addestramento dei modelli a partire da dati sensibili richiede salvaguardie per la tutela della privacy
Sicurezza
L'identificazione di potenziali minacce può aiutare a mantenere i sistemi di intelligenza artificiale sicuri e protetti
AI responsabile nel tuo flusso di lavoro ML
Pratiche di IA responsabili possono essere incorporate in ogni fase del flusso di lavoro ML. Ecco alcune domande chiave da considerare in ogni fase.
Per chi è il mio sistema ML?
Il modo in cui gli utenti effettivi sperimentano il tuo sistema è essenziale per valutare il vero impatto delle sue previsioni, consigli e decisioni. Assicurati di ricevere input da un gruppo eterogeneo di utenti all'inizio del processo di sviluppo.
Sto usando un set di dati rappresentativo?
I tuoi dati sono campionati in modo da rappresentare i tuoi utenti (ad es. verranno utilizzati per tutte le età, ma hai solo dati sulla formazione di anziani) e l'ambiente reale (ad es. verranno utilizzati tutto l'anno, ma hai solo formazione dati dell'estate)?
C'è un pregiudizio del mondo reale/umano nei miei dati?
I pregiudizi alla base dei dati possono contribuire a complessi cicli di feedback che rafforzano gli stereotipi esistenti.
Quali metodi dovrei usare per addestrare il mio modello?
Utilizzare metodi di addestramento che integrano equità, interpretabilità, privacy e sicurezza nel modello.
Come si comporta il mio modello?
Valuta l'esperienza utente in scenari reali attraverso un ampio spettro di utenti, casi d'uso e contesti d'uso. Testare e iterare prima nel dogfood, seguito da test continui dopo il lancio.
Ci sono cicli di feedback complessi?
Anche se tutto nella progettazione complessiva del sistema è realizzato con cura, i modelli basati su ML raramente funzionano con una perfezione del 100% se applicati a dati reali e in tempo reale. Quando si verifica un problema in un prodotto attivo, valuta se è in linea con eventuali svantaggi sociali esistenti e in che modo sarà influenzato dalle soluzioni a breve e lungo termine.
Strumenti di intelligenza artificiale responsabili per TensorFlow
L'ecosistema TensorFlow ha una suite di strumenti e risorse per aiutare ad affrontare alcune delle domande di cui sopra.
Definisci problema
Utilizza le seguenti risorse per progettare modelli tenendo conto di Responsible AI.
Ulteriori informazioni sul processo di sviluppo dell'IA e considerazioni chiave.
Esplora, tramite visualizzazioni interattive, domande e concetti chiave nel regno dell'IA responsabile.
Costruire e preparare i dati
Utilizza i seguenti strumenti per esaminare i dati alla ricerca di potenziali distorsioni.
Esamina in modo interattivo il tuo set di dati per migliorare la qualità dei dati e mitigare i problemi di equità e bias.
Analizza e trasforma i dati per rilevare i problemi e progettare set di funzionalità più efficaci.
Una scala di tonalità della pelle più inclusiva, con licenza aperta, per rendere le tue esigenze di raccolta dati e creazione di modelli più solide e inclusive.
Costruisci e addestra il modello
Utilizza i seguenti strumenti per addestrare i modelli utilizzando tecniche di tutela della privacy, interpretabili e altro ancora.
Addestra modelli di machine learning per promuovere risultati più equi.
Addestra modelli di machine learning utilizzando tecniche di apprendimento federato.
Implementa modelli basati su reticolo flessibili, controllati e interpretabili.
Valuta modello
Eseguire il debug, valutare e visualizzare le prestazioni del modello utilizzando i seguenti strumenti.
Valuta le metriche di equità comunemente identificate per i classificatori binari e multiclasse.
Valuta i modelli in modo distribuito e calcola su diverse porzioni di dati.
Valutare le proprietà di privacy dei modelli di classificazione.
Distribuisci e monitora
Utilizza i seguenti strumenti per tenere traccia e comunicare il contesto e i dettagli del modello.
Genera schede modello con facilità utilizzando il toolkit Model Card.
Registra e recupera i metadati associati ai flussi di lavoro di sviluppatori ML e data scientist.
Organizzare i fatti essenziali dell'apprendimento automatico in modo strutturato.
Risorse comunitarie
Scopri cosa sta facendo la community ed esplora i modi per essere coinvolta.
Aiuta i prodotti Google a diventare più inclusivi e rappresentativi della tua lingua, regione e cultura.
Abbiamo chiesto ai partecipanti di utilizzare TensorFlow 2.2 per creare un modello o un'applicazione tenendo presenti i principi dell'IA responsabile. Dai un'occhiata alla gallery per vedere i vincitori e altri fantastici progetti.
Presentazione di un framework per pensare a ML, equità e privacy.