Pelajari cara mengintegrasikan praktik AI yang Bertanggung Jawab ke dalam alur kerja ML Anda menggunakan TensorFlow
TensorFlow berkomitmen untuk membantu membuat kemajuan dalam pengembangan AI yang bertanggung jawab dengan berbagi kumpulan sumber daya dan alat dengan komunitas ML.
Apa itu AI yang Bertanggung Jawab?
Perkembangan AI menciptakan peluang baru untuk memecahkan masalah dunia nyata yang menantang. Ini juga menimbulkan pertanyaan baru tentang cara terbaik untuk membangun sistem AI yang bermanfaat bagi semua orang.
Praktik terbaik yang direkomendasikan untuk AI
Merancang sistem AI harus mengikuti praktik terbaik pengembangan perangkat lunak sambil mengambil yang berpusat pada manusia
pendekatan ML
Keadilan
Saat dampak AI meningkat di seluruh sektor dan masyarakat, sangat penting untuk mengupayakan sistem yang adil dan inklusif bagi semua orang
Interpretabilitas
Memahami dan memercayai sistem AI penting untuk memastikannya berfungsi sebagaimana mestinya
Pribadi
Model pelatihan dari data sensitif membutuhkan perlindungan perlindungan privasi
Keamanan
Mengidentifikasi potensi ancaman dapat membantu menjaga sistem AI tetap aman dan terjamin
AI yang bertanggung jawab dalam alur kerja ML Anda
Praktik AI yang bertanggung jawab dapat digabungkan di setiap langkah alur kerja ML. Berikut adalah beberapa pertanyaan kunci untuk dipertimbangkan pada setiap tahap.
Untuk siapa sistem ML saya?
Cara pengguna sebenarnya mengalami sistem Anda sangat penting untuk menilai dampak sebenarnya dari prediksi, rekomendasi, dan keputusannya. Pastikan untuk mendapatkan masukan dari beragam pengguna di awal proses pengembangan Anda.
Apakah saya menggunakan kumpulan data yang representatif?
Apakah data Anda diambil sampelnya dengan cara yang mewakili pengguna Anda (mis. akan digunakan untuk segala usia, tetapi Anda hanya memiliki data pelatihan dari warga lanjut usia) dan pengaturan dunia nyata (mis. akan digunakan sepanjang tahun, tetapi Anda hanya memiliki pelatihan? data dari musim panas)?
Apakah ada bias dunia nyata/manusia dalam data saya?
Bias yang mendasari data dapat berkontribusi pada umpan balik kompleks yang memperkuat stereotip yang ada.
Metode apa yang harus saya gunakan untuk melatih model saya?
Gunakan metode pelatihan yang membangun keadilan, interpretabilitas, privasi, dan keamanan ke dalam model.
Bagaimana kinerja model saya?
Evaluasi pengalaman pengguna dalam skenario dunia nyata di berbagai spektrum pengguna, kasus penggunaan, dan konteks penggunaan. Uji dan ulangi di dogfood terlebih dahulu, diikuti dengan pengujian lanjutan setelah peluncuran.
Apakah ada loop umpan balik yang kompleks?
Meskipun semua desain sistem secara keseluruhan dibuat dengan hati-hati, model berbasis ML jarang beroperasi dengan kesempurnaan 100% saat diterapkan pada data nyata dan langsung. Ketika masalah terjadi pada produk langsung, pertimbangkan apakah hal itu sejalan dengan kerugian masyarakat yang ada, dan bagaimana hal itu akan dipengaruhi oleh solusi jangka pendek dan jangka panjang.
Alat AI yang bertanggung jawab untuk TensFlow
Ekosistem TensorFlow memiliki rangkaian alat dan sumber daya untuk membantu menjawab beberapa pertanyaan di atas.
Definisikan masalah
Gunakan sumber daya berikut untuk merancang model dengan mempertimbangkan AI yang Bertanggung Jawab.
Pelajari lebih lanjut tentang proses pengembangan AI dan pertimbangan utama.
Jelajahi, melalui visualisasi interaktif, pertanyaan dan konsep kunci di ranah AI yang Bertanggung Jawab.
Membangun dan menyiapkan data
Gunakan alat berikut untuk memeriksa data untuk potensi bias.
Selidiki set data Anda secara interaktif untuk meningkatkan kualitas data dan memitigasi masalah keadilan dan bias.
Menganalisis dan mengubah data untuk mendeteksi masalah dan merekayasa rangkaian fitur yang lebih efektif.
Skala warna kulit yang lebih inklusif, berlisensi terbuka, untuk membuat kebutuhan pengumpulan data dan pembuatan model Anda lebih kuat dan inklusif.
Membangun dan melatih model
Gunakan fitur berikut untuk melatih model menggunakan teknik yang mempertahankan privasi dan dapat ditafsirkan, dan lainnya.
Latih model pembelajaran mesin untuk mempromosikan hasil yang lebih adil.
Latih model pembelajaran mesin menggunakan teknik pembelajaran federasi.
Menerapkan model berbasis kisi yang fleksibel, terkontrol, dan dapat ditafsirkan.
Mengevaluasi model
Debug, evaluasi, dan visualisasikan kinerja model menggunakan alat berikut.
Mengevaluasi metrik keadilan yang diidentifikasi secara umum untuk pengklasifikasi kelas biner dan multi.
Mengevaluasi model dengan cara terdistribusi dan menghitung potongan data yang berbeda.
Memeriksa, mengevaluasi, dan membandingkan model pembelajaran mesin.
Mengembangkan model pembelajaran mesin yang dapat ditafsirkan dan inklusif.
Menyebarkan dan memantau
Gunakan alat berikut untuk melacak dan berkomunikasi tentang konteks dan detail model.
Hasilkan kartu model dengan mudah menggunakan toolkit Model Card.
Rekam dan ambil metadata yang terkait dengan alur kerja developer ML dan data scientist.
Sumber daya komunitas
Pelajari apa yang dilakukan komunitas dan jelajahi cara untuk terlibat.
Bantu produk Google menjadi lebih inklusif dan mewakili bahasa, wilayah, dan budaya Anda.
Kami meminta peserta untuk menggunakan TensorFlow 2.2 untuk membuat model atau aplikasi dengan mempertimbangkan prinsip AI yang Bertanggung Jawab. Lihat galeri untuk melihat para pemenang dan proyek luar biasa lainnya.
Memperkenalkan kerangka kerja untuk memikirkan ML, keadilan, dan privasi.