Kryteria oceny działania systemu AI

Poprawność zastosowania AI zależy od pozytywnej oceny następujących działań

1) "wyjaśnienie procesu decyzyjnego, poprzez wskazanie przyczyn, które doprowadziły do podjęcia decyzji określonej treści – podane w przystępny i nietechniczny sposób;

Opis spełnienia kryterium/Uwagi

2) wyjaśnienie odpowiedzialności, a więc wskazanie, kto był zaangażowany w rozwój, wdrażanie, zarządzanie i eksploatację systemu AI;

Opis spełnienia kryterium/Uwagi

3) objaśnienie danych, poprzez wskazanie, jakie dane zostały wykorzystane w danej decyzji i w jaki sposób, jakie dane wykorzystano do szkolenia i testowania systemu AI oraz w jaki sposób, czy dane są rzetelne (nie powodują przechyłu algorytmicznego, z ang. bias) i czy liczba wykorzystanych danych jest wystarczająca;

Opis spełnienia kryterium/Uwagi

4) wyjaśnienie dotyczące bezpieczeństwa, czyli dowód na dokładność, niezawodność, bezpieczeństwo i odporność systemu AI;

Opis spełnienia kryterium/Uwagi

5) wyjaśnienie wpływu, jaki korzystanie z systemu AI i jego decyzje ma lub może mieć na Annę Kowalską lub szerzej – na określoną grupę społeczną;

Opis spełnienia kryterium/Uwagi

6) uzasadnienie wyniku, rozumiane w ten sposób, że istotne jest nie tylko wyjaśnienie, dlaczego określona decyzja została podjęta, ale także uzasadnienie, że wynik działania AI jest obiektywny i sprawiedliwy"1.