Analiza prawna i etyczna wdrożenia systemu AI

Opis stanu faktycznego

Aspekty wymagające dalszej analizy i wyjaśnienia

Ocena etyczna

Ocena prawna

ZAŁOŻENIA PODSTAWOWE

Wykorzystanie 6 miesięcy danych ze zbiorów danych ACME Corp.

Konieczna analiza pod kątem:1) podstaw prawnych przetwarzania;2) celu przetwarzania danych;3) spełnienia obowiązku informacyjnego;4) oceny ryzyka; przetwarzania danych5) oceny skutków dla ochrony danych.

Uwaga ogólna:Należy ocenić, czy może istnieć potencjalnie negatywny wpływ na prawa podstawowe i ocenić skutki w ich zakresie.Aspekty etyczne zarządzania danymi i ochrony prywatności można ocenić zgodnie z wytycznymi „Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji”¹ w zakresie:1) poszanowania prywatności i ochrony danych,2) jakości i integralności danych,3) dostępu do danych.

RODOart. 6art. 9art. 5Podstawowe prawa do uwzględnienia w całym procesie budowy projektu:1) prawo dostępu do danych;2) prawo do sprostowania danych;3) prawo do usunięcia danych;4) prawo do ograniczenia przetwarzania danych;5) prawo do przenoszenia danych;6) prawo do sprzeciwu;7) prawo do uzyskania istotnych informacji na temat podstaw i zasad podejmowania decyzji (art. 13 ust. 2 lit. f, art. 14 ust. 2 lit. g i art. 15 ust. 1 lit. h RODO).

Dostawcą rozwiązania chmury jest CloudTech Solutions

Kto i na jakiej podstawie przetwarza dane?W przypadku CloudTech Solutions/ACME Corp., które będą procesorem, należy wybrać i sporządzić umowę przetwarzania.Należy zweryfikować, czy dane osobowe będą transferowane do USA w rozumieniu RODO.

Uwaga ogólna:Należy ocenić aspekty techniczne, tj.:1) odporność na ataki i bezpieczeństwo,2) plan awaryjny i bezpieczeństwo ogólne,3) dokładność,4) wiarygodność i odtwarzalność.

Artykuł 28 RODONależy zweryfikować CloudTech Solutions przetwarzający i udokumentować tę weryfikację oraz zawrzeć umowę powierzenia odpowiadającą treści art. 28 ust. 3 RODO.

System AI dokona automatycznej weryfikacji na podstawie 10 wymagań

Uwaga ogólna:Użytkownik końcowy będący człowiekiem powinien zdawać sobie sprawę, że komunikuje się z czynnikiem pozaludzkim.

Opis stanu faktycznego

Aspekty wymagające dalszej analizy i wyjaśnienia

Ocena etyczna

Ocena prawna

W oparciu o wielowarstwową strukturę wytrenowany zostanie własny model

Uwaga ogólna:System AI przyczynia się do zwiększania lub wzmacniania możliwości zastąpienia człowieka w podejmowaniu decyzji.

Do trenowana modelu wykorzystane zostaną historyczne dane, np. o sprzedaży

Ryzyko powielenia błędów

Uwaga ogólna:Aspekty różnorodności, niedyskryminacji i sprawiedliwości można ocenić zgodnie z wytycznymi „Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji” w zakresie:1) unikania niesprawiedliwej stronniczości,2) dostępności i zasad projektowania dla wszystkich,3) uczestnictwa zainteresowanych.

Wytrenowany model zostanie zaimplementowany przez wewnętrzny dział IT

Uwaga ogólna:Zgodnie z przytaczanymi wytycznymi „Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji” system należy ocenić pod kątem odpowiedzialności, w szczególności w zakresie:1) możliwości kontroli,2) minimalizacji i zgłaszania negatywnych skutków,3) dokumentowania kompromisów,4) możliwości dochodzenia roszczeń.

ZAŁOŻENIA DOTYCZĄCE ROZWOJU

Do trenowania AI zostanie wykorzystana publiczna baza zewnętrzna

Weryfikacja licencji do bazy

Dostęp do AI przypominającego ChatGPT

Uwaga ogólna:Po doprecyzowaniu procesu podejmowania decyzji należy ocenić sprawowanie nadzoru przez człowieka:1) jaki poziom kontroli sprawowanej przez człowieka będzie odpowiedni?2) czy można opisać w stosownych przypadkach poziom kontroli sprawowanej przez człowieka lub jego zaangażowania?3) czy wprowadzono mechanizmy i środki mające na celu zapewnienie takiej potencjalnej kontroli lub nadzoru sprawowanego przez człowieka lub zapewnienie, aby ludzie całościowo odpowiadali za podejmowane decyzje?4) czy wprowadzono jakiekolwiek środki mające na celu umożliwienie weryfikacji autonomii AI i podejmowanie działań naprawczych w kontekście zarządzania autonomią AI?5) czy wdrożono bardziej szczegółowe mechanizmy kontroli i nadzoru w przypadku samouczącego się lub autonomicznego systemu AI lub jego użytkowania?6) jakie mechanizmy wykrywania i reagowania zostały ustanowione, aby ocenić, czy coś mogłoby pójść nie tak?7) czy w razie konieczności zapewniono „przycisk stop” lub procedurę bezpiecznego przerwania operacji? Czy procedura ta prowadzi do przerwania procesu w całości, częściowo lub przekazania kontroli człowiekowi?