Polityka transparentności algorytmów w instytucji publicznej
Spis treści
Wprowadzenie
Polityka transparentności algorytmów określa zasady informowania o wykorzystaniu systemów sztucznej inteligencji w procesach decyzyjnych instytucji publicznej. Obejmuje zarówno dokumentację techniczną, jak i komunikację skierowaną do osób, których dotyczą decyzje wspierane algorytmicznie.
Dokumentacja modeli
Podstawowym elementem polityki transparentności jest utrzymywanie dokumentacji opisującej cel wykorzystania systemu, rodzaj danych wejściowych oraz ogólny mechanizm podejmowania decyzji, bez konieczności ujawniania szczegółów technicznych mogących zagrażać bezpieczeństwu systemu.
Komunikacja z obywatelami
Instytucje publiczne powinny informować obywateli o wykorzystaniu systemów AI w procesach mających na nich bezpośredni wpływ oraz zapewniać dostępną ścieżkę odwołania się od decyzji podjętej z udziałem algorytmu.
Ograniczenia transparentności
Pełna transparentność algorytmiczna napotyka ograniczenia związane z ochroną własności intelektualnej dostawców technologii oraz ryzykiem nadużyć wynikających ze zbyt szczegółowego ujawnienia mechanizmu działania systemu. Polityka transparentności musi równoważyć te ograniczenia z prawem obywateli do informacji.
Pytania i odpowiedzi
Czy transparentność oznacza publikację kodu źródłowego?
Niekoniecznie — transparentność często realizuje się poprzez opis funkcjonalny systemu, a nie pełne udostępnienie kodu, co bywa ograniczone względami bezpieczeństwa lub prawami autorskimi.
Kto odpowiada za aktualizację dokumentacji transparentności?
Zwykle odpowiedzialność tę przypisuje się zespołowi wdrażającemu system we współpracy z radą etyczną nadzorującą zgodność z przyjętą polityką.
