Projekt naszej doktorantki, mgr inż. Weroniki Węgier, zakwalifikował się do finansowania w ramach konkursu Preludium organizowanego przez Narodowe Centrum Nauki. Tematem projektu to "Wykorzystanie algorytmów wyjaśnialnej sztucznej inteligencji w celu poprawy jakości metod danych niezbalansowanych".

Jak mówi autorka, wraz z rosnącą popularnością wykorzystania sztucznej inteligencji, rośnie również potrzeba jej zrozumienia. Proponowanych jest coraz więcej metod, których celem jest wyjaśnienie działania modeli decyzyjnych poprzez określenie, co miało wpływ na taką, a nie inną odpowiedź systemu. Pomaga to m. in. w ulepszaniu algorytmów, szczególnie w przypadkach, gdy zdefiniowane rozumowanie jest oparte na niewłaściwych przesłankach, takich jak choćby artefakty na zdjęciach. W swoim projekcie proponuję wykorzystanie metod wyjaśnialnej sztucznej inteligencji (XAI) w problemie danych niezbalansowanych, czyli takich, w których jedna z klas ma znacznie mniejszą liczność niż pozostałe. Przykładem może być diagnozowanie rzadkich chorób albo wykrywanie ataków sieciowych, w których znaczące instancje (chory pacjent albo atak) są mniej pospolite niż te mniej istotne w kontekście wykrywania (zdrowy pacjent, standardowy ruch sieciowy). Metody XAI mają tutaj wskazać, które cechy próbek, szczególnie klas rzadziej występujących, wpływają negatywnie na ich prawidłowe rozpoznanie. Pozwoli to na poprawę jakości modeli, poprzez np. ich kierowany pruning lub przetworzenie danych wykorzystywanych do treningu.

Więcej szczegółów przeczytać można na stronie NCN (konkurs PRELUDIUM 23, panel ST6).

Serdecznie gratulujemy!