Problem danych niezbalansowanych jest powszechnie spotykany w codziennym życiu. Dużo częściej to rzadkie wydarzenie jest bardziej znaczące niż te o większej częstotliwości. W dziedzinach takich jak medycyna, sieci komputerowe czy bezpieczeństwo bankowości, przykłady rzadkich chorób, ataków komputerowych i prób oszustw z wykorzystaniem kart kredytowych, cechują się wysokim priorytetem prawidłowego rozpoznania, ponieważ ich przeoczenie wiąże się z wysokim kosztem finansowym i ludzkim. Niezbalansowanie danych, czyli inaczej dysproporcja między rozmiarami klas problemu (np. chory, zdrowy), stanowi dużą trudność dla dziedziny uczenia maszynowego. Kiedy nie zostanie wzięte pod uwagę, może skutkować słabym rozpoznaniem rzadszej klasy, zwanej również klasą mniejszościową, albo nawet jej całkowitym zignorowaniem. Jest to spowodowane założeniem większości modeli klasyfikacji przyjmujących, że każdy błąd rozpoznania ma taką samą wartość. To może powodować znaczną faworyzację klasy o większym rozmiarze, inaczej większościowej, ponieważ jej częstszy wybór prowadzi do łatwiejszej minimalizacji błędu. Problem ten dotyczy zarówno tradycyjnych algorytmów klasyfikacji, jak i popularnych obecne modeli uczenia głębokiego. Istotnym jest powzięcie środków minimalizacji wpływu niezbalansowania, albo na poziomie samych danych, albo wpływając bezpośrednio na algorytm uczący.

Tematem który w ostatnich latach zyskuje na popularności, jest wyjaśnialność sztucznej inteligencji. Jest to związane z szybkim rozwojem uczenia głębokiego, którego modele są koncepcyjnie trudne do zrozumienia. To w połączeniu z rozszerzeniem rożnorodności wykorzystania w medycynie, kulturze, bankowości czy życiu towarzystkim, ugruntowało pilną potrzebę zrozumienia sposobu działania algorytmów, co ma swoje odzwierciedlenie m.in. w Akcie o Sztucznej Inteligencji zaproponowanym w 2021 roku przez Komisję Europejską. W rezultacie nastąpił rozwój metod próbujących wytłumaczyć decyzje podjęte przez modele uczenia maszynowego. Ich celem jest wskazanie które cechy problemu miały największy wpływ na końcową predykcję. Wiedza ta może pomóc zarówno w wyborze jak i rozwijaniu metod sztucznej inteligencji. W pierszym przypadku ekspert może zbadać, czy wysoka jakość predykcji nie jest spowodowana błędnymi założeniami albo skrótami myślowymi. W drugim zaś informacja o tym, co spowodowało nauczenie się złych zależności, jak na przykład przypadek rozpoznawiania koni na zdjęciach przez podpis obecny w prawym dolnym rogu, pozwoli badaczom na modyfikację danych, tak żeby algorytm klasyfikacji był w stanie nauczyć się rozwiązywania problemu w prawidłowy sposób.

Jednym z celów wyjaśnialnej sztucznej inteligencji jest poprawa jakości modeli poprzez rozpoznanie ich słabości i zachowań tendencyjnych. Pozwala to na określenie trudnych obszarów atrybutów problemu i ich modyfikację w celu polepszenia jakości algorytmu klasyfikacji. Jedną z takich tendencji, które możnaby poprawić, jest częstsze wybieranie jednej z klas problemu, co ma często miejsce dla danych niezbalansowanych. Ponadto, bardzo często to nie sama dysproporcja w klasach, tylko ich dystrybucja w przestrzeni cech, stanowi trudość, którą możaby rozpoznać i jej przeciwdziałać. Z tego powodu określiliśmy następującą hipotezę badawczą:

Możliwa jest poprawa jakości klasyfikatora danych niezbalansowanych, wykorzystując techniki wyjaśnialnej sztucznej inteligencji w celu zdobycia wiedzy, co stoi za nieprawidłową klasyfikacją próbek.

W trakcie trwania projektu zostaną rozwinięte metody wykorzystujące algorytmy wyjaśnialnej sztucznej inteligencji. Zostaną zaproponowane zarówno metody zależne od konkretnych modeli, formujące zespoły klasyfikatorów, jak i metody niezależne od modelu klasyfikacji - balansujące dane, umożliwiające wykorzystanie dowolnego klasyfikatora, jak najbadziej pasującego do wybranego problemu. Utworzone metody będą przeanalizowane, przetestowane oraz porównane z najlepszymi algorytmami dla danych niezbalansowanych. Na końcu stworzona będzie dokumentacja, a metody zostaną udostępnione w publicznym repozytorium.