4 zespoły badawcze z Polski znalazły się wśród laureatów kolejnego konkursu organizowanego przez sieć CHIST-ERA - European Coordinated Research on Long-term Challenges in Information and Communication Sciences & Technologies. Jego uczestnikiem będzie m.in. prof. Grzegorz J. Nalepa z Wydziału Fizyki, Astronomii i Informatyki Stosowanej UJ, który z partnerami z Francji, Portugalii i Szwecji zrealizuje projekt "XPM: Objaśnialne metody predykcyjnego utrzymania ruchu".
Narodowe Centrum Nauki (NCN) we współpracy z siecią CHIST-ERA w grudniu 2019 roku ogłosiło konkurs na międzynarodowe projekty badawcze z następujących obszarów tematycznych: 1. Explainable Machine Learning-based Artificial Intelligence, 2. Novel Computational Approaches for Environmental Sustainability. O finansowanie mogły się starać konsorcja międzynarodowe złożone z co najmniej 3 zespołów badawczych pochodzących z co najmniej 3 krajów biorących udział w konkursie. Kierownik polskiego zespołu musiał posiadać co najmniej stopień naukowy doktora. Wśród krajów uczestniczących w konkursie znalazły się: Austria, Belgia, Bułgaria, Czechy, Estonia, Finlandia, Francja, Grecja, Hiszpania, Irlandia, Izrael, Kanada (Québec), Litwa, Łotwa, Polska, Portugalia, Rumunia, Słowacja, Szwajcaria, Szwecja (temat 1), Turcja, Węgry, Wielka Brytania (temat 1) i Włochy.
Jak informuje na swojej stronie NCN, w konkursie złożono 162 międzynarodowe wnioski badawcze, z których finansowanie otrzymało 17 projektów. 4 nich będą realizowane z udziałem polskich naukowców z Uniwersytetu Jagiellońskiego, Instytutu Podstaw Informatyki Polskiej Akademii Nauk, Akademii Górniczo-Hutniczej w Krakowie oraz Uniwersytetu Warszawskiego. Realizacja projektów badawczych finansowanych w konkursie rozpocznie się w 1. kwartale 2021 roku.
W projekcie XPM, w którym weźmie udział zespół prof. Grzegorza J. Nalepy z Instytutu Informatyki Stosowanej UJ, rozwinięte zostaną nowe metody wyjaśniania działania modeli AI (ang. Artificial Intelligence) w kontekście Predictive Maintenance (PM) - predykcyjnego utrzymywania działania instalacji przemysłowych w paradygmacie Industry 4.0. Praktyczne zastosowania PM stają się niezwykle złożone i wymagają użycia zróżnicowanych technik. Jest to obszar intensywnego wykorzystywania technik AI, w tym tzw. czarno-skrzynkowych modeli AI (black-box models) pozwalających na uzyskiwanie predykcji o wysokiej dokładności jedynie w wybranych wąskich zastosowaniach. Wyniki działania takich modeli AI są niezwykle trudne do interpretacji przez człowieka i integracji w złożonych procesie decyzyjnym, m.in. w realiach przemysłowych.
Aby móc wykorzystać wyniki działania modeli w procesie podejmowania decyzji, muszą one być zrozumiałe, interpretowalne i osadzone w odpowiednim kontekście dziedzinowym. Mając na uwadze powyższe wyzwania, międzynarodowe konsorcjum w projekcie XPM zaproponuje nowe typy strategii objaśniania modeli AI. W skład konsorcjum wchodzą, poza UJ, partnerzy ze Szwecji (Halmstad - koordynator), Portugalii (Porto) i Francji (Lille-Douai).
Ważnym wątkiem interdyscyplinarnym projektu jest perspektywa prawnicza dotycząca odpowiedzialności za działanie systemów AI obejmująca również zagadnienia związane z objaśnialnością tych systemów. W tym obszarze w skład zespołu UJ wchodzi dr Michał Araszkiewicz z Wydziału Prawa i Administracji UJ.
Prace badawcze w projekcie wpisują się działalność Jagiellonian Human-Centered Artificial Intelligence Lab tworzonego w POB Digiworld.
