Wykorzystanie sztucznej inteligencji może usprawnić czasochłonne procesy tworzenia korespondencji, sprawozdań, protokołów, raportów czy dokumentów planistycznych. Jednostki muszą jednak pamiętać o ochronie praw obywateli i bezpieczeństwie informacji. Niezbędne są więc szkolenia pracowników i aktualizacja standardów kontroli zarządczej.
Wejście w życie rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. ustanawiającego zharmonizowane zasady dotyczące sztucznej inteligencji (dalej: rozporządzenie) oznacza nowe obowiązki dla podmiotów, w tym jednostek sektora finansów publicznych, stosujących narzędzia AI (ang. artificial intelligence). Szczególne znaczenie ma art. 4 rozporządzenia, który obliguje te podmioty do przeprowadzenia odpowiednich szkoleń dla pracowników.
Standardy kontroli zarządczej
Implementacja systemów sztucznej inteligencji w jsfp wymaga odpowiedniego dostosowania istniejących standardów kontroli zarządczej opracowanych na podstawie komunikatu nr 23 Ministra Finansów z dnia 16 grudnia 2009 r. w sprawie standardów kontroli zarządczej dla sektora finansów publicznych. Konieczne jest uwzględnienie w nich specyfiki technologicznej i operacyjnej systemów AI.
Praktyczne wdrożenie standardów kontroli zarządczej w kontekście sztucznej inteligencji wymaga opracowania szczegółowych procedur wewnętrznych dostosowanych do specyfiki danej jednostki. Podstawowym dokumentem powinna być instrukcja wykorzystania systemów AI, określająca zasady ich wdrażania, eksploatacji i nadzoru, w tym:
- katalog systemów AI dopuszczonych do wykorzystania w jednostce;
- procedury ich autoryzacji i wdrażania;
- zasady dostępu użytkowników i nadawania im uprawnień;
- wymogi dotyczące jakości danych wejściowych;
- procedury postępowania w przypadku awarii lub nieprawidłowego działania systemów.
Istotnym elementem systemu kontroli jest utworzenie funkcji koordynatora ds. sztucznej inteligencji, odpowiedzialnego za nadzór nad wdrażaniem i funkcjonowaniem systemów AI. Koordynator powinien współpracować z administratorem bezpieczeństwa informacji i inspektorem ochrony danych. Takie rozwiązanie zapewnia kompleksowe podejście do zarządzania ryzykiem technologicznym.
Procedury kontrolne powinny obejmować również mechanizmy weryfikacji jakości algorytmów, w tym testy wydajności, analizę dokładności wyników oraz ocenę potencjalnych obciążeń. Szczególną uwagę należy zwrócić na systemy AI wykorzystywane w procesach decyzyjnych dotyczących obywateli, ponieważ błędy w tym zakresie mogą mieć poważne konsekwencje społeczne i prawne.
Zakres wykorzystania AI w jsfp
Systemy sztucznej inteligencji znajdują szerokie zastosowanie w procesach tworzenia dokumentacji urzędowej oraz wykonywania różnych zadań. Pozwala to znacznie usprawnić pracę administracyjną. Wykorzystanie takich rozwiązań wymaga jednak zachowania szczególnej ostrożności i wdrożenia odpowiednich mechanizmów kontrolnych.
- Korespondencja oficjalna i służbowa
Systemy AI mogą wspierać przygotowanie standardowych pism urzędowych, zautomatyzować proces odpowiedzi na typowe zapytania oraz pomóc w optymalizacji struktury i języka dokumentów. Ostateczna wersja dokumentu musi być jednak zawsze weryfikowana i zatwierdzana przez upoważnionego pracownika – zgodnie z zasadami obiegu dokumentów określonymi w instrukcji kancelaryjnej.
Sztuczna inteligencja umożliwia automatyczne generowanie zaproszeń na spotkania, konferencje i szkolenia – na podstawie szablonów i danych z systemów kalendarzowych. Odpowiednio skonfigurowane narzędzia AI pozwalają też na optymalizację terminów spotkań dzięki uwzględnieniu dostępności uczestników i preferencji organizacyjnych.
Rozwiązania wspierane przez sztuczną inteligencję mogą być wykorzystywane przy zarządzaniu służbowymi skrzynkami mailowymi. Umożliwiają to systemy automatycznej klasyfikacji i priorytetyzacji wiadomości oraz generowania wstępnych odpowiedzi na standardowe zapytania. Szczególnie użyteczne są funkcje automatycznego kierowania korespondencji do właściwych komórek organizacyjnych oraz systemy przypominające o terminach odpowiedzi.
Systemy automatycznej transkrypcji i strukturyzacji treści pomagają przy pisaniu protokołów z posiedzeń, narad i kontroli. Technologie rozpoznawania mowy umożliwiają automatyczne tworzenie wstępnych wersji protokołów, które następnie przechodzą proces redakcji i weryfikacji merytorycznej. Istotne jest zachowanie możliwości identyfikacji wypowiedzi poszczególnych uczestników oraz zapewnienie poufności informacji wrażliwych.
Wykorzystanie systemów analizy danych i automatycznego generowania wynikających z nich wniosków znacząco usprawnia przygotowanie raportów i zestawień. Systemy AI ułatwiają identyfikację trendów, zależności i anomalii w danych liczbowych, a w konsekwencji przyczyniają się do poprawy jakości analiz. Wymaga to jednak zapewnienia wysokiej jakości danych wejściowych oraz weryfikacji poprawności algorytmów analitycznych.
- Dokumenty prawne i regulaminy
Szczególnej ostrożności wymaga wykorzystanie sztucznej inteligencji w procesie tworzenia uzasadnień decyzji administracyjnych, ponieważ są to dokumenty o dużym znaczeniu prawnym. Systemy AI mogą pomagać urzędnikom identyfikować właściwe przepisy prawne, generować strukturę uzasadnienia i kontrolować spójność argumentacji. Merytoryczna ocena sprawy i ostateczne sformułowanie uzasadnienia muszą jednak pozostawać w gestii wykwalifikowanego pracownika.
Sztuczna inteligencja może usprawnić przygotowanie wniosków o dofinansowanie, dotacje lub inne formy wsparcia. Służą do tego systemy AI przeznaczone do automatycznej analizy wymagań konkursowych i generowania wstępnych wersji dokumentów. Systemy te mogą także wspierać kontrolę kompletności wniosków oraz weryfikację ich zgodności z kryteriami formalnymi.
Rozwiązania bazujące na sztucznej inteligencji pomagają w tworzeniu wewnętrznych regulaminów, instrukcji i procedur. Są bowiem w stanie analizować podobne dokumenty i automatycznie adaptować istniejące wzorce do specyfiki danej jednostki. Należy jednak zadbać o zachowanie spójności terminologicznej i strukturalnej dokumentów oraz ich zgodność z przepisami nadrzędnymi.
Narzędzia AI są również stosowane podczas przygotowania umów i porozumień. Umożliwiają automatyczną analizę ryzyk prawnych, generowanie klauzul zabezpieczających oraz weryfikację zgodności kontraktów z wzorcami organizacyjnymi. Mogą też wspierać proces negocjacji przez analizę propozycji stron i identyfikację potencjalnych problemów.
Wykorzystanie sztucznej inteligencji w jsfp ułatwia także opracowywanie graficznych form prezentacji danych. Systemy tego typu pozwalają na automatyczne tworzenie wykresów i diagramów na podstawie danych liczbowych zawartych w dokumentach sprawozdawczych, zestawieniach księgowych czy analizach wewnętrznych. W szczególności dotyczy to danych związanych z wykonaniem planów finansowych, analizą dynamiki dochodów i wydatków, monitorowaniem wskaźników finansowych oraz kontrolą stanu majątkowego i zobowiązań.
Systemy wykorzystujące sztuczną inteligencję umożliwiają przekształcanie danych tabelarycznych w przejrzyste wykresy słupkowe, liniowe lub kołowe, ułatwiające interpretację wyników finansowych i tworzenie prezentacji danych na potrzeby kierownictwa jednostki, organów nadzorczych lub instytucji kontrolnych. Tworzone automatycznie wizualizacje mogą być wykorzystywane przy opracowywaniu sprawozdań kwartalnych i rocznych, raportów wewnętrznych czy materiałów na sesje organów stanowiących.
Schematy funkcjonalne i diagramy odzwierciedlające przepływ różnych procesów mogą być przydatne w dokumentach określających procedury księgowe, obieg dokumentów i kolejne kroki związane z realizacją zadań finansowych. Narzędzia sztucznej inteligencji umożliwiają tworzenie takich elementów graficznych na podstawie zidentyfikowanych ciągów operacji, opisów czynności lub schematów organizacyjnych. Usprawnia to przygotowanie materiałów pomocniczych, instrukcji i procedur wewnętrznych.
Systemy sztucznej inteligencji mogą wspierać księgowych i kierownictwo jednostki przy tworzeniu wzorców dokumentów, takich jak noty księgowe, zapytania ofertowe, wnioski o uruchomienie środków budżetowych, propozycje zmian w planie finansowym, instrukcje stanowiskowe czy projekty uchwał i zarządzeń. Dzięki temu jednostki mogą opracowywać własne szablony i zbiory materiałów dostosowane do struktury organizacyjnej i rodzaju wykonywanych zadań. Muszą przy tym zapewnić ich spójność, aktualność i zgodność z obowiązującymi przepisami prawa.
Aktualne zagrożenia
Wykorzystanie sztucznej inteligencji wiąże się z rzeczywistymi zagrożeniami, których świadomość powinna towarzyszyć pracownikowi jsfp na każdym etapie wdrażania i użytkowania omawianych systemów. Wśród najczęściej identyfikowanych zagrożeń wskazuje się ryzyko uzależnienia jednostki od zewnętrznych dostawców rozwiązań technologicznych, brak przejrzystości działania algorytmów, możliwość powielania błędów systemowych w dokumentacji oraz ryzyko wygenerowania treści niezgodnych z obowiązującym stanem prawnym.
Szczególne zagrożenie stanowi zjawisko tzw. halucynacji językowej, polegające na tworzeniu przez system treści pozornie prawidłowej, lecz niepopartej rzeczywistymi danymi ani podstawami prawnymi. Problem ten może skutkować poważnymi błędami merytorycznymi w dokumentach urzędowych. Należy także uwzględniać możliwość przechowywania danych przez systemy AI poza kontrolą jednostki oraz ryzyko nieautoryzowanego dostępu do informacji przetwarzanych z użyciem narzędzi generatywnych.
Zasady bezpieczeństwa
W związku z istniejącymi zagrożeniami każda jednostka powinna określić jasne zasady korzystania z narzędzi sztucznej inteligencji. Muszą one przewidywać:
- wielopoziomową kontrolę nad treściami generowanymi przez systemy AI;
- zakaz wykorzystywania tych treści do podejmowania decyzji w imieniu jednostki;
- obowiązek każdorazowej weryfikacji materiałów przed ich zatwierdzeniem.
Dużą ostrożność należy zachować w przypadku przetwarzania danych osobowych, informacji finansowych oraz dokumentów o charakterze decyzyjnym.
Podczas archiwizacji dokumentów tworzonych z wykorzystaniem AI należy zachować informacje o wykorzystanych narzędziach i procesach generowania treści. Może to mieć istotne znaczenie dla przyszłych audytów i procesów prawnych, w których konieczne będzie wykazanie sposobu powstania dokumentu.
Szkolenia personelu w zakresie wykorzystania systemów AI do tworzenia dokumentacji powinny obejmować nie tylko aspekty techniczne, ale również etyczne i prawne. Pracownicy muszą rozumieć ograniczenia technologii i być świadomi swojej odpowiedzialności za weryfikację i zatwierdzanie dokumentów. Muszą też wiedzieć, że korzystanie z AI wymaga przestrzegania zasad wynikających z polityki bezpieczeństwa informacji, przepisów o ochronie danych osobowych oraz regulaminów wewnętrznych. Niedopuszczalne jest przetwarzanie danych w sposób prowadzący do ich niedozwolonego ujawnienia lub do naruszenia praw osób trzecich.
Równie istotne jest przestrzeganie zasad etycznych, w tym zakaz przyznawania narzędziom AI autonomii decyzyjnej w sprawach wymagających merytorycznej oceny. Odpowiedzialność za treść dokumentu, jego zgodność z przepisami prawa oraz rzetelność zawartych w nim danych ciąży zawsze na urzędniku, który go zatwierdza.
Perspektywy rozwoju i rekomendacje
Rozwój technologii bazujących na sztucznej inteligencji będzie wymagał ciągłego dostosowywania standardów kontroli zarządczej i procedur wewnętrznych w jsfp. Konieczne jest więc utworzenie mechanizmów monitorowania zmian technologicznych i prawnych oraz ich wpływu na funkcjonowanie systemów AI.
Rekomenduje się utworzenie zespołów roboczych ds. sztucznej inteligencji, składających się z przedstawicieli różnych komórek organizacyjnych, w tym informatyków, prawników, audytorów wewnętrznych i pracowników merytorycznych. Zespoły te powinny odpowiadać za opracowanie strategii wdrażania AI, monitorowanie zgodności działań z wymogami prawnymi oraz zgłaszanie propozycji doskonalenia procesów.
Istotne jest również nawiązanie współpracy z innymi jsfp w zakresie wymiany doświadczeń i dobrych praktyk. Może się to przyczynić do wypracowania standardowych rozwiązań i do redukcji kosztów wdrażania systemów AI.
Jednostki powinny przygotować się na ewentualne zmiany w przepisach prawa krajowego, które mogą być wprowadzone w związku z implementacją rozporządzenia. Muszą też systematycznie monitorować stanowiska organów nadzoru i orzecznictwo sądów administracyjnych zawierające interpretacje nowych regulacji.
Wykorzystanie sztucznej inteligencji w jsfp to szansa na poprawę efektywności i jakości świadczonych usług publicznych. Wymaga jednak przemyślanego podejścia, uwzględniającego specyfikę sektora publicznego oraz wymogi dotyczące przejrzystości, odpowiedzialności i ochrony praw obywateli. Właściwe wdrożenie standardów kontroli zarządczej oraz mechanizmów szkoleniowych będzie kluczowe dla sukcesu tych inicjatyw.
Podstawa prawna:
- rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. ustanawiające zharmonizowane zasady dotyczące sztucznej inteligencji (DzUrz UE L 1689 z 12 lipca 2024)
- komunikat nr 23 Ministra Finansów z dnia 16 grudnia 2009 r. w sprawie standardów kontroli zarządczej dla sektora finansów publicznych (DzUrz MF z 2009 r., poz. 84)
Autor
Jarosław Jurga
Ekonomista, certyfikowany księgowy, certyfikowany trener biznesu, posiadający wieloletnie doświadczenie w obszarze finansów publicznych.
