Interpelacja nr 18999

Szanowny Panie Ministrze,

w związku z publikacją w mediach społecznościowych fotografii przedstawiającej sekretarz stanu w Ministerstwie Obrony Narodowej Magdalenę Sobkowiak-Czarnecką podczas obchodów 70. rocznicy Poznańskiego Czerwca 1956 r. ujawniono, że zdjęcie zostało zmodyfikowane z wykorzystaniem narzędzia opartego na sztucznej inteligencji. W opublikowanej wersji zmianie uległy elementy obrazu, w tym napis „Narodowcy RP” znajdujący się na koszulce jednej z osób stojących za panią minister.

Ministerstwo Obrony Narodowej potwierdziło, że fotografia została poddana przetwarzaniu przy użyciu narzędzi opartych na sztucznej inteligencji. Według komunikatu resortu celem działania miała być poprawa jakości technicznej zdjęcia, natomiast modyfikacja jego elementów miała charakter niezamierzony. Resort przeprosił za zaistniałą sytuację oraz opublikował oryginalną wersję fotografii.

Przedmiotowe zdarzenie nie może być jednak traktowane wyłącznie jako techniczna lub wizerunkowa pomyłka. Dotyczy ono materiału dokumentującego uroczystość o szczególnym znaczeniu historycznym, przygotowanego lub przetworzonego przez organ administracji rządowej odpowiedzialny za bezpieczeństwo państwa, a następnie wykorzystanego w oficjalnej komunikacji publicznej. Zastosowanie generatywnej sztucznej inteligencji doprowadziło w tym przypadku do zmiany treści fotografii, mimo deklarowanego zamiaru wyłącznie poprawy jej jakości. Pokazuje to ryzyko utraty kontroli nad rezultatem automatycznej obróbki oraz możliwość nieświadomego rozpowszechnienia materiału, który nie odpowiada rzeczywistemu przebiegowi udokumentowanego wydarzenia.

Szczególnego wyjaśnienia wymaga ustalenie, czy wykorzystane narzędzie działało wyłącznie lokalnie, czy też fotografia – wraz z wizerunkami znajdujących się na niej osób – została przesłana do infrastruktury zewnętrznego dostawcy. Istotne jest również ustalenie dostawcy i modelu sztucznej inteligencji, lokalizacji przetwarzania danych, warunków licencyjnych, zasad dalszego wykorzystywania przesłanych materiałów oraz tego, czy użycie narzędzia odbywało się na koncie służbowym i na podstawie umowy zawartej przez MON, czy też z wykorzystaniem konta prywatnego użytkownika.

Zdarzenie rodzi ponadto pytania o obowiązujące w resorcie procedury zatwierdzania materiałów wizualnych, możliwość odtworzenia procesu ich modyfikacji, przechowywanie promptów, presetów i ustawień, obowiązek porównania rezultatu z materiałem źródłowym oraz oznaczanie treści zmienionych z użyciem sztucznej inteligencji. Brak takich mechanizmów może prowadzić nie tylko do zniekształcenia informacji przekazywanych opinii publicznej, lecz także do naruszenia zasad ochrony danych, cyberbezpieczeństwa oraz integralności oficjalnej komunikacji państwowej.

Wątpliwości dotyczą również przygotowania pracowników i osób pełniących funkcje publiczne do korzystania z narzędzi generatywnej sztucznej inteligencji. Zasadne jest ustalenie, czy w MON prowadzone są obowiązkowe szkolenia obejmujące ochronę danych osobowych, korzystanie z usług chmurowych, ryzyko halucynacji i niezamierzonych zmian treści, przetwarzanie wizerunku oraz zasady oznaczania materiałów wygenerowanych albo zmodyfikowanych przez sztuczną inteligencję, a także czy osoba uczestnicząca w przygotowaniu przedmiotowej fotografii odbyła takie szkolenie przed zaistnieniem opisanego zdarzenia.

Mając na uwadze konieczność zapewnienia przejrzystości działania administracji publicznej, ochrony danych przetwarzanych przez resort obrony, integralności materiałów dokumentujących wydarzenia publiczne oraz zachowania zaufania obywateli do oficjalnej komunikacji organów państwa, proszę o udzielenie odpowiedzi na następujące pytania:

Jaki był dokładny prompt, polecenie tekstowe, instrukcja graficzna, preset, workflow lub zestaw ustawień użyty przy przetwarzaniu przedmiotowego zdjęcia?

Czy prompt, preset, workflow lub ustawienia zostały zachowane w sposób umożliwiający ich późniejszą weryfikację?

Czy przy przetwarzaniu zdjęcia użyto jednego prompta, czy kilku kolejnych poleceń lub etapów obróbki?

Jeżeli zastosowano kilka etapów obróbki, proszę wskazać ich kolejność oraz treść poleceń, promptów lub ustawień wykorzystanych na każdym etapie.

Jakie dokładnie narzędzie, aplikacja lub system sztucznej inteligencji zostały użyte do przetworzenia zdjęcia?

Kto był dostawcą wykorzystanego narzędzia, aplikacji lub systemu?

Jaki model sztucznej inteligencji został wykorzystany, wraz z nazwą, wersją i wariantem, o ile informacje te są dostępne?

Czy narzędzie było uruchomione:
a) lokalnie na infrastrukturze MON,
b) w chmurze publicznej,
c) w chmurze prywatnej,
d) w systemie dostawcy zewnętrznego,
e) na koncie prywatnym użytkownika,
f) na koncie służbowym?

Jeżeli użyto usługi chmurowej lub systemu dostawcy zewnętrznego, w jakim państwie, regionie lub centrum danych przetwarzane było zdjęcie?

Czy fotografia została przesłana na serwery podmiotu zewnętrznego? Jeżeli tak, proszę wskazać nazwę tego podmiotu.

Czy Ministerstwo Obrony Narodowej posiada umowę, licencję, subskrypcję lub inną podstawę prawną korzystania z użytego narzędzia? Jeżeli tak, proszę wskazać jej rodzaj.

Czy zgodnie z regulaminem usługi lub konfiguracją konta wykorzystane narzędzie dopuszczało wykorzystywanie przesłanych materiałów do trenowania, ulepszania lub analizy modeli sztucznej inteligencji przez dostawcę?

Czy w Ministerstwie Obrony Narodowej prowadzone są szkolenia dotyczące korzystania z narzędzi sztucznej inteligencji, w szczególności narzędzi generatywnych wykorzystywanych do przetwarzania obrazu?

Jak często prowadzone są szkolenia z zakresu korzystania z narzędzi sztucznej inteligencji dla pracowników, urzędników, żołnierzy zawodowych, osób zajmujących kierownicze stanowiska w MON oraz innych osób fizycznych pozostających z MON w stosunku prawnym, w szczególności pracowniczym, służbowym lub cywilnoprawnym?

Jaki zakres obejmują wskazane szkolenia, w szczególności w odniesieniu do:
a) ochrony danych osobowych,
b) cyberbezpieczeństwa,
c) korzystania z usług chmurowych,
d) ryzyka halucynacji modeli oraz niezamierzonej modyfikacji treści,
e) przetwarzania wizerunku,
f) oznaczania materiałów wygenerowanych lub zmodyfikowanych przy użyciu sztucznej inteligencji?

Czy osoba, która użyła narzędzia sztucznej inteligencji do przetworzenia przedmiotowego zdjęcia, odbyła przed tym zdarzeniem szkolenie z zakresu korzystania z takich narzędzi?

Jeżeli osoba ta odbyła szkolenie, kiedy je ukończyła oraz jaki był jego szczegółowy zakres?

Jeżeli osoba ta nie odbyła takiego szkolenia, na jakiej podstawie dopuszczono ją do korzystania z narzędzi sztucznej inteligencji przy opracowywaniu materiałów służbowych lub przeznaczonych do oficjalnej komunikacji publicznej?