Oznaczanie treści AI – co trzeba wiedzieć o nowym obowiązku? [Wywiad]

Wioleta Matela-Marszałek: Nowy obowiązek oznaczania treści wygenerowanych lub zmanipulowanych przez AI wzbudza sporo wątpliwości. Z czego to może wynikać?

Dr Maria Jędrzejczak: Wątpliwości wynikają przede wszystkim z tego, że w art. 50 rozporządzenia (UE) 2024/1689 (dalej: AI Act) prawodawca posłużył się nieostrymi pojęciami, takimi jak: „powszechnie uznany stan wiedzy technicznej” czy „istotny sposób”. To zapewne celowy zabieg legislacyjny. Takie pojęcia zapewniają elastyczność regulacji, obejmując również sytuacje, których w 2024 r., gdy powstawał AI Act, nikt nie mógł przewidzieć. Ta elastyczność wywołuje jednak niepewność u adresatów regulacji. Doprecyzowanie pojawiło się późno, bo niecałe dwa tygodnie przed rozpoczęciem stosowania przepisów. Komisja Europejska w dniu 20 lipca 2026 r. przyjęła Wytyczne w sprawie wdrażania obowiązków przejrzystości w odniesieniu do niektórych systemów sztucznej inteligencji zgodnie z art. 50 AI Act: (https://digital-strategy.ec.europa.eu/en/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems). Należy podkreślić, że Wytyczne są niewiążące, a ostateczna wykładnia należy do Trybunału Sprawiedliwości UE.

W pkt 8 Wytycznych wskazano, że różne obowiązki określone w art. 50 AI Act mogą kumulatywnie nakładać się na wyniki działania jednego systemu AI, obciążając przy tym odpowiedzialnością różne podmioty (dostawców lub podmioty stosujące). Przykładowo, jeśli system AI generuje obrazy w ramach bezpośredniej interakcji z człowiekiem, dostawca może być zobowiązany do spełnienia jednocześnie obowiązków z art. 50 ust. 1 i ust. 2 AI Act. Jeśli ten sam system potrafi też generować obrazy stanowiące deepfake’i lub teksty publikowane w celu informowania społeczeństwa o sprawach leżących w interesie publicznym, to dodatkowo może zaktualizować się obowiązek podmiotu stosującego określony w art. 50 ust. 4 AI Act.

W praktyce oznacza to, że podmiot tworzący system AI do generowania obrazów (dostawca) odpowiada za poinformowanie o interakcji z AI i techniczne oznaczenie obrazów. Jeśli inny podmiot użyje tego samego narzędzia do stworzenia deepfake’a, to na nim – jako podmiocie stosującym – spoczywa dodatkowo obowiązek widocznego oznaczenia tej konkretnej treści (z wyjątkiem sytuacji, gdy system AI jest wykorzystywany w ramach czysto osobistej działalności pozazawodowej). Zatem mamy jeden system AI i różne podmioty odpowiadające za różne obowiązki przejrzystości wskazane w art. 50 AI Act.

Stawka tej niepewności jest przy tym wysoka: naruszenie obowiązków z art. 50 AI Act jest zagrożone karą do 15 mln EUR lub 3% całkowitego rocznego światowego obrotu przedsiębiorstwa (w zależności od tego, która wartość jest wyższa). To dodatkowo wyjaśnia, dlaczego firmy tak uważnie śledzą każdy niuans interpretacyjny.

Czym tak naprawdę jest „deepfake” w rozumieniu AI Act?

Zgodnie z art. 3 pkt 60 AI Act, deepfake oznacza wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe.

Wytyczne doprecyzowują powyższą definicję poprzez wskazanie czterech kumulatywnych kryteriów:

1. Podobieństwo – treść deepfake’a musi w istotny sposób przypominać symulowaną osobę, przedmiot, miejsce, podmiot lub zdarzenie. Ocena podobieństwa jest dokonywana indywidualnie, w szczególności z uwzględnieniem stopnia odwzorowania charakterystycznych lub wyróżniających cech.

2. „Istniejące” – wystarczy, że symulowana osoba, przedmiot, miejsce, podmiot czy zdarzenie przypomina kogoś lub coś, co istnieje, mogłoby istnieć lub istniało w przeszłości. Wyłączone z tej kategorii są treści nierealistyczne, które np. przeczą prawom natury lub fizyki i nie mają potencjału wprowadzenia odbiorcy w błąd.

3. Osoby/przedmioty/miejsca/podmioty/zdarzenia – chodzi tu o realistyczne odpowiedniki wymienionych pojęć. Obejmują one odpowiednio ludzi, rzeczy materialne, lokalizacje, niebędące ludźmi istoty żywe (w tym zwierzęta) oraz realistyczne sceny lub sytuacje.

4. Fałszywe wrażenie autentyczności lub prawdziwości – treść deepfake’a musi mieć potencjał wprowadzenia odbiorcy w błąd co do jej autentyczności. Ocena powinna uwzględniać w szczególności poziom podobieństwa, zasadniczy przekaz treści, zamierzony i przewidywalny kontekst jej wykorzystania, środowisko, w którym treść jest prezentowana, a także zamierzony i rozsądnie przewidywalny skład odbiorców oraz ich oczekiwania.

Co istotne, ocena czwartego kryterium nie powinna opierać się na hipotetycznym „przeciętnym” odbiorcy, lecz powinna uwzględniać rzeczywisty i rozsądnie przewidywalny skład odbiorców, a także ich oczekiwania (pkt 115 Wytycznych). Ma to szczególne znaczenie w przypadku odbiorców, którzy mogą mieć niższy poziom kompetencji cyfrowych lub wiedzy ogólnej, np. dzieci.

Wytyczne wskazują jako przykłady treści niespełniających definicji deepfake’a m.in. obraz sfinksa lecącego nad Wieżą Eiffla, wideo myszy kłócących się ludzkim głosem o najlepszy rodzaj sera w ramach reklamy, a także przedstawienia ludzi latających bez urządzeń mechanicznych. Są to przykłady nierealistycznych treści, które co do zasady nie mają potencjału, aby wprowadzać odbiorców w błąd co do ich autentyczności lub prawdziwości.

Natomiast do przykładów deepfake’ów zaliczono m.in. zmanipulowany obraz przedstawiający dwóch istniejących zawodowych piłkarzy przed budynkiem przypominającym stadion, wygenerowane audio wykorzystujące klonowanie głosów osób prowadzących podcast i gościa podczas rozmowy o wydarzeniach informacyjnych oraz wideo przedstawiające osobę przypominającą polityka wygłaszającego przemówienie.

Nie każda ingerencja AI w obraz, dźwięk lub wideo będzie jednak deepfake’iem. Generowanie lub manipulowanie tłem, efektami specjalnymi czy dokonywanie standardowego technicznego przetwarzania w ramach produkcji filmowej co do zasady nie powoduje fałszywego wrażenia autentyczności. Podobnie za deepfake zasadniczo nie należy uznawać korekcji kolorów, redukcji szumów, kompresji pliku, regulacji parametrów audio czy kosmetycznych ulepszeń.

Odmiennie należy oceniać wykorzystanie AI do modyfikacji istotnych elementów wpływających na percepcję odbiorcy, takich jak w pełni wygenerowani aktorzy, cyfrowe repliki rzeczywistych lub zmarłych aktorów, odmładzanie aktorów czy symulowane występy. Takie zastosowania mogą spełniać kryteria deepfake. Wysoki stopień fotorealizmu zwiększa prawdopodobieństwo uznania treści za deepfake, ale nie jest sam w sobie rozstrzygający – nadal konieczne jest zbadanie, czy dana treść może zostać odebrana jako autentyczna lub prawdziwa w konkretnym kontekście jej wykorzystania.

A co z treściami takimi jak teksty czy infografiki?

W odniesieniu do tekstu Wytyczne wymagają spełnienia łącznie trzech elementów (pkt 131): tekst musi być (1) opublikowany, czyli dostępny dla nieokreślonej, dość dużej liczby niepowiązanych odbiorców (wymogu tego nie spełnia np. prywatna korespondencja czy wewnętrzna komunikacja firmowa); (2) mieć na celu informowanie społeczeństwa; oraz (3) dotyczyć spraw interesu publicznego. Wśród spraw tego rodzaju wymieniono m.in. politykę i procesy demokratyczne, administrację publiczną, wymiar sprawiedliwości i ściganie przestępstw, prawa podstawowe, bezpieczeństwo publiczne, zdrowie publiczne, ochronę środowiska, bezpieczeństwo konsumentów oraz rozwój gospodarczy, finansowy, polityczny, naukowy czy kulturalny, który może być przedmiotem debaty publicznej.

Do tekstów, które spełniają powyższe kryteria, a zatem są objęte obowiązkiem ujawnienia ich sztucznego wygenerowania lub zmanipulowania (art. 50 ust. 4 AI Act), należą m.in. wygenerowane przez AI streszczenie artykułu o decyzji rady gminy, zmanipulowane fragmenty artykułu lifestylowego dotyczącego wpływu różnych diet na określoną chorobę, zmanipulowane raporty korporacyjne spółki giełdowej zawierające informacje dla inwestorów czy wygenerowany komunikat instytutu meteorologicznego w mediach społecznościowych ostrzegający przed burzową pogodą i związanymi z nią środkami ostrożności (pkt 131 Wytycznych).

Natomiast obowiązkiem tym nie są objęte m.in. wygenerowane przez AI powieści fantasy, zmanipulowane teksty będące częścią reklamy lub opisu produktu (jeżeli nie zawierają twierdzeń dotyczących np. zdrowia, bezpieczeństwa konsumentów lub zrównoważonego rozwoju), streszczenia wiadomości wygenerowane przez chatbota i dostępne wyłącznie użytkownikowi, który o nie poprosił czy teksty konsultanta przygotowane w ramach porady dla klienta dotyczącej środków, jakie należy podjąć w celu zapewnienia zgodności z obowiązującymi przepisami.

Obowiązek przejrzystości określony w art. 50 ust. 4 AI Act nie ma zastosowania w przypadku, gdy tekst wygenerowany przez AI „został poddany weryfikacji przez człowieka lub kontroli redakcyjnej” i gdy „za publikację treści odpowiedzialność redakcyjną ponosi osoba fizyczna lub prawna”. Po pierwsze, oznacza to, że weryfikacja powinna być realna, czyli ktoś z odpowiednią wiedzą musi faktycznie sprawdzić treść merytorycznie (sprawdzenie pisowni czy gramatyki jest niewystarczające). Po drugie, musi być jasno określona odpowiedzialność, czyli za publikację musi odpowiadać konkretna osoba fizyczna lub prawna. Co istotne, jeśli AI modyfikuje tekst po zatwierdzeniu redakcyjnym – wyłączenie przestaje działać (pkt 136 Wytycznych). Podsumowując: nie wymaga etykiety tekst, który dziennikarz napisał z pomocą AI, a potem przeczytał, sprawdził fakty i podpisał się pod nim redaktor naczelny. Natomiast wymaga oznaczenia artykuł zamieszczony na stronie internetowej bez niczyjej realnej kontroli, nawet jeśli formalnie działa tam „system moderacji".

Z kolei infografiki i obrazy podlegają ogólnemu znakowaniu technicznemu z art. 50 ust. 2 AI Act, a dodatkowo – jeśli spełniają kryteria uznania za deepfake – obowiązkowi ujawnienia z art. 50 ust. 4 AI Act. Obowiązki z art. 50 ust. 2 i art. 50 ust. 4 są odrębne i mogą być zastosowane łącznie. Oznaczenie maszynowo czytelne przewidziane w art. 50 ust. 2 nie zastępuje jasnego i dostrzegalnego dla człowieka ujawnienia wymaganego przez art. 50 ust. 4 w przypadku deepfake’ów.

Warto zaznaczyć, że Wytyczne nie traktują „infografiki” jako odrębnej kategorii treści. W praktyce należy ocenić jej poszczególne elementy w świetle kategorii wskazanych w art. 50 AI Act.

Kto nie musi oznaczać treści np. publikowanych w mediach społecznościowych?

Osoba fizyczna korzystająca z systemów AI w ramach czysto osobistej działalności pozazawodowej jest wyłączona z zakresu stosowania AI Act. Wyłączenie obejmuje również osobę, która w takim charakterze generuje deepfake i publikuje go w mediach społecznościowych. Inaczej jest, jeśli robi to regularnie dla korzyści ekonomicznej lub w ramach działalności zawodowej lub gospodarczej. Wtedy staje się podmiotem stosującym objętym obowiązkiem.

Uważa się, że tego rodzaju korzystanie z systemów AI jest mniej ryzykowne w porównaniu z zastosowaniami zawodowymi lub komercyjnymi, gdyż potencjalne szkody dla jednostek lub społeczeństwa są prawdopodobnie mniej znaczące w tych warunkach. To nie oznacza, że osoby fizyczne korzystające z systemów AI w ramach czysto osobistej działalności pozazawodowej nie mogą ponosić odpowiedzialności na podstawie przepisów prawa cywilnego za szkody, które wyrządziły umyślnie lub z rażącego niedbalstwa podczas korzystania z systemów AI.

Co istotne, nawet jeśli użytkownik jest zwolniony z obowiązku określonego w art. 50 ust. 4 AI Act, to dostawca systemu AI użytego do wygenerowania takiej treści (np. deepfake’u użytego w prywatnej kartce świątecznej) nadal musi technicznie oznaczyć wynik zgodnie z art. 50 ust. 2 AI Act.

Obowiązkiem widocznego oznaczenia treści nie są objęte sytuacje, w których prawo zezwala na wykorzystanie systemu AI do wykrywania, zapobiegania, ścigania przestępstw lub prowadzenia postępowań w ich sprawie. Częściowo zwolnione są też treści ewidentnie artystyczne, twórcze, satyryczne czy fikcyjne (np. satyra polityczna czy parodia publikowana w social mediach). W tym przypadku wyłączenie nie znosi obowiązku całkowicie, tylko go łagodzi. Wystarczy ujawnić pochodzenie treści w sposób niezakłócający jej odbioru, zamiast wyraźnie widocznej etykiety.

Do tego dochodzą drobne, czysto techniczne zmiany, które nie są kwalifikowane jako „generowanie” czy „manipulowanie” treścią, a zatem nie tworzą deepfake’a wymagającego oznaczenia. Należą do nich: korekta koloru, redukcja szumu, kompresja pliku, przycinanie kadru czy usunięcie efektu czerwonych oczu. To ma praktyczne znaczenie szczególnie dla social mediów – zwykły filtr poprawiający zdjęcie nie aktualizuje obowiązku, ale podmiana twarzy czy synteza głosu już tak.

Czy dla nowego obowiązku ma znaczenie to, kiedy treść powstała?

Tak. Wytyczne rozstrzygają to w pkt 153-154.

Zasadniczo obowiązek technicznego oznaczania treści przez dostawców systemów AI – czyli dodania do wyników działania systemu znaku wodnego, który pozwala automatycznie rozpoznać, że dana treść powstała dzięki AI – obowiązuje od 2 sierpnia 2026 r. Wyjątkiem są systemy, które działały na rynku już wcześniej: ich dostawcy dostali dodatkowe cztery miesiące, czyli czas do 2 grudnia 2026 r., na dostosowanie się do tego wymogu. Systemy wprowadzane na rynek od 2 sierpnia 2026 r. muszą spełniać ten obowiązek od razu. Wszystkie pozostałe obowiązki z art. 50 AI Act – w tym poinformowanie danej osoby, że wchodzi w interakcję z systemem AI, a nie z człowiekiem – obowiązują od 2 sierpnia 2026 r. bez żadnego wyjątku i niezależnie od tego, jak długo dany system jest już na rynku.

Osobną kwestią jest to, czy trzeba wstecznie oznaczyć treść, która powstała jeszcze przed wejściem przepisów w życie. Tu data ma znaczenie, ale inaczej dla różnych rodzajów treści:

• Obrazy, audio i wideo, w tym deepfake’i: jeśli treść została wygenerowana lub zmanipulowana przed 2 sierpnia 2026 r., nie trzeba jej oznaczać wstecznie – decyduje data wygenerowania.

• Teksty dotyczące spraw interesu publicznego: w tym przypadku decyduje nie data powstania, a data publikacji. Jeśli tekst powstał przed 2 sierpnia 2026 r., ale został opublikowany w tym dniu lub później – musi zostać oznaczony. Jeśli natomiast zarówno powstał, jak i został opublikowany przed tą datą – oznaczenie wsteczne nie jest wymagane.

Komisja Europejska w wydanych Wytycznych zachęca do dobrowolnego oznaczania starszych, nieoznaczonych deepfake’ów, ale nie oczekuje w tym celu podejmowania nieproporcjonalnych działań, np. audytowania istniejących baz treści czy modyfikowania już wydrukowanych opakowań produktów (pkt 154 Wytycznych).

Bardzo dziękuję za rozmowę.

Maria Jędrzejczak – doktor nauk prawnych; adiunkt w Zakładzie Prawa Administracyjnego i Nauki o Administracji oraz Lokalny Administrator Bezpieczeństwa Informacji na Wydziale Prawa i Administracji Uniwersytetu im. Adama Mickiewicza w Poznaniu. Członek Rady Naukowej Instytutu Prawa Ochrony Danych Osobowych przy Urzędzie Ochrony Danych Osobowych w Warszawie. Współredaktorka i współautorka pierwszego w Polsce komentarza do AI Act. Badania naukowe prowadziła m.in. w Oxford University, University of Cambridge, University of Hong Kong, Harvard University i New York University. Autorka publikacji z zakresu prawa administracyjnego, legislacji administracyjnej, prawa ochrony danych osobowych i prawa sztucznej inteligencji w ujęciu krajowym i prawnoporównawczym.