Media syntetyczne — definicja z AI Act
Media syntetyczne to obrazy, wideo, dźwięk i tekst wygenerowane lub zmanipulowane przez AI. Wyjaśniamy definicję z AI Act, obowiązki oznaczania i różnicę wobec deepfake.
Co to są media syntetyczne?
Media syntetyczne (ang. synthetic media) to treści — obrazy, wideo, dźwięk i tekst — wytworzone lub istotnie zmienione przez systemy sztucznej inteligencji, a nie zarejestrowane aparatem czy mikrofonem. Rozporządzenie (UE) 2024/1689 (AI Act) nakłada w art. 50 ust. 2 obowiązek oznaczania takich treści w sposób odczytywalny maszynowo. Deepfake jest ich szczególnym, potencjalnie mylącym podzbiorem.
Podstawa prawna
AI Act, art. 50 ust. 2. Dostawcy systemów generujących syntetyczny dźwięk, obraz, wideo lub tekst muszą znakować wyniki maszynowo; przepis stosowany od 2 sierpnia 2026 r.
Techniki znakowania
Znak wodny, metadane, odcisk. Motyw 133 AI Act wymienia znaki wodne, metadane, metody kryptograficzne, rejestrowanie i odciski cyfrowe.
Standardy
C2PA, IPTC, SynthID. C2PA — podpisane metadane pochodzenia; IPTC — słownik digitalsourcetype; SynthID — znak wodny Google DeepMind (2023).
Kara
Do 15 mln euro lub 3%. Za naruszenie obowiązków z art. 50 — art. 99 ust. 4 AI Act (wyższa z dwu kwot dla przedsiębiorstw).
| Rodzaj | Technika | Obowiązek AI Act | Źródło (rok) |
|---|---|---|---|
| Obraz syntetyczny | dyfuzja, inpainting | art. 50 ust. 2 — znakowanie maszynowe | EUR-Lex 2024/1689 (2024) |
| Wideo syntetyczne | obraz-do-wideo, text-to-video | ust. 2; ust. 4 gdy realna osoba | EUR-Lex 2024/1689 (2024) |
| Dźwięk syntetyczny | text-to-speech, modele audio | ust. 2; ust. 4 dla klonu głosu | EUR-Lex 2024/1689 (2024) |
| Tekst syntetyczny | duże modele językowe | ust. 2; ust. 4 dla tekstu publicznego | EUR-Lex 2024/1689 (2024) |
| Deepfake | zamiana twarzy, inpainting | art. 50 ust. 4 — ujawnienie | EUR-Lex 2024/1689, art. 3 pkt 60 |
Przykłady: portret z opisu, zmienione ubranie w edytorze; klip z jednego zdjęcia; klon głosu, lektor AI; artykuł generowany przez model językowy; twarz realnej osoby w cudzym nagraniu. Kolumna „Obowiązek” streszcza przepis; wyjątki (np. funkcja wspomagająca standardową edycję, redakcja ludzka tekstu) znajdują się w art. 50 ust. 2 i 4. To nie jest porada prawna.
Jak AI Act definiuje treści syntetyczne i co nakazuje?
AI Act nie definiuje „mediów syntetycznych” jako osobnego terminu, ale w art. 50 ust. 2 mówi o „syntetycznych treściach dźwiękowych, obrazowych, wideo lub tekstowych” generowanych przez systemy AI. Dostawcy takich systemów muszą zapewnić, by wyniki były oznaczone w formacie odczytywalnym maszynowo i wykrywalne jako sztucznie wygenerowane lub zmanipulowane.
Osobno uregulowano deepfake (art. 3 pkt 60): treści przypominające realne osoby lub zdarzenia, które mogą uchodzić za autentyczne. Podmiot stosujący system, który je tworzy, musi ujawnić ten fakt odbiorcom (art. 50 ust. 4). Oba obowiązki stosuje się od 2 sierpnia 2026 r.; szczegóły omawia hasło AI Act art. 50.
Wyjątki dotyczą m.in. systemów pełniących funkcję wspomagającą standardową edycję, które nie zmieniają istotnie danych wejściowych, oraz dozwolonego prawem użycia przez organy ścigania. Kary za naruszenie art. 50 określa art. 99 ust. 4: do 15 mln euro lub 3% rocznego światowego obrotu.
Czym media syntetyczne różnią się od deepfake?
Relacja jest prosta: każdy deepfake jest treścią syntetyczną, ale nie każda treść syntetyczna jest deepfake. Wygenerowany od zera portret fikcyjnej osoby, ilustracja produktu czy lektor AI czytający instrukcję to media syntetyczne bez elementu podszywania się. Deepfake zaczyna się tam, gdzie treść przypomina konkretną realną osobę lub zdarzenie i może zostać wzięta za prawdziwą.
Rozróżnienie ma skutki praktyczne. Obraz syntetyczny bez realnej osoby wymaga wyłącznie znakowania maszynowego przez dostawcę narzędzia. Obraz z twarzą realnej osoby wymaga dodatkowo jawnego ujawnienia przez publikującego — a jeśli przedstawia nagość bez zgody, staje się NCII i podlega art. 191a KK.
Jak oznacza się media syntetyczne w praktyce?
Motyw 133 AI Act wymienia dopuszczalne techniki: znaki wodne, identyfikację metadanych, metody kryptograficzne potwierdzające pochodzenie, rejestrowanie i odciski cyfrowe. W praktyce stosuje się trzy warstwy. Pierwsza to metadane pochodzenia w standardzie C2PA — podpisany kryptograficznie manifest opisujący, jakie narzędzie i jakie operacje wytworzyły plik.
Druga warstwa to niewidoczny znak wodny wpisany w piksele lub próbki dźwięku — np. SynthID Google DeepMind, który przetrwa kompresję i przycięcie. Trzecia to słownik IPTC digitalsourcetype z wartością „trainedAlgorithmicMedia”, używany przez platformy do automatycznego dodawania etykiet, takich jak „AI info” w produktach Meta (2024).
Żadna z warstw nie jest niezawodna: metadane można usunąć, znak wodny osłabić, a etykieta platformy zależy od tego, czy narzędzie w ogóle ją zapisało. Dlatego weryfikacja opiera się na łączeniu sygnałów — opisujemy ją pod hasłem wykrywanie deepfake.
Jak recenzowane narzędzia oznaczają obrazy AI?
Wyniki narzędzi do rozbierania zdjęć AI i edytorów ubrań są mediami syntetycznymi w rozumieniu AI Act — ich dostawcy podlegają obowiązkowi znakowania. W kryterium prywatności (waga 30%) sprawdzamy, czy operator zapisuje metadane C2PA lub inny znacznik, czy nakłada widoczny znak wodny i czy informuje użytkownika o obowiązku ujawnienia z art. 50 ust. 4.
W galerii publikujemy wyłącznie próbki SFW pochodzące z recenzowanych narzędzi, z podpisem wskazującym narzędzie i syntetyczny charakter obrazu. Zasady opisuje polityka treści AI; serwis sam nie generuje ani nie przetwarza obrazów.
Powiązane pojęcia: deepfake, C2PA, znak wodny, SynthID
Podzbiór mylący odbiorcę opisuje hasło deepfake. Standardy oznaczania mają osobne wpisy: C2PA, znak wodny i SynthID. Podstawę prawną omawia AI Act art. 50, a techniki wytwarzania — dyfuzja i GAN.
Powiązane narzędzia, które recenzujemy
Trzy narzędzia z katalogu pokazujące różne rodzaje treści syntetycznych i związane z nimi obowiązki. Oceny nadajemy według wag z metodyki (prywatność 30% · jakość 25% · cena 20% · szybkość 15% · wsparcie 10%); serwis jest platformą recenzji i nie przetwarza zdjęć.
Ainudez
Ocena 9,3/10 · test 27.08.2026 · Partner. Generuje obrazy i klipy wideo — media syntetyczne w rozumieniu art. 50 ust. 2; sprawdzamy znakowanie.
OpenArt
Ocena 7,8/10 · test 29.08.2026 · SFW · bez afiliacji. Edytor SFW; wyniki to obrazy syntetyczne bez elementu deepfake, jeśli nie przedstawiają realnej osoby.
SwapFaces.ai
Ocena 8,0/10 · test 20.08.2026 · Bez afiliacji. Zamiana twarzy — treść syntetyczna, która przy realnej osobie staje się deepfake (art. 50 ust. 4).
Najczęstsze pytania
Pytania o definicję, obowiązki i oznaczanie.
Czy każdy obraz z AI to media syntetyczne?
Tak, jeśli został wygenerowany lub istotnie zmieniony przez system AI — niezależnie od tematu. Wyjątkiem w AI Act są funkcje wspomagające standardową edycję (np. drobny retusz), które nie zmieniają istotnie danych wejściowych; takie wyniki nie podlegają obowiązkowi znakowania z art. 50 ust. 2.
Czym media syntetyczne różnią się od deepfake?
Deepfake to podzbiór: treść syntetyczna przypominająca realną osobę, miejsce lub zdarzenie, która może uchodzić za autentyczną (art. 3 pkt 60 AI Act). Fikcyjny portret lub lektor AI to media syntetyczne, ale nie deepfake. Deepfake wymaga dodatkowo ujawnienia przez publikującego (art. 50 ust. 4).
Kto musi oznaczać treści syntetyczne według AI Act?
Dostawca systemu AI — musi zapewnić znakowanie maszynowe wyników (art. 50 ust. 2). Podmiot stosujący system do tworzenia deepfake musi dodatkowo jawnie ujawnić, że treść jest sztuczna (ust. 4). Oba obowiązki stosuje się od 2 sierpnia 2026 r.; kary określa art. 99 ust. 4.
Jak sprawdzić, czy obraz jest syntetyczny?
Sprawdź metadane pochodzenia C2PA (np. w narzędziu Content Credentials Verify), poszukaj etykiety platformy, a przy braku metadanych użyj detektora znaków wodnych lub klasyfikatora. Brak oznaczenia nie dowodzi autentyczności — metadane można usunąć. Więcej pod hasłem wykrywanie deepfake.
Czy próbki w galerii Clothoff AI są mediami syntetycznymi?
Tak — wszystkie próbki pochodzą z recenzowanych narzędzi i są oznaczone jako wygenerowane przez AI, z podaniem narzędzia. Publikujemy wyłącznie obrazy SFW wykonane na własnych materiałach kontrolnych redakcji lub za zgodą dorosłych osób; serwis sam nie generuje obrazów.
Źródła
- Rozporządzenie (UE) 2024/1689 (AI Act) — art. 3 pkt 60, art. 50, art. 99, motyw 133 — EUR-Lex, dostęp 08.09.2026.
- C2PA Technical Specification 2.1 — Coalition for Content Provenance and Authenticity, dostęp 08.09.2026.
- IPTC NewsCodes — Digital Source Type (trainedAlgorithmicMedia) — IPTC, dostęp 08.09.2026.
- SynthID — watermarking and identifying AI-generated content — Google DeepMind, dostęp 08.09.2026.
- Content Credentials Verify — weryfikacja metadanych C2PA — Content Authenticity Initiative, dostęp 08.09.2026.
- Meta's Approach to Labeling AI-Generated Content and Manipulated Media (04.2024) — Meta Newsroom, dostęp 08.09.2026.
Hasło ma charakter informacyjny i nie stanowi porady prawnej. Stan na 08.09.2026. Poprawki: [email protected].