logo czasopisma

Articles

Vol. 58 No. 5 (2025): Prawo i Więź nr 5 (58) 2025

Deepfakes in the Light of the Artificial Intelligence Act

DOI:
https://doi.org/10.36128/4dr67e80
Submitted
2 September 2025
Published
18 November 2025

Abstract

The Artificial Intelligence Act is the world's first regulation to establish a comprehensive legal framework specifying harmonized rules for the creation, use, and dissemination of AI systems. One of the areas regulated by the AI Act is deepfake technology, which encompasses AI systems that generate or modify synthetic content in the form of images, sounds, or videos that falsely appear authentic. This technology contributes to numerous abuses and is consistently associated with destructive behavior. EU legislators have recognized the risks associated with deepfake content – the Artificial Intelligence Act provides procedures to protect citizens from manipulation and disinformation, classifying deepfakes as limited risk and introducing transparency obligations for providers of AI systems that generate deepfake content, as well as for those who use them. The aim of this article is to provide a detailed analysis of the provisions of the Artificial Intelligence Act relating to deepfake technology, the scope of their application, and the method of enforcement. Additionally, the assessment will focus on the categorization of risks associated with deepfake content adopted by the EU legislator and its adequacy in the context of fundamental rights protection.

References

  1. Bar, Gabriela. “AI Act w działaniu: co się stanie z deepfake’ami?” https://panoptykon.org/ai-act-w-dzialaniu-deepfaki.
  2. Burczaniuk, Piotr. “Tworzenie prawa sztucznej inteligencji – wyzwania i perspektywy.” Prawo i Więź, nr 3(50) (2024): 283 – 300. https://doi.org/10.36128/PRIW.VI51.707.
  3. Flisak, Damian. “Akt w sprawie sztucznej inteligencji. Komentarz praktyczny.” LEX/el., 2024.
  4. Kiełpiński, Krzysztof. “Deepfake jako narzędzie do przekazywania informacji fałszywej i domniemanej. Analiza prawnokarna i cybernetyczna.” Kwartalnik Krajowej Szkoły Sądownictwa i Prokuratury, nr 3(51) (2023): 83 – 99. https://doi.org/10.53024/5.3.51.2023.
  5. Kozłowski, Jakub. “Akt w sprawie sztucznej inteligencji w praktyce – charakterystyka unijnej regulacji opartej na ryzyku.” Europejski Przegląd Sądowy, nr 12 (2024): 20 – 25.
  6. Kozłowski, Jakub. “Analiza i ocena zmian w Akcie o sztucznej inteligencji (AI Act).” https://law4tech.pl/1881-2/.
  7. Lisinska, Justyna i Daniel Castro. ”Why AI-Generated Content Labeling Mandates Fall Short.” https://www2.datainnovation.org/2024-ai-watermarking.pdf.
  8. Łabuz, Mateusz. “Deep fakes and the Artificial Inteligence Act – An important Signal or a Missed Ppportunity?” Policy & Internet, vol. 16, issue 4 (2024): 783 – 800. https://doi.org/10.1002/poi3.406.
  9. Łabuz, Mateusz. “Regulating Deep Fakes in the Artificial Intelligence Act.” Applied Cybersecurity & Internet Governance, nr 2(1) (2023): 1 – 42. https://doi.org/ 10.60097/ACIG/162856.
  10. Malec, Norbert. “Sztuczna inteligencja a bezpieczeństwo państwa.” Prawo i Bezpieczeństwo – Law & Security, nr 1(2) (2024): 20 – 42. https://doi.org/10.4467/29567610PIB.24.002.19838.
  11. Polański, Przemysław. “Nowe i stare wyzwania dotyczące zwalczania bezprawnych treści w Internecie.” W Sztuczna inteligencja, blockchain, cyberbezpieczeństwo oraz dane osobowe. Zagadnienia wybrane, red. Kinga Flaga-Gieruszyńska, Jacek Gołaczyński i Dariusz Szostek, 183 – 191.Warszawa: C.H. Beck, 2019.
  12. Rzymowski, Jakub. “Definicja prawnicza sztucznej inteligencji na podstawie rozporządzenia PE i Rady (UE) 2024/1689 w sprawie sztucznej inteligencji.” Przegląd Prawa Publicznego, nr 11 (2024): 56 – 63.
  13. Szpyt Kamil i Artur Bilski. “Wybrane wyzwania prawne i organizacyjne związane z wdrażaniem systemów AI w działalności samorządów terytorialnych.” Prawo i Więź, nr 1(54) (2025): 565 – 596.
  14. Szpyt, Kamil. ”Sztuczna inteligencja i nowe technologie (nie zawsze) w służbie ludzkości, czyli cywilnoprawna problematyka rozwoju i popularyzacji technologii deepfake.” W Sztuczna inteligencja, blockchain, cyberbezpieczeństwo oraz dane osobowe. Zagadnienia wybrane, red. Kinga Flaga-Gieruszyńska, Jacek Gołaczyński i Dariusz Szostek, 75 – 94. Warszawa: C.H. Beck, 2019.
  15. Szyłkowska, Monika. “Sztuczna inteligencja – strategiczne wyzwania i ryzyka w obszarze prewencji kryminalnej – zarys problemu.” The Prison Systems Review, nr 3 (2024): 273 – 290. https://doi.org/ 10.52694/ThPSR.2024.3.14.

Downloads

Download data is not yet available.

Most read articles by the same author(s)