logo czasopisma

Articles

Vol. 58 No. 5 (2025): Prawo i Więź nr 5 (58) 2025

Deepfakes in the Light of the Artificial Intelligence Act

DOI:
https://doi.org/10.36128/4dr67e80
Submitted
2 September 2025
Published
18-11-2025

Abstract

The Artificial Intelligence Act is the world's first regulation to establish a comprehensive legal framework specifying harmonized rules for the creation, use, and dissemination of AI systems. One of the areas regulated by the AI Act is deepfake technology, which encompasses AI systems that generate or modify synthetic content in the form of images, sounds, or videos that falsely appear authentic. This technology contributes to numerous abuses and is consistently associated with destructive behavior. EU legislators have recognized the risks associated with deepfake content – the Artificial Intelligence Act provides procedures to protect citizens from manipulation and disinformation, classifying deepfakes as limited risk and introducing transparency obligations for providers of AI systems that generate deepfake content, as well as for those who use them. The aim of this article is to provide a detailed analysis of the provisions of the Artificial Intelligence Act relating to deepfake technology, the scope of their application, and the method of enforcement. Additionally, the assessment will focus on the categorization of risks associated with deepfake content adopted by the EU legislator and its adequacy in the context of fundamental rights protection.

References

  1. Bar, Gabriela. “AI Act w działaniu: co się stanie z deepfake’ami?” https://panoptykon.org/ai-act-w-dzialaniu-deepfaki.
    View in Google Scholar
  2. Burczaniuk, Piotr. “Tworzenie prawa sztucznej inteligencji – wyzwania i perspektywy.” Prawo i Więź, nr 3(50) (2024): 283 – 300. https://doi.org/10.36128/PRIW.VI51.707.
    View in Google Scholar
  3. Flisak, Damian. “Akt w sprawie sztucznej inteligencji. Komentarz praktyczny.” LEX/el., 2024.
    View in Google Scholar
  4. Kiełpiński, Krzysztof. “Deepfake jako narzędzie do przekazywania informacji fałszywej i domniemanej. Analiza prawnokarna i cybernetyczna.” Kwartalnik Krajowej Szkoły Sądownictwa i Prokuratury, nr 3(51) (2023): 83 – 99. https://doi.org/10.53024/5.3.51.2023.
    View in Google Scholar
  5. Kozłowski, Jakub. “Akt w sprawie sztucznej inteligencji w praktyce – charakterystyka unijnej regulacji opartej na ryzyku.” Europejski Przegląd Sądowy, nr 12 (2024): 20 – 25.
    View in Google Scholar
  6. Kozłowski, Jakub. “Analiza i ocena zmian w Akcie o sztucznej inteligencji (AI Act).” https://law4tech.pl/1881-2/.
    View in Google Scholar
  7. Lisinska, Justyna i Daniel Castro. ”Why AI-Generated Content Labeling Mandates Fall Short.” https://www2.datainnovation.org/2024-ai-watermarking.pdf.
    View in Google Scholar
  8. Łabuz, Mateusz. “Deep fakes and the Artificial Inteligence Act – An important Signal or a Missed Ppportunity?” Policy & Internet, vol. 16, issue 4 (2024): 783 – 800. https://doi.org/10.1002/poi3.406.
    View in Google Scholar
  9. Łabuz, Mateusz. “Regulating Deep Fakes in the Artificial Intelligence Act.” Applied Cybersecurity & Internet Governance, nr 2(1) (2023): 1 – 42. https://doi.org/ 10.60097/ACIG/162856.
    View in Google Scholar
  10. Malec, Norbert. “Sztuczna inteligencja a bezpieczeństwo państwa.” Prawo i Bezpieczeństwo – Law & Security, nr 1(2) (2024): 20 – 42. https://doi.org/10.4467/29567610PIB.24.002.19838.
    View in Google Scholar
  11. Polański, Przemysław. “Nowe i stare wyzwania dotyczące zwalczania bezprawnych treści w Internecie.” W Sztuczna inteligencja, blockchain, cyberbezpieczeństwo oraz dane osobowe. Zagadnienia wybrane, red. Kinga Flaga-Gieruszyńska, Jacek Gołaczyński i Dariusz Szostek, 183 – 191.Warszawa: C.H. Beck, 2019.
    View in Google Scholar
  12. Rzymowski, Jakub. “Definicja prawnicza sztucznej inteligencji na podstawie rozporządzenia PE i Rady (UE) 2024/1689 w sprawie sztucznej inteligencji.” Przegląd Prawa Publicznego, nr 11 (2024): 56 – 63.
    View in Google Scholar
  13. Szpyt Kamil i Artur Bilski. “Wybrane wyzwania prawne i organizacyjne związane z wdrażaniem systemów AI w działalności samorządów terytorialnych.” Prawo i Więź, nr 1(54) (2025): 565 – 596.
    View in Google Scholar
  14. Szpyt, Kamil. ”Sztuczna inteligencja i nowe technologie (nie zawsze) w służbie ludzkości, czyli cywilnoprawna problematyka rozwoju i popularyzacji technologii deepfake.” W Sztuczna inteligencja, blockchain, cyberbezpieczeństwo oraz dane osobowe. Zagadnienia wybrane, red. Kinga Flaga-Gieruszyńska, Jacek Gołaczyński i Dariusz Szostek, 75 – 94. Warszawa: C.H. Beck, 2019.
    View in Google Scholar
  15. Szyłkowska, Monika. “Sztuczna inteligencja – strategiczne wyzwania i ryzyka w obszarze prewencji kryminalnej – zarys problemu.” The Prison Systems Review, nr 3 (2024): 273 – 290. https://doi.org/ 10.52694/ThPSR.2024.3.14.
    View in Google Scholar

Downloads

Download data is not yet available.