Opinia biegłego w perspektywie aktu w sprawie sztucznej inteligencji

• Authors: Maciej Marcinowski-Prażmowski

Title variants

EN

Forensic Testimony from the Perspective of the Artificial intelligence Act

Abstracts

EN

The development and ubiquity of artificial intelligence, which have accelerated significantly in the present decade, are a source of new opportunities and risks. Having regard for the protection of fundamental rights from the potential negative impacts of artificial intelligence applications, the European Parliament and Council have adopted a comprehensive regulation known as the Artificial intelligence Act, which entered into force on 1 August 2024. The goal of the regulation was to ensure safety, transparency, protection of fundamental rights and to support innovation with respect to artificial intelligence. The regulation is structured with respect to a risk-based system, where obligations resulting from the use of artificial intelligence systems are determined by the levels of risk associated with them (these levels of risk are unacceptable, high, limited and minimal). This raises three questions concerning forensic expert testimonies, which this paper aims to address: i) to what extend would the methods used by forensic experts fall under the regulation of the Artificial intelligence Act; ii) what could be the obligations of forensic experts in relation to the use of methods regulated by the Artificial intelligence Act; iii) what could be the potential penalties for non-compliance with the Artificial intelligence Act? As a result of the presented research it was determined that, in principle, artificial intelligence systems utilized to produce forensic expert testimonies will not be regarded as high-risk systems. However, they could be made subject to high-risk regulations if the European Commission used its powers to change the scope of the high-risk use-cases. Hence, the use of artificial intelligence systems to produce expert testimonies would entail various technical and supervisory obligations, which could result in administrative fines.

PL

Rozwój i rozpowszechnianie się sztucznej inteligencji, które znacznie przyspieszyły w obecnej dekadzie, powodują wzrost nowych możliwości i zagrożeń. Mając na uwadze ochronę praw podstawowych przed potencjalnymi negatywnymi skutkami zastosowań sztucznej inteligencji, Parlament Europejski i Rada przyjęły kompleksową regulację, tj. akt w sprawie sztucznej inteligencji, która weszła w życie 1 sierpnia 2024 r. Celem przyjętej regulacji jest zapewnienie bezpieczeństwa, przejrzystości, ochrony praw podstawowych oraz wspieranie innowacji w zakresie sztucznej inteligencji. Struktura regulacji polega na systemie ryzyka, który uzależnia obowiązki wynikające z wykorzystywania systemów sztucznej inteligencji od poziomów ryzyka z nimi związanych (ryzyko niedopuszczalne, wysokie, ograniczone i minimalne). Rodzi to trzy podstawowe pytania dotyczące opiniowania przez biegłych, na które odpowiedź była celem niniejszego artykułu. W jakim zakresie metody stosowane przez biegłych będą objęte regulacjami aktu w sprawie sztucznej inteligencji? Jakie będą obowiązki biegłych w związku z wykorzystaniem metod objętych aktem w sprawie sztucznej inteligencji? Jaka będzie potencjalna odpowiedzialność za naruszenia obowiązków wynikających z aktu w sprawie sztucznej inteligencji? W wyniku przeprowadzonych badań ustalono, że co do zasady systemy sztucznej inteligencji wykorzystywane do opiniowania przez biegłych nie będą objęte regulacjami dotyczącymi systemów wysokiego ryzyka. Jednakże mogłyby zostać uznane za systemy wysokiego ryzyka w wyniku inicjatywy Komisji Europejskiej, zmieniającej zakres przypadków wykorzystywania systemów wysokiego ryzyka. W rezultacie z wykorzystywaniem systemów sztucznej inteligencji do opiniowania przez biegłych wiązałby się szereg obowiązków dotyczących obsługi i nadzoru nad takimi systemami oraz potencjalna odpowiedzialność w postaci administracyjnych kar pieniężnych.

Keywords

PL

biegły; kryminalistyka; opinia; prawa podstawowe; akt w sprawie sztucznej inteligencji

EN

expert; forensics; testimony; fundamental rights; artificial intelligence act

• Publisher: Akademia Policji w Szczytnie
• Journal: Przegląd Policyjny
• Year: 2025
• Volume: 157(1)
• Pages: 132-149

Dates

published

2025

Contributors

author

Maciej Marcinowski-Prażmowski

• Uniwersytet Śląski w Katowicach

• https://orcid.org/0000000157972933

References

• Ahmed N., Wahed M., Thompson N.C., The growing influence of industry in AI research, “Science” 2023, Vol. 379, No. 6635.
• Angus J., Castelaz F., Psychophysiological Detection of Deception from Tests Employing All-Relevant Questions: Artificial Neural Network Approaches, Fort McClellan 1995.
• Angus J., Castelaz F., Artificial Neural Network Analysis of Polygraph Signals, Fort McClellan 1993.
• Barros da Silva A.V., Data Augmentation for Offline Handwritten Signature Verification, Recife 2018.
• Bermejo E. i in., Automatic landmark annotation in 3D surface scans of skulls: Methodological proposal and reliability study, “Computer Methods and Programs in Biomedicine” 2021, Vol. 210.
• Bibi M. i in., Document Forgery Detection using Printer Source Identification - A Text-Independent Approach [w:] O’Conner L. (red.), 2019 International Conference on Document Analysis and Recognition Workshops (ICDARW), Vol. 8, Piscataway 2019.
• de Boer H.H. i in., The logic of forensic pathology opinion, “International Journal of Legal Medicine” 2022, Vol. 136, <https://doi.org/10.1007/s00414-021-02754-1>, 29 maja 2025 r.
• Bogdal C. i in., Recognition of gasoline in fire debris using machine learning: Part II, application of a neural network, “Forensic Science International” 2022, Vol. 332.
• Buchan E. i in., Spectroscopic molecular-fingerprint profiling of saliva, “Analytica Chimica Acta” 2021, Vol. 1185.
• Casali M. i in., A pilot study for investigating the feasibility of supervised machine learning approaches for the classification of pedestrians struck by vehicles, “Journal of Forensic and Legal Medicine” 2021, Vol. 84.
• Cha S.-H. i in., Automatic Detection Of Handwriting Forgery Using A Fractal Number Estimate Of Wrinkliness, “International Journal of Pattern Recognition and Artificial Intelligence” 2004, Vol. 18, No. 7.
• Dempsey N. i in., Exploring the use of machine learning for the assessment of skeletal fracture morphology and differentiation between impact mechanisms: A pilot study, „Journal of Forensic Sciences” 2022, Vol. 67, Iss. 2.
• Estai M. i in., Deep learning for automated detection and numbering of permanent teeth on panoramic images, “Dento Maxillo Facial Radiology” 2022, Vol. 51, No. 2.
• European Parliament, Report on the proposal for a regulation of the European Parliament and of the Council on laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts, <https://www.europarl.europa.eu/doceo/document/A-9-2023-0188_EN.html>, 22 maja 2023 r.
• Ghanim T.M., Nabil A.M., Offline Signature Verification and Forgery Detection Approach [w:] Salem A. i in. (red.), 2018 13th International Conference on Computer Engineering and Systems (ICCES), Cairo 2018.
• Gideon S.J. i in., Handwritten Signature Forgery Detection using Convolutional Neural Networks, “Procedia Computer Science” 2018, Vol. 143.
• Golomingi R. i in., Sperm hunting on optical microscope slides for forensic analysis with deep convolutional networks - a feasibility study, “Forensic Science International. Genetics” 2022, Vol. 56.
• Goodfellow I. i in., Generative Adversarial Nets [w:] Ghahramani Z. i in. (red.), Advances in Neural Information Processing Systems, Vol. 27, Red Hook 2014.
• Gu J. i in., AI-enabled image fraud in scientific publications, “Patterns” 2022, Vol. 3, No. 7.
• Han M. i in., With or without human interference for precise age estimation based on machine learning?, “International Journal of Legal Medicine” 2022, Vol. 136, <https://doi.org/10.1007/s00414-022-02796-z>, 29 maja 2025 r.
• Hassan M. i in., Deep learning analysis and age prediction from shoeprints, “Forensic Science International” 2021, Vol. 327.
• Hu L. i in., Predicting the postmortem interval using human intestinal microbiome data and random forest algorithm, “Science & Justice” 2021, Vol. 61, No. 5.
• Ibanez V. i in., RiFNet: Automated rib fracture detection in postmortem computed tomography, “Forensic Science, Medicine, and Pathology” 2022, Vol. 18.
• Intasuwan P. i in., Comparison of sex determination using three methods applied to the greater sciatic notch of os coxae in a Thai population: Dry bone morphology, 2-dimensional photograph morphometry, and deep learning artificial neural network, “Medicine, Science and the Law” 2022, Vol. 62, Iss. 4.
• Ismail A. i in., Deepfake video detection: YOLO-Face convolution recurrent approach, “PeerJ Computer Science” 2021, Vol. 7.
• Jaiswal G., Sharma A., Yadav S.K., Deep feature extraction for document forgery detection with convolutional autoencoders, “Computers & Electrical Engineering” 2022, Vol. 99.
• Klingberg J. i in., Developments in high-resolution mass spectrometric analyses of new psychoactive substances, “Archives of Toxicology” 2022, Vol. 96, <https://doi.org/10.1007/s00204-022-03224-2>, 29 maja 2025 r.
• Krizhevsky A., Sutskever I., Hinton G.E., ImageNet Classification with Deep Convolutional Neural Networks [w:] Pereira F. i in. (red.), Advances in Neural Information Processing Systems, Vol. 25, Red Hook 2012.
• Kudeikina I., Loseviča M., Gutorova N.O., Legal and practical problems of use of artificial intelligence-based robots in forensic psychiatry, „Wiadomości Lekarskie” 2021, t. 74, nr 11, cz. 2.
• Lai S. i in., SynSig2Vec: Forgery-free Learning of Dynamic Signature Representations by Sigma Lognormal-based Synthesis and 1D CNN, “IEEE Transactions on Pattern Analysis and Machine Intelligence” 2022, Vol. 44, Iss. 10.
• Lee S.Y. i in., Revealing Unknown Controlled Substances and New Psychoactive Substances Using High-Resolution LC-MS/MS Machine Learning Models and the Hybrid Similarity Search Algorithm, “Journal of Analytical Toxicology” 2022, Vol. 46, Iss. 7.
• Mania K., Legal Protection of Revenge and Deepfake Porn Victims in the European Union: Findings From a Comparative Legal Study, “Trauma, Violence, & Abuse” 2024, Vol. 25, Iss. 1.
• Marcinowski M., Evaluation of neural networks applied in forensics; handwriting verification example, “Australian Journal of Forensic Sciences” 2023, Vol. 55, Iss. 6.
• Marcinowski M., Top interpretable neural network for handwriting identification, “Journal of Forensic Sciences” 2022, Vol. 67, No. 3.
• Marcon F., Pasquini C., Boato G., Detection of Manipulated Face Videos over Social Networks: A Large-Scale Study, “Journal of Imaging” 2021, Vol. 7, No. 10.
• McCulloch W.S., Pitts W., A logical calculus of the ideas immanent in nervous activity, “The Bulletin of Mathematical Biophysics” 1943, Vol. 5, No. 4.
• O’Neil C., Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, New York 2016.
• Oura P., Junno A., Junno J.-A., Deep learning in forensic shotgun pattern interpretation - A proof-of-concept study, “Legal Medicine” 2021, Vol. 53.
• Pośpiech E. i in., Predicting Physical Appearance from DNA Data - Towards Genomic Solutions, “Genes” 2022, Vol. 13, No. 1.
• Projekt nr UC71 z dnia 5 lutego 2025 r. Ustawa o systemach sztucznej inteligencji, <https://legislacja.rcl.gov.pl/projekt/12390551/katalog/13087901>, 9 czerwca 2025 r.
• Rosenblatt F., The perceptron: A probabilistic model for information storage and organization in the brain, “Psychological Review” 1958, Vol. 65.
• Roy P., Bag S., Detection of Handwritten Document Forgery by Analyzing Writers’ Handwritings [w:] Deka B. i in. (red.), Pattern Recognition and Machine Intelligence, Cham 2019.
• Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L nr 119, s. 1–88).
• Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/1020 z dnia 20 czerwca 2019 r. w sprawie nadzoru rynku i zgodności produktów oraz zmieniające dyrektywę 2004/42/WE oraz rozporządzenia (WE) nr 765/2008 i (UE) nr 305/2011 (Dz. Urz. UE L nr 169, s. 1–44).
• Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L, 2024/1689).
• Rudin C., Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead, “Nature Machine Intelligence” 2019, Vol. 1, No. 5.
• Ryu S.-J. i in., Document Forgery Detection with SVM Classifier and Image Quality Measures [w:] Huang Y.-M. R. i in. (red.), Advances in Multimedia Information Processing - PCM 2008, Berlin–Heidelberg 2008.
• Santosh K.C. i in., Machine Learning Techniques for Human Age and Gender Identification Based on Teeth X-Ray Images, “Journal of Healthcare Engineering” 2022, Vol. 2022.
• Schmidhuber J., Deep Learning in Neural Networks: An Overview, “Neural Networks” 2015, Vol. 61.
• Schreyer M. i in., Adversarial Learning of Deepfakes in Accounting, <http://arxiv.org/abs/1910.03810>, 29 maja 2025 r.
• Suwajanakorn S., Seitz S.M., Kemelmacher-Shlizerman I., Synthesizing Obama: learning lip sync from audio, “ACM Transactions on Graphics” 2017, Vol. 36, No. 4.
• Tadeusiewicz R., Sieci neuronowe, Warszawa 1993.
• Ustawa z dnia 23 kwietnia 1964 r. - Kodeks cywilny (tekst jedn. Dz.U. z 2024 r., poz. 1061).
• Ustawa z dnia 6 czerwca 1997 r. - Kodeks postępowania karnego (tekst jedn. Dz.U. z 2025 r., poz. 46).
• Karthikeyan V., Suja Priyadharsini S., Hybrid machine learning classification scheme for speaker identification, “Journal of Forensic Sciences” 2022, Vol. 67, Iss. 3.
• Wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady (UE) nr COM/2021/206 final z dnia 21 kwietnia 2021 r. ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającego niektóre akty ustawodawcze Unii, <https://eur-lex.europa.eu/legal-content/EN/ TXT/?uri=celex:52021PC0206>, 9 czerwca 2025 r.
• Yang P., Dual-Domain Fusion Convolutional Neural Network for Contrast Enhancement Forensics, “Entropy” 2021, Vol. 23, No. 10.
• Zhang F.-Y. i in., A preliminary study on early postmortem submersion interval (PMSI) estimation and cause-of-death discrimination based on nontargeted metabolomics and machine learning algorithms, “International Journal of Legal Medicine” 2022, Vol. 136, <https://doi.org/10.1007/s00414-022-02783-4>, 29 maja 2025 r.

Identifiers

DOI

10.5604/01.3001.0055.2049

Biblioteka Nauki

63886165