Medical artificial intelligence and informed consent

• Authors: Julia Stanek

Abstracts

EN

There is no legal consensus on how to ensure the protection of patients’ rights in the face of medical artificial intelligence (AI). This paper examines the legal frameworks governing informed consent, including international conventions and Polish legislation, and their applicability to AI-assisted medical decisions. The discussion highlights challenges in ensuring transparency, patient understanding, and the ethical implications of AI’s role in clinical decision-making. The paper further explores whether patients should be informed of AI involvement in their treatment and whether they should have the right to refuse AIbased medical services. The findings suggest that while AI can enhance healthcare delivery, maintaining trust and respecting patient autonomy require clear legal and ethical guidelines regarding AI’s role in medical decision-making.

Keywords

EN

medical artificial intelligence; informed consent; patient rights; healthcare law; medical ethics; AI in healthcare; legal frameworks; patient autonomy

• Publisher: Uniwersytet Andrzeja Frycza Modrzewskiego w Krakowie
• Journal: Studia Prawnicze: rozprawy i materiały
• Year: 2025
• Volume: 36
• Issue: 1
• Pages: 35-57

Dates

published

2025

Contributors

author

Julia Stanek

• Andrzej Frycz Modrzewski Krakow University

References

• Convention for the Protection of Human Rights and Dignity of the Human Being with regard to the Application of Biology and Medicine: Convention on Human Rights and Biomedicine, European Treaty Series, No. 164, Oviedo, 4.4.1997.
• Council of Europe, European Convention on Human Rights (adopted 4 November 1950, entered into force 3 September 1953), European Treaty Series, No 5.
• Konstytucja Rzeczypospolitej Polskiej z dnia 2 kwietnia 1997 r. [Constitution of the Republic of Poland (adopted 2 April 1997)], Dz.U. [Journal of Laws] 1997, nr [no.] 78, poz. [item] 483.
• Kodeks etyki lekarskiej [Code of Medical Ethics], nil.org.pl/uploaded_images/1723037323_kel-2305.pdf [accessed: 5.02.2025].
• Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data (General Data Protection Regulation, GDPR).
• Ustawa z dnia 5 grudnia 1996 r. o zawodzie lekarza i lekarza dentysty [Act of December 5, 1996, on the Professions of Physician and Dentist], Dz.U. [Journal of Laws] 2024, poz. [item] 1287 [consolidated text as of 26.08.2024].
• Ustawa z dnia 6 listopada 2008 r. o prawach pacjenta i Rzeczniku Praw Pac-jenta [Act of November 6, 2008, on Patients’ Rights and the Patient’s Rights Ombudsman], Dz.U. [Journal of Laws] 2024, poz. [item] 581 [consolidated text as of 16.04.2024].
• Universal Declaration on Bioethics and Human Rights, adopted by UNESCO, SHS/EST/BIO/06/1, SHS.2006/WS/14.
• Wyrok Sądu Najwyższego z dnia 24 września 2020 r. [Supreme Court Judgment of September 24, 2020], IV CSK 49/19, LEX No. 3057399.
• Wyrok Sądu Najwyższego z dnia 6 grudnia 2023 r. [Supreme Court Judgment of December 6, 2023], II CSKP 804/22, LEX No. 3754910.
• Wyrok Wojewódzkiego Sądu Administracyjnego w Warszawie z dnia 12 czerwca 2019 r. [Judgment of the Administrative Court in Warsaw of June 12, 2019], VI SA/Wa 557/19, LEX No. 2720242.
• Wyrok Wojewódzkiego Sądu Administracyjnego w Warszawie z dnia 8 sierpnia 2019 r. [Judgment of the Administrative Court in Warsaw of August 8, 2019], VII SA/Wa 386/19, LEX No. 3079478.
• Boratyńska M., Gwarancje dla pacjenta, [in:] Regulacja prawna czynności medycznych, red. M. Boratyńska, P. Konieczniak, E. Zielińska, “System Prawa Medycznego”, t. 2, cz. 1, Warszawa 2019, LEX/el.
• Bosek L., Źródła prawa medycznego, [in:] Instytucje prawa medycznego, red. M. Safjan, L. Bosek, “System Prawa Medycznego”, t. 1, Warszawa 2017, LEX/el.
• Brzozowski W., Prawa pacjenta w ujęciu konstytucyjnym, [in:] Pojęcie, źródła i zakres prawa medycznego, red. R. Kubiak, L. Kubicki, E. Zielińska, “System Prawa Medycznego”, t. 1, Warszawa 2018, LEX/el.
• Cohen I.G., Informed consent and medical artificial intelligence: What to tell the patient?, “Georgetown Law Journal”, vol. 108, no. 5, pp. 1425-1469.
• Cohen I.G., Slottje A., Artificial intelligence and the law of informed consent, [in:] Research handbook on health, AI and the law, eds B. Solaiman, I.G. Cohen, Cheltenham 2024, pp. 145-169.
• de Miguel Beriain I., Should we have a right to refuse diagnostics and treatment planning by artificial intelligence?, “Med Health Care Philos” 2020, vol. 23, no. 2, pp. 247-252.
• European Parliament, Artificial intelligence in healthcare: Applications, risks, and ethical and societal impacts, Brussels 2022.
• Gerardi M., Barud K., Wagner M.-C., Forgo N., Fallucchi F., Scarpato N., Guadagni F., Zanzotto F.M., Active informed consent to boost the application of machine learning in medicine, arXiv preprint arXiv:2210.08987, 2022.
• Gerke S., Minssen T., Cohen I.G., Ethical and Legal challenges of artificial intelligence-driven healthcare, [in:] Artificial intelligence in healthcare, eds A. Bohr, K. Memarzadeh, Amsterdam 2020, pp. 295-336.
• Haberko J., Aktualna wiedza medyczna a stosowanie homeopatii, “Medyczna Wokanda” 2009, nr 1, pp. 47-59.
• Iserson K.V., Informed consent for artificial intelligence in emergency medicine: A practical guide, “The American Journal of Emergency Medicine” 2024, vol. 76, no. 2, pp. 225-230.
• Karkowska D., Kmieciak B., Art. 16, [in:] Prawa pacjenta i Rzecznik Praw Pacjenta. Komentarz, red. E. Bielak-Jomaa, G. Błażewicz, R. Bryzek, B. Chmielowiec, M. Ćwikiel, P. Grzesiewski, A. Nowak, D. Karkowska, B. Kmieciak, Warszawa 2021, LEX/el.
• Kiseleva A., Kotzinos D., De Hert P., Transparency of AI in healthcare as a multilayered system of accountabilities: Between legal requirements and technical limitations, “Frontiers in Artificial Intelligence” 2022, vol. 5, p. 879603.
• Konieczniak P., Kompetencja do wyłączenia przywileju terapeutycznego, [in:] Regulacja prawna czynności medycznych, red. M. Boratyńska, P. Konieczniak, E. Zielińska, “System Prawa Medycznego”, t. 2, cz. 1, Warszawa 2019, LEX/el.
• Konieczniak P., Możliwość zrzeczenia się informacji, [in:] Regulacja prawna czynności medycznych, red. M. Boratyńska, P. Konieczniak, E. Zielińska, “System Prawa Medycznego”, t. 2, cz. 1, Warszawa 2019, LEX/el.
• Konieczniak P., Prawo do informacji zindywializowanej, [in:] Regulacja prawna czynności medycznych, red. M. Boratyńska, P. Konieczniak, E. Zielińska, “System Prawa Medycznego”, t. 2, cz. 1, Warszawa 2019, LEX/el.
• Konieczniak P., Zgoda pacjenta - uwagi wprowadzające, [in:] Regulacja prawna czynności medycznych, red. M. Boratyńska, P. Konieczniak, E. Zielińska, “System Prawa Medycznego”, t. 2, cz. 1, Warszawa 2019, LEX/el.
• Kubiak R., Przywilej terapeutyczny, “Medycyna Paliatywna” 2017, vol. 9, no. 1, pp. 12-20.
• Mennella C., Maniscalco U., De Pietro G., Esposito M., Ethical and regulatory challenges of AI technologies in healthcare: A narrative review, “Heliyon” 2024, vol. 10, no. 4, e26297.
• Morley J., Machado C.C.V., Burr C., Cowls J., Joshi I., Taddeo M., Floridi L., The ethics of AI in health care: A mapping review, “Social Science & Medicine” 2020, vol. 260, 113172.
• Nolan P., Artificial intelligence in medicine - is too much transparency a good thing?, “Medico-Legal Journal” 2023, vol. 91, no. 4, pp. 193-197.
• Okolo C.T., González A.M., IAC: A Framework for enabling patient agency in the use of ai-enabled healthcare, arXiv preprint arXiv:2111.04456, 2021.
• Ploug T., Holm S., The right to refuse diagnostics and treatment planning by artificial intelligence, “Med Health Care Philos” 2020, vol. 23, no. 1, pp. 107-114.
• Pruski M., AI-enhanced healthcare: Not a new paradigm for informed consent, “Journal of Bioethical Inquiry” 2024, vol. 21, no. 3, pp. 475-489.
• Ramezani M., Takian A., Bakhtiari A., Rabiee H.R., Fazaeli A.A., Sazgarnejad S., The application of artificial intelligence in health financing: a scoping review, “Cost Effectiveness and Resource Allocation” 2023, vol. 21, art. 83, pp. 1-15.
• Różyńska J., Konstytucja jako źródło norm prawa medycznego, [in:] Pojęcie, źródła i zakres prawa medycznego, red. R. Kubiak, L. Kubicki, E. Zielińska, “System Prawa Medycznego”, t. 1, Warszawa 2018, LEX/el.
• Sauerbrei A., Kerasidou A., Lucivero F., Hallowell N., The impact of artificial intelligence on the person-centred, doctor-patient relationship: some problems and solutions, “BMC Medical Informatics and Decision Making” 2023, vol. 23, no. 1, article 73, pp. 1-15.
• Serwach M., Niezgodność z aktualną wiedzą medyczną, [in:] Odpowiedzialność prawna w związku z czynnościami medycznymi, red. T. Dukiet-Nagórska, A. Liszewska, E. Zielińska, „System Prawa Medycznego”, t. 3, Warszawa 2021, LEX/el.
• Ustawa o zawodach lekarza i lekarza dentysty. Komentarz, red. M. Kopeć, Warszawa 2016.
• van Kolfschooten H.B., A health-conformant reading of the GDPR’s right not to be subject to automated decision-making, “Medical Law Review” 2024, vol. 32, issue 3, pp. 373-391.
• Varnosfaderani S.M., Forouzanfar M., The role of AI in hospitals and clinics: Transforming healthcare in the 21st century, “Bioengineering (Basel)” 2024, vol. 11, no. 4, art. 337, pp 1-15.
• Icometrix - Enabling value-based care for people with neurological conditions, icometrix.com [accessed: 28.02.2025].
• Imagen, Diagnostyka obrazowa najwyższej jakości jako usługa, imagen.ai [accessed: 28.02.2025].
• NEWTON Dictate Professional solution for converting human voice into text, newtontech.net/en/newton-dictate [accessed: 28.02.2025].
• World Health Organization, Ethics and governance of artificial intelligence for health: WHO guidance, Geneva, 2021, iris.who.int/bitstream/handle/10665/341996/9789240029200-eng.pdf [accessed: 17.02.2025].
• World-leading AI trial to tackle breast cancer launched, 4.02.2025, gov.uk/government/news/world-leading-ai-trial-to-tackle-breast-cancer-launched [accessed: 28.02.2025].

Identifiers

DOI

10.48269/2451-0807-sp-2025-1-02

Biblioteka Nauki

61807826