O etycznych, prawnych i społecznych konsekwencjach stosowania systemów sztucznej inteligencji w państwach członkowskich Unii Europejskiej. Uwagi na tle projektu rozporządzenia w sprawie sztucznej inteligencji

• Authors: Namysłowska Monika , Bieda Roman , Budrewicz Piotr , Lubasz Dominik , Nowakowski Michał , Pająk Robert , Świerczyński Marek , Więckowski Zbigniew , Wochlik Ireneusz , Wróblewski Mirosław

Title variants

EN

On the Ethical, Legal and Social Implications of Artificial Intelligence Systems in the Member States of European Union. Observations against the Background of the Draft Regulation on Artificial Intelligence

• Languages of publication: PL EN

Abstracts

EN

The subject of this paper is the ethical, legal and social implications of the use of artificial intelligence systems. The problem of regulating the operation of AI systems is an important research issue, particularly in the context of their increasing use and the numerous risks involved, such as those related to discrimination and the protection of fundamental rights. Research in this area was made possible by the European Commission’s presentation of a draft regulation on artificial intelligence. It was necessary to explore and examine it in the light of the methodological instruments classically used in the discipline of legal sciences, with particular emphasis on the formal-dogmatic method and with an assessment of the practical dimension of the institutions analysed in the project. In order to ensure the clarity of the study, essential parts of the considerations were separated, such as general and specific issues, within which specific elements of the draft act were analysed. The aim of the research was to determine whether the draft regulation provides effective protection of fundamental rights and the creation of safe, reliable and ethically sound mechanisms of artificial intelligence. This issue has not yet been comprehensively analysed in the Polish literature. The article is a valuable contribution of the Polish doctrine to the analysis of the draft act and proposes necessary directions for changes.

Keywords

EN

artificial intelligence; regulation on artificial intelligence; AIA; high-risk systems; social scoring

• Publisher: Kancelaria Sejmu / Chancellery of the Sejm
• Journal: Przegląd Sejmowy
• Year: 2023
• Issue: 6(179)
• Pages: 61-84

Contributors

author

Namysłowska Monika

• Prof. dr hab. Monika Namysłowska Uniwersytet Łódzki, Wydział Prawa i Administracji, Polska University of Lodz, Faculty of Law and Administration, Poland [e-mail], https://orcid.org/0000-0003-3379-2940

author

Bieda Roman

• Roman Bieda Akademia Leona Koźmińskiego, Kolegium Prawa, Polska Kozminski University, Law School, Poland radca prawny [e-mail], https://orcid.org/0000-0002-4740-7479

author

Budrewicz Piotr

• Piotr Budrewicz adwokat [e-mail], https://orcid.org/0000-0002-8186-7137

author

Lubasz Dominik

• Dr Dominik Lubasz radca prawny [e-mail], https://orcid.org/0000-0001-9716-5802

author

Nowakowski Michał

• Dr Michał Nowakowski radca prawny [e-mail], https://orcid.org/0000-0002-8841-6566

author

Pająk Robert

• Robert Pająk [e-mail], https://orcid.org/0000-0002-2149-8675

author

Świerczyński Marek

• Dr hab. Marek Świerczyński, prof. UKSW Uniwersytet Kardynała Stefana Wyszyńskiego w Warszawie, Instytut Nauk Prawnych, Polska Cardinal Stefan Wyszyński University in Warsaw, Institute of Legal Sciences, Poland adwokat [e-mail], https://orcid.org/0000-0002-4079-0487

author

Więckowski Zbigniew

• Dr Zbigniew Więckowski Uniwersytet Kardynała Stefana Wyszyńskiego w Warszawie, Instytut Nauk Prawnych, Polska Cardinal Stefan Wyszyński University in Warsaw, Institute of Legal Sciences, Poland [e-mail], https://orcid.org/0000-0001-7753-3743

author

Wochlik Ireneusz

• Dr inż. Ireneusz Wochlik [e-mail], https://orcid.org/0000-0002-2003-7551

author

Wróblewski Mirosław

• Mirosław Wróblewski radca prawny [e-mail], https://orcid.org/0000-0002-2148-2905

References

• Ad hoc Committee on Artificial Intelligence (CAHAI) Progress Report (23.09.2020), <https://search.coe.int/cm/Pages/result_details.aspx?ObjectID=09000016809ed062>.
• AI Act Impact Survey, <https://www.appliedai.de/hub/ai-act-impact-survey>.
• Artificial Intelligence: Ensuring Respect for Democracy, Human Rights and the Rule of Law, <https://pace.coe.int/en/pages/artificial-intelligence>.
• Artificial Intelligence Supporting Cross-Border Cooperation in Criminal Justice, Joint Report Prepared by eu-LISA and EUROJUST, June 2022, <https://www.eulisa.europa.eu/Publications/Reports/AI%20in%20Justice%20-%20Report.pdf>.
• Comment on the Human Rights Issues at Stake in AI Development and Use (July 2018), <https://www.coe.int/en/web/commissioner/-/safeguarding-human-rights-in-the-era-of-artificial-intelligence>.
• EROD–EIOD, Wspólna opinia 5/2021 w sprawie wniosku dotyczącego rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji („akt w sprawie sztucznej inteligencji”), <https://edpb.europa.eu/system/files/2021-10/edpb-edps_joint_opinion_ai_regulation_pl.pdf>.
• EU Fundamental Rights Agency, #BigData: Discrimination in Data-Supported Decision-Making, Vienna 2018.
• EU Fundamental Rights Agency, Bias in Algorithms – Artificial Intelligence and Discrimination, Vienna 2022.
• European Parliament Draft Report, Artificial Intelligence in Criminal Law and its Use by the Police and Judicial Authorities in Criminal Matters, 2020/2016(INI).
• Feasibility Study on a Legal Framework on AI Design, Development and Application Based on CoE Standards, Adopted by the CAHAI on 17 December 2020, <https://rm.coe.int/cahai-2020-23-final-eng-feasibility-study-/1680a0c6da>.
• High-Level Expert Group on Artificial Intelligence, Ethics Guidelines for Trustworthy AI (April 2019).
• High-Level Expert Group on Artificial Intelligence, Policy and Investment Recommendations for Trustworthy AI (26 June 2019).
• Konwencja o prawach osób niepełnosprawnych sporządzona w Nowym Jorku dnia 13 grudnia 2006 r., Dz.U. z 2012 r. poz. 1169.
• Nowe Ramy Prawne – ramy prawne wyznaczone Decyzją Parlamentu Europejskiego i Rady nr 768/2008/WE z dnia 9 lipca 2008 r. w sprawie wspólnych ram dotyczących wprowadzania produktów do obrotu, uchylającą decyzję Rady 93/465/EWG, Dz. Urz. UE L 218 z dnia 13 sierpnia 2008 r., Rozporządzeniem Parlamentu Europejskiego i Rady (WE) nr 765/2008 z dnia 9 lipca 2008 r. ustanawiającym wymagania w zakresie akredytacji i uchylającym rozporządzenie (EWG) nr 339/93, Dz. Urz. UE L 218 z dnia 13 sierpnia 2008 r. oraz Rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2019/1020 z dnia 20 czerwca 2019 r. w sprawie nadzoru rynku i zgodności produktów oraz zmieniającym dyrektywę 2004/42/WE oraz rozporządzenia (WE) nr 765/2008 i (UE) nr 305/2011, Dz. Urz. UE L 169 z dnia 25 czerwca 2019 r.
• Presidency Conclusions – The Charter of Fundamental Rights in the Context of Artificial Intelligence and Digital Change, Brussels, 21 October 2020 (OR. en) 11481/20 FREMP 87 JAI 776.
• Proposal for a Regulation of the European Parliament and the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts, COM(2021) 206 final.
• Raport B. Cilevičs, Justice by Algorithm – the Role of Artificial Intelligence in Policing and Criminal Justice Systems, Committee on Legal Affairs and Human Rights Report, Council of Europe, AS/Jur (2020) 22.
• Recommendation n°2102(2017) about Technological Convergence, Artificial Intelligence and Human Rights, <https://assembly.coe.int/nw/xml/XRef/Xref-XML2HTML-en.asp?fileid=23726&lang=en>.
• Recommendation on Artificial Intelligence and Human Rights „Unboxing artificial intelligence: 10 steps to protect human rights”, <https://rm.coe.int/unboxing-artificial-intelligence-10-steps-to-protect-human-rights-reco/1680946e64>.
• Regulatory Divergences in the Draft AI Act. Differences in Public and Private Sector Obligations, Scientific Foresight Unit (STOA), European Parliamentary Research Service 2022, <https://www.europarl.europa.eu/RegData/etudes/STUD/2022/729507/EPRS_STU(2022)729507_EN.pdf>.
• Towards Regulation of AI systems (December 2020), <https://rm.coe.int/prems-107320-gbr-2018-compli-cahai-couv-texte-a4-bat-web/1680a0c17a>.
• Wyrok Europejskiego Trybunału Sprawiedliwości w sprawie Arnold André, C-434/02, EU:C:2004:800.
• Wyrok Europejskiego Trybunału Sprawiedliwości w sprawie British American Tobacco (Investments) i Imperial Tobacco, C-491/01, EU:C:2002:741.
• Wyrok Europejskiego Trybunału Sprawiedliwości w sprawie Niemcy/Parlament i Rada, C-380/03, EU:C:2006:772.
• Wyrok Europejskiego Trybunału Sprawiedliwości w sprawie Swedish Match, C-210/03, EU:C:2004:802.
• Wyrok Europejskiego Trybunału Sprawiedliwości w sprawie Vodafone i in., C-58/08, EU:C:2010:321.
• Alama-Maruta K., Algorytmiczne przetwarzanie danych na gruncie RODO – uwagi krytyczne oraz kierunki działań w celu poprawy standardów przetwarzania danych oraz ochrony prywatności, dodatek „MoP” 2020, nr 20.
• Almada M., Petit N., The EU AI Act: Between Product Safety and Fundamental Rights, December 2022, <http://dx.doi.org/10.2139/ssrn.4308072>.
• Bartoszek M., Zastosowanie sztucznej inteligencji w sądownictwie w świetle zasady skutecznej ochrony sądowej, „Folia Iuridica Universitatis Wratislaviensis” 2022, t. 11, nr 1, <https://doi.org/10.34616/144212>.
• van Bekkum M., Borgesius F.Z., Using Sensitive Data to Prevent Discrimination by Artificial Intelligence: Does the GDPR Need a New Exception?, „Computer Law & Security Review” 2023, t. 48, <https://doi.org/10.1016/j.clsr.2022.105770>.
• Bieda R., Budrewicz P., Nowakowski M., Wyzwania etyczne i prawne sztucznej inteligencji, [w:] Metaświat. Prawne i techniczne aspekty przełomowych technologii, red. R. Bieda, Z. Okoń, Wydawnictwo HARDE, Warszawa 2023.
• Buiten C., Towards Intelligent Regulation of Artificial Intelligence, „European Journal of Risk Regulation” 2019, t. 10, nr 1, <https://doi.org/10.1017/err.2019.8>.
• Cappiello B., AI Systems and Non-Contractual Liability: A European Private International Law Analysis, Giappichelli, Torino 2022.
• Chamberlain J., The Risk-Based Approach of the European Union’s Proposed Artificial Intelligence Regulation: Some Comments from a Tort Law Perspective, „European Journal of Risk Regulation” 2022, <https://doi.org/10.1017/err.2022.38>.
• Dalara S., Artificial Intelligence: A Legal Overview, „International Journal of Law Management & Humanities” 2021, t. 4, <http://doi.one/10.1732/IJLMH.26529>.
• Dargas-Draganik M., Wykorzystanie sztucznej inteligencji w postępowaniach sądowych na przykładzie Chin i Estonii, „Gdańskie Studia Azji Wschodniej” 2022, z. 22, <https://doi.org/10.4467/23538724GS.22.042.17014>.
• Davida Z., Lubasz D., Privacy by Design – Searching for the Balance Between Privacy, Personal Data Protection and Development of Artificial Intelligence Systems, [w:] Internet and New Technologies Law. Perspectives and Challenges, red. D. Szostek, M. Załucki, Nomos, Baden-Baden 2021.
• Dziwisz D., Possibilities of Applying the Chinese Social Credit System to Combat Terrorism, „Politeja” 2020, t. 6, nr 69, <https://doi.org/10.12797/Politeja.17.2020.69.09>.
• Ebers M., Hoch V.R.S., Rosenkranz F., Ruschemeier H., Steinrötter B., The European Commission’s Proposal for an Artificial Intelligence Act – A Critical Assessment by Members of the Robotics and AI Law Society (RAILS), „Multidisciplinary Scientific Journal” 2021, nr 4, <https://doi.org/10.3390/j4040043>.
• Flasiński M., Wstęp do sztucznej inteligencji, PWN, Warszawa 2018.
• Gellert R., The Role of the Risk-Based Approach in the General Data Protection Regulation and in the European Commission’s Proposed Artificial Intelligence Act: Business as Usual?, „Journal of Ethics and Legal Technologies” 2021, t. 3, nr 2, <https://doi.org/10.14658/pupj-jelt-2021-2-2>.
• Hildebrandt M., The Artificial Intelligence of European Union Law, „German Law Journal” 2020, t. 21, nr 1, <https://doi.org/10.1017/glj.2019.99>.
• Klaushofer R., Artificial Intelligence and Human Rights, „Zeitschrift für öffentliches Recht” 2019, t. 74, nr 3, <https://doi.org/10.33196/zoer201903039901>.
• Kostrubiec J., Sztuczna inteligencja a prawa i wolności człowieka, Wydawnictwo IWS, Warszawa 2021.
• Kotalczyk M., Sztuczna inteligencja w służbie polskiego sądu – propozycje rozwiązań, „Iustitia” 2021, t. 2.
• Kowalski S., Sztuczna inteligencja a ochrona danych osobowych, [w:] Metaświat. Prawne i techniczne aspekty przełomowych technologii, red. R. Bieda, Z. Okoń, Wydawnictwo HARDE, Warszawa 2023.
• Lane L., Clarifying Human Rights Standards Through Artificial Intelligence Initiatives, „International and Comparative Law Quarterly” 2022, t. 71, <https://doi.org/10.1017/S0020589322000380>.
• Lee Kai-Fu, Inteligencja sztuczna, rewolucja prawdziwa. Chiny, USA i przyszłość świata, tł. K. Hejwowski, Media Rodzina, Poznań 2019.
• van der Linden T., Regulating Artificial Intelligence: Please Apply Existing Regulation, „Amsterdam Law Forum” 2021, t. 13, nr 3, <http://doi.org/10.37974/ALF.432>.
• Lubasz D., Szkurłat A., Relacja aktu o sztucznej inteligencji i ogólnego rozporządzenia o ochronie danych, dodatek „MoP” 2022, nr 21.
• Mahler T., Between Risk Management and Proportionality: The Risk-Based Approach in the EU’s Artificial Intelligence Act Proposal, „Nordic Yearbook of Law and Informatics”, September 2021, <https://ssrn.com/abstract=4001444>.
• Mesarčík M., Soľárová S., Podroužek J., Bielikova M., Stance on The Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence – Artificial Intelligence Act, „SocArXiv Papers”, September 2022, <https://doi.org/10.31235/osf.io/yzfg8>.
• Min B., Ferris G., Regulating Artificial Intelligence for Use in Criminal Justice Systems in the EU, Policy Paper, <https://www.fairtrials.org/app/uploads/2022/01/Regulating-Artificial-Intelligence-for-Use-in-Criminal-Justice-Systems-Fair-Trials.pdf>.
• Mökander J., Axente M., Casolari F. et al., Conformity Assessments and Post-Market Monitoring: A Guide to the Role of Auditing in the Proposed European AI Regulation, „Minds & Machines” 2022, vol. 32, <https://doi.org/10.1007/s11023-021-09577-4>.
• Mökander J., Juneja P., Watson D.S. et al., The US Algorithmic Accountability Act of 2022 vs. The EU Artificial Intelligence Act: What Can They Learn From Each Other?, „Minds & Machines” 2022, vol. 32, <https://doi.org/10.1007/s11023-022-09612-y>.
• Mpinga E.K., Bukonda N.K.Z., Qailouli S., Chastonay P., Artificial Intelligence and Human Rights: Are There Signs of an Emerging Discipline? A Systematic Review, „Journal of Multidisciplinary Healthcare” 2022, t. 15, <https://doi.org/10.2147/JMDH.S315314>.
• Naudts L., Towards a Code of Ethics for Artificial Intelligence, „Delphi – Interdisciplinary Review of Emerging Technologies” 2019, t. 2, nr 2, <https://doi.org/10.21552/delphi/2019/2/11>.
• Nicolau I.I., Human Rights and Artificial Intelligence, „Journal of Law and Administrative Sciences” 2019, t. 12.
• Sacoto S., Merlyn S., Artificial Intelligence (AI): Beyond Legal Limits, „Revista de la Facultad de Jurisprudencia” 2021, t. 10.
• Sartor G., Lagioia F., The Impact of the General Data Protection Regulation (GDPR) on Artificial Intelligence, Scientific Foresight Unit (STOA), European Parliamentary Research Service 2020, <https://www.europarl.europa.eu/RegData/etudes/STUD/2020/641530/EPRS_STU(2020)641530_EN.pdf>.
• Schuett J., A Legal Definition of AI, <https://www.researchgate.net/profile/Jonas-Schuett/publication/336198524_A_Legal_Definition_of_AI/links/5e20599a458515ba208b9e4c/A-Legal-Definition-of-AI.pdf>.
• Schwemer S.F., Tomada L., Pasini T., Legal AI Systems in the EU’s proposed Artificial Intelligence Act (June 21, 2021), Proceedings of the Second International Workshop on AI and Intelligent Assistance for Legal Professionals in the Digital Workplace (Legal AIIA 2021), held in conjunction with ICAIL 2021, June 21, 2021, Sao Paulo, Brazil, <https://ssrn.com/abstract=3871099>.
• Smuha N.A. et al., How the EU Can Achieve Legally Trustworthy AI: A Response to the European Commission’s Proposal for an Artificial Intelligence Act (August 5, 2021), <http://dx.doi.org/10.2139/ssrn.3899991>.
• Stein A., Assuming the Risks of Artificial Intelligence, „Boston University Law Review” 2022, t. 102, nr 3.
• Świerczyński M., Więckowski Z., Cyfryzacja sądów powszechnych w świetle wytycznych Rady Europy, [w:] Rozstrzyganie spraw cywilnych. Aktualne wyzwania i perspektywy, red. M. Białecki, S. Kotas-Turoboyska, F. Manikowski, J. Słyk, E. Szczepanowska, Wolters Kluwer, Warszawa 2022.
• Świerczyński M., Więckowski Z., Ramy prawne dla sztucznej inteligencji w świetle najnowszych prac Rady Europy, [w:] Prawo sztucznej inteligencji i nowych technologii, red. B. Fischer, A. Pązik, M. Świerczyński, Wolters Kluwer, Warszawa 2021.
• Świerczyński M., Więckowski Z., Sztuczna inteligencja w prawie międzynarodowym. Rekomendacje wybranych rozwiązań, Difin, Warszawa 2021.
• Świerczyński M., Więckowski Z., Sztuczna inteligencja w wymiarze sprawiedliwości. Wytyczne Rady Europy dotyczące spraw cywilnych, Instytut de Republica, Warszawa 2023.
• Tadeusiewicz R., Archipelag sztucznej inteligencji, Akademicka Oficyna Wydawnicza Exit, Warszawa 2021.
• Timan T., Mann Z., Data Protection in The Era of Artificial Intelligence. Trends, Existing Solutions and Recommendations for Privacy-Preserving Technologies, Big Data Value Association, October 2019, <https://www.bdva.eu/sites/default/files/Data%20protection%20in%20the%20era%20of%20big%20data%20for%20artificial%20intelligence_BDVA_FINAL.pdf>.
• Veale M., Borgesius F.Z., Demystifying the Draft EU Artificial Intelligence Act, „Computer Law Review International” 2021, nr 4, <https://doi.org/10.31235/osf.io/38p5f>.
• Więckowski Z., Kubalski G., Czy sztuczna inteligencja oraz inne technologie informatyczne pomogą w dostępie do wymiaru sprawiedliwości osobom ze szczególnymi potrzebami?, „Prawo i Więź” 2022, t. 4, z. 42.
• Wróblewski M., Sztuczna Inteligencja a ochrona praw człowieka, [w:] Metaświat. Prawne i techniczne aspekty przełomowych technologii, red. R. Bieda, Z. Okoń, Wydawnictwo HARDE, Warszawa 2023.
• Yu P., The Algorithmic Divide and Equality in the Age of Artificial Intelligence, „Florida Law Review” 2020, t. 72, nr 2, <https://ssrn.com/abstract=3455772>.
• Załucki M., Nowe technologie a sprawność i przyszłość sądownictwa w Polsce, „Przegląd Sądowy” 2021, nr 11–12.

Identifiers

DOI

10.31268/PS.2023.219