My, Naród? Konstytucjonalizacja sztucznej inteligencji, czyli o potrzebie przemodelowania założeń ustrojowych

• Authors: Księżak Paweł

Title variants

EN

We, the People? Constitutionalisation of artificial intelligence, or the need to remodel systemic assumptions

• Languages of publication: PL EN

Abstracts

EN

The development of artificial intelligence raises many ethical and legal challenges. The discussion concerns mainly the issues of competition and consumer protection law, personal data protection law, civil liability, contract law, however the key issue, so far neglected in the literature, may be the problem of systemic nature connected with the question of the necessity to regulate AI at the constitutional level. Such a need arises from the recognition of the role that AI will soon play in the state and society. Safeguarding human rights will require the introduction of a fundamental norm that expresses the idea of the superior position of humans over machines (autonomous systems). However, such a seemingly obvious norm, understood literally, is not at all certain when superhuman efficiency (also intellectual) of machines is taken into account. As a consequence, such a norm – derived from human dignity – may stand in unresolvable opposition to the needs of the technological system. The search for a new constitutional model that responds to these challenges should begin today.

Keywords

EN

artificial intelligence (AI); autonomous systems; Polish Constitution; legal subjectivity

• Publisher: Kancelaria Sejmu / Chancellery of the Sejm
• Journal: Przegląd Sejmowy
• Year: 2021
• Issue: 4(165)
• Pages: 65-87

Contributors

author

Księżak Paweł

• Dr hab. Paweł Księżak, prof. Uniwersytetu Łódzkiego, sędzia Sądu Najwyższego Uniwersytet Łódzki, Wydział Prawa i Administracji, Polska University of Lodz, Faculty of Law and Administration, Poland [e-mail], https://orcid.org/0000-0002-1224-9183

References

• Biała Księga w sprawie sztucznej inteligencji. Europejskie podejście do doskonałości i zaufania, Bruksela, dnia 19.2.2020 r. COM(2020) 65 final, <https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_pl.pdf>.
• Ethics guidelines for trustworthy AI, <https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai>.
• European Parliament. Directorate-General for Internal Policies. Policy Department for Citizen’s Rights and Constitutional Rights and Constitutional Affairs, European Civil Law Rules in Robotics. Study for the JURI Committee, PE 571.379, 2016, <https://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/IPOL_STU(2016)571379_EN.pdf>.
• Expert Group on Liability and New Technologies – New Technologies Formation, Liability for artificial intelligence and other emerging digital technologies, 2019, <https://ec.europa.eu/transparency/regexpert/index.cfm?do=groupDetail.groupMeetingDoc&docid=36608>.
• High-Level Expert Group on Artificial Intelligence, A definition of AI: Main capabilities and scientific disciplines, Brussels, 8 April 2019, <https://ec.europa.eu/digital-single-market/en/news/definition-artificial-intelligence-main-capabilities-and-scientific-disciplines>.
• Karta Praw Podstawowych Unii Europejskiej (2007/C 303/01), Dz. Urz. UE. C 2007.303.1.
• Konkluzje Rady w sprawie kształtowania cyfrowej przyszłości Europy (2020/C 202/ I/01), Dz. Urz. UE C 202 I/1.
• Konstytucja Rzeczypospolitej Polskiej z dnia 2 kwietnia 1997 r., Dz.U. 1997 r. nr 78, poz. 483.
• Konwencja o Ochronie Praw Człowieka i Podstawowych Wolności sporządzona w Rzymie dnia 4 listopada 1950 r., zmieniona następnie Protokołami nr 3, 5 i 8 oraz uzupełniona Protokołem nr 2, Dz.U. 1993 r. nr 61, poz. 284.
• Rezolucja Parlamentu Europejskiego z dnia 16 lutego 2017 r. zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki, (2015/2103(INL)), P8_TA(2017)0051.
• Rezolucja Parlamentu Europejskiego z dnia 12 lutego 2019 r. w sprawie kompleksowej europejskiej polityki przemysłowej w dziedzinie sztucznej inteligencji i robotyki (2018/2088(INI)), <https://www.europarl.europa.eu/doceo/document/TA-8-2019-0081_PL.html>.
• Rezolucja Parlamentu Europejskiego z dnia 20 października 2020 r. z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję (2020/2014(INL)), <https://www.europarl.europa.eu/doceo/document/TA-9-2020-0276_PL.html>.
• Rozporządzenie Parlamentu Europejskiego i Rady (UE) z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), Dz. Urz. UE 2016.119.1. (RODO).
• Bennet B., Daly A., Recognising rights for robots: Can we? Will we? Should we?, “Law, Innovation and Technology” 2020, vol. 1, doi.org/10.1080/17579961.2020.1727063.
• Bertolini A., Artificial Intelligence and Civil Liability. Legal Afairs, STUDY, Requested by the JURI committee, European Union 2020.
• Biczysko-Pudełko K., Szostek D., Koncepcje dotyczące osobowości prawnej robotów, „Prawo Mediów Elektronicznych” 2019, nr 2.
• Bieliński A., Potencjalne obszary zastosowania sztucznej inteligencji w postępowaniu cywilnym – czy obecnie ma to rację bytu i czy jesteśmy na takie rozwiązania gotowi?, [w:] Sztuczna inteligencja, blockchain, cyberbezpieczeństwo oraz dane osobowe. Zagadnienia wybrane, red. K. Flaga-Gieruszyńska, J. Gołaczyński, D. Szostek, C.H.Beck, Warszawa 2019.
• Bolstrom N., Superintelligence: Paths, Dangers, Strategies, Oxford University Press, Oxford 2014.
• Chłopecki A., Sztuczna inteligencja – szkice prawnicze i futurologiczne, C.H.Beck, Warszawa 2018.
• Chopra S., White L.F., A Legal Theory for Autonomous Artificial Agents, The University of Michigan Press, Michigan 2011.
• Dahiyat E.A.R., Law and software agents: Are they “Agents” by the way?, ”Artificial Intelligence and Law” 2020, https://doi.org/10.1007/s10506-020-09265-1.
• Derdak M.K., Czy androidy śnią o zmowach cenowych? Algorytmy cenowe, sztuczna inteligencja i prawo konkurencji, „IKAR” 2018, nr 8.
• Dymitruk M., Sztuczna inteligencja w wymiarze sprawiedliwości, [w:] Prawo sztucznej inteligencji, red. L. Lai, M. Świerczyński, C.H.Beck, Warszawa 2020.
• Dymitruk M., Gołaczyński J., Elektroniczny sąd a sztuczna inteligencja w prawie polskim, [w:] Sztuczna inteligencja, blockchain, cyberbezpieczeństwo oraz dane osobowe. Zagadnienia wybrane, red. K. Flaga-Gieruszyńska, J. Gołaczyński, D. Szostek, C.H.Beck, Warszawa 2019.
• Hoven van Genderen R. van den, Do we Need Legal Personhood in the Age of Robots and AI, [w:] Robotics, AI and Future of Law, red. M. Corrales, M. Fenwick, N. Forgo, Springer, Singapore 2018.
• Ibek A., Konieczny J., Wójcik K., Analiza śledcza, „Państwo i Prawo” 2018, nr 6.
• Kasperska A., Problemy zastosowania sztucznych sieci neuronalnych w praktyce prawniczej, „Przegląd Prawa Publicznego” 2017, nr 11.
• Kościółek A., Wykorzystanie sztucznej inteligencji w sądowym postępowaniu cywilnym – zagadnienia wybrane, [w:] Sztuczna inteligencja, blockchain, cyberbezpieczeństwo oraz dane osobowe. Zagadnienia wybrane, red. K. Flaga-Gieruszyńska, J. Gołaczyński, D. Szostek, C.H.Beck, Warszawa 2019.
• Księżak P., Sztuczna inteligencja i roboty autonomiczne w medycynie, [w:] System Prawa Medycznego, t. 3, Organizacja systemu ochrony zdrowia, red. D. Bach-Golecka, R. Stankiewicz, C.H.Beck, Warszawa 2020.
• Księżak P., Zawieranie umów przez sztuczną inteligencję (AI), [w:] Sto lat polskiego prawa handlowego. Księga jubileuszowa dedykowana Profesorowi Andrzejowi Kidybie, t. 2, red. M. Dumkiewicz, K. Kopaczyńska-Pieczniak, J. Szczotka, Wolters Kluwer, Warszawa 2020.
• Księżak P., Wojtczak S., Prawa Asimova, czyli science-fiction jako fundament nowego prawa cywilnego, „Forum Prawnicze” 2020, nr 6.
• Kurosz K., Zawieranie umów przez sztuczną inteligencję (systemy autonomiczne) a wady oświadczenia woli – wprowadzenie do problemu, [w:] Czynić postęp w prawie. Księga jubileuszowa dedykowana Profesor Birucie Lewaszkiewicz-Petrykowskiej, red. W. Robaczyński, Wydawnictwo Uniwersytetu Łódzkiego, Łódź 2017.
• Kuziemski M., Misuraca G., AI governance in the public sector: Three tales from the frontiers of automated decision-making in democratic settings, “Telecommunications Policy” 2020, issue 6, https://doi.org/10.1016/j.telpol.2020.101976.
• Kuźniacki B., Przeciwdziałanie unikaniu opodatkowania z wykorzystaniem algorytmów i sztucznej inteligencji na przykładzie nadużyć umów o UPO w świetle PPT, „Przegląd Podatkowy” 2019, nr 5.
• Legal personhood: animals, artificial intelligence and the unborn, red. V.A.I. Kurki, T. Pietrzykowski, Springer, Cham 2017.
• Oręziak B., Prawa człowieka jako determinanta sztucznej inteligencji? Propozycja kryteriów i dyrektyw zastosowania sztucznej inteligencji do użytku praktycznego, [w:] Prawo sztucznej inteligencji, red. L. Lai, M. Świerczyński, C.H.Beck, Warszawa 2020.
• Pentland A., Ludzka strategia, [w:] Człowiek na rozdrożu. Sztuczna inteligencja – 25 punktów widzenia, red. J. Brockman, tł. M. Machnik, Helion, Gliwice 2020.
• Romanowski M., Śpieszmy się kochać spółki, bo tak szybko odchodzą – kilka refleksji o regulacji spółki przyszłości, „Monitor Prawniczy” 2019, nr 2.
• Tegmark M., Life 3.0. Being human in the Age of Artificial Intelligence, Alfred A. Knopf, New York 2017.
• Turner J., Robot Rules Regulating Artificial Intelligence, Palgrave Macmillan, Cham 2019.
• Weber-Elżanowska A.M., Sztuczna inteligencja a prawo spółek handlowych, „Monitor Prawa Handlowego” 2019, nr 4.
• Wolfram S., Sztuczna inteligencja i przyszłość cywilizacji, [w:] Człowiek na rozdrożu. Sztuczna inteligencja – 25 punktów widzenia, red. J. Brockman, tł. M. Machnik, Gliwice, Helion 2020.
• Yadong C., Artificial Intelligence and Judical Modernization, Springer, Singapore 2020.
• Zienowicz T.A., Artificial intelligence i singularity w procesie stosowania prawa, „Prawo Mediów Elektronicznych” 2019, nr 2.

Identifiers

DOI

10.31268/PS.2021.46