Sztuczna inteligencja – przedmiot badań czy podmiot kontrolowany. Prawo wobec rozwoju technologii

• Authors: Wojciech Robaczyński

Title variants

EN

Artificial Intelligence – an Audit Subject or an Audited Entity? Law in the Face of Technology Development

Abstracts

EN

Development of artificial intelligence is a fact. Beyond doubt, we will be witnessing its constant progress over the next years. It is hard to say now where this progress will ultimately lead, but it is not an exaggeration to expect (and sometimes also to fear) that artificial intelligence will significantly change our lives in many areas: social, economic, and even personal. This allows us to reflect on various aspects of artificial intelligence development. Artificial intelligence can be used by humans to advance, but there are several significant threats attached to it. These mainly result from difficulties with controlling the processes and decisions suggested, supported or even created by artificial intelligence systems. For every observer and participant of social life, not only for a lawyer, it comes as the basic issue to put it in an appropriate framework of a democratic state. That is why the majority of considerations revolving around artificial intelligence and robotics (apart from strictly information technology related and technical issues) are related to the current and future legal solutions. These focus, in the first place, on liability – mostly the civil law liability – for damages, which is to ensure appropriate protection standards. Due to the broad scope of potential activities of artificial intelligence, we should expect that the issues related to its implementation, and later operations, will also become an area of the interest of Supreme Audit Institutions, including NIK. The article presents the impact of artificial intelligence on audit subjects.

PL

Dla obserwatora i uczestnika życia społecznego, nie tylko prawnika, podstawową kwestią w obliczu nowych zjawisk jest ujęcie ich w ramy właściwe dla państwa demokratycznego. Z tego względu większość rozważań na temat sztucznej inteligencji i robotyki (poza zagadnieniami ściśle informatycznymi i technicznymi) dotyczy ich działania w ramach obowiązujących i przyszłych rozwiązań prawnych. Koncentrują się one przede wszystkim na problemach odpowiedzialności, w tym cywilnoprawnej za szkody – chodzi o zapewnienie odpowiednich standardów ochrony. Rozważania można prowadzić również w odniesieniu do wielu innych aspektów regulacji prawnej, np. własności intelektualnej w kontekście powierzenia sztucznej inteligencji tworzenia dzieł o znamionach twórczości, udzielania świadczeń zdrowotnych przez roboty medyczne w procesie diagnostyki i terapii, kwalifikowania zgłaszanych inicjatyw do dofinansowania ze środków publicznych. Szczególnie wrażliwym obszarem jest funkcjonowanie szeroko rozumianego wymiaru sprawiedliwości. Ze względu na zakres potencjalnego działania sztucznej inteligencji można się spodziewać, że zagadnienia związane najpierw z wdrażaniem, a potem jej funkcjonowaniem staną się przedmiotem zainteresowania organów kontroli, w tym Najwyższej Izby Kontroli. W artykule przybliżono wpływ rozwoju sztucznej inteligencji na przedmiot badań kontrolnych.

Keywords

PL

sztuczna inteligencja; algorytmy sztucznej inteligencji; podmiotowość sztucznej inteligencji; podmiot kontrolowany; przedmiot kontroli; pojazdy autonomiczne

EN

artificial intelligence; artificial intelligence algorithms; audited entity; audit subject; autonomous vehicles

• Publisher: Najwyższa Izba Kontroli
• Journal: Kontrola Państwowa
• Year: 2022
• Volume: 67
• Issue: 6 (407)
• Pages: 8-29

Dates

published

2022

Contributors

author

Wojciech Robaczyński

• Najwyższa Izba Kontroli
• Uniwersytet Łódzki

• https://orcid.org/0000000179047677

References

• Ad Hoc Committee On Artificial Intelligence (CAHAI): Feasibility Study, Strasbourg 2020.
• Biczysko-Pudełko K., Szostek D.: Koncepcje dotyczące osobowości prawnej robotów – zagadnienia wybrane, „Prawo Mediów Elektronicznych” nr 2/2019.
• Bosek L.: Perspektywy rozwoju odpowiedzialności cywilnej za inteligentne roboty, „Forum Prawnicze” nr 1/2019.
• Center for the Governance of Change. European Tech Insights 2021. Part II. Embracing and Governing Technological Disruption.
• Deeks A.: The judicial demand for explainable artificial intelligence, „Columbia Law Review” 2019, vol. 119.
• Dębowska-Romanowska T.: Uwagi o statusie państwowych i samorządowych zakładów użyteczności publicznej, wymienionych w art. 9 ustawy o finansach publicznych [w:] Czynić postęp w prawie. Księga jubileuszowa dedykowana Profesor Birucie Lewaszkiewicz-Petrykowskiej, W. Robaczyński (red.), Łódź 2017.
• Domagała M.: Zagrożenia związane z wprowadzeniem pojazdów autonomicznych jako przykład negatywnych skutków rozwoju sztucznej inteligencji [w:] Prawo sztucznej inteligencji, L. Lai i M. Świerczyński (red.), Warszawa 2020.
• Engstrom D.F., Ho D.E., Sharkey C.M., Cuéllar M.-F.: Government by Algorithm: Artificial Intelligence in Federal Administrative Agencies. Report submitted to the Administrative Conference of the United States, luty 2020.
• Ethics guidelines for trustworthy AI. Working Document for stakeholders’ consultation, Bruksela 2018.
• Ethics of Connected and Automated Vehicles Recommendations on road safety, privacy, fairness, explainability and responsibility, Bruksela 2020.
• Hulicki M.: Wybrane zagadnienia odpowiedzialności cywilnoprawnej w kontekście zastosowań sztucznej inteligencji, „Kwartalnik Prawa Prywatnego” nr 4/2019.
• Ilková V., Ilka A.: Legal aspects of autonomous vehicles – an overview, Proceedings of the 2017 21st International Conference on Process Control (PC), Štrbské Pleso, Slovakia.
• Jankowska M.: Podmiotowość prawna sztucznej inteligencji? [w:] O czym mówią prawnicy, mówiąc o podmiotowości, A. Bielska-Brodziak (red.), Katowice 2015.
• Jarzęcka-Siwik E., Berek M., Skwarka B., Wrona Z.: Najwyższa Izba Kontroli i prawne aspekty funkcjonowania kontroli państwowej, Warszawa 2018.
• Jarzęcka-Siwik E., Skwarka B.: Najwyższa Izba Kontroli. Komentarz do ustawy o Najwyższej Izbie Kontroli, Warszawa 2017.
• Jeffcott O., Inglis R.: Driverless cars: ethical and legal dilemmas, „Journal of Personal Injury Law” nr 1/2017.
• Kappes A.: Podmiotowość prawna sztucznej inteligencji. Rzeczywista potrzeba czy kreacjonizm prawniczy? [w:] Non omne quod licet honestum est. Studia z prawa cywilnego i handlowego w 50-lecie pracy naukowej Profesora Wojciecha Jana Katnera, U. Promińska, S. Byczko, A. Kappes i B. Kucharski (red.), Warszawa 2022.
• Księżak P., Wojtczak S.: Prawa Asimova, czyli science fiction jako fundament nowego prawa cywilnego, „Forum Prawnicze” nr 1/2020.
• Księżak P., Wojtczak S.: Toward a Conceptual Network for the Private Law of Artificial Intelligence, Springer, Cham 2023.
• Księżak P.: My, Naród? Konstytucjonalizacja sztucznej inteligencji, czyli o potrzebie przemodelowania założeń ustrojowych, „Przegląd Sejmowy” nr 4(165)/2021.
• P. Księżak: Sztuczna inteligencja i roboty autonomiczne w medycynie [w:] Organizacja systemu ochrony zdrowia. System Prawa Medycznego. Tom 3 , D. Bach-Golecka i R. Stankiewicz (red.), Warszawa 2020.
• Księżak P.: Zawieranie umów przez sztuczną inteligencję [w:] Sto lat polskiego prawa handlowego. Księga jubileuszowa dedykowana Profesorowi Andrzejowi Kidybie, M. Dumkiewicz, J. Szczotka, K. Kopaczyńska-Pieczniak (red.), Warszawa 2020.
• Księżak P.: Zdolność prawna sztucznej inteligencji (AI) [w:] Czynić postęp w prawie. Księga jubileuszowa dedykowana Profesor Birucie Lewaszkiewicz-Petrykowskiej, W. Robaczyński (red.), Łódź 2017.
• Neumann T.: Perspektywy wykorzystania pojazdów autonomicznych w transporcie drogowym w Polsce, „Autobusy” nr 1/2018.
• Piecha J.: Social control of public administration: twilight or renaissance? Observations in the context of the administration performed through the algorithms, „Studia Iuridica” 2021, t. 89.
• Rębisz K.: Wybrane zagadnienia prawa cywilnego w propozycjach regulacyjnych dotyczących sztucznej inteligencji w Unii Europejskiej, „Europejski Przegląd Sądowy” nr 10/2021.
• Riehl D.A.: Car Minus Driver: Autonomous Vehicles Driving, Regulation, Liability, and Policy, „The Computer & Internet Lawyer” nr 5/2018.
• Robaczyński W.: Odpowiedzialność za szkody wyrządzone przez pojazdy autonomiczne, „Forum Prawnicze” nr 1(69)/2022.
• Rudin C., Chen C., Chen Z., Huang H., Semenova L., Zhong C.: Interpretable Machine Learning: Fundamental Principles and 10 Grand Challenges, July 2021, Cornell University, arXiv:2103.11251.
• Salmi J.: A democratic way of controlling artificial general intelligence, „AI & Society” 2022.
• Saripan H., Fikriah N.S., Putera M.S.: Are Robots Human? A Review of the Legal Personality Model, “World Applied Sciences Journal” nr 34/2016.
• Schönberger D.: Artificial intelligence in healthcare: a critical analysis of the legal and ethical implications, „International Journal of Law and Information Technology”, nr 27/2019.
• Sibiga G. [w:] Założenia do strategii AI w Polsce. Załącznik 1: Wybrane prawne aspekty rozwoju i wykorzystania sztucznej inteligencji, Ministerstwo Cyfryzacji, Warszawa 2018.
• Solaiman S.M.: Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy, „Artif Intell Law” nr 25/2017.
• Sprawozdanie na temat wpływu sztucznej inteligencji, internetu rzeczy i robotyki na bezpieczeństwo i odpowiedzialność, COM(2020) 64 final.
• Szydło W.: Analiza przesłanek uznania podmiotu prawa publicznego za zamawiającego na gruncie prawa zamówień publicznych w świetle orzecznictwa Trybunału Sprawiedliwości UE, „Prace Naukowe Uniwersytetu Ekonomicznego we Wrocławiu” nr 497/2017.
• The Alan Turing Institute: Human Rights, Democracy and the Rule of Law Assurance Framework for AI Systems: A proposal prepared for the Council of Europe’s Ad hoc Committee on Artificial Intelligence.
• Urbanik G.: Odpowiedzialność za szkody wyrządzone przez pojazd autonomiczny w kontekście art. 446 kc, „Studia Prawnicze. Rozprawy i Materiały” nr 2/2019.
• van den Hoven van Genderen R.: Do We Need New Legal Personhood in the Age of Robots and AI? [w:] Robotics, AI and the Future of Law, M. Corrales, M. Fenwick, N. Forgó (red.), Singapur 2018.
• Vellinga N.E.: Automated driving and its challenges to international traffic law: which way to go?, “Law, Innovation and Technology” 2019.
• Wałachowska M. [w:] Prawo sztucznej inteligencji, L. Lai i M. Świerczyński (red.), Warszawa 2020.
• S. Wojtczak: Endowing Artificial Intelligence with legal subjectivity, „AI & Society” nr 37/2022.
• Zalewski T. [w:] Prawo sztucznej inteligencji, L. Lai i M. Świerczyński (red.), Warszawa 2020.
• Zienowicz T.: Artificial intelligence i singularity w procesie stosowania prawa, „Prawo Mediów Elektronicznych” nr 2/2019.

Identifiers

DOI

10.53122/ISSN.0452-5027/2022.1.42

Biblioteka Nauki

2162200