Digital Medicines. Legal Aspects Summary The subject of this article is the legal examination of digital medicines, a new type of medicinal product. The basis for the author’s remarks is the procedure launched by the US FDA (US Federal Food and Drug Administration) to consider the application for the commercial admission of digital medicines. This is the first case of its kind. He analyses the legal status of medicines of this kind on the grounds of the applicable EU directives and Polish domestic law. His purpose is an analysis of the definition of medicinal products in the relevant EU directive and in the Polish provisions, and an assessment of whether and to what extent digital medicines comply with these conditions. The analysis also takes the current case law of the European Court of Justice into consideration. The last part of the article discusses the legal aspects of the reimbursement of digital medicines in the Polish public healthcare system, and the role they could play in shaping the new system of health services and reimbursement. The article concludes with observations on the legislation which would be required if digital medicines were to be introduced on the Polish market.
W grudniu 2021 r. Rada Europy przyjęła dokument zatytułowany „Wytyczne w sprawie elektronicznego składania dokumentów sądowych (e-filing) i cyfryzacji sądów”. Wytyczne opierają się na założeniu, że nowy cyfrowy system wymiaru sprawiedliwości powinien stworzyć przestrzeń umożliwiającą interakcję i wymianę danych oraz e-dokumentów między sądami a ich użytkownikami (tj. stronami procesowymi, przedstawicielami zawodów prawniczych, świadkami/biegłymi i/lub innymi podmiotami zaangażowanymi w procedury sądowe). Taka koncepcja wymaga zmiany obejmującej nie tylko wykorzystanie najnowszych technologii do wsparcia systemu sądownictwa, ale także refleksji nad warunkami prawnymi, organizacyjnymi i społeczno-kulturowymi, które wpływają na funkcjonowanie wymiaru sprawiedliwości. Wytyczne zostaną przedstawione pod kątem potrzeb i możliwości ich wdrożenia przez rządy państw europejskich. Wytyczne Rady Europy i ich ewentualne przyjęcie w bieżącym funkcjonowaniu wymiaru sprawiedliwości traktowane są jako wyzwanie, któremu należy sprostać.
EN
In December 2021, the Council of Europe adopted a document entitled “Guidelines on electronic court filing (e-filing) and digitalisation of courts”. The guidelines are based on the assumption that a new digital justice system should create a space that allows interaction and exchange of data and e-documents between the courts and their users (i.e. litigants, legal professionals, witnesses (experts) and/or other actors involved in court procedures). Such a concept requires a change involving not only the use of the latest technology to support the judicial system, but also a reflection on the legal, organisational and socio-cultural conditions that affect the functioning of the justice system. The guidelines will be presented in terms of the needs and possibilities of their implementation by the European governments. The guidelines of the Council of Europe and their possible adoption in the daily functioning of the judiciary are treated as a challenge to be met.
An issue that is characteristic of AI is data processing on a massive scale (giga data, Big Data). This issue is also important because of the proposition to require manufacturers to equip AI systems with a means to record information about the operation of the technology, in particular the type and magnitude of the risk posed by the technology and any negative effects that logging may have on the rights of others. Data gathering must be carried out in accordance with the applicable laws, particularly data protection laws and trade secret protection laws. Therefore, it is necessary to determine the applicable law in line with existing conflict-of-law regulations.
W niniejszym artykule omówiono główne wyzwania związane z odpowiedzialnością za szkody wyrządzone przez systemy sztucznej inteligencji (AI), które należy odpowiednio uwzględnić w systemie kolizyjnym Unii Europejskiej. W pierwszej części artykułu autorzy wskazują na trzy główne wyzwania, a mianowicie: 1) określenie osób odpowiedzialnych, 2) optymalny reżim odpowiedzialności za delikty AI oraz 3) określenie systemów AI wysokiego ryzyka. W drugiej części artykułu autorzy dokonują oceny stosowania przepisów kolizyjnych rozporządzenia Rzym II z tej perspektywy. Argumentują, że zharmonizowane ramy prawne na szczeblu UE są niezbędne, aby uniknąć ryzyka rozdrobnienia prawnego w wypełnianiu luk powstałych w wyniku bezprecedensowego postępu technologicznego spowodowanego przez sztuczną inteligencję. Temu celowi powinny służyć również normy kolizyjne prawa prywatnego międzynarodowego.
EN
This article discusses the main challenges related to the liability for damages caused by artificial intelligence (AI) systems that need to be properly addressed by the European Union (EU) conflict-of-laws regime. In the first part of the paper authors point out three main challenges, namely: 1) determination of responsible persons, 2) optimal liability regime for AI torts, and 3) determination of high – risk AI systems. In the second part of the paper the authors assess the application of the conflict-of-law provisions of the Rome II Regulation from this perspective. This article argues that a harmonised legal framework at EU level is necessary to avoid the risk of legal fragmentation in filling the gaps created by unprecedented technological advances caused by AI. This objective should also be pursued by the conflict-of-laws rules of private international law.
The paper presents recommendations for new legislation required for the definition of a uniform artificial intelligence statute, in other words, legislation to justify the need for, and the feasibility of determining the proper law for the broadest possible range of legal issues relating to artificial intelligence. The article starts with a discussion of the problem of the legal personality of artificial intelligence and the validity of the establishment of a personal statute for artificial intelligence. These considerations also take into account the public policy clause and other mechanisms to correct the designation of the proper law. Next, the article discusses a property-law statute for artificial intelligence, and ends with an analysis of the choice of connecting factors for the determination of a uniform statute of artificial intelligence.
PL
W artykule przedstawiono wnioski de lege ferenda dotyczące określenia jednolitego statutu sztucznej inteligencji, tj. uzasadnienie potrzeby i możliwości określenia właściwego prawa dla jak najszerszego zakresu zagadnień prawnych związanych ze sztuczną inteligencją. Autorzy omówili problem osobowości prawnej sztucznej inteligencji oraz zasadność ustanowienia statutu osobowego sztucznej inteligencji. W rozważaniach tych uwzględniono również klauzulę porządku publicznego oraz inne mechanizmy korygujące wyznaczenie właściwego prawa. Artykuł kończy analiza łączników norm kolizyjnych dla ustalenia jednolitego statutu sztucznej inteligencji.
The authors of the paper carry out a preliminary assessment of the new regulation on clinical trials of medical devices in the context of software based on intelligent algorithms (so-called AI systems). The primary source of law here is the EU Medical Device Regulation (MDR). The study highlights the need to take into account the regulations on artificial intelligence systems when conducting clinical trials. It is justified by their close relationship with the EU provisions on medical devices. The main difficulty in making a legal and ethical assessment of new solutions used in medical devices is the application of various, sometimes divergent, regulations in the field of new technologies and medical law. The study contains preliminary, necessarily balanced and careful, bearing in mind the need to protect patients - research participants (and other people), conclusions on the application of the above provisions in the conduct of clinical trials.
PL
Autorzy przeprowadzają wstępną ocenę nowej regulacji o badaniach klinicznych wyrobów medycznych w kontekście oprogramowania opartego na inteligentnych algorytmach (tzw. systemów AI). Podstawowym źródłem prawa jest unijne rozporządzenie o wyrobach medycznych (Medical Device Regulation). W opracowaniu zwrócono uwagę na potrzebę uwzględnienia regulacji dotyczących systemów sztucznej inteligencji przy prowadzeniu badań klinicznych. Jest to uzasadnione ich ścisłym związkiem z przepisami unijnymi o wyrobach medycznych. Podstawową trudność przy dokonaniu oceny prawnej oraz etycznej nowych rozwiązań stosowanych w wyrobach medycznych sprawia zastosowanie różnych, czasem rozbieżnych przepisów z dziedziny nowych technologii oraz prawa medycznego. Opracowanie zawiera wstępne, z konieczności zbalansowane i ostrożne, z uwagi na potrzebę ochrony pacjentów – uczestników badań (oraz innych osób), wnioski w zakresie stosowania powyższych przepisów podczas prowadzenia badań klinicznych.
The subject of the article is the issue of non-contractual civil liability, especially based on the principle of fault, related to the use of Artificial Intelligence systems. The specific characteristics of artificial intelligence systems, including their complexity, autonomy and nontransparency, may make it extremely difficult for injured parties to identify the entity bearing liability and prove compliance with the requirements for the recognition of a compensation claim. The reason for conducting scientific research in this area is the presentation by the European Commission of a draft directive on liability for Artificial Intelligence. The problem of adapting the regime of non-contractual liability in connection with the use of Artificial Intelligence systems is of extraordinary practical importance. At the same time, it is an important research issue, especially in the context of popularizing the use of Artificial Intelligence systems. The analysis sought to determine whether the directive could achieve its intended goal of ensuring effective protection for victims. This issue required examination in the light of methodological instruments classically used in the discipline of “legal sciences”, with particular emphasis on the formal-dogmatic method and an assessment of the practical dimension of the solutions proposed in the draft directive. The article is the first comprehensive discussion of the topic in Polish doctrine and is a contribution from Polish legal science to the analysis of the draft directive, as it also contains proposals for the necessary directions of changes.
PL
Przedmiotem artykułu jest problematyka pozaumownej odpowiedzialności cywilnoprawnej, opartej zwłaszcza na zasadzie winy, związanej ze stosowaniem systemów sztucznej inteligencji. Cechy szczególne systemów sztucznej inteligencji, w tym ich złożoność, autonomia i nieprzejrzystość, mogą sprawić, że zidentyfikowanie podmiotu ponoszącego odpowiedzialność i udowodnienie spełnienia wymogów uznania roszczenia odszkodowawczego mogą być dla poszkodowanych niezmiernie trudne. Powodem przeprowadzenia badań naukowych w tym zakresie jest przedstawienie przez Komisję Europejską projektu dyrektywy o odpowiedzialności za sztuczną inteligencję. Problem dostosowania reżimu odpowiedzialności pozaumownej w związku ze stosowaniem systemów sztucznej inteligencji ma niezwykłą doniosłość praktyczną. Jednocześnie jest on ważnym zagadnieniem badawczym, w szczególności w kontekście upowszechnienia stosowania systemów sztucznej inteligencji. Analiza dążyła do ustalenia, czy dyrektywa może osiągnąć zamierzony cel w postaci zapewnienia skutecznej ochrony poszkodowanym. Zagadnienie to wymagało zbadania w świetle klasycznie wykorzystywanych w dyscyplinie „nauki prawne” instrumentów metodycznych, ze szczególnym uwzględnieniem metody formalno-dogmatycznej oraz z oceną praktycznego wymiaru zaproponowanych w projekcie dyrektywy rozwiązań. Artykuł stanowi pierwsze całościowe omówienie tematu w polskiej doktrynie i jest wkładem ze strony polskiej nauki prawa do analizy projektu dyrektywy, z uwagi na to, że zawiera również propozycje niezbędnych kierunków zmian.
JavaScript is turned off in your web browser. Turn it on to take full advantage of this site, then refresh the page.