Search results

1

Artificial Intelligence Development and Safety Committee as a New Oversight Body – Considerations in Light of the Artificial Intelligence Systems Bill

100%

Nizioł K.

Teka Komisji Prawniczej

|

2025

|

vol. 18

|

issue 2

447-460

EN

The purpose of the paper is to discuss and analyze the regulations concerning the establishment of a new Polish supervisory authority, i.e. the Artificial Intelligence Development and Safety Commission included in the draft of AI Systems Act. The research intention, on the other hand, is to answer the question of whether it is necessary to establish a new supervisory authority for the implementation of the AIA and, if so, whether the adopted solution meets the independence criteria set out in Article 70(1) of the AIA. The considerations presented in the study allowed us to give, in principle, a positive answer to this question. The study used a comparative legal method.

2

The risk of artificial intelligence for democracy and the EU’s first efforts to regulate it

86%

Denemark J.

The Lawyer Quarterly

|

2024

|

vol. 14

|

issue 1

123-134

EN

The disinformation techniques are evolving alongside with the evolution of artificial intelligence. The creating and dissemination of disinformation is more effective especially due to perpetrators using deepfake as convincing illusion of reality, bots as artificial means of making disinformation relevant and psychographic microtargeting as powerful tool for tailoring perfect disinformation for each individual. European Union is aware of the dangers imposed by artificial intelligence, but the question is whether current or proposed regulations have the potential to tackle the issue effectively.

3

Opinia biegłego w perspektywie aktu w sprawie sztucznej inteligencji

72%

Marcinowski-Prażmowski M.

Przegląd Policyjny

|

2025

|

vol. 157(1)

132-149

EN

The development and ubiquity of artificial intelligence, which have accelerated significantly in the present decade, are a source of new opportunities and risks. Having regard for the protection of fundamental rights from the potential negative impacts of artificial intelligence applications, the European Parliament and Council have adopted a comprehensive regulation known as the Artificial intelligence Act, which entered into force on 1 August 2024. The goal of the regulation was to ensure safety, transparency, protection of fundamental rights and to support innovation with respect to artificial intelligence. The regulation is structured with respect to a risk-based system, where obligations resulting from the use of artificial intelligence systems are determined by the levels of risk associated with them (these levels of risk are unacceptable, high, limited and minimal). This raises three questions concerning forensic expert testimonies, which this paper aims to address: i) to what extend would the methods used by forensic experts fall under the regulation of the Artificial intelligence Act; ii) what could be the obligations of forensic experts in relation to the use of methods regulated by the Artificial intelligence Act; iii) what could be the potential penalties for non-compliance with the Artificial intelligence Act? As a result of the presented research it was determined that, in principle, artificial intelligence systems utilized to produce forensic expert testimonies will not be regarded as high-risk systems. However, they could be made subject to high-risk regulations if the European Commission used its powers to change the scope of the high-risk use-cases. Hence, the use of artificial intelligence systems to produce expert testimonies would entail various technical and supervisory obligations, which could result in administrative fines.

PL

Rozwój i rozpowszechnianie się sztucznej inteligencji, które znacznie przyspieszyły w obecnej dekadzie, powodują wzrost nowych możliwości i zagrożeń. Mając na uwadze ochronę praw podstawowych przed potencjalnymi negatywnymi skutkami zastosowań sztucznej inteligencji, Parlament Europejski i Rada przyjęły kompleksową regulację, tj. akt w sprawie sztucznej inteligencji, która weszła w życie 1 sierpnia 2024 r. Celem przyjętej regulacji jest zapewnienie bezpieczeństwa, przejrzystości, ochrony praw podstawowych oraz wspieranie innowacji w zakresie sztucznej inteligencji. Struktura regulacji polega na systemie ryzyka, który uzależnia obowiązki wynikające z wykorzystywania systemów sztucznej inteligencji od poziomów ryzyka z nimi związanych (ryzyko niedopuszczalne, wysokie, ograniczone i minimalne). Rodzi to trzy podstawowe pytania dotyczące opiniowania przez biegłych, na które odpowiedź była celem niniejszego artykułu. W jakim zakresie metody stosowane przez biegłych będą objęte regulacjami aktu w sprawie sztucznej inteligencji? Jakie będą obowiązki biegłych w związku z wykorzystaniem metod objętych aktem w sprawie sztucznej inteligencji? Jaka będzie potencjalna odpowiedzialność za naruszenia obowiązków wynikających z aktu w sprawie sztucznej inteligencji? W wyniku przeprowadzonych badań ustalono, że co do zasady systemy sztucznej inteligencji wykorzystywane do opiniowania przez biegłych nie będą objęte regulacjami dotyczącymi systemów wysokiego ryzyka. Jednakże mogłyby zostać uznane za systemy wysokiego ryzyka w wyniku inicjatywy Komisji Europejskiej, zmieniającej zakres przypadków wykorzystywania systemów wysokiego ryzyka. W rezultacie z wykorzystywaniem systemów sztucznej inteligencji do opiniowania przez biegłych wiązałby się szereg obowiązków dotyczących obsługi i nadzoru nad takimi systemami oraz potencjalna odpowiedzialność w postaci administracyjnych kar pieniężnych.

Refine search results

1 Przegląd Policyjny

1 Teka Komisji Prawniczej

1 The Lawyer Quarterly

1 Denemark J.

1 Marcinowski-Prażmowski M.

1 Nizioł K.

2 2025

1 2024

Artificial Intelligence Development and Safety Committee as a New Oversight Body – Considerations in Light of the Artificial Intelligence Systems Bill

The risk of artificial intelligence for democracy and the EU’s first efforts to regulate it

Opinia biegłego w perspektywie aktu w sprawie sztucznej inteligencji