System wspomagający wykrywanie treści wizualnych i tekstowych zagrażających bezpieczeństwu dzieci w cyberprzestrzeni

• Authors: Ewa Niewiadomska-Szynkiewicz , Martyna Różycka , Katarzyna Staciwa , Katarzyna Nyczka

Abstracts

EN

In recent years, there has been a significant increase in threats to children’s safety in cyberspace. The most serious of these include children’s participation in illegal online activities and the production of sexually explicit content involving them. Therefore, it is of fundamental importance to build awareness of cyber threats among our society’s youngest members and teach them skills for the safe use of products and services assigned to cyberspace. A key action for effectively protecting children in this environment is the early detection and reporting to the relevant authorities of illegal behavior and child abuse content. Teams such as Dyżurnet.pl, whose tasks currently include responding to potentially illegal content reported by cyberspace users, and in the near future, possibly also conducting proactive activities in this area, play an important role here. The experience of Dyżurnet.pl clearly shows that effective detection of such content requires automation of activities and appropriate IT tools. This paper presents a novel network monitoring and decision support system using artificial intelligence methods, including deep learning, to automatically detect potentially harmful material, such as Child Sexual Abuse Material (CSAM), erotic content involving children, pornographic content with a created or processed image of a child and pornography involving adults.

Keywords

EN

cybersecurity; Child Sexual Abuse Material; CSAM; decision support system; artificial intelligence; machine learning; deep learning

• Publisher: Akademia Sztuki Wojennej
• Journal: Cybersecurity and Law
• Year: 2023
• Volume: 10
• Issue: 2
• Pages: 202-220

Dates

published

2023

Contributors

author

Ewa Niewiadomska-Szynkiewicz

• Zespół Złożonych Systemów, Instytut Automatyki i Informatyki Stosowanej, Wydział Elektroniki i Technik Informacyjnych, Politechnika Warszawska

author

Martyna Różycka

• Dział Reagowania na Nielegalne Treści w Internecie Dyżurnet.pl w Centrum Cyberbezpieczeństwa i Infrastruktury, Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy

author

Katarzyna Staciwa

• Dział Reagowania na Nielegalne Treści w Internecie Dyżurnet.pl w Centrum Cyberbezpieczeństwa i Infrastruktury, Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy

author

Katarzyna Nyczka

• Dział Reagowania na Nielegalne Treści w Internecie Dyżurnet.pl w Centrum Cyberbezpieczeństwa i Infrastruktury, Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy

References

• Aggarwal Ch.C., Neural Networks and Deep Learning, Cham 2018.
• Analiza wyników badania dotyczącego treści intymnych publikowanych przez młodzież, https://dyzurnet.pl/publikacje [dostęp: 21.03.2023].
• Cortes C., Vapnik V., Support-vector networks, „Mach Learn” 1995, nr 20.
• CyberTipline 2021 Report, https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata#overview [dostęp: 20.04.2023].
• He K., Gkioxari G., Dollar P., Girshick R.B., Mask R-CNN, arXiv:1703.06870 [cs.CV], 2018, https://doi.org/10.48550/arXiv.1703.06870 [dostęp: 20.04.2023].
• International Survivor’s Survey, https://www.protectchildren.ca/en/resources-research/survivors-survey-results/ [dostęp: 17.04.2023].
• Internet Usage Statistics. The Internet Big Picture World Internet Users and 2023 Population Stats, https://www.internetworldstats.com/stats.html [dostęp: 20.04.2023].
• Kasprzak W., Jankowski B., Light-Weight Classification of Human Actions in Video with Skeleton-Based Features, „Electronics” 2022, t. 11, nr 14.
• Kasprzak W., Puchała S., Piwowarski P., On Multi-stream Classification of Two Person Interactions in Video with Skeleton-Based Features [w:] Computer Vision and Graphics. ICCVG 2022. Lecture Notes in Networks and Systems, red. L.J. Chmielewski, A. Orłowski, t. 598, Cham 2023.
• Nastolatki 3.0. Raport z ogólnopolskiego badania uczniów, 2022, https://www.nask.pl/pl/raporty/raporty/4295, Raport-z-badań-nastolatki-3.0-2021.html [dostęp: 20.04.2023].
• Nie na pokaz. Mówimy „nie” publikowaniu treści intymnych, https://www.saferinternet.pl/nie-na-pokaz/kampania.html [dostęp: 21.03.2023].
• NudeNet: Neural Nets for Nudity Classification, Detection and selective censoring, https://pypi.org/project/NudeNet/ [dostęp: 23.04.2023].
• Setter Ch., Greene N., Newman N., Perry J., Global Threat Assessment 2021, https://www.weprotect.org/global-threat-assessment-21/#report [dostęp: 20.04.2023].
• Sexual abuse imagery of primary school children 1,000 per cent worse since lockdown, https://www.iwf.org.uk/news-media/news/sexual-abuse-imagery-of-primary-school-children-1-000-per-cent-worse-since-lockdown/ [dostęp: 21.03.2023].
• Trend: ‘Self-generated’ content, https://annualreport2020.iwf.org.uk/trends/international/selfgenerated [dostęp: 21.03.2023].
• Wasilewski J., Zarys definicyjny cyberprzestrzeni, „Przegląd Bezpieczeństwa Wewnętrznego” 2013, nr 9, s. 231.
• Who we are, https://www.missingkids.org/home [dostęp: 20.04.2023].
• Who we are, https://www.weprotect.org [dostęp: 20.04.2023].

Identifiers

DOI

10.35467/cal/174934

Biblioteka Nauki

20311655