Results found: 1

Search results

Sort By:

Limit search:

Hallucinations in Artificial Intelligence and Human Misinformation: Librarians' Perspectives on Implications for Scholarly Publication

100%

Nsirim O.

Folia Toruniensia

2025

vol. 25

79-98

Oczekuje się, że w publikacjach naukowych sztuczna inteligencja zwiększy produktywność i sprawi, że dostęp do wiedzy stanie się bardziej powszechny, ale wiąże się to z anomaliami znanymi jako halucynacje AI, reprezentującymi nową falę dezinformacji szerzoną przez ludzi, podważającą wiarygodność publikacji naukowych. W niniejszym badaniu przeanalizowano postrzeganie przez bibliotekarzy implikacji halucynacji sztucznej inteligencji i dezinformacji szerzonej przez ludzi w publikacjach naukowych. W badaniu przyjęto projekt opisowy ankiety badawczej. Populacja objęta tym badaniem składała się z bibliotekarzy w Nigerii. Zastosowano technikę celowego pobierania próbek, aby uzyskać odpowiedzi od bibliotekarzy korzystających z platform mediów społecznościowych, a następnie wykorzystano metodę kuli śnieżnej, aby dotrzeć do bibliotekarzy, do których trudno było dotrzeć za pomocą ogólnych platform mediów społecznościowych, gdzie można ich było znaleźć. Narzędziem do gromadzenia danych był ustrukturyzowany kwestionariusz. 97 odpowiedzi uznano za nadające się do analizy. Dane zebrane z kwestionariusza zostały przeanalizowane przy użyciu średniej i odchylenia standardowego. Badanie wykazało, że bibliotekarze posiadają wiedzę zarówno na temat halucynacji sztucznej inteligencji, jak i dezinformacji szerzonej przez człowieka. Bibliotekarze są również głęboko przekonani, że w znacznym stopniu zagrażają one wiarygodności, rzetelności i ogólnej integralności publikacji naukowych. Bibliotekarze stoją przed poważnymi wyzwaniami związanymi z łagodzeniem skutków dezinformacji, w tym brakiem specjalistycznego szkolenia w zakresie sztucznej inteligencji, brakiem ustalonych wytycznych dotyczących weryfikacji, szybkim postępem technologicznym, ograniczonym wsparciem instytucjonalnym oraz trudnościami w weryfikacji dzieł drukowanych i niepublikowanych. Badanie wykazało również, że bibliotekarze przyjęli kilka strategii mających na celu ograniczenie halucynacji związanych ze sztuczną inteligencją i dezinformacji wśród ludzi, w tym szkolenia w zakresie technologii sztucznej inteligencji i podnoszenie świadomości na temat rozwoju narzędzi sztucznej inteligencji do wdrożenia, ustalenie wytycznych dotyczących halucynacji. Zalecono wzbogacenie wiedzy bibliotekarzy poprzez ciągłe programy doskonalenia zawodowego, specjalistyczne warsztaty oraz umiejętność korzystania ze sztucznej inteligencji. Pomoże to bibliotekarzom być na bieżąco z nowymi trendami w dezinformacji oraz lepiej edukować badaczy i studentów.

Von wissenschaftlichen Publikationen wird erwartet, dass Künstliche Intelligenz die Produktivität steigert und den Zugang zu Wissen verbreitet. Dies bringt jedoch Anomalien mit sich, die als KI-Halluzinationen bekannt sind und eine neue Welle menschlicher Desinformation darstellen, welche die Glaubwürdigkeit wissenschaftlicher Publikationen untergräbt. Die vorliegende Studie untersucht die Wahrnehmung von Bibliothekarinnen und Bibliothekaren in Bezug auf die Auswirkungen von Halluzinationen in der Künstlichen Intelligenz sowie von menschlicher Desinformation auf wissenschaftliche Publikationen. Die Untersuchung folgte einem deskriptiven Umfrageentwurf. Die Grundgesamtheit bilden Bibliothekarinnen und Bibliothekare in Nigeria. Als Stichprobenverfahren wurde zunächst eine gezielte Auswahl von Bibliothekaren angewandt, die soziale Medien nutzen. Anschließend wurde das Schneeballverfahren eingesetzt, um solche Bibliothekarinnen und Bibliothekare zu erreichen, die über gängige soziale Plattformen schwer zugänglich waren. Das Erhebungsinstrument war ein strukturierter Fragebogen. 97 Rückmeldungen wurden als gültig für die Analyse anerkannt. Die Daten wurden mit Hilfe von Mittelwert und Standardabweichung ausgewertet. Die Ergebnisse zeigten, dass Bibliothekarinnen und Bibliothekare sowohl über KI-Halluzinationen als auch über menschlich verursachte Desinformation informiert sind. Sie sind zudem fest davon überzeugt, dass diese Faktoren die Glaubwürdigkeit, Zuverlässigkeit und Integrität wissenschaftlicher Publikationen erheblich beeinträchtigen. Die Befragten stehen vor gravierenden Herausforderungen bei der Eindämmung von Desinformation, darunter fehlende spezialisierte KI-Schulungen, das Fehlen etablierter Prüfungsrichtlinien, die rasante technologische Entwicklung, begrenzte institutionelle Unterstützung sowie Schwierigkeiten bei der Überprüfung gedruckter und unveröffentlichter Arbeiten. Die Studie zeigte ferner, dass Bibliothekarinnen und Bibliothekare verschiedene Strategien zur Eindämmung von KI-Halluzinationen und menschlicher Desinformation anwenden, darunter KI-Technologieschulungen, Sensibilisierung für die Entwicklung von KI-Werkzeuge zur Anpassung sowie die Einführung von Richtlinien zum Umgang mit KI-Halluzinationen. Empfohlen wird die Vertiefung des Wissens der Bibliothekarinnen und Bibliothekare durch kontinuierliche Programme zur beruflichen Weiterbildung, spezialisierte Workshops sowie KI-Bildung. Dies wird ihnen helfen, mit neuen Trends in der Desinformation Schritt zu halten und Wissenschaftlerinnen, Wissenschaftler sowie Studierende besser zu unterstützen.

In scholarly publishing, AI is expected to raise productivity and make access to knowledge more widespread but this has come with anomalies known as AI hallucination, representing a new wave of human misinformation undermining the validity of scholarly publication. This study examines librarians' perceptions on implications of hallucinations in artificial intelligence and human misinformation for scholarly publication. The study adopts a descriptive research survey design. The population for this study consists of librarians in Nigeria. Purposive sampling technique was used to elicit responses from librarians that are on social media platforms, then snowball sampling was used to get to librarians that were difficult to reach using general social media platforms where they could be found. The instrument for data collection is a structured questionnaire. 97 responses were found valid for analysis. The data collected from the questionnaire were analyzed using mean and standard deviation. The study discovered that librarians possess knowledge of both AI hallucinations and human-driven misinformation. Librarians also strongly perceive that these significantly compromise the credibility, reliability, and overall integrity of scholarly publications. Librarians face considerable challenges in mitigating misinformation, including lack of specialized AI training, absence of established verification guidelines, rapid technological advancements, limited institutional support, and difficulty verifying printed and unpublished works. The study also discovered that librarians have adopted several strategies to curb AI hallucinations and human misinformation, including training on AI technologies and raising awareness about the development of AI tools for adaptation, set guidelines to address AI hallucination. It was recommended that the knowledge of librarians be strengthened through ongoing professional development programs, specialized workshops, and by AI literacy. This will help librarians stay updated on new trends in misinformation and better educate researchers and students.

Refine search results

1 Folia Toruniensia

1 Nsirim O.

1 2025

Search results

Hallucinations in Artificial Intelligence and Human Misinformation: Librarians' Perspectives on Implications for Scholarly Publication