Pedagogical Anthropology as Existential Risk Prevention: A Critical Take on the Techno-Progressive Discourses of Artificial General Intelligence and Moral Enhancement

• Authors: Lipowicz Markus

Title variants

PL

Pedagogiczna antropologia jako prewencja ryzyka egzystencjalnego – krytyczne ujęcie techno-progresywnych dyskursów wokół sztucznej inteligencji i moralnego ulepszenia

• Languages of publication: EN

Abstracts

EN

The article undertakes the problem of AGI (Artificial General Intelligence) research with reference to Nick Bostrom’s concept of existential risk and Ingmar Persson’s/Julian Savulescu’s proposal of bio­medical moral enhancement from a pedagogical-anthropological perspective. A major focus will be put on the absence of pedagogical paradigms within the techno-progressive discourse, which results in a very reduced idea of education and human development. In order to prevent future existential risks, the techno-progressive discourse should at least to some extent refer to the qualitative approaches of humanities. Especially pedagogical anthropology reflects the presupposed and therefore frequently unarticulated images of man within the various scientific disciplines and should hence be recognized as a challenge to the solely quantitative perspective of AGI researches and transhumanism. I will argue that instead of forcing man to adapt physically to artificial devices, as the techno-progressive discourses suggest, the most efficient way of avoiding future existential risks concerning the relationship between mankind and highly advanced technology would be—as John Gray Cox proposes—making AGIs adopt crucial human values, which would integrate their activity into the social interactions of the lifeworld (Lebenswelt).

PL

Artykuł podejmuje problematykę badań nad ogólną sztuczną inteligencją (OSI) w odniesieniu do koncepcji ryzyka egzystencjalnego Nicka Bostroma oraz propozycji moralnego ulepszenia człowieka Ingmara Perssona i Juliana Savulescu z perspektywy pedagogiczno-antropologicznej. Główny nacisk zostanie położony na nieobecność paradygmatu pedagogicznego w dyskursie techno-progresywnym, co wiąże się z bardzo ograniczoną ideą edukacji i rozwoju ludzkiego. Aby móc zapobiec przyszłym ryzykom egzystencjalnym, dyskurs techno-progresywny powinien przynajmniej w jakimś stopniu odnieść się do jakościowego podejścia humanistyki. Antropologia pedagogiczna jest tą dziedziną wiedzy, która w szczególności podejmuje refleksję nad z góry przyjmowanymi i przez to często niewyartykułowanymi obrazami człowieka, funkcjonującymi w obrębie rozmaitych dyscyplin naukowych, i to właśnie ona powinna z tego powodu być postrzegana jako wyzwanie dla wyłącznie ilościowej perspektywy badań nad OSI i transhumanizmem. Będę argumentować, iż zamiast zmuszać człowieka do fizycznej adaptacji do sztucznych urządzeń, jak to sugerują dyskursy techno-progresywne, najbardziej skuteczna droga uniknięcia przyszłego ryzyka egzystencjalnego wynikającego z relacji między człowiekiem a wysoko rozwiniętą technologią mogłaby polegać – jak proponuje John Gray Cox – na sprawieniu, aby OSI przyjęła podstawowe wartości humanistyczne, które zintegrowałyby jej aktywność w społecznych interakcjach zachodzących w obrębie świata życia (Lebenswelt).

Keywords

EN

existential risk; Artificial General Intelligence; moral enhancement; technology; pedagogical anthropology; techno-progressive discourse

PL

ryzyko egzystencjalne; Ogólna Sztuczna Inteligencja; ulepszenie moralne; technologia; antropologia pedagogiczna; dyskurs techno-progresywny

• Publisher: Akademia Ignatianum w Krakowie
• Journal: Studia Paedagogica Ignatiana
• Year: 2017
• Volume: 20
• Issue: 1
• Pages: 73-101

Contributors

author

Lipowicz Markus

References

• Becker P. von, Der neue Glaube an die Unsterblichkeit. Transhumanismus, Bioethik und digitaler Kapitalismus, Passagen Verlag, Wien 2015.
• Bostrom N., “Existential Risk Preventing as Global Priority”, Global Policy 2013, vol. 4(1), pp. 15–31.
• Bostrom N., Superintelligence: Paths, Dangers, Strategies, Oxford University Press, Oxford – New York 2016.
• Cox J.G., “Reframing Ethical Theory, Pedagogy, and Legislation to Bias Open Source AGI Towards Friendliness and Wisdom”, Journal of Evolution and Technology 2015, vol. 25(2), pp. 39–54.
• Goertzel B., Pennachin C., “The Novamate Artificial Intelligence Engine”, in: Artificial General Intelligence, eds. B. Goertzel, C. Pennachin, Springer, Heidelberg 2006, pp. 63–129.
• Goertzel B., “Superintelligence: Fears, Promises and Potentials”, Journal of Evolution and Technology 2015, vol. 24(2), pp. 55–87.
• Gray J., “Delusions of Peace”, Prospect. The Leading Magazine of Ideas, October Issue 2011.
• Harris J., “Moral Enhancement and Freedom”, Bioethics 2011, vol. 25(2), pp. 102–111.
• Horkheimer M., Adorno T.W., Dialectic of Enlightenment. Philosophical Fragments, transl. E. Jephcott, Stanford University Press, Stanford (CA) 2002.
• Klincewicz M., “Autonomous Weapons Systems, the Frame Problem and Computer Security”, Journal of Military Ethics 2015, vol. 14(2), pp. 162–176.
• Morioka M., Why is It Hard for Us to Accept Moral Bioenhancement: Comment on Savulescu’s Argument, Ethics for the Future of Life: Proceedings of the 2012 Uehiro-Carnegie-Oxford Ethics Conference, 2013.
• Nietzsche F., On the Genealogy of Morality, transl. C. Diethe, Cambridge University Press, Cambridge – New York 2006.
• Nowak M., “Między wiedzą naukową a mądrością w pedagogice – w obszarze filozofii wychowania”, Studia Paedagogica Ignatiana 2016, vol. 19(1), pp. 19–38.
• Okojie M. CPO, Olinzock A.A., Okojie-Boulder T.C., “The Pedagogy of Technology Integration”, The Journal of Technology Studies 2006, vol. 32(2). Available at: <http://scholar.lib.vt.edu/ejournals/JOTS/v32/v32n2/okojie.html>.
• Pennachin C., Goertzel B., “Contemporary Approaches to Artificial Intelligence”, in: Artificial General Intelligence, eds. B. Goertzel, C. Pennachin, Springer, Heidelberg 2006, pp. 1–30.
• Persson I., Savulescu J., “Getting Moral Enhancement Right: The Desirability of Moral Bioenhancement”, Bioethics 2013, vol. 27(3), pp. 124–131.
• Persson I., Savulescu J., “Moral Transhumanism”, Journal of Medicine and Philosophy 2010, vol. 35(6), pp. 1–14.
• Persson I., Savulescu J., Unfit for the Future: The Need for Moral Enhancement, Oxford University Press, Oxford 2012.
• Pinker S., The Better Angels of Our Nature: Why Violence Has Declined, Pen­guin Books, New York 2011.
• Schumann K., Menschenbilder in Erziehungswissenschaft, Neurowissenschaft und Genetik. Eine vergleichende Analyse, Beltz Juventa, Weinheim – Basel 2015.
• Simmel G., Der Begriff und die Tragödie der Kultur, in: G. Simmel, Gesamt­ausgabe, vol. 14, Suhrkamp, Frankfurt am Main 1996, pp. 385–416.
• Sorgner S.L., “The Future of Education: Genetic Enhancement and Metahumanities”, Journal of Evolution and Technology 2015, vol. 25(1), pp. 31–48.
• Sorgner S.L., “The Stoic Sage 3.0 – A Realistic Goal of Moral (Bio)Enhancement Supporters?”, Journal of Evolution and Technology 2016, vol. 26(1), pp. 83–93.
• Wulf C., Zirfas J., “‘Homo educandus’. Eine Einleitung in die Pädagogische Anthropologie”, in: Handbuch Pädagogische Anthropologie, eds. C. Wulf, J. Zirfas, Springer, Wiesbaden 2014, pp. 9–26.