nach oben

Erschienen in:

2024 | OriginalPaper | Buchkapitel

Normierung, Regulierung, Governance: Wie, von wem und mit welchen Mitteln kann der Einsatz Künstlicher Intelligenz gesellschaftlich gestaltet werden?

verfasst von : Karsten Weber, Nadine Kleine

Erschienen in: Künstliche Intelligenz, Mensch und Gesellschaft

Verlag: Springer Fachmedien Wiesbaden

Einloggen

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config

KI-gestützte Suche

Aus

Zusammenfassung

KI-Regulierung bzw. -Normierung und Governance sind nicht nur aufgrund des raschen technischen Wandels ein schwieriges Unterfangen; allein die Komplexität des Feldes und dessen soziale, ökonomische, gesellschaftliche und politische Aspekte selbst bringen weitreichende und miteinander wechselwirkende Herausforderungen mit sich. Angesichts globalisierter Forschung und Entwicklung an sowie des weltweiten Einsatzes von KI sind nationalstaatliche Regulierungen vermutlich zum Scheitern verurteilt; supranationale Normierung, Regulierung, und Governance bringen wiederum das Problem der Durchsetzbarkeit mit sich. Nicht zuletzt deshalb unterscheiden sich aktuelle Gestaltungsansätze bspw. stark in Hinblick auf ihren Entwicklungsstatus und ihre Wirkmächtigkeit, weil die dahinterstehenden Akteur*innen über unterschiedliche Eingriffsreichweiten und -tiefen verfügen. Unterschiedliche Akteur*innengruppen ringen um die Deutungshoheit und verschiedenste Interessenslagen fließen in den Diskurs über Normierung, Regulierung und Governance ein. Die Komplexität wird zudem dadurch erhöht, dass KI direkt und indirekt reguliert und normiert werden kann, es aber gleichzeitig auch Regulierung und Normierung menschlichen Handels durch KI gibt. Der Beitrag soll die Komplexität des Feldes aufzeigen, Typen von Akteur*innen vorstellen, verschiedene Gestaltungsansätze beschreiben und eine vorläufige Abschätzung der Möglichkeiten von Normierung, Regulierung und Governance von KI geben.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

über 102.000 Bücher
über 537 Zeitschriften

aus folgenden Fachgebieten:

Automobil + Motoren
Bauwesen + Immobilien
Business IT + Informatik
Elektrotechnik + Elektronik
Energie + Nachhaltigkeit
Finance + Banking
Management + Führung
Marketing + Vertrieb
Maschinenbau + Werkstoffe
Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

über 67.000 Bücher
über 340 Zeitschriften

aus folgenden Fachgebieten:

Bauwesen + Immobilien
Business IT + Informatik
Finance + Banking
Management + Führung
Marketing + Vertrieb
Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Vorheriges Kapitel Die digitale Verantwortungslücke: Vorschläge zur Haftung für algorithmisches Fehlverhalten

Nächstes Kapitel Soziale Dynamik der Künstlichen Intelligenz

Das CUDOS-Schema stellt eine normative Konzeption von Wissenschaft dar und steht für: C = Communisms (manchmal auch: Communitarianism) – alle Erkenntnisse der Wissenschaft sollen allen Interessierten frei zur Verfügung stehen; U = Universalism – niemand darf aufgrund von ethnischer Zugehörigkeit, Religion, Geschlecht etc. aus der Wissenschaft ausgeschlossen werden; D = Desinterestedness – Wissenschaft soll nicht um der Verfolgung eigennütziger Ziele betrieben werden; OS = Organized Scepticisms – wissenschaftliche Aussagen müssen stets rigoros geprüft, dogmatische Ansprüche müssen abgewiesen werden. Merton hat diese Konzeption von Wissenschaft in Reaktion auf den Umgang mit jüdischen Wissenschaftler:innen im nationalsozialistischen Deutschland entwickelt; sie stellt ein Ideal von Wissenschaft dar, keine Beschreibung. Trotzdem hat CUDOS das (öffentliche) Bild von Wissenschaft stark geprägt (bspw. Bray & von Storch 2017; Kuipers 2009; Macfarlane & Cheng 2008; Meyer & Sandøe 2012; Moriarty 2011) und wird – wenn auch oft implizit – meist dann herbeizitiert, wenn der Eindruck entsteht, dass Wissenschaft ebenfalls ein primär interessengeleitetes Unterfangen sei.

https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449, zuletzt besucht am 18.05.20222.

https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai, zuletzt besucht am 18.05.2022.

https://www.bmwk.de/Redaktion/DE/Publikationen/Technologie/strategie-kuenstliche-intelligenz-der-bundesregierung.pdf?__blob=publicationFile&v=10 und https://www.ki-strategie-deutschland.de/files/downloads/201201_Fortschreibung_KI-Strategie.pdf, beide zuletzt besucht am 22.06.2022.

https://futureoflife.org/ai-principles/, zuletzt besucht am 18.05.2022.

https://ai.google/static/documents/recommendations-for-regulating-ai.pdf, zuletzt besucht am 22.06.2022.

https://www.din.de/resource/blob/772438/6b5ac6680543eff9fe372603514be3e6/normungsroadmap-ki-data.pdf, zuletzt besucht am 22.06.2022.

https://ec.europa.eu/info/strategy/priorities-2019–2024/europe-fit-digital-age/excellence-trust-artificial-intelligence_de, zuletzt besucht am 22.06.2022.

Attenberger, U., und M. Reiser. 2022. Future perspectives: Wie beeinflusst künstliche Intelligenz die Entwicklung unseres Berufsfeldes? Der Radiologe, 62(3): 267-270. https://doi.org/https://doi.org/10.1007/s00117-022-00969-wCrossRef

Autor, D., D. Mindell und E. Reynolds. 2020. The work of the future: Building better jobs in an age of intelligent machines. MIT. https://workofthefuture.mit.edu/wp-content/uploads/2021/01/2020-Final-Report4.pdf

Balsmeier, B., und M. Woerter. 2019. Is this time different? How digitalization influences job creation and destruction. Research Policy, 48(8), 103765. https://doi.org/10.1016/j.respol.2019.03.010CrossRef

Bareis, J., und C. Katzenbach. 2021. Talking AI into being: The narratives and imaginaries of national AI strategies and their performative politics. Science, Technology, und Human Values, 016224392110300. https://doi.org/10.1177/01622439211030007

Bender, E. M., T. Gebru, A. McMillan-Major, und S. Shmitchell. 2021. On the dangers of stochastic parrots: Can language models be too big? Proceedings of the 2021 ACM conference on fairness, accountability, and transparency, 610–623. https://doi.org/10.1145/3442188.3445922

Bhargava, A., M. Bester, und L. Bolton. 2021. Employees’ perceptions of the implementation of robotics, artificial intelligence, and automation (RAIA) on job satisfaction, job security, and employability. Journal of Technology in Behavioral Science 6(1): 106–113. https://doi.org/10.1007/s41347-020-00153-8CrossRef

Bijker, W. E., T.P. Hughes, und T.J. Pinch. (Hrsg.). 1987. The social construction of technological systems: New directions in the sociology and history of technology. MIT Press.

Bray, D., und H. von Storch. 2017. The normative orientations of climate scientists. Science and Engineering Ethics, 23(5): 1351–1367. https://doi.org/10.1007/s11948-014-9605-1CrossRef

Brougham, D., und J. Haar. 2018. Smart technology, artificial intelligence, robotics, and algorithms (STARA): Employees’ perceptions of our future workplace. Journal of Management und Organization 24(2): 239–257. https://doi.org/10.1017/jmo.2016.55CrossRef

Buolamwini, Joy, und Timnit Gebru. 2018. Gender shades: Intersectional accuracy disparities in commercial gender classification. In Proceedings of the 1st conference on fairness, accountability and transparency, hrsg. S. A. Friedler und C. Wilson, 81: 77–91. PMLR. https://proceedings.mlr.press/v81/buolamwini18a.html

Butcher, J., und I. Beridze. 2019. What is the state of artificial intelligence governance globally? The RUSI Journal, 164(5–6): 88–96. https://doi.org/10.1080/03071847.2019.1694260CrossRef

Cihon, P., M. M. Maas, und L. Kemp. 2020. Fragmentation and the future: Investigating architectures for international AI governance. Global Policy, 11(5): 545–556. https://doi.org/10.1111/1758-5899.12890CrossRef

Crootof, Rebecca. 2019. “Cyborg justice” and the risk of technological-legal lock-in. Columbia Law Review, 119(7): 233–251.

Dengler, K., B. Matthes, und G. Wydra-Somaggio. 2018. Regionale Branchen- und Berufsstrukturen prägen die Substituierbarkeitspotenziale. IAB Kurzbericht 22/2018. https://doku.iab.de/kurzber/2018/kb2218.pdf

Etzkowitz, H. 2003. Innovation in innovation: The triple helix of university-industry-government relations. Social Science Information, 42(3): 293–337. https://doi.org/10.1177/05390184030423002CrossRef

Etzkowitz, H., und L. Leydesdorff. 2000. The dynamics of innovation: From national systems and “mode 2” to a triple helix of university–industry–government relations. Research Policy, 29(2): 109–123. https://doi.org/10.1016/S0048-7333(99)00055-4CrossRef

Europäische Kommission. 2021. Vorschlag des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union. https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0019.02/DOC_1undformat=PDF

Frey, Carl Benedikt, und M. A. Osborne. 2013. The future of employment. Working Paper. Oxford Martin School. https://sep4u.gr/wp-content/uploads/The_Future_of_Employment_ox_2013.pdf

Frey, C. B., und M. A. Osborne. 2017. The future of employment: How susceptible are jobs to computerisation? Technological Forecasting and Social Change, 114: 254–280. https://doi.org/10.1016/j.techfore.2016.08.019CrossRef

Gasser, U., und V. A. F. Almeida. 2017. A layered model for AI governance. IEEE Internet Computing, 21(6): 58–62. https://doi.org/10.1109/MIC.2017.4180835CrossRef

Gasser, Urs, und Carolyn Schmitt. 2020. The role of professional norms in the governance of artificial intelligence. In The Oxford handbook of ethics of AI, hrsg. M. D. Dubber, F. Pasquale, und S. Das, 140–159. Oxford University Press. https://doi.org/10.1093/oxfordhb/9780190067397.013.8

Gebru, Timnit. 2020. Race and gender. In The Oxford handbook of ethics of AI, hrsg. M. D. Dubber, F. Pasquale, und S. Das, 251–269. Oxford University Press. https://doi.org/10.1093/oxfordhb/9780190067397.013.16

Hamid, O. H., N. L. Smith, und A. Barzanji. 2017. Automation, per se, is not job elimination: How artificial intelligence forwards cooperative human-machine coexistence. 2017 IEEE 15th International Conference on Industrial Informatics (INDIN), 899–904. https://doi.org/10.1109/INDIN.2017.8104891

Hennemann, M. 2018. Künstliche Intelligenz und Wettbewerbsrecht. Zeitschrift für Wettbewerbsrecht, 16(2): 161–184. https://doi.org/10.15375/zwer-2018-0204

Jipp, Meike, und J. Steil. 2021. Steuern wir oder werden wir gesteuert? Chancen und Risiken von Mensch-Technik-Interaktion. In Zusammenwirken von natürlicher und künstlicher Intelligenz, hrsg. R. Haux, K. Gahl, M. Jipp, R. Kruse, und O. Richter, 17–34. Springer Fachmedien. https://doi.org/10.1007/978-3-658-30882-7_3

Kauffmann, Anna L., J. Hennrich, C. Buch, und T. Eymann. 2022. Künstliche Intelligenz in der Radiologie und Strahlentherapie aus der Perspektive von Ärzten und Medizinphysikexperten: Eine Interviewstudie. In Künstliche Intelligenz im Gesundheitswesen, hrsg. M. A. Pfannstiel, 617–638. Springer Fachmedien. https://doi.org/10.1007/978-3-658-33597-7_29

Kleesiek, J., J. M. Murray, C. Strack, S. Prinz, G. Kaissis, und R. Braren. 2021. Künstliche Intelligenz und maschinelles Lernen in der onkologischen Bildgebung. Best practice onkologie, 16(4): 176–185. https://doi.org/10.1007/s11654-021-00298-9CrossRef

Korinek, A., und J. E. Stiglitz. 2019. Artificial intelligence and its implications for income distribution and unemployment. In The economics of artificial intelligence. An agenda, hsrg. A. Agrawal, J. Gans, und A. Goldfarb, 349–390. University of Chicago Press.

Kretschmer, M., J. Pennekamp, und K. Wehrle. 2021. Cookie banners and privacy policies: Measuring the impact of the GDPR on the Web. ACM Transactions on the Web, 15(4): 1–42. https://doi.org/10.1145/3466722CrossRef

Krug, H., U. Bittner, V. Rolfes, H. Fangerau und K. Weber. 2020. Verunsicherung des ärztlichen Selbstverständnisses durch Künstliche Intelligenz? Ein Überblick über potenzielle Auswirkungen ihres Einsatzes im ärztlichen Alltag. In Unsicherheit in der Medizin (Jahrbuch für Ethik in der Klinik 2020), hrsg. A. Frewer, L. Bergemann, und E. Langmann, 195–210. Königshausen und Neumann.

Kuipers, T. A. F. 2009. The gray area for incorruptible scientific research: An exploration guided by Merton’s norms conceived as ‘default-norms’. In EPSA Epistemology and Methodology of Science, hrsg. M. Suárez, M. Dorato, und M. Rédei, 149–164. Springer Netherlands. https://doi.org/10.1007/978-90-481-3263-8_13

Kuziemski, M., und G. Misuraca. 2020. AI governance in the public sector: Three tales from the frontiers of automated decision-making in democratic settings. Telecommunications Policy, 44(6), 101976. https://doi.org/10.1016/j.telpol.2020.101976CrossRef

Leydesdorff, L. 2000. The triple helix: An evolutionary model of innovations. Research Policy 29(2): 243–255. https://doi.org/10.1016/S0048-7333(99)00063-3CrossRef

Li, H., L. Yu, und W. He. 2019. The impact of GDPR on global technology development. Journal of Global Information Technology Management 22(1): 1–6. https://doi.org/10.1080/1097198X.2019.1569186CrossRef

Lindgren, P. 2018. GDPR regulation impact on different business models and businesses. Journal of Multi Business Model Innovation and Technology 4(3): 241–254. https://doi.org/10.13052/jmbmit2245-456X.434

Macfarlane, B., und M. Cheng. 2008. Communism, universalism and disinterestedness: Re-examining contemporary support among academics for Merton’s scientific norms. Journal of Academic Ethics 6(1): 67–78. https://doi.org/10.1007/s10805-008-9055-yCrossRef

Mangini, V., I. Tal, und A.-N. Moldovan. 2020. An empirical study on the impact of GDPR and right to be forgotten—Organisations and users perspective. Proceedings of the 15th International Conference on Availability, Reliability and Security, 1–9. https://doi.org/10.1145/3407023.3407080

Merton, R. K. 1974 [1942]. The normative structure of science. In The sociology of science, hrsg. R. K. Merton, 267–278. University of Chicago Press.

Meyer, G., und P. Sandøe. 2012. Going public: Good scientific conduct. Science and Engineering Ethics, 18(2): 173–197. https://doi.org/10.1007/s11948-010-9247-xCrossRef

Moriarty, P. 2011. Science as a public good. In A manifesto for the public university, hrsg. J. Holmwood, 56–73. Bloomsbury Academic.

Moser, E. 2021. Gerechtigkeitsüberlegungen zur Robotersteuer: Sollen wir die Automatisierung besteuern, um Arbeitsplätze zu erhalten? Momentum Quarterly, 10(4): 188–260. https://doi.org/10.15203/MOMENTUMQUARTERLY.VOL10.NO4.P208-222

ÓhÉigeartaigh, S. S., J. Whittlestone, Y. Liu, Y. Zeng, und Z. Liu. 2020. Overcoming barriers to cross-cultural cooperation in AI ethics and governance. Philosophy und Technology, 33(4): 571–593. https://doi.org/10.1007/s13347-020-00402-xCrossRef

Pechmann, L., M. Mildner, T. Suthau, und M. Leucker. 2022. Regulatorische Anforderungen an Lösungen der künstlichen Intelligenz im Gesundheitswesen. In Künstliche Intelligenz im Gesundheitswesen, hrsg. M. A. Pfannstiel, 175–198. Springer Fachmedien. https://doi.org/10.1007/978-3-658-33597-7_8

Raji, I. D., T. Gebru, M. Mitchell, J. Buolamwini, J. Lee, und E. Denton. 2020. Saving face: Investigating the ethical concerns of facial recognition auditing. Proceedings of the AAAI/ACM conference on AI, ethics, and society, 145–151. https://doi.org/10.1145/3375627.3375820

Reddy, S., S. Allan, S. Coghlan, und P. Cooper. 2020. A governance model for the application of AI in health care. Journal of the American Medical Informatics Association 27(3): 491–497. https://doi.org/10.1093/jamia/ocz192CrossRef

Robbins, S., und A. van Wynsberghe. 2022. Our new artificial intelligence infrastructure: Becoming locked into an unsustainable future. Sustainability, 14(8): 4829. https://doi.org/10.3390/su14084829CrossRef

Roski, J., E. J. Maier, K. Vigilante, E. A. Kane, und M. E. Matheny. 2021. Enhancing trust in AI through industry self-governance. Journal of the American Medical Informatics Association, 28(7): 1582–1590. https://doi.org/10.1093/jamia/ocab065CrossRef

Schiff, D. S., K. Laas, J. B. Biddle, und J. Borenstein. 2022. Global AI ethics documents: What they reveal about motivations, practices, and policies. In Codes of ethics and ethical guidelines, hrsg. K. Laas, M. Davis, und E. Hildt, 23: 121–143). Springer International Publishing. https://doi.org/10.1007/978-3-030-86201-5_7

Schmitt, L. 2021. Mapping global AI governance: A nascent regime in a fragmented landscape. AI and Ethics. https://doi.org/10.1007/s43681-021-00083-yCrossRef

Schneider, D. 2022. Ethische und professionsspezifische Herausforderungen. Der Diskurs um algorithmische Systeme der Entscheidungsunterstützung im Kontext der Teilhabeplanung für Menschen mit Behinderung. In Künstliche Intelligenz und Gesundheit. Ethische, philosophische und sozialwissenschaftliche Explorationen, hrsg. A. Sonar, und K. Weber, 87–132. Steiner.

Schneider, D., A. Sonar, und K. Weber. 2022. Zwischen Automatisierung und ethischem Anspruch – Disruptive Effekte des KI-Einsatzes in und auf Professionen der Gesundheitsversorgung. In Künstliche Intelligenz im Gesundheitswesen, hrsg. M. A. Pfannstiel, 325–348. Springer Fachmedien. https://doi.org/10.1007/978-3-658-33597-7_14

Slokenberga, S., O. Tzortzatou, und J. Reichel, J. (Hrsg.). 2021. GDPR and biobanking: Individual rights, public interest and research regulation across Europe (Bd. 43). Springer International Publishing. https://doi.org/10.1007/978-3-030-49388-2

Smuha, N. A. 2021. Beyond a human rights-based approach to AI governance: Promise, pitfalls, plea. Philosophy und Technology, 34(S1): 91–104. https://doi.org/10.1007/s13347-020-00403-wCrossRef

Sonar, A., und K. Weber. 2020. KI gestern und heute: Einsichten aus der Frühgeschichte der KI für aktuelle ethische Überlegungen zum Einsatz von KI in der Medizin. Arbeit, 29(2): 105–122. https://doi.org/10.1515/arbeit-2020-0009CrossRef

Suedekum, J. 2018. Digitalisierung und die Zukunft der Arbeit: Was ist am Arbeitsmarkt passiert und wie soll die Wirtschaftspolitik reagieren. IZA Standpunkte 90. Institut zur Zukunft der Arbeit. https://ideas.repec.org/p/iza/izasps/sp90.html

Ulnicane, I., W. Knight, T. Leach, B. C. Stahl, und W.-G. Wanjiku. 2021. Framing governance for a contested emerging technology: Insights from AI policy. Policy and Society, 40(2): 158–177. https://doi.org/10.1080/14494035.2020.1855800CrossRef

Wang, W., und K. Siau. 2019. Artificial intelligence, machine learning, automation, robotics, future of work and future of humanity: A review and research agenda. Journal of Database Management 30(1): 61–79. https://doi.org/10.4018/JDM.2019010104CrossRef

Weber, K. 2018. Computers as omnipotent instruments of power. The ORBIT Journal 2(1): 1–19. https://doi.org/10.29297/orbit.v2i1.97

Weber, Karsten. 2021. Soziale Roboter in der Science-Fiction: Ein Bericht über das Verhältnis von Herr und Knecht mit wechselnden Rollen für Menschen und Roboter. In Soziale Roboter, hrsg. O. Bendel, 539–556. Springer Fachmedien Wiesbaden. https://doi.org/10.1007/978-3-658-31114-8_28

Weber, Karsten. 2022. Das öffentliche Bild der Künstlichen Intelligenz. In Künstliche Intelligenz und Gesundheit. Ethische, philosophische und sozialwissenschaftliche Explorationen, hrsg. A. Sonar, und K. Weber, 207–226. Steiner.

Wong, P.-H. 2020. Cultural differences as excuses? Human rights and cultural values in global ethics and governance of AI. Philosophy und Technology, 33(4): 705–715. https://doi.org/10.1007/s13347-020-00413-8CrossRef

Yeung, K., A. Howes, und G. Pogrebna. 2020. AI governance by human rights–centered design, deliberation, and oversight: An end to ethics washing. In The Oxford handbook of ethics of AI, hrsg. M. D. Dubber, F. Pasquale, und S. Das, 75–106. Oxford University Press. https://doi.org/10.1093/oxfordhb/9780190067397.013.5

Titel: Normierung, Regulierung, Governance: Wie, von wem und mit welchen Mitteln kann der Einsatz Künstlicher Intelligenz gesellschaftlich gestaltet werden?
verfasst von: Karsten Weber
Nadine Kleine
Verlag: Springer Fachmedien Wiesbaden
Buch: Künstliche Intelligenz, Mensch und Gesellschaft
Print ISBN: 978-3-658-43520-2

Electronic ISBN: 978-3-658-43521-9

Copyright-Jahr: 2024
DOI: https://doi.org/10.1007/978-3-658-43521-9_8

Springer Professional

Zusammenfassung

Bitte loggen Sie sich ein, um Zugang zu Ihrer Lizenz zu erhalten.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Springer Professional "Wirtschaft"

Premium Partner