Künstliche Intelligenz: Chancen und Risiken

Künstliche Intelligenz (KI) wirkt sich zunehmend auf unser Leben aus. Sie bietet Chancen, birgt aber auch Risiken – insbesondere für Sicherheit, Demokratie, Unternehmen und Arbeitsplätze.

Veröffentlicht: 29-09-2020 Letzte Aktualisierung: 02-05-2025 - 13:00 Lesezeit: 9 Minuten

Der Wohlstand und das wirtschaftliche Wachstum Europas hängen maßgeblich davon ab, wie der Kontinent Daten und vernetzte Technologien nutzt. Künstliche Intelligenz hat das Potenzial, unser Leben grundlegend zu verändern – sowohl zum Positiven als auch zum Negativen.

Um sicherzustellen, dass KI-Systeme in der EU sicher sind und grundlegende Rechte wahren, verabschiedete die Europäische Union im Juni 2024 das Gesetz über künstliche Intelligenz. Diese weltweit erste umfassende Gesetzgebung zu Künstlicher Intelligenz setzt verbindliche Regeln für ihren Einsatz und ihre Entwicklung.

Im Folgenden werden einige der wichtigsten Chancen und Risiken künftiger KI-Anwendungen beleuchtet – sowie die Maßnahmen, mit denen das KI-Gesetz diesen Herausforderungen begegnen will.

Was ist künstliche Intelligenz und wie wird sie genutzt?

181 Zettabyte

Geschätztes Datenvolumen, das im Jahr 2025 weltweit generiert wird (1 Zettabyte entspricht einer Billion Gigabyte).

Vorteile künstlicher Intelligenz

Die EU-Mitgliedstaaten sind bei Digitaltechnik und Business-to-Business-Anwendungen bereits stark vertreten. Mit einem entsprechenden starken Rechtsrahmen zum Schutz von Privatsphäre und Meinungsfreiheit sowie qualitativen digitalen Infrastrukturen könnte die EU in der Datenwirtschaft weltweit eine Spitzenposition einnehmen.

Vorteile für Bürger

KI bietet vielfältige Vorteile für die Gesellschaft. Sie kann die Gesundheitsversorgung verbessern, den Straßenverkehr sicherer machen und individuell angepasste, kostengünstigere sowie langlebigere Produkte und Dienstleistungen ermöglichen. Zudem erleichtert sie den Zugang zu Informationen, Bildung und Weiterbildung.

Darüber hinaus kann KI Arbeitsplätze sicherer gestalten, indem sie gefährliche Aufgaben übernimmt. Gleichzeitig schafft sie neue Beschäftigungsmöglichkeiten, da KI-gesteuerte Branchen wachsen und sich weiterentwickeln.

67 Prozent

Prozentsatz der Europäerinnen und Europäer, die den Einsatz digitaler Technologien, einschließlich künstlicher Intelligenz, zur Verbesserung der Sicherheit und des Schutzes von Arbeitnehmern positiv wahrnehmen.

Quelle

Chancen für Unternehmen

Für Unternehmen eröffnet KI die Möglichkeit, eine neue Generation innovativer Produkte und Dienstleistungen zu entwickeln – insbesondere in Bereichen, in denen europäische Firmen bereits stark aufgestellt sind, wie die grüne und Kreislaufwirtschaft, den Maschinenbau, die Landwirtschaft, das Gesundheitswesen, die Modebranche und den Tourismus.

Durch den Einsatz von KI können Unternehmen ihren Umsatz steigern, die Wartung von Maschinen optimieren, Produktionsleistung und -qualität verbessern, den Kundenservice personalisieren und zugleich Energie einsparen.

Möglichkeiten im öffentlichen Dienst

Der Einsatz von KI im öffentlichen Dienst kann Kosten senken und neue Chancen in Bereichen wie öffentlicher Verkehr, Bildung, Energie- und Abfallwirtschaft eröffnen. Zudem kann sie zur nachhaltigen Gestaltung von Produkten beitragen.

Auf diese Weise unterstützt KI die Umsetzung der Ziele des Grünen Deals und fördert eine umweltfreundlichere und effizientere Zukunft.

Stärkung der Demokratie

KI kann die Demokratie stärken, indem sie datenbasierte Mechanismen zur Bekämpfung von Desinformation und Cyberangriffen bietet und den Zugang zu verlässlichen, hochwertigen Informationen sicherstellt. Zudem kann KI Vielfalt und Chancengleichheit fördern – etwa durch den Abbau von Vorurteilen bei Einstellungsentscheidungen, indem sie auf objektive, analytische Daten statt auf subjektive Einschätzungen setzt.

KI und Sicherheit

Künstliche Intelligenz wird künftig eine wachsende Rolle in der Kriminalprävention und im Strafrechtssystem spielen. Sie kann große Datenmengen in kürzester Zeit analysieren, das Fluchtrisiko von Häftlingen präziser bewerten und dazu beitragen, Straftaten oder sogar Terroranschläge zu verhindern. Bereits heute setzen Online-Plattformen KI ein, um rechtswidriges oder unangemessenes Verhalten zu erkennen und entsprechend zu reagieren.

Auch im militärischen Bereich gewinnt KI an Bedeutung. Sie kann sowohl für Verteidigungs- als auch für Angriffsstrategien genutzt werden – etwa beim Hacken, Phishing oder zur gezielten Sabotage kritischer Systeme in der Cyberkriegsführung.

Gefahren und Herausforderungen der KI

Die zunehmende Abhängigkeit von KI-Systemen birgt auch potenzielle Risiken.

Unzureichende und übermäßige Nutzung von KI

Die unzureichende Nutzung von KI stellt eine ernsthafte Herausforderung dar. Verpasste Chancen könnten dazu führen, dass die EU wichtige Programme nicht effektiv umsetzt, ihre Wettbewerbsfähigkeit gegenüber anderen Regionen einbüßt und wirtschaftlich stagniert – mit negativen Folgen für Unternehmen und Bürger. Gründe dafür könnten mangelndes Vertrauen in KI, unzureichende Infrastruktur, fehlende Initiative, geringe Investitionen oder fragmentierte digitale Märkte sein, da maschinelles Lernen auf eine stabile Datenbasis angewiesen ist.

Doch auch eine übermäßige Nutzung von KI birgt Risiken. Investitionen in unnötige oder ineffektive KI-Anwendungen verschwenden Ressourcen. Zudem kann KI für Aufgaben eingesetzt werden, für die sie ungeeignet ist – etwa zur Erklärung komplexer gesellschaftlicher Zusammenhänge.

Das Gesetz über künstliche Intelligenz der EU soll beiden Gefahren entgegenwirken. Ziel ist es, eine vertrauenswürdige KI zu fördern, die sowohl Bürgern als auch Unternehmen zugutekommt. Es adressiert die mit KI verbundenen Risiken und stärkt Europas Rolle als führende Kraft in diesem Bereich.

Haftung: Wer ist im Falle von Schäden verantwortlich?

Eine wichtige Herausforderung besteht darin zu bestimmen, wer für Schäden verantwortlich ist, die durch auf KI basierende Geräte oder Dienste verursacht werden. Sollten bei einem Unfall, an dem ein selbstfahrendes Fahrzeug beteiligt ist, die Schäden vom Eigentümer, dem Fahrzeughersteller oder dem Programmierer gedeckt werden?

Wäre der Hersteller frei von jeder Verantwortung, dann gäbe es auch keinen Anreiz, ein gutes Produkt oder eine gute Dienstleistung anzubieten, und das Vertrauen der Menschen in neue Technologien würde beschädigt; zu strenge Regelungen wiederum würden Innovationen im Keim ersticken.

Gefahren für Grundrechte und Demokratie

Die Ergebnisse künstlicher Intelligenz hängen davon ab, wie sie konzipiert ist und welche Daten verwendet werden. Sowohl Daten als auch Design können absichtlich oder unabsichtlich verzerrt werden. So werden einige wichtige Faktoren einer Problemstellung möglicherweise nicht in den Algorithmus eingebettet oder dieser so programmiert, dass strukturelle Verzerrungen widergespiegelt und nachgebildet werden. Darüber hinaus könnte die Verwendung von Zahlen KI faktenbasiert und präzise erscheinen lassen, auch wenn dies nicht der Fall ist („Mathwashing“).

Wird KI nicht ordnungsgemäß genutzt, so könnte sie beispielsweise bei Jobeinstellungen oder Kreditvergaben zu Entscheidungen führen, die durch ethnische Zugehörigkeit, Geschlecht oder Alter beeinflusst werden.

Außerdem ergeben sich mögliche entscheidende Auswirkungen auf Privatsphäre und Datenschutz. KI kann beispielsweise für Gesichtserkennung oder Online-Tracking und Profiling von Einzelpersonen verwendet werden.

KI kann auch eine Bedrohung für die Demokratie darstellen. In diesem Zusammenhang wird beispielsweise oft kritisiert, dass Internetseiten dazu neigen, dem Benutzer nur Informationen anzuzeigen, die mit seinem bisherigen Online-Verhalten übereinstimmen („Filterblasen“), anstatt eine Umgebung für eine pluralistische, gleichermaßen zugängliche und integrative öffentliche Debatte zu schaffen. KI kann sogar dazu genutzt werden, extrem realistische gefälschte Videos, Audioaufnahmen und Bilder zu erzeugen, die als „Deepfakes“ bezeichnet werden. Diese Mechanismen können zu Polarisierung und Wahlmanipulation beitragen.

Durch Tracking und Profiling sind auch Auswirkungen auf die Versammlungs- und Demonstrationsfreiheit möglich.

Um Verzerrungen zu vermeiden, schreibt das Gesetz über künstliche Intelligenz vor, dass die Datensätze für das Training von KI-Systemen möglichst vollständig und fehlerfrei sein müssen. Zudem reguliert es den Einsatz bestimmter KI-Anwendungen, die die Rechte der Bürger gefährden könnten. So ist beispielsweise der Einsatz biometrischer Identifikationssysteme durch Strafverfolgungsbehörden grundsätzlich verboten – mit wenigen, streng definierten Ausnahmen.

Ein weiteres zentrales Element des Gesetzes ist die Kennzeichnungspflicht für künstlich erstellte oder manipulierte Inhalte. Bilder, Audio- und Videodateien, die mithilfe von KI generiert oder verändert wurden – sogenannte Deepfakes – müssen klar und deutlich als solche gekennzeichnet werden.

Auswirkungen auf Jobs

Es wird erwartet, dass die Nutzung von KI am Arbeitsplatz zur Einsparung von Arbeitsplätzen führen wird. Obwohl künstliche Intelligenz auch mit der Schaffung neuer Jobs in Verbindung gebracht wird, werden Bildung und Weiterbildung eine entscheidende Rolle dabei spielen, Langzeitarbeitslosigkeit zu verhindern und qualifizierte Arbeitskräfte auszubilden.

84 Prozent

Prozentsatz der Europäerinnen und Europäer, die glauben, dass Roboter und künstliche Intelligenz Technologien sind, die einer sorgfältigen Steuerung bedürfen.

Quelle

Wettbewerb

Die Sammlung von Informationen kann auch zu Wettbewerbsverzerrungen führen, da Akteure mit mehr Informationen Vorteile gegenüber Mitbewerbern haben.

Sicherheitsrisiken

KI-Tools, mit denen Menschen physisch in Berührung kommen oder die sogar in den menschlichen Körper implantiert werden, können hohe Sicherheitsrisiken darstellen, da sie schlecht konzipiert, missbraucht oder gehackt werden können.

Herausforderungen im Zusammenhang mit Transparenz

Ungleichgewichte beim Informationszugang könnten ausgenutzt werden. Auf der Grundlage des Online-Verhaltens einer Person oder anderer Daten kann ein Online-Anbieter beispielsweise ohne deren Wissen KI nutzen, um vorherzusagen, wie viel die Person zur Zahlung bereit ist. Ein weiteres Transparenzproblem besteht darin, dass es für die Menschen manchmal unklar sein kann, ob sie mit einer KI-Anwendung oder einer echten Person interagieren.

Das Gesetz über künstliche Intelligenz begegnet diesen Herausforderungen, indem es den Einsatz von KI reguliert, um die Manipulation menschlichen Verhaltens, Täuschung oder die Ausnutzung menschlicher Schwachstellen zu verhindern.

Erfahren Sie mehr über die Europäische Datenstrategie und was das Parlament fordert.