Ideen und Innovationen entstehen allein durch die Freiheit in Wissenschaft und Forschung. Ob neue Technologien marktreife Produkte, zukunftsfähige Anwendungen werden, entscheidet nicht die Politik, sondern ausschließlich die Wirtschaft, deren Kunden und die Verbraucher. Wie gesagt, die wirtschaftlichen Chancen bei KI sind riesig. Ich will Ihnen einige Zahlen nennen: Das deutsche Bruttoinlandsprodukt dürfte aufgrund KI-basierter Lösungen bis zum Jahr 2030 um mehr als 11 % steigen. In Euro ausgedrückt sind das ungefähr 430 Milliarden Euro.
Das hohe KI-Potenzial basiert in erster Linie auf der Innovation unserer Unternehmen. Dies muss gestärkt werden. Hinzu kommen massive Produktivitätsfortschritte. Unternehmen werden dank KI-Technologie wesentlich effektiver und effizienter arbeiten können. Aber auch die Kunden werden dank KI Zeit sparen bzw. viel mehr Zeit gewinnen.
Jedoch, werte Abgeordnete, wenn ich die KI-Strategie des Freistaates lese, befürchte ich, dass wir die Wirtschaft mehr
reglementieren wollen oder werden. Die KI-Strategie liest sich in weiten Teilen wie eine bürokratische Verwaltungsbroschüre. Lassen Sie mich ein Beispiel nennen: „Wir wollen perspektivisch bei der Digitalagentur Sachsen eine Kompetenzstelle KI etablieren.“ Das klingt absolut nicht nach Innovation, sondern eher nach Schaffung von Arbeitsplätzen abgewählter Parteifreunde.
Ein extrem wichtiges Thema bei der KI wird überhaupt nicht besprochen, und zwar der Stromverbrauch. Da frage ich Sie: Gibt es seitens der Staatsregierung Prognosen, wie sich der Stromverbrauch bei digitalen Technologien entwickelt?
Dann freue ich mich, dass wir günstigen Strom durch Kernenergie anbieten, und freue mich auf die nächste Rederunde.
Für die AfD-Fraktion hatte gerade Kollege Peschel das Wort. – Jetzt rufe ich die Fraktion DIE LINKE auf, und das Wort ergreift gleich Herr Kollege Brünler.
Sehr geehrter Herr Präsident! Meine sehr verehrten Damen und Herren! Lassen Sie mich mit einem Zitat beginnen: „In den nächsten zehn bis 50 Jahren werden KI-Systeme entwickelt sein, die nicht nur intelligenter sind als Menschen, sondern auch eine signifikante Menge an weiteren Vorteilen an den Tag legen. Sie werden schneller und verlässlicher sein, eine raschere Auffassungsgabe besitzen und robuster sein.“ Das schrieb Kevin Warwick, einer der weltweit führenden Kybernetiker, bereits 1998.
Ein Vierteljahrhundert später haben wir nun die KI-Strategie des Freistaates Sachsen vor uns liegen. Die Staatsregierung folgt damit den Empfehlungen des Innovationsbeirates Sachsen, der die KI als einen von zehn zentralen Strukturpunkten beschrieb. Die Strategie ist nach unserem Dafürhalten längst überfällig; denn wir leben in einer zunehmend digitalen Gesellschaft, einer digitalen Gesellschaft, in der künstliche Intelligenz und Maschinenlernen zu den zentralen Treibern gehören. Nur ein kleines Beispiel: Wenn man bei Google „künstliche Intelligenz“ eingibt, hat man innerhalb von 0,67 Sekunden 1,42 Milliarden Einträge gefunden. Beides – sowohl das zahlenmäßige Ergebnis, als auch die Dauer der Recherche – wäre ohne KI nicht denkbar.
KI dringt unaufhaltsam in privates und berufliches Leben vor und das nicht immer nur zum Vorteil. Denken wir nur an das Diskriminierungspotenzial bestimmter, oftmals nur scheinbar objektiver Algorithmen; denn diese reproduzieren in der Regel oft die subjektiven Wertmaßstäbe oder
Vorurteile ihrer Architekten. Dennoch: KI verändert zunehmend die Art und Weise, wie wir kommunizieren, produzieren und konsumieren, aber auch, wie wir lernen und studieren.
Darum begrüßen wir es ausdrücklich, dass in der KI-Strategie mit dem Strategieziel 6 das Thema KI an Schulen gesonderte Aufmerksamkeit findet; denn das Problem ist: Wir können technologisch bei bestimmten Punkten keine fünf Jahre in die Zukunft blicken, benötigen aber ein Schulsystem, das uns auf die nächsten 20 oder 50 Jahre vorbereitet. Wir wissen heute nicht, welche Berufe unsere Kinder morgen ausführen und welche Kompetenzen dafür nötig sind. Darum muss Schule ein agiles System werden, das unsere Kinder mit allen Hard- und Soft Skills versorgt, die in dieser Welt einer ständigen Veränderung benötigt werden. Darum ist KI sowohl wichtig als Werkzeug und Unterrichtsmethode als auch als Unterrichtsgegenstand; denn KI darf uns nicht als eine undurchschaubare Blackbox gegenübertreten, die niemand mehr hinterfragt.
Sachsen hat gemeinsam mit Mecklenburg das Pilotprojekt „Intelligentes Tutorielles System“ zur Vermittlung von Lehr- und Lerninhalten, zur Unterstützung des adaptiven und personalisierten Lernens aufgelegt. Die Testung der zugrunde liegenden KI-basierten Plattform Rhapsode fand vom 14. Juni bis 23. Juli statt. Allerdings liegen, und das ist ein Problem, das ich hier ansprechen möchte, konkrete Ergebnisse des Tests eigentlich noch nicht vor, zumindest kenne ich sie nicht,
Ja, eben. – während man gleichzeitig schon eine Ausweitung plant. Das finde ich auch im Umgang mit künstlicher Intelligenz ein Stück weit schwierig.
Man könnte auch sagen: Okay, zur Vorstellung der Strategie war ein Teilziel bereits erreicht. Das wäre schön. Vielleicht passte das auch nur gut ins Bild. Aber was passiert eigentlich, wenn die Ergebnisse der Pilotstudie nicht ins Bild passen?
Denn es war schon immer so: In der Schule wurden Daten erhoben, auch im Sinne von Leistungstests. Es war auch schon immer Ziel, dadurch eine bessere Planung und Gestaltung des Unterrichts zu erreichen. Nur folgt die Lernplattform, die wir jetzt vor uns haben, eben nicht nur einem pädagogischen Konzept, sondern von Informatikern programmierten Algorithmen. Nicht die Logik der Lerntheorie und der Entwicklungspsychologie, sondern die Logik der Datenerfassung steht hier im Mittelpunkt.
Unweigerlich drängen sich weitere Fragen auf: Wie soll eine individuelle Lernentwicklung besonders gut erfasst und begleitet werden, wenn nur Daten zur Aufmerksamkeit, zur Bearbeitungszeit und für die Fehlerquote erhoben werden? Welche Auswirkungen auf Aufgaben, Qualität und Unterrichtskonzept sind von einer Bewertung zu erwarten, die rein nach Richtig- und Falschschema erfolgt?
Wie wird das Fehlen diskursiver und kommunikativer Auseinandersetzungen mit dem Unterrichtsgegenstand kompensiert? Und neben den Gefahren möglicher Rückschritte in der Methodik und Didaktik bleibt am Ende noch der Umgang mit der massiven Sammlung problematischer Metadaten zu entscheiden.
Meine Damen und Herren! Das alles ist kein Argument gegen künstliche Intelligenz – auch im Unterricht –, aber es ist sehr wohl ein Argument, sich damit zu beschäftigen, was es eigentlich mit unserem System macht und welche Nachwirkungen es gibt. Diese Fragen stellen sich in nahezu allen Feldern, in denen künstliche Intelligenz angewandt wird. Ich kann Ihnen versprechen: Wir werden sämtliche neuen Punkte, die in der KI-Strategie des Freistaates gefasst sind, unter diesen Aspekten einzeln betrachten.
Herr Kollege Brünler sprach für die Fraktion DIE LINKE. Jetzt bitte ich Herrn Kollegen Dr. Gerber nach vorn. Er spricht für die Fraktion BÜNDNISGRÜNE.
Sehr geehrter Herr Präsident! Sehr geehrte Kolleginnen und Kollegen! Zitat: „Um eine verantwortungsvolle KI zu fördern, ist die Regierung für die Entwicklung von Strategien zur Lösung ethischer, sozialer und rechtlicher Fragen zuständig, einschließlich der Forschung und Entwicklung von KI-Technologien und der Regulierungsaufsicht.“
Das, was Sie soeben gehört haben, habe ich durch eine künstliche Intelligenz erzeugt. Ich habe lediglich den Satz „Die neue sächsische KI-Strategie ist eine der besten“ in ein GPT-3-Modell eingegeben und danach auf Generieren geklickt. Da die KI nur englische Texte generieren kann, habe ich das Ganze noch mit einem KI-gestützten Übersetzungstool ins Deutsche übersetzt. – Keine Angst, der Rest meiner Rede ist von mir.
KI schleicht sich langsam, aber sicher immer mehr in unseren Alltag ein – sei es im Privaten beim Sprechen mit Alexa, Siri und Co., in der Wirtschaft bei der Optimierung von Produktions- und Lieferketten oder in der Forschung, wo KI eingesetzt wird, beispielsweise in Dresden bei Beatmungsgeräten, um sie an die persönliche Gegebenheit der Patientin oder des Patienten anzupassen.
Laut dem AI Indexreport von 2021 der Stanford University kommen nach China die meisten wissenschaftlichen Publikationen zu KI aus der Europäischen Union. Innerhalb der EU ist Deutschland Spitzenreiter. Umso wichtiger ist es, dass sich Sachsen verstärkt diesem Thema widmet; denn als einer der bedeutendsten IT- und Halbleiterstand
orte in Europa sollte Sachsen auch bei diesem Thema ganz vorn mit dabei sein, um damit die Bedeutung als Software- bzw. Halbleiterstandort zu erhalten und weiter auszubauen. Ohne Chips keine KI – genau das hat Kommissionspräsidentin von der Leyen in ihrer Rede zur Lage der Union vor Kurzem dargestellt.
Von daher freue ich mich, dass wir uns mit der KI-Strategie des Freistaates Sachsen vorgenommen haben, Sachsen in den nächsten Jahren zu einem der führenden deutschen Forschungs- und Innovationsstandorte für künstliche Intelligenz zu machen.
Doch es ist nicht alles Gold, was glänzt. KI hat auch ihre Schattenseiten. Beispielsweise hat eine von Facebook eingesetzte KI kürzlich schwarze Menschen wieder fälschlicherweise als Affen bezeichnet. Das ist auch nicht der erste Fall dieser Art. Es kommt immer wieder zu Diskriminierungen, vor allem bei Frauen und People of Color. So hat zum Beispiel eine von Amazon bei Bewerbungen eingesetzte KI Frauen diskriminiert. Das ist alles dort besonders verheerend, wo mithilfe von künstlicher Intelligenz sensible Entscheidungen getroffen werden, zum Beispiel bei den Berechnungen, wie wahrscheinlich es ist, dass jemand, der straffällig geworden ist, wieder rückfällig wird. Das sagt übrigens auch eine aktuelle Studie der Bertelsmann Stiftung. So sind derzeit positive Beispiele für den Einsatz von KI noch rar gesät. Die überwiegende Mehrheit der Anwendungen setzt die Menschen eher einem Risiko aus.
Genau deshalb war es für uns BÜNDNISGRÜNE bei der Erstellung der KI-Strategie besonders wichtig, dass die verantwortungsvolle Nutzung von KI in den Mittelpunkt gestellt wird. Nur so kann man Sicherheit und das Vertrauen der Bürgerinnen und Bürger in KI-Anwendungen sicherstellen, indem man auf die in der EU geltenden Standards für Datenschutz, Datensicherheit, Gleichberechtigung – Kollege Meyer hat es gerade gesagt –, Diskriminierungsfreiheit, Diversität und Teilhabe setzt.
Das wiederum gelingt am besten, indem wir bei der Entwicklung und Anwendung auf volle Transparenz setzen, den Einsatz von Open-Source-Software und Open Data hier in Sachsen konsequent begünstigen und die Nutzung in der sächsischen Verwaltung konsequent vorantreiben.
Und eines ist auch klar: Keine KI darf über Leben und Tod entscheiden. Autonome Waffensysteme sollten meiner Meinung nach genauso verboten werden wie atomare, chemische oder biologische Waffen.
Herr Präsident! Liebe Kolleginnen und Kollegen! Dank der guten Vorarbeit in den vorangegangenen Reden kann ich mir zum Schluss dieser ersten Runde erlauben, den Blick ein wenig weiter zu spannen, denn wir haben schon viel über die Chancen, aber auch die Risiken von künstlicher Intelligenz – von dieser noch recht neuen Technologie – gehört.
Ich denke, dass die bestehenden Risiken mit einer vernünftigen und klaren Regulierung recht gut in den Griff zu bekommen sind. Darum – da widerspreche ich Ihnen, Herr Peschel – muss der Staat sich kümmern: Er muss klare, eindeutige Regelungen treffen, die diese Technologie kontrollieren, damit die Menschen darauf vertrauen können, dass sie zum Vorteil der Menschheit eingesetzt wird. Darin hat Herr Meyer ganz recht: Neue Technologien sollen dem Menschen dienen und künstliche Intelligenz hat ein riesiges Potenzial dazu. Deshalb will ich über die Chancen reden.
Künstliche Intelligenz kann, wie jede neue Technologie, das Leben der Menschen erleichtern, wenn man die Risiken in den Griff bekommt. Und das haben neue Technologien in den vergangenen Jahrhunderten getan. Sie haben viel Arbeit abgenommen, die früher von Menschen gemacht worden ist und die heute von Werkzeugen, von Maschinen und schließlich von künstlicher Intelligenz erledigt wird.
Dieses Freiwerden von menschlicher Arbeitskraft ist in den vergangenen Jahrhunderten in zwei Richtungen genutzt worden: Zum einen konnten Menschen den Arbeitstag verkürzen. Wir sind von 16 Stunden über 12 Stunden, 10 Stunden jetzt bei 8 Stunden pro Arbeitstag, wie er in der Welt Normalität ist, zumindest in Deutschland und Europa. Es ist folgerichtig, dass sich die Gewerkschaften dafür einsetzen, weitere technologische Fortschritte für eine weitere Verkürzung von Arbeitszeit einzusetzen.
Zum anderen gibt uns das Freiwerden menschlicher Arbeitskraft die Chance, dass sich die Gesellschaft immer wieder neue Arbeitsfelder erschließen kann. Das hat sie vollzogen mit dem Handwerk, später mit der Industrialisierung und danach mit dem Schritt in die Dienstleistungsgesellschaft. Diese Chance bietet uns nun auch die neue Technologie künstliche Intelligenz, menschliche Arbeit ganz anderer Art, die jetzt von Maschinen erledigt werden kann, zu automatisieren und frei zu machen, damit sie für andere Felder aufgewendet werden kann, zum Beispiel für die Arbeit von Menschen mit Menschen.
Die KI-Strategie des Freistaates Sachsen ist eine recht gute Grundlage, um mit diesen Chancen kurzfristig und instrumentell umzugehen. Aber es ist eher eine KI-Taktik sozusagen: Die Technologie ist vorhanden; wir müssen jetzt irgendwie dabei sein. Was mir ein wenig fehlt, ist der Blick auf das Potenzial, was künstliche Intelligenz ausmacht. Wir als Politik müssen dieser Strategie ein zehntes Ziel hinzufügen, nämlich die Antwort auf die Frage: Wozu machen wir das Ganze eigentlich? Eine der wichtigen Antworten ist, die Arbeitszeit- und Produktivitätsgewinne in neue Lebensqualität zu stecken.