Sehr geehrte Zuhörende! Frau Präsidentin! Wir reden heute über die KI-Verordnung. Sie ist ein wichtiger Schritt, um die enormen gesellschaftlichen Auswirkungen von KI-Systemen abzumildern. Aber während wir darüber sprechen, wie wir die KI-Verordnung am besten umsetzen, setzt die Bundesregierung sich auf EU-Ebene dafür ein, dass das Inkrafttreten einer Regulierung von Hochrisiko-KIs nach hinten verschoben wird. Hochrisiko-KIs sind zum Beispiel Anwendungen, die in den Sicherheitsbehörden, bei Grenzkontrollen oder in der Medizin eingesetzt werden. Das sind alles Anwendungen, bei denen direkt eine Gefahr für Menschenleben besteht.
", "sentences": [ { "text": "Sehr geehrte Zuhörende!", "timeStart": "1.000", "timeEnd": "5.220" }, { "text": "Frau Präsidentin!", "timeStart": "5.220", "timeEnd": "8.960" }, { "text": "Wir reden heute über die KI-Verordnung.", "timeStart": "8.960", "timeEnd": "11.520" }, { "text": "Sie ist ein wichtiger Schritt, um die enormen gesellschaftlichen Auswirkungen von KI-Systemen abzumildern.", "timeStart": "11.520", "timeEnd": "15.960" }, { "text": "Aber während wir darüber sprechen, wie wir die KI-Verordnung am besten umsetzen, setzt die Bundesregierung sich auf EU-Ebene dafür ein, dass das Inkrafttreten einer Regulierung von Hochrisiko-KIs nach hinten verschoben wird.", "timeStart": "15.960", "timeEnd": "26.640" }, { "text": "Hochrisiko-KIs sind zum Beispiel Anwendungen, die in den Sicherheitsbehörden, bei Grenzkontrollen oder in der Medizin eingesetzt werden.", "timeStart": "26.640", "timeEnd": "32.840" }, { "text": "Das sind alles Anwendungen, bei denen direkt eine Gefahr für Menschenleben besteht.", "timeStart": "32.840", "timeEnd": "36.040" } ] }, { "type": "speech", "speaker": "Sonja Lemke", "speakerstatus": "main-speaker", "text": "Für die Bundesregierung ist eine Verspätung ja auch sehr praktisch. Denn während dieser Teil der KI-Verordnung auf sich warten lässt, hat man in Ruhe Zeit, auf allen Ebenen weiter Hochrisikosysteme einzuführen, wie zum Beispiel die Fascho-Software Palantir: eine Software, die bei den ICE-Deportationen eingesetzt wird und deren CEO gerade erst verkündete, dass er es ja begrüßt, dass der Einsatz von KI besonders gebildeten und vorwiegend weiblichen Personen schadet. Dass überhaupt darüber nachgedacht wird, eine solche Software anzuschaffen, und dass einige Bundesländer wie NRW sie bereits einsetzen, das ist wirklich ein Skandal!
", "sentences": [ { "text": "Für die Bundesregierung ist eine Verspätung ja auch sehr praktisch.", "timeStart": "36.040", "timeEnd": "39.600" }, { "text": "Denn während dieser Teil der KI-Verordnung auf sich warten lässt, hat man in Ruhe Zeit, auf allen Ebenen weiter Hochrisikosysteme einzuführen, wie zum Beispiel die Fascho-Software Palantir: eine Software, die bei den ICE-Deportationen eingesetzt wird und deren CEO gerade erst verkündete, dass er es ja begrüßt, dass der Einsatz von KI besonders gebildeten und vorwiegend weiblichen Personen schadet.", "timeStart": "39.600", "timeEnd": "60.200" }, { "text": "Dass überhaupt darüber nachgedacht wird, eine solche Software anzuschaffen, und dass einige Bundesländer wie NRW sie bereits einsetzen, das ist wirklich ein Skandal!", "timeStart": "60.200", "timeEnd": "71.680" } ] }, { "type": "comment", "speaker": null, "speakerstatus": null, "text": "(Beifall bei der Linken)
", "sentences": [ { "text": "(Beifall bei der Linken)", "timeStart": "60.200", "timeEnd": "74.280" } ] }, { "type": "speech", "speaker": "Sonja Lemke", "speakerstatus": "main-speaker", "text": "Das Problem ist nicht allein die Firma Palantir. Das Problem ist die Totalüberwachung, die dahintersteckt, das Anlegen und Auswerten von Datenbanken und der Generalverdacht, der damit einhergeht. Die KI-Verordnung schützt nicht hinreichend vor Überwachung. Ein Problem ist, dass die biometrische Fernidentifizierung in Echtzeit zwar verboten ist, im Nachhinein aber legal. Da muss dringend nachgeschärft werden. Deshalb haben wir einen Antrag vorgelegt, der genau diese Ausnahme nicht zulässt.
", "sentences": [ { "text": "Das Problem ist nicht allein die Firma Palantir.", "timeStart": "71.680", "timeEnd": "74.280" }, { "text": "Das Problem ist die Totalüberwachung, die dahintersteckt, das Anlegen und Auswerten von Datenbanken und der Generalverdacht, der damit einhergeht.", "timeStart": "74.280", "timeEnd": "81.600" }, { "text": "Die KI-Verordnung schützt nicht hinreichend vor Überwachung.", "timeStart": "81.600", "timeEnd": "84.640" }, { "text": "Ein Problem ist, dass die biometrische Fernidentifizierung in Echtzeit zwar verboten ist, im Nachhinein aber legal.", "timeStart": "84.640", "timeEnd": "90.000" }, { "text": "Da muss dringend nachgeschärft werden.", "timeStart": "90.000", "timeEnd": "91.880" }, { "text": "Deshalb haben wir einen Antrag vorgelegt, der genau diese Ausnahme nicht zulässt.", "timeStart": "91.880", "timeEnd": "96.920" } ] }, { "type": "comment", "speaker": null, "speakerstatus": null, "text": "(Beifall bei der Linken)
", "sentences": [ { "text": "(Beifall bei der Linken)", "timeStart": "91.880", "timeEnd": "102.280" } ] }, { "type": "speech", "speaker": "Sonja Lemke", "speakerstatus": "main-speaker", "text": "Aber die KI-Verordnung reicht auch in anderen Bereichen nicht aus. Daher legen wir heute auch noch einen zweiten Antrag dazu. Denn die KI-Verordnung bleibt zahnlos, wenn man sie nicht wirklich durchsetzen kann. Dafür braucht es mehr als eine Selbsteinschätzung oder Berichte über das Risiko. Dafür braucht es eine echte Transparenz über die Algorithmen und vor allen Dingen auch über die verwendeten Trainingsdaten. Nur so können wir sicherstellen, dass KI-Systeme gesellschaftliche Ungleichheiten nicht weiter verschärfen. Denn wenn in den Trainingsdaten rassistische, sexistische oder ableistische Vorurteile enthalten sind, dann übernehmen die KI-Systeme sie nicht nur, sondern sie verstärken sie auch.
", "sentences": [ { "text": "Aber die KI-Verordnung reicht auch in anderen Bereichen nicht aus.", "timeStart": "96.920", "timeEnd": "102.280" }, { "text": "Daher legen wir heute auch noch einen zweiten Antrag dazu.", "timeStart": "102.280", "timeEnd": "105.000" }, { "text": "Denn die KI-Verordnung bleibt zahnlos, wenn man sie nicht wirklich durchsetzen kann.", "timeStart": "105.000", "timeEnd": "108.360" }, { "text": "Dafür braucht es mehr als eine Selbsteinschätzung oder Berichte über das Risiko.", "timeStart": "108.360", "timeEnd": "112.680" }, { "text": "Dafür braucht es eine echte Transparenz über die Algorithmen und vor allen Dingen auch über die verwendeten Trainingsdaten.", "timeStart": "112.680", "timeEnd": "118.960" }, { "text": "Nur so können wir sicherstellen, dass KI-Systeme gesellschaftliche Ungleichheiten nicht weiter verschärfen.", "timeStart": "118.960", "timeEnd": "123.560" }, { "text": "Denn wenn in den Trainingsdaten rassistische, sexistische oder ableistische Vorurteile enthalten sind, dann übernehmen die KI-Systeme sie nicht nur, sondern sie verstärken sie auch.", "timeStart": "123.560", "timeEnd": "131.200" } ] }, { "type": "speech", "speaker": "Sonja Lemke", "speakerstatus": "main-speaker", "text": "Und das ist wirklich keine Kleinigkeit. Wenn wir darüber reden, dass wir KI-Systeme in der Entscheidungsfindung einsetzen, beispielsweise in der Sozialverwaltung, dann werden dort systematisch Menschen benachteiligt, und das sind genau die, die es eh schon am schwersten haben. Und sie haben auch am wenigsten Ressourcen, sich gegen diese Entscheidungen zur Wehr zu setzen. Aber damit lernt der KI-Algorithmus ja genau, dass man diese Menschen weiter benachteiligen kann.
", "sentences": [ { "text": "Und das ist wirklich keine Kleinigkeit.", "timeStart": "131.200", "timeEnd": "133.520" }, { "text": "Wenn wir darüber reden, dass wir KI-Systeme in der Entscheidungsfindung einsetzen, beispielsweise in der Sozialverwaltung, dann werden dort systematisch Menschen benachteiligt, und das sind genau die, die es eh schon am schwersten haben.", "timeStart": "133.520", "timeEnd": "143.880" }, { "text": "Und sie haben auch am wenigsten Ressourcen, sich gegen diese Entscheidungen zur Wehr zu setzen.", "timeStart": "143.880", "timeEnd": "148.320" }, { "text": "Aber damit lernt der KI-Algorithmus ja genau, dass man diese Menschen weiter benachteiligen kann.", "timeStart": "148.320", "timeEnd": "152.960" } ] }, { "type": "speech", "speaker": "Sonja Lemke", "speakerstatus": "main-speaker", "text": "Wir haben da ein sehr grundsätzliches Problem. KI-Systeme sind statistische Verfahren. Es ist nicht möglich, zu sagen, was der Grund ist, wieso sie einmal so entscheiden und einmal so. Aber wenn das die Handlungen des Staates leitet, dann geht das gegen unsere Demokratie. Denn wir haben einen Anspruch darauf, dass der Staat uns gegenüber nicht willkürlich handelt. Vor diesen Problemen können wir doch nicht einfach die Augen verschließen. Da müssen wir jetzt wirklich eingreifen!
", "sentences": [ { "text": "Wir haben da ein sehr grundsätzliches Problem.", "timeStart": "152.960", "timeEnd": "155.160" }, { "text": "KI-Systeme sind statistische Verfahren.", "timeStart": "155.160", "timeEnd": "157.360" }, { "text": "Es ist nicht möglich, zu sagen, was der Grund ist, wieso sie einmal so entscheiden und einmal so.", "timeStart": "157.360", "timeEnd": "161.880" }, { "text": "Aber wenn das die Handlungen des Staates leitet, dann geht das gegen unsere Demokratie.", "timeStart": "161.880", "timeEnd": "165.720" }, { "text": "Denn wir haben einen Anspruch darauf, dass der Staat uns gegenüber nicht willkürlich handelt.", "timeStart": "165.720", "timeEnd": "169.760" }, { "text": "Vor diesen Problemen können wir doch nicht einfach die Augen verschließen.", "timeStart": "169.760", "timeEnd": "172.920" }, { "text": "Da müssen wir jetzt wirklich eingreifen!", "timeStart": "172.920", "timeEnd": "177.680" } ] }, { "type": "comment", "speaker": null, "speakerstatus": null, "text": "(Beifall bei der Linken)
", "sentences": [ { "text": "(Beifall bei der Linken)", "timeStart": "172.920", "timeEnd": "184.040" } ] }, { "type": "speech", "speaker": "Sonja Lemke", "speakerstatus": "main-speaker", "text": "Transparenz brauchen wir auch, damit endlich sichtbar wird, wie viel Arbeit sich durch KI-Systeme angeeignet wird. Wenn wir über die Vergesellschaftung von Wohnraum reden, damit sich Menschen endlich die Miete leisten können, dann bekommt die CDU ja immer direkt Schnappatmung. Aber bei KI haben Sie kein Problem damit, die größte Enteignungsmaschine der Geschichte zu fördern. Denn bei generativer KI bekommt niemand auch nur einen Cent dafür, dass deren Werke dort verarbeitet werden. KI-Unternehmen profitieren davon, dass sie sich unreguliert einfach alles aus dem Internet ziehen können.
", "sentences": [ { "text": "Transparenz brauchen wir auch, damit endlich sichtbar wird, wie viel Arbeit sich durch KI-Systeme angeeignet wird.", "timeStart": "177.680", "timeEnd": "184.040" }, { "text": "Wenn wir über die Vergesellschaftung von Wohnraum reden, damit sich Menschen endlich die Miete leisten können, dann bekommt die CDU ja immer direkt Schnappatmung.", "timeStart": "184.040", "timeEnd": "191.400" }, { "text": "Aber bei KI haben Sie kein Problem damit, die größte Enteignungsmaschine der Geschichte zu fördern.", "timeStart": "191.400", "timeEnd": "196.360" }, { "text": "Denn bei generativer KI bekommt niemand auch nur einen Cent dafür, dass deren Werke dort verarbeitet werden.", "timeStart": "196.360", "timeEnd": "202.360" }, { "text": "KI-Unternehmen profitieren davon, dass sie sich unreguliert einfach alles aus dem Internet ziehen können.", "timeStart": "202.360", "timeEnd": "206.840" } ] }, { "type": "speech", "speaker": "Sonja Lemke", "speakerstatus": "main-speaker", "text": "Ohne Einwilligung und ohne Vergütung werden schon jetzt Gemälde, Fotos und Texte aller Art für das KI-Training genutzt. Künstlerinnen und Künstlern, Autorinnen und Autoren, Journalistinnen und Journalisten, die vorher schon prekär gearbeitet haben, bleiben jetzt die Aufträge weg. Das kann es doch wirklich nicht sein. Jeder, dessen Arbeit in ein KI-System eingeflossen ist, muss auch dafür vergütet werden.
", "sentences": [ { "text": "Ohne Einwilligung und ohne Vergütung werden schon jetzt Gemälde, Fotos und Texte aller Art für das KI-Training genutzt.", "timeStart": "206.840", "timeEnd": "212.160" }, { "text": "Künstlerinnen und Künstlern, Autorinnen und Autoren, Journalistinnen und Journalisten, die vorher schon prekär gearbeitet haben, bleiben jetzt die Aufträge weg.", "timeStart": "212.160", "timeEnd": "218.840" }, { "text": "Das kann es doch wirklich nicht sein.", "timeStart": "218.840", "timeEnd": "220.600" }, { "text": "Jeder, dessen Arbeit in ein KI-System eingeflossen ist, muss auch dafür vergütet werden.", "timeStart": "220.600", "timeEnd": "225.520" } ] }, { "type": "comment", "speaker": null, "speakerstatus": null, "text": "(Beifall bei der Linken sowie der Abg. Awet Tesfaiesus [BÜNDNIS 90/DIE GRÜNEN])
", "sentences": [ { "text": "(Beifall bei der Linken sowie der Abg. Awet Tesfaiesus [BÜNDNIS 90/DIE GRÜNEN])", "timeStart": "220.600", "timeEnd": "234.320" } ] }, { "type": "speech", "speaker": "Sonja Lemke", "speakerstatus": "main-speaker", "text": "Das betrifft auch die Tausenden von Data-Labeler/-innen, die KI-Systeme überhaupt erst ermöglichen. Es reicht eben nicht aus, sich einen Haufen Daten aus dem Internet zu ziehen. Die Daten müssen strukturiert und gelabelt werden. Und das passiert größtenteils in Kenia, wo unterbezahlte Arbeiter/-innen über zehn Stunden am Tag Daten labeln. Sie benennen die in den Aufnahmen zu sehenden Objekte oder sollen die KI-Antworten bewerten
", "sentences": [ { "text": "Das betrifft auch die Tausenden von Data-Labeler/-innen, die KI-Systeme überhaupt erst ermöglichen.", "timeStart": "225.520", "timeEnd": "234.320" }, { "text": "Es reicht eben nicht aus, sich einen Haufen Daten aus dem Internet zu ziehen.", "timeStart": "234.320", "timeEnd": "237.280" }, { "text": "Die Daten müssen strukturiert und gelabelt werden.", "timeStart": "237.280", "timeEnd": "239.840" }, { "text": "Und das passiert größtenteils in Kenia, wo unterbezahlte Arbeiter/-innen über zehn Stunden am Tag Daten labeln.", "timeStart": "239.840", "timeEnd": "245.280" }, { "text": "Sie benennen die in den Aufnahmen zu sehenden Objekte oder sollen die KI-Antworten bewerten", "timeStart": "245.280", "timeEnd": "249.920" } ] }, { "type": "speech", "speaker": "Sonja Lemke", "speakerstatus": "main-speaker", "text": "Erst kürzlich machte zum Beispiel die Meta-Brille Schlagzeilen, weil Aufnahmen von deren Kamera bei den Daten-Labelerinnen und Daten-Labelern in Kenia landen. Dort sehen sie nackte Menschen, Sex, intime Szenen, bei denen sich niemand bewusst war, dass gerade gefilmt wird. Was da passiert, ist nicht nur ein massiver Eingriff in die Privatsphäre der Betroffenen; es ist auch belastend für die Menschen, die diese Daten labeln. Und unter diesen Umständen will die Bundesregierung auch noch im Digitalen Omnibus das KI-Training mit persönlichen Daten ohne Einwilligung der Betroffenen zulassen. Das ist doch wirklich abstrus.
", "sentences": [ { "text": "Erst kürzlich machte zum Beispiel die Meta-Brille Schlagzeilen, weil Aufnahmen von deren Kamera bei den Daten-Labelerinnen und Daten-Labelern in Kenia landen.", "timeStart": "249.920", "timeEnd": "257.240" }, { "text": "Dort sehen sie nackte Menschen, Sex, intime Szenen, bei denen sich niemand bewusst war, dass gerade gefilmt wird.", "timeStart": "257.240", "timeEnd": "262.640" }, { "text": "Was da passiert, ist nicht nur ein massiver Eingriff in die Privatsphäre der Betroffenen; es ist auch belastend für die Menschen, die diese Daten labeln.", "timeStart": "262.640", "timeEnd": "269.800" }, { "text": "Und unter diesen Umständen will die Bundesregierung auch noch im Digitalen Omnibus das KI-Training mit persönlichen Daten ohne Einwilligung der Betroffenen zulassen.", "timeStart": "269.800", "timeEnd": "278.480" }, { "text": "Das ist doch wirklich abstrus.", "timeStart": "278.480", "timeEnd": "280.720" } ] }, { "type": "comment", "speaker": null, "speakerstatus": null, "text": "(Beifall bei der Linken)
", "sentences": [ { "text": "(Beifall bei der Linken)", "timeStart": "278.480", "timeEnd": "290.840" } ] }, { "type": "speech", "speaker": "Sonja Lemke", "speakerstatus": "main-speaker", "text": "Was beim Thema KI auch nicht zu kurz kommen darf, das sind die enormen ökologischen Folgekosten. In Zeiten, in denen sich die Klimakatastrophe zuspitzt und immer mehr Menschen ihre Heimat verlassen müssen, weil sie nicht mehr bewohnbar ist, in solchen Zeiten steigt der Stromverbrauch immer weiter. Es steigen die Strompreise. Es werden Kohlekraftwerke weiter in Betrieb gelassen und Gaskraftwerke gebaut. Und das alles nur, um irgendeinen Chatbot zu trainieren oder irgendwelche dummen Bildchen zu erzeugen. Es kann doch wirklich nicht sein, dass wir einfach blind jedem Hype hinterherrennen.
", "sentences": [ { "text": "Was beim Thema KI auch nicht zu kurz kommen darf, das sind die enormen ökologischen Folgekosten.", "timeStart": "280.720", "timeEnd": "290.840" }, { "text": "In Zeiten, in denen sich die Klimakatastrophe zuspitzt und immer mehr Menschen ihre Heimat verlassen müssen, weil sie nicht mehr bewohnbar ist, in solchen Zeiten steigt der Stromverbrauch immer weiter.", "timeStart": "290.840", "timeEnd": "300.280" }, { "text": "Es steigen die Strompreise.", "timeStart": "300.280", "timeEnd": "301.640" }, { "text": "Es werden Kohlekraftwerke weiter in Betrieb gelassen und Gaskraftwerke gebaut.", "timeStart": "301.640", "timeEnd": "305.560" }, { "text": "Und das alles nur, um irgendeinen Chatbot zu trainieren oder irgendwelche dummen Bildchen zu erzeugen.", "timeStart": "305.560", "timeEnd": "309.840" }, { "text": "Es kann doch wirklich nicht sein, dass wir einfach blind jedem Hype hinterherrennen.", "timeStart": "309.840", "timeEnd": "314.080" } ] }, { "type": "speech", "speaker": "Sonja Lemke", "speakerstatus": "main-speaker", "text": "Es braucht jetzt eine wirkungsvolle Regulierung, damit wir die massiven Probleme, die KI mit sich bringt, in den Griff bekommen. Deswegen ist es mit der KI-Verordnung auch nicht getan, sondern sie kann nur ein Anfang sein. Mit unseren Anträgen machen wir gute Vorschläge für die nächsten Schritte. Also: Stimmen Sie unseren Anträgen zu!
", "sentences": [ { "text": "Es braucht jetzt eine wirkungsvolle Regulierung, damit wir die massiven Probleme, die KI mit sich bringt, in den Griff bekommen.", "timeStart": "314.080", "timeEnd": "319.400" }, { "text": "Deswegen ist es mit der KI-Verordnung auch nicht getan, sondern sie kann nur ein Anfang sein.", "timeStart": "319.400", "timeEnd": "323.760" }, { "text": "Mit unseren Anträgen machen wir gute Vorschläge für die nächsten Schritte.", "timeStart": "323.760", "timeEnd": "327.320" }, { "text": "Also: Stimmen Sie unseren Anträgen zu!", "timeStart": "327.320", "timeEnd": "329.200" } ] }, { "type": "speech", "speaker": "Sonja Lemke", "speakerstatus": "main-speaker", "text": "Vielen Dank.
", "sentences": [ { "text": "Vielen Dank.", "timeStart": "329.200", "timeEnd": "330.320" } ] }, { "type": "comment", "speaker": null, "speakerstatus": null, "text": "(Beifall bei der Linken)
", "sentences": [ { "text": "(Beifall bei der Linken)", "timeStart": "329.200", "timeEnd": "341.560" } ] }, { "type": "speech", "speaker": "Julia Klöckner", "speakerstatus": "president", "text": "Für die Fraktion der CDU/CSU hat Herr Abgeordneter Marvin Schulz das Wort. Bitte sehr.
", "sentences": [ { "text": "Für die Fraktion der CDU/CSU hat Herr Abgeordneter Marvin Schulz das Wort.", "timeStart": "330.320", "timeEnd": "341.560" }, { "text": "Bitte sehr.", "timeStart": "341.560", "timeEnd": "348.960" } ] }, { "type": "comment", "speaker": null, "speakerstatus": null, "text": "(Beifall bei der CDU/CSU sowie bei Abgeordneten der SPD)
", "sentences": [ { "text": "(Beifall bei der CDU/CSU sowie bei Abgeordneten der SPD)", "timeStart": "341.560", "timeEnd": "348.960" } ] } ], "textHTML": "Sehr geehrte Zuhörende! Frau Präsidentin! Wir reden heute über die KI-Verordnung. Sie ist ein wichtiger Schritt, um die enormen gesellschaftlichen Auswirkungen von KI-Systemen abzumildern. Aber während wir darüber sprechen, wie wir die KI-Verordnung am besten umsetzen, setzt die Bundesregierung sich auf EU-Ebene dafür ein, dass das Inkrafttreten einer Regulierung von Hochrisiko-KIs nach hinten verschoben wird. Hochrisiko-KIs sind zum Beispiel Anwendungen, die in den Sicherheitsbehörden, bei Grenzkontrollen oder in der Medizin eingesetzt werden. Das sind alles Anwendungen, bei denen direkt eine Gefahr für Menschenleben besteht.
Für die Bundesregierung ist eine Verspätung ja auch sehr praktisch. Denn während dieser Teil der KI-Verordnung auf sich warten lässt, hat man in Ruhe Zeit, auf allen Ebenen weiter Hochrisikosysteme einzuführen, wie zum Beispiel die Fascho-Software Palantir: eine Software, die bei den ICE-Deportationen eingesetzt wird und deren CEO gerade erst verkündete, dass er es ja begrüßt, dass der Einsatz von KI besonders gebildeten und vorwiegend weiblichen Personen schadet. Dass überhaupt darüber nachgedacht wird, eine solche Software anzuschaffen, und dass einige Bundesländer wie NRW sie bereits einsetzen, das ist wirklich ein Skandal!
(Beifall bei der Linken)
Das Problem ist nicht allein die Firma Palantir. Das Problem ist die Totalüberwachung, die dahintersteckt, das Anlegen und Auswerten von Datenbanken und der Generalverdacht, der damit einhergeht. Die KI-Verordnung schützt nicht hinreichend vor Überwachung. Ein Problem ist, dass die biometrische Fernidentifizierung in Echtzeit zwar verboten ist, im Nachhinein aber legal. Da muss dringend nachgeschärft werden. Deshalb haben wir einen Antrag vorgelegt, der genau diese Ausnahme nicht zulässt.
(Beifall bei der Linken)
Aber die KI-Verordnung reicht auch in anderen Bereichen nicht aus. Daher legen wir heute auch noch einen zweiten Antrag dazu. Denn die KI-Verordnung bleibt zahnlos, wenn man sie nicht wirklich durchsetzen kann. Dafür braucht es mehr als eine Selbsteinschätzung oder Berichte über das Risiko. Dafür braucht es eine echte Transparenz über die Algorithmen und vor allen Dingen auch über die verwendeten Trainingsdaten. Nur so können wir sicherstellen, dass KI-Systeme gesellschaftliche Ungleichheiten nicht weiter verschärfen. Denn wenn in den Trainingsdaten rassistische, sexistische oder ableistische Vorurteile enthalten sind, dann übernehmen die KI-Systeme sie nicht nur, sondern sie verstärken sie auch.
Und das ist wirklich keine Kleinigkeit. Wenn wir darüber reden, dass wir KI-Systeme in der Entscheidungsfindung einsetzen, beispielsweise in der Sozialverwaltung, dann werden dort systematisch Menschen benachteiligt, und das sind genau die, die es eh schon am schwersten haben. Und sie haben auch am wenigsten Ressourcen, sich gegen diese Entscheidungen zur Wehr zu setzen. Aber damit lernt der KI-Algorithmus ja genau, dass man diese Menschen weiter benachteiligen kann.
Wir haben da ein sehr grundsätzliches Problem. KI-Systeme sind statistische Verfahren. Es ist nicht möglich, zu sagen, was der Grund ist, wieso sie einmal so entscheiden und einmal so. Aber wenn das die Handlungen des Staates leitet, dann geht das gegen unsere Demokratie. Denn wir haben einen Anspruch darauf, dass der Staat uns gegenüber nicht willkürlich handelt. Vor diesen Problemen können wir doch nicht einfach die Augen verschließen. Da müssen wir jetzt wirklich eingreifen!
(Beifall bei der Linken)
Transparenz brauchen wir auch, damit endlich sichtbar wird, wie viel Arbeit sich durch KI-Systeme angeeignet wird. Wenn wir über die Vergesellschaftung von Wohnraum reden, damit sich Menschen endlich die Miete leisten können, dann bekommt die CDU ja immer direkt Schnappatmung. Aber bei KI haben Sie kein Problem damit, die größte Enteignungsmaschine der Geschichte zu fördern. Denn bei generativer KI bekommt niemand auch nur einen Cent dafür, dass deren Werke dort verarbeitet werden. KI-Unternehmen profitieren davon, dass sie sich unreguliert einfach alles aus dem Internet ziehen können.
Ohne Einwilligung und ohne Vergütung werden schon jetzt Gemälde, Fotos und Texte aller Art für das KI-Training genutzt. Künstlerinnen und Künstlern, Autorinnen und Autoren, Journalistinnen und Journalisten, die vorher schon prekär gearbeitet haben, bleiben jetzt die Aufträge weg. Das kann es doch wirklich nicht sein. Jeder, dessen Arbeit in ein KI-System eingeflossen ist, muss auch dafür vergütet werden.
(Beifall bei der Linken sowie der Abg. Awet Tesfaiesus [BÜNDNIS 90/DIE GRÜNEN])
Das betrifft auch die Tausenden von Data-Labeler/-innen, die KI-Systeme überhaupt erst ermöglichen. Es reicht eben nicht aus, sich einen Haufen Daten aus dem Internet zu ziehen. Die Daten müssen strukturiert und gelabelt werden. Und das passiert größtenteils in Kenia, wo unterbezahlte Arbeiter/-innen über zehn Stunden am Tag Daten labeln. Sie benennen die in den Aufnahmen zu sehenden Objekte oder sollen die KI-Antworten bewerten
Erst kürzlich machte zum Beispiel die Meta-Brille Schlagzeilen, weil Aufnahmen von deren Kamera bei den Daten-Labelerinnen und Daten-Labelern in Kenia landen. Dort sehen sie nackte Menschen, Sex, intime Szenen, bei denen sich niemand bewusst war, dass gerade gefilmt wird. Was da passiert, ist nicht nur ein massiver Eingriff in die Privatsphäre der Betroffenen; es ist auch belastend für die Menschen, die diese Daten labeln. Und unter diesen Umständen will die Bundesregierung auch noch im Digitalen Omnibus das KI-Training mit persönlichen Daten ohne Einwilligung der Betroffenen zulassen. Das ist doch wirklich abstrus.
(Beifall bei der Linken)
Was beim Thema KI auch nicht zu kurz kommen darf, das sind die enormen ökologischen Folgekosten. In Zeiten, in denen sich die Klimakatastrophe zuspitzt und immer mehr Menschen ihre Heimat verlassen müssen, weil sie nicht mehr bewohnbar ist, in solchen Zeiten steigt der Stromverbrauch immer weiter. Es steigen die Strompreise. Es werden Kohlekraftwerke weiter in Betrieb gelassen und Gaskraftwerke gebaut. Und das alles nur, um irgendeinen Chatbot zu trainieren oder irgendwelche dummen Bildchen zu erzeugen. Es kann doch wirklich nicht sein, dass wir einfach blind jedem Hype hinterherrennen.
Es braucht jetzt eine wirkungsvolle Regulierung, damit wir die massiven Probleme, die KI mit sich bringt, in den Griff bekommen. Deswegen ist es mit der KI-Verordnung auch nicht getan, sondern sie kann nur ein Anfang sein. Mit unseren Anträgen machen wir gute Vorschläge für die nächsten Schritte. Also: Stimmen Sie unseren Anträgen zu!
Vielen Dank.
(Beifall bei der Linken)
Für die Fraktion der CDU/CSU hat Herr Abgeordneter Marvin Schulz das Wort. Bitte sehr.
(Beifall bei der CDU/CSU sowie bei Abgeordneten der SPD)
", "sourceURI": "https://www.bundestag.de/resource/blob/1158074/21066.xml", "creator": "Deutscher Bundestag", "license": "Public Domain", "language": "de", "originTextID": "ID216600500", "lastChanged": "2026-06-16 14:31:09" } ], "textContentsCount": 1 }, "links": { "self": "https://de.openparliament.tv/api/v1/media/DE-0210066007" }, "relationships": { "electoralPeriod": { "data": { "type": "electoralPeriod", "id": "DE-021", "attributes": { "number": 21, "dateStart": "2025-03-25", "dateEnd": null }, "links": { "self": "https://de.openparliament.tv/api/v1/electoralPeriod/DE-021" } } }, "session": { "data": { "type": "session", "id": "DE-0210066", "attributes": { "number": 66 }, "links": { "self": "https://de.openparliament.tv/api/v1/session/DE-0210066" } } }, "agendaItem": { "data": { "type": "agendaItem", "id": "10526", "attributes": { "officialTitle": "Tagesordnungspunkt 22", "title": "Durchführung der EU-Verordnung über KI" }, "links": { "self": "https://de.openparliament.tv/api/v1/agendaItem/DE-10526" } } }, "people": { "data": [ { "type": "person", "id": "Q132733554", "attributes": { "type": "memberOfParliament", "label": "Sonja Lemke", "labelAlternative": [ "Sonja Janet Lemke" ], "degree": "", "thumbnailURI": "", "thumbnailCreator": "", "thumbnailLicense": "", "additionalInformation": { "wikipedia": { "title": "Sonja Lemke", "url": "https://de.wikipedia.org/wiki/Sonja_Lemke" }, "abgeordnetenwatchID": "175323" }, "party": { "id": "Q49764", "label": "DIE LINKE", "labelAlternative": [ "Linkspartei" ] }, "faction": { "id": "Q1826856", "label": "DIE LINKE", "labelAlternative": [ "Bundestagsfraktion Die Linke", "Gruppe Die Linke" ] } }, "links": { "self": "https://de.openparliament.tv/api/v1/person/Q132733554" } }, { "type": "person", "id": "Q88158", "attributes": { "type": "memberOfParliament", "label": "Julia Klöckner", "labelAlternative": [ "Julia Kloeckner" ], "degree": "", "thumbnailURI": "https://de.openparliament.tv/content/client/images/entity-image.php?type=person&id=Q88158&v=237f0cb1", "thumbnailCreator": "Superbass", "thumbnailLicense": "CC-BY-SA-4.0", "additionalInformation": { "wikipedia": { "title": "Julia Klöckner", "url": "https://de.wikipedia.org/wiki/Julia_Kl%C3%B6ckner" }, "abgeordnetenwatchID": "110066" }, "party": { "id": "Q49762", "label": "CDU", "labelAlternative": [ "Christlich Demokratische Union Deutschlands" ] }, "faction": { "id": "Q1023134", "label": "CDU/CSU", "labelAlternative": [ "CDU/CSU-Bundestagsfraktion", "CDU/CSU-Fraktion", "Unionsfraktion", "CDU-Fraktion" ] } }, "links": { "self": "https://de.openparliament.tv/api/v1/person/Q88158" } }, { "type": "person", "id": "Q108177929", "attributes": { "type": "memberOfParliament", "label": "Awet Tesfaiesus", "labelAlternative": [], "degree": "", "thumbnailURI": "https://de.openparliament.tv/content/client/images/entity-image.php?type=person&id=Q108177929&v=3e518d2d", "thumbnailCreator": "Heinrich-Böll-Stiftung from Berlin, Deutschland", "thumbnailLicense": "CC-BY-SA-2.0", "additionalInformation": { "wikipedia": { "title": "Awet Tesfaiesus", "url": "https://de.wikipedia.org/wiki/Awet_Tesfaiesus" }, "abgeordnetenwatchID": "175538" }, "party": { "id": "Q49766", "label": "GRÜNE", "labelAlternative": [ "Bündnis 90/Die Grünen", "Bündnisgrüne", "B'90/Grüne", "Die Grünen", "Bündnis 90/Die Grünen, GRÜNE", "Die Gruenen", "B90/GR" ] }, "faction": { "id": "Q1007353", "label": "DIE GRÜNEN", "labelAlternative": [ "Bundestagsfraktion Bündnis 90/Die Grünen", "Bündnis 90/Die Grünen Bundestagsfraktion", "BÜNDNIS 90/DIE GRÜNEN", "B90/GRÜNE" ] } }, "links": { "self": "https://de.openparliament.tv/api/v1/person/Q108177929" } } ], "links": { "self": "https://de.openparliament.tv/api/v1/search/annotations?mediaID=DE-0210066007&type=person" } }, "organisations": { "data": [ { "type": "organisation", "id": "Q1007353", "attributes": { "context": "NER", "type": "faction", "label": "DIE GRÜNEN", "labelAlternative": [ "Bundestagsfraktion Bündnis 90/Die Grünen", "Bündnis 90/Die Grünen Bundestagsfraktion", "BÜNDNIS 90/DIE GRÜNEN", "B90/GRÜNE" ], "thumbnailURI": "", "thumbnailCreator": "", "thumbnailLicense": "", "additionalInformation": { "wikipedia": { "title": "Bundestagsfraktion Bündnis 90/Die Grünen", "url": "https://de.wikipedia.org/wiki/Bundestagsfraktion_B%C3%BCndnis_90/Die_Gr%C3%BCnen" } }, "color": "#49932b" }, "links": { "self": "https://de.openparliament.tv/api/v1/organisation/Q1007353" } }, { "type": "organisation", "id": "Q1023134", "attributes": { "context": "NER", "type": "faction", "label": "CDU/CSU", "labelAlternative": [ "CDU/CSU-Bundestagsfraktion", "CDU/CSU-Fraktion", "Unionsfraktion", "CDU-Fraktion" ], "thumbnailURI": "https://de.openparliament.tv/content/client/images/entity-image.php?type=organisation&id=Q1023134&v=ac7ab215", "thumbnailCreator": "CDU/CSU-Fraktion im Deutschen Bundestag", "thumbnailLicense": "PD textlogo", "additionalInformation": { "wikipedia": { "title": "CDU/CSU-Fraktion im Deutschen Bundestag", "url": "https://de.wikipedia.org/wiki/CDU/CSU-Fraktion_im_Deutschen_Bundestag" } }, "color": null }, "links": { "self": "https://de.openparliament.tv/api/v1/organisation/Q1023134" } }, { "type": "organisation", "id": "Q1826856", "attributes": { "context": "NER", "type": "faction", "label": "DIE LINKE", "labelAlternative": [ "Bundestagsfraktion Die Linke", "Gruppe Die Linke" ], "thumbnailURI": "https://de.openparliament.tv/content/client/images/entity-image.php?type=organisation&id=Q1826856&v=e5a9c45f", "thumbnailCreator": "Fraktion DIE LINKE. im Bundestag", "thumbnailLicense": "PD textlogo", "additionalInformation": { "wikipedia": { "title": "Fraktion Die Linke im Bundestag", "url": "https://de.wikipedia.org/wiki/Fraktion_Die_Linke_im_Bundestag" } }, "color": "#bc3475" }, "links": { "self": "https://de.openparliament.tv/api/v1/organisation/Q1826856" } }, { "type": "organisation", "id": "Q2207512", "attributes": { "context": "NER", "type": "faction", "label": "SPD", "labelAlternative": [ "SPD-Bundestagsfraktion", "SPD-Fraktion" ], "thumbnailURI": "https://de.openparliament.tv/content/client/images/entity-image.php?type=organisation&id=Q2207512&v=4e041713", "thumbnailCreator": "SPD-Bundestagsfraktion", "thumbnailLicense": "PD textlogo", "additionalInformation": { "wikipedia": { "title": "SPD-Bundestagsfraktion", "url": "https://de.wikipedia.org/wiki/SPD-Bundestagsfraktion" } }, "color": "#df0b25" }, "links": { "self": "https://de.openparliament.tv/api/v1/organisation/Q2207512" } } ], "links": { "self": "https://de.openparliament.tv/api/v1/search/annotations?mediaID=DE-0210066007&type=organisation" } }, "documents": { "data": [ { "type": "document", "id": "15750", "attributes": { "context": "proceedingsReference", "type": "officialDocument", "label": "Drucksache 21/4594", "labelAlternative": [ "Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 \r\n(Gesetz zur Durchführung der Verordnung über künstliche Intelligenz)\r\n" ], "thumbnailURI": null, "thumbnailCreator": null, "thumbnailLicense": null, "additionalInformation": { "originID": "285724", "subType": "Gesetzentwurf", "date": "2026-03-09", "electoralPeriod": 21, "creator": [ "Bundesregierung" ], "procedureIDs": [ { "id": "331110", "titel": "Gesetz zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz)", "vorgangstyp": "Gesetzgebung" } ], "procedureIDsCount": 1 }, "sourceURI": "https://dserver.bundestag.de/btd/21/045/2104594.pdf", "embedURI": null }, "links": { "self": "https://de.openparliament.tv/api/v1/document/15750" } }, { "type": "document", "id": "15751", "attributes": { "context": "proceedingsReference", "type": "officialDocument", "label": "Drucksache 21/4758", "labelAlternative": [ "Gesellschaftliche Risiken von KI-Anwendungen ernst nehmen" ], "thumbnailURI": null, "thumbnailCreator": null, "thumbnailLicense": null, "additionalInformation": { "originID": "285929", "subType": "Antrag", "date": "2026-03-17", "electoralPeriod": 21, "creator": [ "Fraktion DIE LINKE" ], "author": [ { "id": "8061", "titel": "Sonja Lemke, MdB, DIE LINKE", "autor_titel": "Sonja Lemke" }, { "id": "7559", "titel": "Clara Bünger, MdB, DIE LINKE", "autor_titel": "Clara Bünger" } ], "procedureIDs": [ { "id": "332631", "titel": "Gesellschaftliche Risiken von KI-Anwendungen ernst nehmen", "vorgangstyp": "Antrag" } ], "procedureIDsCount": 1 }, "sourceURI": "https://dserver.bundestag.de/btd/21/047/2104758.pdf", "embedURI": null }, "links": { "self": "https://de.openparliament.tv/api/v1/document/15751" } }, { "type": "document", "id": "15752", "attributes": { "context": "proceedingsReference", "type": "officialDocument", "label": "Drucksache 21/4759", "labelAlternative": [ "Für öffentliche Räume ohne automatisierte biometrische Erkennungssysteme" ], "thumbnailURI": null, "thumbnailCreator": null, "thumbnailLicense": null, "additionalInformation": { "originID": "285935", "subType": "Antrag", "date": "2026-03-17", "electoralPeriod": 21, "creator": [ "Fraktion DIE LINKE" ], "author": [ { "id": "8016", "titel": "Donata Vogtschmidt, MdB, DIE LINKE", "autor_titel": "Donata Vogtschmidt" }, { "id": "7559", "titel": "Clara Bünger, MdB, DIE LINKE", "autor_titel": "Clara Bünger" } ], "procedureIDs": [ { "id": "332632", "titel": "Für öffentliche Räume ohne automatisierte biometrische Erkennungssysteme", "vorgangstyp": "Antrag" } ], "procedureIDsCount": 1 }, "sourceURI": "https://dserver.bundestag.de/btd/21/047/2104759.pdf", "embedURI": null }, "links": { "self": "https://de.openparliament.tv/api/v1/document/15752" } } ], "links": { "self": "https://de.openparliament.tv/api/v1/search/annotations?mediaID=DE-0210066007&type=document" } }, "terms": { "data": [ { "type": "term", "id": "Q11660", "attributes": { "context": "NER", "type": "otherTerm", "label": "KI", "labelAlternative": [ "künstliche Intelligenz" ], "websiteURI": "", "thumbnailURI": "https://de.openparliament.tv/content/client/images/entity-image.php?type=term&id=Q11660&v=77f2d30e", "thumbnailCreator": "JPxG", "thumbnailLicense": "PD-algorithm", "additionalInformation": { "wikipedia": { "title": "Künstliche Intelligenz", "url": "https://de.wikipedia.org/wiki/K%C3%BCnstliche_Intelligenz" } } }, "links": { "self": "https://de.openparliament.tv/api/v1/term/Q11660" } } ], "links": { "self": "https://de.openparliament.tv/api/v1/search/annotations?mediaID=DE-0210066007&type=term" } } }, "annotations": { "data": [ { "type": "person", "id": "Q132733554", "attributes": { "timeStart": null, "timeEnd": null, "context": "main-speaker", "additionalInformation": { "role": null } } }, { "type": "person", "id": "Q88158", "attributes": { "timeStart": null, "timeEnd": null, "context": "president", "additionalInformation": { "role": null } } }, { "type": "person", "id": "Q108177929", "attributes": { "timeStart": "220.6", "timeEnd": "234.32", "context": "NER", "additionalInformation": { "confidence": 0.9903 } } }, { "type": "document", "id": "15750", "attributes": { "timeStart": null, "timeEnd": null, "context": "proceedingsReference", "additionalInformation": null } }, { "type": "document", "id": "15751", "attributes": { "timeStart": null, "timeEnd": null, "context": "proceedingsReference", "additionalInformation": null } }, { "type": "document", "id": "15752", "attributes": { "timeStart": null, "timeEnd": null, "context": "proceedingsReference", "additionalInformation": null } }, { "type": "organisation", "id": "Q1007353", "attributes": { "timeStart": "220.6", "timeEnd": "234.32", "context": "NER", "additionalInformation": { "confidence": 0.7842 } } }, { "type": "organisation", "id": "Q1023134", "attributes": { "timeStart": "184.04", "timeEnd": "191.4", "context": "NER", "additionalInformation": { "confidence": 0.3727 } } }, { "type": "organisation", "id": "Q1023134", "attributes": { "timeStart": "330.32", "timeEnd": "341.56", "context": "NER", "additionalInformation": { "confidence": 0.2984 } } }, { "type": "organisation", "id": "Q1023134", "attributes": { "timeStart": "341.56", "timeEnd": "348.96", "context": "NER", "additionalInformation": { "confidence": 0.2984 } } }, { "type": "term", "id": "Q11660", "attributes": { "timeStart": "39.6", "timeEnd": "60.2", "context": "NER", "additionalInformation": { "confidence": 0.3111 } } }, { "type": "term", "id": "Q11660", "attributes": { "timeStart": "191.4", "timeEnd": "196.36", "context": "NER", "additionalInformation": { "confidence": 0.3095 } } }, { "type": "term", "id": "Q11660", "attributes": { "timeStart": "280.72", "timeEnd": "290.84", "context": "NER", "additionalInformation": { "confidence": 0.3095 } } }, { "type": "organisation", "id": "Q1826856", "attributes": { "timeStart": "220.6", "timeEnd": "234.32", "context": "NER", "additionalInformation": { "confidence": 0.0978 } } }, { "type": "organisation", "id": "Q1826856", "attributes": { "timeStart": null, "timeEnd": null, "context": "main-speaker-faction", "additionalInformation": null } }, { "type": "organisation", "id": "Q2207512", "attributes": { "timeStart": "341.56", "timeEnd": "348.96", "context": "NER", "additionalInformation": { "confidence": 0.3755 } } } ] } } }