Wer kontrolliert die künstliche Intelligenz?

Im Gespräch mit CORRECTIV-Chefredakteur Justus von Daniels habe ich für das Correctiv-Interviewformat eine Stunde lang über die aktuellen Entwicklungen der Künstlichen Intelligenz reflektiert. Das gibt es auf Youtube zu sehen. Eine leicht gekürzte Fassung ist hier aber auch in lesbarer Form zu finden.

Übernimmt künstliche Intelligenz die Kontrolle oder können wir sie so einsetzen, dass sie der Gesellschaft dient? Digitalexperte Markus Beckedahl spricht im CORRECTIV-Interview darüber, warum er die Angst vor einem KI-Doomsday für übertrieben hält und was die EU tun könnte (und müsste), um KI zu einem öffentlichen Gut zu machen. Es brauche einen gemeinsamen politischen Willen: Im Gespräch mit CORRECTIV-Chefredakteur Justus von Daniels schlägt Beckedahl dafür konkrete Schritte vor, um statt einer angst-versessenen Debatte nach Möglichkeiten zu suchen, mit einer Entwicklung umzugehen, die unsere Gesellschaft derzeit umwälzt.

Die ersten Begegnungen mit künstlicher Intelligenz

Justus von Daniels: Markus, wann hast du zum ersten Mal von künstlicher Intelligenz gehört?

Markus Beckedahl: Vermutlich noch während meiner Schulzeit. Damals habe ich mit ELIZA experimentiert, einem der ersten Chatbots, den Joseph Weizenbaum in den 1960er-Jahren entwickelt hatte. Das Programm war technisch sehr einfach: Es reagierte auf bestimmte Schlüsselwörter mit vorgegebenen Antworten.

Trotzdem war Weizenbaum irritiert davon, dass Menschen ELIZA wie einen echten Gesprächspartner behandelten, Gefühle entwickelten und sich auf persönliche Gespräche einließen. Mich hat das als Jugendlicher sehr fasziniert. Es war für mich eine Art „Proof of Concept“.

Später begegnete uns KI immer häufiger im Alltag, ohne dass wir sie unbedingt so genannt haben: bei Empfehlungen von Musikstreamingdiensten, bei Navigations-Apps, Übersetzungsprogrammen oder der automatischen Rechtschreibkorrektur.

von Daniels: KI ist also schon viel länger Teil unseres Alltags, als uns häufig bewusst ist.

Beckedahl: Genau.

Automatisierte Empörung im politischen Wahlkampf

von Daniels: Correctiv hat zusammen mit dem Zentrum für Digitalrechte und Demokratie über eine Agentur berichtet, die für die AfD ein KI-gestütztes Kommunikationswerkzeug entwickelt hat. Damit lassen sich nahezu auf Knopfdruck empörende oder hetzerische Beiträge erstellen. Wie bewertest du das?

Beckedahl: Ich fand das Werkzeug interessant und zugleich beängstigend. Vor etwa 25 Jahren habe ich selbst in einer Agentur für politische Kommunikation gearbeitet und als technischer Projektleiter frühe Online-Wahlkampfwerkzeuge mitentwickelt. Damals war bereits der Einsatz einer Website im Wahlkampf etwas Neues.

Das AfD-Werkzeug zeigt, wie stark sich solche Prozesse inzwischen automatisieren lassen. Orts- und Kreisverbände oder Abgeordnete können ein monatliches Abonnement abschließen. Das System wertet aktuelle Inhalte verschiedener Medien und Vorfeldorganisationen aus und untersucht sie automatisiert auf ihr Empörungspotenzial.

Anschließend schlägt die KI passende Überschriften und Postings vor. Der Verantwortliche muss sich nur noch durch einige Schritte klicken und kann innerhalb einer Minute einen fertigen Beitrag veröffentlichen. Eigentlich ließe sich sogar diese Person ersetzen. Man könnte den gesamten Vorgang zentral automatisieren und daraus eine Bot-Armee machen.

von Daniels: Dabei können nicht nur hetzerische, sondern möglicherweise auch verfassungswidrige Inhalte entstehen. Tragen die Anbieter der verwendeten KI-Modelle dafür eine Verantwortung?

Beckedahl: Ja. In diesem Fall waren unter anderem Modelle von Google, Anthropic und OpenAI eingebunden. Sie halfen auf verschiedenen Ebenen dabei, Empörungsbeiträge zu erzeugen.

Gemeinsam mit Correctiv haben wir festgestellt, dass diese Nutzung gegen die Geschäftsbedingungen der Anbieter verstößt. Ich habe beispielsweise Claude von Anthropic anhand von Screenshots gebeten, das Werkzeug nachzubauen. Claude lehnte das ab, weil automatisierte politische Propaganda – insbesondere für Parteien – gegen die eigenen Regeln verstoße.

Damit liegt es zunächst in der Verantwortung dieser Unternehmen, eine solche Nutzung zu unterbinden. Sie versprechen das schließlich in ihren eigenen Richtlinien.

Warum setzen KI-Unternehmen ihre eigenen Regeln nicht durch?

von Daniels: Warum geschieht das trotzdem nicht konsequent?

Beckedahl: Der wichtigste Grund ist Geld. Viele dieser Unternehmen verbrennen derzeit enorme Mengen an Risikokapital, um Marktanteile zu gewinnen. Früher oder später müssen sie profitabel werden. Sie wollen an die Börse, sind bereits börsennotiert oder müssen regelmäßig neue Rekordzahlen präsentieren.

Daneben können auch ideologische Motive eine Rolle spielen. Bei X ist offensichtlich, dass Elon Musk die Plattform nutzt, um rechtsradikale Positionen zu verbreiten und zu verstärken.

Ich würde nicht ausschließen, dass bei anderen Unternehmen ebenfalls ideologische Interessen existieren. Dazu kann auch die Hoffnung gehören, dass rechtsradikale Parteien in Europa für ein unternehmensfreundlicheres Regulierungsklima sorgen.

von Daniels: Abgesehen von X klingt das zunächst nach einer Vermutung. Gibt es konkrete Anhaltspunkte?

Beckedahl: Aufschlussreich ist das Buch Careless People einer ehemaligen leitenden Facebook-Lobbyistin. Darin wird eine Szene aus dem Umfeld des Facebook-Aufsichtsrats beschrieben. Peter Thiel und Marc Andreessen, zwei einflussreiche Tech-Milliardäre und Risikokapitalgeber aus dem Silicon Valley, sollen darüber gesprochen haben, rechtsradikale Parteien in der Europäischen Union algorithmisch zu bevorzugen, um ein günstigeres Regulierungsklima zu schaffen.

Die Aussage ist in dem Buch sehr explizit formuliert. Nach Angaben der Autorin wurde sie juristisch geprüft. Solche Berichte sollte man zumindest sehr ernst nehmen.

Was ist „künstliche Intelligenz“ eigentlich?

von Daniels: Bevor wir über Regulierung sprechen: Was kann KI heute bereits, und worauf müssen wir uns einstellen? Häufig fällt der Begriff „Artificial General Intelligence“, also eine allgemeine künstliche Intelligenz, die ähnlich wie ein Mensch abstrahieren und sich neue Sachverhalte erschließen kann.

Beckedahl: Schon der Begriff „künstliche Intelligenz“ ist umstritten. Er ist auch ein Marketing- und Propagandabegriff. Präziser wäre es, von automatisierten Entscheidungssystemen zu sprechen.

Dabei müssen wir verschiedene Systeme unterscheiden. Aktuell reden wir vor allem über generative KI. Systeme wie ChatGPT oder Claude arbeiten mit mathematischen und statistischen Berechnungen. Vereinfacht gesagt berechnen sie, welches Wort oder Ergebnis mit hoher Wahrscheinlichkeit als Nächstes folgt.

Automatisierte Entscheidungssysteme beruhen auf vorhandenen Daten. Diese Daten bestimmen wesentlich, welche Antworten entstehen. Sie bilden vor allem die Vergangenheit ab, nicht die Zukunft.

Ob es in absehbarer Zeit eine allgemeine künstliche Intelligenz geben wird, ist weiterhin offen. Sie wird seit Jahren für die Zukunft angekündigt. Das ist eine große Erzählung, die auch Börsenkurse und Unternehmensbewertungen antreibt.

Auf der anderen Seite gibt es Menschen, die behaupten, eine allgemeine künstliche Intelligenz werde womöglich zu dem Schluss kommen, die Menschheit müsse ausgelöscht werden. So entsteht die sogenannte Doomsday-Perspektive.

Ich weiß nicht, wohin die Entwicklung führt. Prognosen für die nächsten Jahre fallen mir schwer. Die Modelle werden besser. Unklar ist jedoch, wie lange sich diese Entwicklung fortsetzt. Wahrscheinlich ist bereits fast alles, was sich an öffentlich verfügbaren Daten kopieren ließ, in die Trainingsbestände eingeflossen. Die Unternehmen stehen deshalb vor der Herausforderung, nicht mehr ohne Weiteres an große Mengen neuer Daten zu gelangen. Möglicherweise nähern wir uns bereits einem Höhepunkt der bisherigen Entwicklung.

Müssen wir Angst vor einer Superintelligenz haben?

von Daniels: Viele Leserinnen und Leser schreiben uns, dass sie Angst vor KI haben. Diskutiert wird etwa über Modelle, die Sicherheitssysteme von Banken, Behörden oder Staaten überwinden könnten. Müssen wir ein Katastrophenszenario vor Augen haben, bei dem zentrale Infrastrukturen zusammenbrechen?

Beckedahl: Wir müssen verschiedene Szenarien unterscheiden. Eine „Terminator“-Zukunft, in der eine allgemeine künstliche Intelligenz selbstständig Roboter baut und gegen Menschen einsetzt, halte ich kurz- und mittelfristig für unrealistisch.

Sehr realistisch ist dagegen, dass Menschen diese Technologien nutzen, um sich Vorteile zu verschaffen – wirtschaftlich, politisch oder militärisch. Das ist eine enorme Herausforderung für Machtkontrolle und gesellschaftliche Sicherheit.

Große Sprachmodelle enthalten in ihrem Trainingsmaterial auch sehr viel öffentlich zugänglichen Quellcode. Dadurch können leistungsfähige Modelle, aber auch etwas kleinere offene Systeme, mögliche Fehler und Sicherheitslücken erkennen.

Das ist eine globale Herausforderung für die IT-Sicherheit. Viele Fachleute haben große Sorgen, weil wir darauf nicht ausreichend vorbereitet sind. IT-Sicherheit wurde über Jahrzehnte häufig als optionaler Kostenfaktor behandelt. Wichtig erschien sie vielen Unternehmen erst nach einem erfolgreichen Angriff.

von Daniels: Das Problem ist also weniger eine allmächtige KI als unsere unzureichende Vorbereitung?

Beckedahl: Genau. Seit Jahrzehnten wird beispielsweise im Chaos Computer Club darüber diskutiert, sichere Software und sichere Programmiersprachen stärker zu fördern. Datenschutz, Datensparsamkeit und Sicherheit müssten von Anfang an in die Entwicklung integriert werden – „Privacy by Design“ und „Security by Design“.

In der Praxis werden Systeme häufig schnell gebaut, um ein akutes Problem zu lösen. Sicherheit kostet zunächst Zeit und Geld. Später ist bereits eine komplizierte Infrastruktur entstanden, die immer weiterentwickelt werden muss. Dann wird Sicherheit erneut nach hinten geschoben.

Eine unmittelbare Auslöschung der Menschheit durch KI erwarte ich nicht. Sehr wohl erwarte ich mehr Datenlecks, Angriffe und Sicherheitsprobleme, weil bessere Werkzeuge zum Auffinden von Schwachstellen zur Verfügung stehen. Dagegen kann man allerdings etwas tun.

Die Macht der Technologiekonzerne

von Daniels: Wie groß ist die Macht von Unternehmen wie OpenAI, Meta, Google und den Hardwareherstellern im Verhältnis zu Staaten?

Beckedahl: Wir erleben eine gewaltige Machtasymmetrie. Es handelt sich um einige der größten, reichsten und mächtigsten Unternehmen der Weltgeschichte. Sie können sehr schnell handeln und die besten Fachleute beschäftigen.

Zugleich missachten sie immer wieder Gesetze, wenn sie sich davon einen Wettbewerbsvorteil versprechen. Dadurch bauen sie ihre Monopole weiter aus.

Politik und staatliche Institutionen sind häufig überfordert. Sie müssen zunächst verstehen, was technisch geschieht. Anschließend müssen sie sich darauf einigen, wie sie reagieren wollen. Und selbst dann ziehen sie nicht immer die richtigen Schlüsse.

Wir haben das Zentrum für Digitalrechte und Demokratie gegründet, um zu einer informierteren öffentlichen Debatte beizutragen. Insbesondere Journalistinnen und Journalisten sollen schneller verstehen können, was bei neuen technischen Entwicklungen passiert und welche Fragen sie stellen müssen.

Meine Erfahrung aus rund 30 Jahren Beschäftigung mit den gesellschaftlichen Folgen der Digitalisierung ist, dass Medien mit den technischen und rechtlichen Zusammenhängen häufig überfordert sind. Dadurch übernehmen sie leicht Erzählungen, die von Interessenvertretern aus dem Silicon Valley geprägt wurden.

Big Tech unter Donald Trumps Schutzschirm

Beckedahl: Hinzu kommt, dass sich die mächtigsten Technologieunternehmen unter den politischen Schutzschirm von Donald Trump begeben haben. Bei seiner Amtseinführung saßen führende Tech-Milliardäre in der ersten Reihe.

Das Bild vermittelte zwei Botschaften: Trump zeigte, dass die Konzerne sich bei ihm eingekauft hatten. Die Unternehmen signalisierten zugleich, dass sie unter seinem Schutz standen.

Das wirkt sich auf die Europäische Union aus. Sie ist inzwischen sehr zurückhaltend, wenn es darum geht, bestehende Regeln durchzusetzen. Die Sorge lautet beispielsweise: Wenn Europa den Digital Services Act oder den Digital Markets Act konsequent anwendet, könnte Trump mit höheren Zöllen auf europäische Autos reagieren.

Daraufhin fürchtet die Bundesregierung um die deutsche Automobilindustrie und bremst möglicherweise die europäische Durchsetzung.

Deshalb braucht es eine Gegenöffentlichkeit und eine gesellschaftliche Gegenmacht, die einfordert, dass unsere Rechte geschützt werden: Demokratie, Meinungsfreiheit und fairer Wettbewerb. Genau das hatte die EU-Kommission versprochen, als sie diese Gesetze verabschiedete.

Gute Gesetze reichen nicht – sie müssen durchgesetzt werden

von Daniels: Hat die EU grundsätzlich gute Werkzeuge, nutzt sie aber nicht konsequent genug?

Beckedahl: Zunächst müssen wir bestehende Regeln anwenden. Dazu muss die EU-Kommission Ermittlungen durchführen. Die Entscheidungen müssen anschließend vor Gericht Bestand haben.

Stellt die Kommission beispielsweise fest, dass Meta suchterzeugendes Design einsetzt oder vorgeschriebene Risikoanalysen unzureichend durchgeführt hat, kann sie eine Strafe verhängen. Meta verfügt jedoch über enorme finanzielle Mittel und sehr viele Anwälte. Das Unternehmen kann Entscheidungen jahrelang vor Gericht anfechten.

Teilweise dauert es neun oder zehn Jahre, bis ein europäisches Gericht bestätigt, dass eine frühere Entscheidung der Kommission rechtmäßig war. Bis dahin hat sich der Markt längst weiterentwickelt.

Außerdem reichen die bestehenden Regeln selbst bei konsequenter Anwendung nicht aus. Für digitale Öffentlichkeiten ist der Kern des Problems noch nicht wirklich adressiert: das Geschäftsmodell der personalisierten Werbung.

Dieses Modell sorgt dafür, dass Plattformen möglichst viel Aufmerksamkeit binden wollen. Sie sammeln zahlreiche Datenpunkte und fördern Interaktionen – Likes, Dislikes, Kommentare und polarisierende Inhalte. Das Ziel ist, umfassende Profile der Nutzerinnen und Nutzer zu erstellen und personalisierte Werbung zu verkaufen.

Dieses Geschäftsmodell halte ich für gesellschaftlich schädlicher als nützlich. Die EU sollte das Modell der umfassenden Überwachung zu Werbezwecken verbieten.

Die Datenschutz-Grundverordnung und das Problem Irland

von Daniels: Was wäre eine wirklich gute Regulierung?

Beckedahl: Eine gute Regulierung ist zunächst eine, die funktioniert und durchgesetzt wird. Sie muss insbesondere gegenüber mächtigen Akteuren greifen, die Regeln bewusst verletzen. Kleine Unternehmen oder Organisationen, die versehentlich einen Fehler machen, sollten nicht die Hauptlast tragen.

Die Datenschutz-Grundverordnung ist grundsätzlich kein schlechtes Gesetz. Sie wird aber kaum effektiv durchgesetzt. Gleichzeitig haben sehr viele Menschen und kleine Unternehmen Angst davor.

Ein Geburtsfehler besteht darin, dass in erster Linie das EU-Land zuständig ist, in dem ein Unternehmen seinen europäischen Hauptsitz hat. Bei vielen Technologiekonzernen ist das Irland, bei Amazon Luxemburg.

Irland hat nur ein begrenztes Interesse an einer harten Durchsetzung, weil das Land wirtschaftlich von den Unternehmen, den Arbeitsplätzen und den Steuereinnahmen profitiert.

Das zeigt sich auch an personellen Verflechtungen: Die zuständige irische Datenschutzbehörde wurde zeitweise von Personen geprägt, die zuvor für Meta lobbyiert hatten oder später zu Kanzleien wechselten, die Meta beraten. Diese Drehtüreffekte sind hochproblematisch.

Sollten Technologiekonzerne zerschlagen werden?

von Daniels: Reicht eine bessere Durchsetzung aus? Oder müssten Konzerne ähnlich wie frühere Telefonmonopole zerschlagen werden?

Beckedahl: Der Digital Markets Act bietet Möglichkeiten, Marktmacht zu begrenzen und Wettbewerb zu ermöglichen. Diese Instrumente werden bislang zu wenig genutzt. Man sollte prüfen, ob auch große KI-Unternehmen stärker darunterfallen müssen.

Bei KI gibt es zusätzlich den AI Act, die europäische KI-Verordnung. Sie hätte besser ausgestaltet werden können. Während der Verhandlungen spielten nationale Interessen eine große Rolle.

Deutschland bremste strengere Regeln unter anderem aus der Hoffnung heraus, das deutsche Unternehmen Aleph Alpha könne zu einem großen internationalen KI-Anbieter werden. Diese Hoffnung hat sich nicht erfüllt. Trotzdem führte sie dazu, dass die Bundesregierung auf europäischer Ebene wirksamere Regeln abschwächte.

Selbst die beschlossenen Vorschriften werden teilweise nach hinten verschoben. Vorgaben für bestimmte Hochrisiko-KI-Systeme sollen erst später vollständig greifen. Im Namen der Deregulierung verzögert man also Regeln, bevor sie überhaupt richtig angewandt wurden.

„Sonst gewinnen die Chinesen“

von Daniels: Häufig wird argumentiert, Europa dürfe technologische Entwicklung nicht durch Regulierung behindern. Andernfalls würden chinesische Unternehmen den Markt übernehmen.

Beckedahl: Dieses Argument ist fast absurd. Wer behauptet, Europa dürfe keine Regeln aufstellen, weil sonst China gewinne, sollte sich die chinesische Regulierung ansehen. China hat in vielen Bereichen deutlich strengere KI-Regeln als Europa. Bestimmte Anwendungen, die bei uns erlaubt sind, sind dort verboten.

Chinas technologische Stärke beruht nicht auf fehlender Regulierung, sondern auf einer konsequenteren Industriepolitik.

Ein Beispiel sind sogenannte AI Companions – Chatbots, die virtuelle Freundschaften oder Beziehungen simulieren. Solche Systeme können insbesondere Kinder und Jugendliche, aber auch Erwachsene mit psychischen Belastungen, in problematische Abhängigkeiten hineinziehen.

China hat die Nutzung bestimmter AI Companions für Minderjährige eingeschränkt oder verboten. Vergleichbare Schutzmaßnahmen sollten wir ebenfalls diskutieren.

Warum fehlen große europäische KI-Unternehmen?

von Daniels: Warum kommen die führenden KI-Angebote fast immer aus den USA oder China? Ein großer Teil der Grundlagenforschung stammt schließlich aus Deutschland und Europa.

Beckedahl: Mit Mistral gibt es beispielsweise ein relevantes französisches Unternehmen. Europäische Anbieter haben den Vorteil, dass sie sich an die Datenschutz-Grundverordnung halten müssen und unter Umständen vertrauenswürdiger sein können als Unternehmen aus dem Silicon Valley.

Gleichzeitig sind die traditionellen großen Technologiekonzerne längst eng mit den neuen KI-Unternehmen verflochten. Microsoft arbeitet eng mit OpenAI zusammen, Amazon und Google investieren in Anthropic. Die Konzerne liefern Kapital, Cloud-Infrastruktur und Rechenleistung. Das gesamte Feld ist stark miteinander verschmolzen.

Europa hat dagegen zu viele Mitgliedstaaten, die vor allem ihren eigenen Vorteil suchen. Gemeinsame Projekte scheitern häufig daran, dass jedes Land oder Unternehmen besser dastehen möchte als die anderen.

Zudem steht weniger Risikokapital zur Verfügung. Der Staat kauft häufig Lösungen ein, die ihm von Lobbyisten angeboten werden, anstatt seine eigene Marktmacht als großer Auftraggeber strategisch zu nutzen.

Dieses Problem wird langsam erkannt. Die Schritte sind aber zu klein und zu langsam.

von Daniels: Gibt es ein europäisches Projekt, das mit Airbus vergleichbar wäre?

Beckedahl: Airbus entstand in einer anderen Zeit und unter anderen Bedingungen. Es ist bezeichnend, dass wir es bislang nicht einmal geschafft haben, ein wirklich leistungsfähiges gemeinsames deutschsprachiges Large Language Model zu entwickeln.

Es gab verschiedene Konsortien und Projekte. Häufig waren Industrieunternehmen, Forschungseinrichtungen und andere Beteiligte nicht in der Lage, dauerhaft zusammenzuarbeiten. Irgendjemand wollte sich stets einen zusätzlichen Vorteil gegenüber den anderen sichern.

Ein kleiner Hoffnungsschimmer ist, dass Bundesregierung und EU-Kommission das Problem mittlerweile erkannt haben. Ob die eingeleiteten Maßnahmen ausreichen, bezweifle ich. Sie kommen zu spät, sind zu langsam und entsprechen nicht der Geschwindigkeit der Konkurrenz.

Wir hätten gestern in Alternativen investieren müssen, um heute Wahlfreiheit zu haben. Wenn wir heute nicht investieren, werden wir morgen ebenfalls keine Wahlfreiheit besitzen.

Brauchen wir eine öffentliche KI?

von Daniels: Wäre eine Art „Public AI“ denkbar – also eine öffentlich finanzierte oder gemeinwohlorientierte KI, die demokratischen Werten verpflichtet ist und auf verlässlichen Informationen beruht?

Beckedahl: Ja, das ist grundsätzlich realistisch. Wir müssen allerdings genauer bestimmen, was wir benötigen.

Brauchen wir wirklich ein riesiges Modell, das angeblich jedes Problem lösen kann? Das wäre vielleicht so, als würde man mit einem Panzer Brötchen holen, obwohl der Bäcker nur 100 Meter entfernt ist.

Sinnvoller wäre es, zunächst zu fragen: Welche gesellschaftlichen Probleme wollen wir lösen? Welche spezialisierten Modelle benötigen wir dafür? Wie schaffen wir Transparenz über die Trainingsdaten und die Funktionsweise?

Dafür braucht es finanzielle Förderung und Kooperationen zwischen Universitäten, Unternehmen und zivilgesellschaftlichen Organisationen. Entscheidend ist, dass die mit öffentlichem Geld entwickelten Ergebnisse nicht anschließend vollständig in privatem Firmeneigentum verschwinden. Sie müssen der Allgemeinheit zur Verfügung stehen.

Es gilt das Prinzip: „Public Money, Public Code.“ Was öffentlich finanziert wurde, sollte als offene Infrastruktur nutzbar sein. Dieses Prinzip sollte auch für KI gelten.

Rechenzentren als öffentliche Infrastruktur

Beckedahl: Überall werden neue Rechenzentren gebaut. Ich habe keine abschließende Meinung dazu, ob mehr Rechenzentren grundsätzlich gut oder schlecht sind. Sie müssten jedenfalls ökologisch nachhaltig errichtet werden.

In den USA werden teilweise Umweltregeln beiseitegeschoben, um möglichst schnell neue Rechenzentren zu bauen – auch an Orten, an denen Wasser oder Strom knapp sind.

Wenn Mark Zuckerberg ein Rechenzentrum mit einer Leistung von fünf Gigawatt ankündigt, können sich viele Menschen unter dieser Zahl wenig vorstellen. Fünf Gigawatt entsprechen ungefähr der Leistung mehrerer großer Kraftwerke.

Wenn Unternehmen solche Zentren bauen und dafür lokale Ressourcen wie Strom und Grundwasser verbrauchen, könnte man sie verpflichten, einen Teil der Rechenkapazität der Allgemeinheit zur Verfügung zu stellen. Das wäre eine Art „Public Computing“.

Auch bei anderen Infrastrukturen gab es vergleichbare Gegenleistungen: Private Anbieter durften öffentliche Ressourcen nutzen, mussten dafür aber bestimmte gemeinwohlorientierte Leistungen erbringen.

Wie KI die Demokratie stärken könnte

von Daniels: Kann KI demokratische Prozesse verbessern und mehr Teilhabe ermöglichen?

Beckedahl: Es gibt viele Möglichkeiten. Stellen wir uns vor, der Staat würde das Informationsfreiheitsrecht nicht einschränken, sondern ein echtes Transparenzgesetz schaffen. KI könnte helfen, große Mengen von Verwaltungsakten durchsuchbar und für Bürgerinnen und Bürger verständlicher zu machen.

Es gibt bereits kleinere Werkzeuge, mit denen sich beispielsweise Bundestagsreden vollständig durchsuchen lassen. Das erleichtert es Menschen, sich mit parlamentarischen Debatten auseinanderzusetzen.

Auch Bürgerbeteiligungsverfahren könnten besser strukturiert werden. KI könnte Argumente ordnen, Pro- und Contra-Positionen zusammenfassen und große Mengen an Eingaben auswertbar machen.

Dabei muss immer geprüft werden, wie ein System gestaltet ist, wie nachvollziehbar es arbeitet und welche Interessen einfließen.

Auch Verwaltungsabläufe könnten dort automatisiert werden, wo heute aufwendige analoge Prozesse bestehen. Technologie kann viel beitragen, insbesondere weil dem Staat Personal und finanzielle Mittel fehlen.

Automatisierung in der Verwaltung

von Daniels: Viele Menschen befürchten, dass durch KI Arbeitsplätze in der Verwaltung verloren gehen. Außerdem erleben wir heute häufig fehlerhafte Chatbots, die komplizierte Anliegen nicht lösen können. Entfernen wir uns durch solche Systeme nicht noch weiter voneinander?

Beckedahl: Ich bin nicht davon überzeugt, dass in der Verwaltung massenhaft Arbeitsplätze wegfallen werden. Das größere Problem ist, dass viele Beschäftigte in den kommenden Jahren in den Ruhestand gehen und nicht genügend Nachwuchs vorhanden ist.

Wir müssen deshalb Prozesse verbessern, damit der Staat trotz des Personalmangels funktionsfähig bleibt.

Natürlich sollte man nicht einfach ChatGPT oder Claude auf Verwaltungsprozesse loslassen. Wir brauchen nachvollziehbare Systeme und unabhängige Kontrollinstanzen.

Das könnten Datenschutzbehörden sein. Denkbar wären auch zertifizierte zivilgesellschaftliche Organisationen oder wissenschaftliche Einrichtungen, die externe Audits durchführen. Voraussetzung ist, dass die Systeme offen genug sind, damit ihre Funktionsweise überprüft werden kann.

Gegen sorgfältig kontrollierte Experimente hätte ich nichts einzuwenden.

von Daniels: Gibt es in der Bundesregierung bereits entsprechende Ansätze?

Beckedahl: Ja, insbesondere im Digitalministerium arbeiten motivierte Menschen an solchen Projekten. Es sind allerdings eher kleine Schritte. Vieles kommt spät und wird mit so wenig Geld ausprobiert, dass unklar bleibt, wann daraus skalierbare Lösungen entstehen.

Trotzdem sehe ich Fortschritte gegenüber früher.

Was in den nächsten Jahren geschehen müsste

von Daniels: Welche drei oder vier Maßnahmen sollten in den kommenden ein bis fünf Jahren konkret umgesetzt werden?

Beckedahl: Erstens müssen die Aufsichtsbehörden personell deutlich besser ausgestattet werden. Dort arbeiten qualifizierte Menschen, aber viel zu wenige. Auf der Gegenseite stehen die reichsten und mächtigsten Unternehmen der Welt, die nahezu beliebig viele Anwaltskanzleien und Fachleute beschäftigen können.

Zweitens benötigen wir Alternativen zu den großen Technologiekonzernen. Wir müssen massiv in digitale Souveränität investieren.

Wenn die Bundesregierung ein Sondervermögen von 500 Milliarden Euro für Infrastruktur schafft, ist der Anteil für digitale Souveränität viel zu gering.

Der Bund gibt auf Bundesebene jährlich rund 500 Millionen Euro allein für Microsoft-Lizenzen aus. Gleichzeitig diskutiert die EU über ein Förderprogramm für offene digitale Infrastrukturen mit einem Gesamtvolumen von rund zwei Milliarden Euro, verteilt über mehrere Jahre.

Das bedeutet: Europa würde pro Jahr möglicherweise nur 250 bis 280 Millionen Euro in offene digitale Infrastruktur investieren, während Deutschland allein ungefähr das Doppelte für Microsoft-Lizenzen ausgibt.

Die EU und ihre Mitgliedstaaten geben insgesamt sehr viel Geld für digitale Infrastruktur aus. Ein erheblicher Teil davon fließt an Unternehmen in den USA. Das Geld ist vorhanden – es fließt nur in die falsche Richtung.

Drittens müssen wir die Zivilgesellschaft stärker einbinden und bestehende Rechte praktisch nutzbar machen.

Der Digital Services Act sieht beispielsweise einen Datenzugang für zertifizierte Forschende und zivilgesellschaftliche Organisationen vor. Sie sollen untersuchen können, wie große Plattformen funktionieren, und Aufsichtsbehörden beraten. Dieser Zugang funktioniert bislang nicht ausreichend, weil sich die Unternehmen massiv dagegen wehren.

Viertens müssen Unternehmen mit großer Marktmacht zur Interoperabilität verpflichtet werden. Sie müssen ihre Systeme so weit öffnen, dass Konkurrenz möglich wird.

Geschäftsgeheimnisse oder demokratische Kontrolle?

von Daniels: Unternehmen berufen sich auf Geschäftsgeheimnisse. Ist es realistisch, dass sie ihre Systeme öffnen?

Beckedahl: Beim Recht auf Datenzugang geht es nicht darum, sämtliche Geschäftsgeheimnisse zu veröffentlichen. Es geht darum, Mechanismen zu kontrollieren, die unsere öffentlichen Debatten bestimmen.

Daran besteht ein legitimes demokratisches Interesse. Wir können diesen Unternehmen und ihren Eigentümern nicht blind vertrauen. Deshalb müssen unabhängige Stellen bestmöglich überprüfen können, wie ihre Systeme funktionieren.

Interoperabilität soll Wettbewerb ermöglichen. Viele Unternehmen haben aufgrund ihrer Geschwindigkeit, unfairer Praktiken und einer zu schwachen Regulierung Monopole aufgebaut. Wo es möglich ist, sollten solche Konzerne auch zerschlagen werden.

Google oder Amazon sind unter anderem deshalb so mächtig, weil sie gleichzeitig verschiedene Märkte kontrollieren und miteinander verknüpfen.

Kann die EU amerikanische Konzerne zerschlagen?

von Daniels: Die Unternehmen sitzen überwiegend in den USA. Müssten nicht die Vereinigten Staaten selbst deren Marktmacht begrenzen?

Beckedahl: Warum sollte die EU das nicht tun können? Sie ist mit rund 450 Millionen Bürgerinnen und Bürgern der größte demokratische Binnenmarkt der Welt.

Europa kann ausländischen Unternehmen Bedingungen stellen: Wer auf unserem Markt tätig sein will, muss unsere Regeln beachten.

Man könnte Google beispielsweise vorschreiben, dass YouTube, die Suchmaschine und Android in Europa von voneinander getrennten rechtlichen Einheiten betrieben werden müssen. In den USA könnten sie weiterhin zu einem Konzern gehören. Für den europäischen Markt müssten sie jedoch organisatorisch und wirtschaftlich getrennt werden.

Der Digital Markets Act und der Digital Services Act sehen weitreichende Maßnahmen als letztes Mittel grundsätzlich vor. Wir haben kaum Beispiele dafür, weil sich die EU bislang nicht getraut hat, diese Möglichkeiten auszuschöpfen.

Ein früheres Beispiel sind die Übernahmen von Instagram und WhatsApp durch Facebook. Mark Zuckerberg versprach damals, die Dienste nicht vollständig miteinander zu verschmelzen. Auf dieser Grundlage genehmigte die EU-Kommission die Übernahmen.

Später wurde dieses Versprechen gebrochen. Die EU hätte prüfen können, ob sie die Genehmigung zurückzieht oder andere einschneidende Maßnahmen ergreift. Das geschah nicht.

Chancen, Risiken und persönliche Zweifel

von Daniels: Viele Menschen erwarten überwiegend negative Folgen von KI. Wie blickst du persönlich auf die Entwicklung? Glaubst du, dass KI einen positiven gesellschaftlichen Effekt haben kann, oder bewegen wir uns eher in eine gefährliche Richtung?

Beckedahl: Das schwankt bei mir je nach Stimmung.

Ich mache mir große Sorgen über den enormen Ressourcenverbrauch. Rechenzentren und die benötigte Rechenleistung könnten die Klimaerwärmung weiter beschleunigen.

Außerdem werden viele Menschen die neuen technischen Möglichkeiten nutzen, um sich wirtschaftliche, politische oder ideologische Vorteile zu verschaffen.

Ein Beispiel ist der Enkeltrick. Bisher konnte man älteren Angehörigen sagen: Wenn euch jemand über WhatsApp kontaktiert und behauptet, ich sei es, glaubt das nicht. Künftig können Betrüger jedoch täuschend echte Stimmen oder Deepfake-Videos erzeugen. Der Betrug wird glaubwürdiger und lässt sich automatisieren.

Deepfakes haben ein enormes Missbrauchspotenzial. Sie werden insbesondere von Männern genutzt, um Frauen anzugreifen und digitale Gewalt auszuüben.

Hinzu kommt das Problem der Desinformation. Akteure, die sich persönliche oder politische Vorteile verschaffen und demokratische Strukturen schwächen wollen, erhalten Werkzeuge mit bislang kaum vorstellbaren Möglichkeiten. Sie setzen diese Werkzeuge bereits ein.

Gleichzeitig erlebe ich im Alltag die Vorteile von KI.

Meine größte Sorge ist deshalb nicht die Technik allein. Es ist die Abhängigkeit von wenigen Unternehmen, denen wir nicht vertrauen können und sollten. Diese Unternehmen dringen noch tiefer in unser Leben ein als die sozialen Netzwerke. Sie wissen sehr viel über uns und können stärker beeinflussen, was wir sehen, woran wir glauben, was wir denken und möglicherweise auch, wie wir wählen.

Fazit

von Daniels: Wir schwanken als Gesellschaft vermutlich ebenfalls zwischen Hoffnung und Sorge.

Ein möglicher Weg zu mehr demokratischer Kontrolle ist eine öffentliche oder öffentlich finanzierte KI-Infrastruktur – unabhängig davon, ob sie von staatlichen Stellen, gemeinnützigen Organisationen oder anders organisierten Unternehmen betrieben wird.

Dafür braucht es politische Entschlossenheit, offene technische Standards, eine starke Zivilgesellschaft und sehr viel größere Investitionen in digitale Souveränität.

Vielen Dank für das Gespräch.

Beckedahl: Danke.