Mittels Künstlicher Intelligenz (KI) generierte Deepfakes, also manipulierte, aber täuschend echt wirkende Videos und Fotos, kommen in politischen Auseinandersetzungen und somit auch im Wahlkampf immer häufiger zum Einsatz. Meist zielen sie darauf ab, den politischen Gegner zu verunglimpfen oder persönlich anzugreifen. Dies wird derzeit im US-amerikanischen Zwischenwahlkampf besonders deutlich. Doch nicht nur dort kritisieren Politikbeobachter und Medienexperten fehlende Regeln für die Verwendung von KI in politischen Botschaften. Auch hierzulande warnte jüngst der Verfassungsschutz in Baden-Württemberg vor der dortigen Landtagswahl vor Desinformation durch Deepfakes und damit verbundenen Gefahren für die Demokratie.

Beispielhaft für den US-Zwischenwahlkampf berichtet die Nachrichtenagentur Reuters von einem Video, das den demokratischen texanischen Abgeordneten James Talarico strahlend vor einer Flagge des US-Bundestaates zeigt. Der junge Politiker scheint in die Kamera zu sagen: „Radikalisierte weiße Männer sind die größte inländische terroristische Bedrohung in unserem Land.“ Derweil flüstert eine Stimme im Hintergrund „weiße Männer“ und Talarico fährt fort: „So wahr. So wahr.“

KI-generierte Fälschungen

Doch Talarico habe dieses Video nie gedreht, stellt Reuters klar. Vielmehr handelt es sich demnach bei dem Video-Clip um eine KI-generierte Anzeige des National Republican Senatorial Committee (NRSC), einer Wahlkampforganisation der Republikaner für den Senat. Darin zitierte ein computerveränderter Talarico Social-Media-Posts, die er Jahre zuvor verfasst hat. Der Hinweis „KI-generiert“ erscheine in einer leicht zu übersehenden Schriftart in der unteren rechten Ecke, beschreibt die Nachrichtenagentur.

Laut Reuters stellt dieses Video nur die Spitze einer Vielzahl von Deepfake-Anzeigen dar, die bereits im Rahmen von Partei-Kampagnen eingesetzt werden, um Wähler im Vorfeld der „Midterm Elections” frühzeitig zu beeinflussen. Diese Zwischenwahlen, die zur Halbzeit einer Präsidentschaft stattfinden, gelten als Abstimmung über die bisherige Amtsführung. In diesem Jahr stehen die Republikaner und Präsident Trump nach Einschätzung von Beobachtern massiv unter Druck.

Nicht nur ein US-Phänomen

Wer meint, bei diesen Deepfake-Operationen handele es sich um ein speziell US-amerikanisches Phänomen, irrt. So warnte der Verfassungsschutz kurz vor der Landtagswahl in Baden-Württemberg Anfang März vor der Verbreitung von Desinformation durch „in- und ausländische Akteure“. Diese versuchten gerade mittels KI-generierter Inhalte und sogenannter Deepfakes, die freie Meinungsbildung zu beeinflussen.

Täuschend echte Audio-Aufnahmen von Kandidierenden, Anrufe durch KI-generierte Stimmen von Politikern, bis ins kleinste Detail gefälschte Nachrichtenseiten – all dies sei heute mit Künstlicher Intelligenz bereits möglich, erläuterte das Landesamt. Seine Befürchtung: Wenn Wählerinnen und Wähler nicht mehr unterscheiden können, ob ein Video echt ist oder ein Kommentar von einer KI generiert wurde, „bricht die Vertrauensbasis weg, die für den demokratischen Meinungs- und Willensbildungsprozess von entscheidender Bedeutung ist.“

Verfassungsschutz warnt

Als eine „große Gefahr“ hebt der Verfassungsschutz insbesondere KI-generierte Bilder hervor. Denn sie wirkten täuschend echt und könnten Politikerinnen und Politiker in Situationen zeigen, die nie stattgefunden haben mit Aussagen, die nie getätigt wurden, begründen die Verfassungsschützer ihre Warnung. Solche Bilder untergraben demnach Vertrauen, schüren Zweifel und beeinflussen Wahlentscheidungen, noch bevor ihre Echtheit hinterfragt wird. Um die Gesellschaft und den demokratischen Prozess zu schützen, sei es wichtig, die Bürgerinnen und Bürger aktuell und sachlich über Desinformation oder KI-Fälschungen zu informieren, fordert die für den Schutz der freiheitlichen demokratischen Grundordnung in Deutschland zuständige Behörde.

Ein Problem in dem Zusammenhang, das sowohl für Deutschland, die meisten europäischen Länder als auch die USA zutrifft, sind fehlende staatliche Regeln für den Einsatz von KI zur Vermittlung politischer Botschaften und somit auch für Wahlkämpfe. Dabei ist Künstliche Intelligenz inzwischen aus politischen Schlagabtauschen kaum noch wegzudenken. Und die Beispiele missbräuchlicher Verwendung mehren sich, sowohl hierzulande als auch aktuelll in den USA, wie Medienberichte immer wieder deutlich machen.

„Wild-West-Stimmung“

Beim Einsatz von KI herrsche „eine Art Wild-West-Stimmung“ – und das bei fast allen Parteien, fasst Der Spiegel eine Auswertung des Politikberaters Martin Fuchs und des Vereins AI4Democray zusammen. Fuchs befragte die Landesparteien in den fünf Bundesländern, in denen in diesem Jahr gewählt wurde oder noch gewählt wird, zu ihrer KI-Nutzung. Ergebnis: Offen reden über den internen KI-Einsatz mag kaum jemand, Fairness-Zusagen gibt keine Partei ab – oft mit dem Hinweis, dass ja die anderen Parteien sich nicht an Vereinbarungen halten würden, so Der Spiegel.

Es existiere aktuell weder ein Bewusstsein noch ein ethischer Rahmen für den Einsatz von KI, zitiert das Magazin Politikberater Fuchs. Auch er warnt, dass der unreflektierte Einsatz von KI zu weiterem Vertrauensverlust in einer Bevölkerung führe, „die jetzt schon nicht weiß, was sie glauben soll und was nicht“. Am Ende sei es nicht das manipulierte Video, das zur Gefahr werde, sondern das dadurch erzeugte Grundmisstrauen, befürchtet Fuchs.

Klare Kennzeichnungspflichten und mehr Medienkompetenz gefordert

Dem gegenüber stehen Parteien, für die es im jeweiligen Wahlkampf um viel geht, für die viel auf dem Spiel steht. Gleiches gilt für politische Interessengruppen. Ihnen kann gezielte Desinformation mittels KI-generierter Deepfakes in die Karten spielen. Und wo keine Regeln, da kein Richter…

Vor dem Hintergrund mehren sich die Warnungen vor den Folgen dieser Form der unreglementierten politischen Auseinandersetzung. In dem aktuellen Bericht der Nachrichtenagentur Reuters etwa mahnt Daniel Schiff, Professor an der Purdue University, der Tausende von Deepfakes untersuchte, dass der zunehmende Einsatz politischer Inhalte, die Fehlinformationen verbreiten, das Risiko berge, das Vertrauen der US-Wähler in Institutionen weiter zu untergraben.

Angesichts der Chancen, die KI für die Vermittlung politischer Botschaften eröffnet, aber auch der damit verbundenen Risiken von Desinformation, halten Kommunikationswissenschaftler wie Dr. Simon Kruschinski vom Institut für Publizistik der Johannes Gutenberg-Universität Mainz (JGU) „klare Kennzeichnungspflichten, ethische Standards und mehr Medienkompetenz unter der Bevölkerung“ für dringend erforderlich, „um einen transparenten und verantwortungsvollen KI-Einsatz sicherzustellen“. Er stellte gemeinsam mit einem Forscherteam in einer Studie über Akzeptanz, Wahrnehmung und Wirkung von KI-generierten Inhalten der Politik zudem fest, dass die Bundesbürger den Einsatz von KI in politischen Kampagnen überwiegend ablehnen.

Die deutsche Bevölkerung sehe mehr Risiken als Chancen durch den Einsatz von KI-generierten politischen Inhalten und wünsche sich verbindliche Regeln zur Überprüfung und Transparenz, fasst Kruschinski die Studienergebnisse zusammen. Am Ende lägen die Herausforderungen allerdings nicht in der neuen Technologie selbst begründet, sondern in der Art, wie politische Kampagnen sie einsetzen, betont der Wissenschaftler.

Weiterführende Informationen:

• https://www.tagesschau.de/inland/innenpolitik/bots-fakes-wahlkampf-100.html
• https://www.verfassungsschutz-bw.de/,Lde/Startseite/Meldungen+und+Archiv/KI-generierte+Inhalte+und+Deepfakes+im+Wahlkampf
• https://www.golem.de/news/politik-parteien-nutzen-vermehrt-ki-generierte-videos-2604-207261.html
• https://www.ardmediathek.de/video/phoenix-plus/ki-wahl-kampf-demokratie-in-gefahr/phoenix/Y3JpZDovL3Bob2VuaXguZGUvNDc4NDU5Nw

llustration: shutterstock.com / elenabsl

The post Deepfakes im politischen Diskurs first appeared on Academic Society for Artificial Intelligence.

„Trump sanktioniert KI-Entwickler, der Menschen vor KI schützen will“. So überschreibt das deutsche Wirtschaftsmagazin „Capital“ jetzt einen Bericht über den aktuellen Streit zwischen dem US-amerikanischen KI-Unternehmen Anthropic und der Trump-Regierung. Dabei weigert sich Anthropic, die eigenen ethischen Richtlinien für das Pentagon zu lockern. Daraufhin schloss US-„Kriegsminister“ Pete Hegseth Anthropic von allen Regierungsaufträgen aus.

Hegseth erklärte KI-Hersteller Anthropic sogar kurzerhand zu einem „Lieferkettenrisiko“ für die nationale Sicherheit und hielt Anthropic-Chef Dario Amodei „Arroganz“ und „Heimtücke“ vor, die das Leben von US-Soldaten gefährde. Unterstützung bekam der Minister postwendend von US-Präsident Donald Trump, der laut einem Report des „Handelsblatt“ über das Sprachmodell Claude von Anthropic wetterte: „Wir benötigen es nicht, wir wünschen es nicht und werden keine weiteren Geschäfte mit ihnen tätigen“. Nun soll Anthropic-Technologie binnen sechs Monaten aus allen Ministerien und Bundesbehörden der USA verschwinden, so die Entscheidung von Trump und Hegseth. Stattdessen wurde Konkurrent OpenAI ausersehen, den Platz des Mitbewerbers einzunehmen, den Trump einer Meldung der „Tagesschau“ zufolge als „radikal linkes, wokes Unternehmen“ beschimpfte.

Rote Linien

Im Kern der Auseinandersetzung zwischen der Trump-Regierung und dem US-KI-Entwickler geht es um Grundsatzfragen zu Sicherheit und Einsatzgrenzen von KI. Das US-Verteidigungsministerium will Anthropic zwingen, seine KI-Modelle uneingeschränkt für alle rechtmäßigen militärischen Anwendungen zu öffnen. Dagegen begründete Anthropic-CEO Dario Amodei die Weigerung seines Unternehmens mit zwei roten Linien, die nicht überschritten werden dürften, wie die Frankfurter Rundschau (FR) erläutert. Die erste lautet demnach: KI soll keine autonomen Waffen steuern, bei denen Maschinen selbstständig töten. Und die zweite: KI soll nicht zur Massenüberwachung von US-Bürgern eingesetzt werden.

KI beim Iran-Angriff eingesetzt

Besondere Brisanz hat das Zerwürfnis vor dem aktuellen Hintergrund, dass Berichten der US-Medien „Wall Street Journal“ und „Axios“ zufolge das Pentagon zur Vorbereitung und Durchführung des Bombardements im Iran auch die Technik des KI-Konzerns Anthropic genutzt haben soll. Nach übereinstimmenden US-Medienberichten soll der Streit zwischen der US-Regierung und Anthropic weniger als 24 Stunden vor dem Angriff auf den Iran eskaliert sein, wie es in der FR heißt. Danach wertete das Anthropic-KI-Modell Claude bei der Vorbereitung des US-Militärschlags gegen den Iran Geheimdienstinformationen aus, unterstützte bei der Zielerfassung und soll außerdem für Schlachtfeldsimulationen genutzt worden sein. Schon Anfang Januar, bei der Entführung des venezolanischen Präsidenten Nicolás Maduro, habe das Pentagon Claude militärisch genutzt, zitiert die FR weitere übereinstimmende Medienberichte.

Die beiden roten Linien, die Anthropic-Chef Amodei bei der Nutzung von KI gezogen wissen möchte, betreffen die Befürchtung, Künstliche Intelligenz könne sich verselbstständigen. Hierzu verweist die FR auf einen im Januar dieses Jahres veröffentlichten Essay mit dem Titel „The Adolescence of Technology“, zu deutsch „Die Pubertät der Technologie“, in dem der KI-Firmenchef Künstliche Intelligenz einerseits als eine Sache lobt, die die Menschheit voranbringt. Allerdings weise er darin auch auf Gefahren hin, die man sehen sollte, wenn man leistungsstarke Technologie nutze und entwickele, schreibt die Zeitung. Und diese Risiken begründen unter anderem seine roten Linien.

Amodei warnt vor KI-Risiken

Bezogen auf die erste rote Linie – die autonomen Waffen – warnt Amodei davor, dass KI sich verselbstständigen könne. Es bestehe das Risiko, dass die Technologie eigene Ziele finde, die nicht zwangsläufig mit denen der Menschen übereinstimmen müssten, zitiert die FR aus dem Essay. Dabei verweist der Anthropic-Chef explizit auf das Zerstörungspotenzial von KI, falls sie zur Entwicklung von Biowaffen eingesetzt würde.

Hinsichtlich seiner zweiten roten Linie, Massenüberwachung betreffend, befürchtet Amodei demnach, dass KI von Autokraten für die bewusste Streuung von Fehlinformationen genutzt werden könnten, um Macht zu erlangen und zu behaupten.

Auf diese potentiellen Gefahren von KI hätten Anthropic und Firmenchef Amodei immer wieder hingewiesen, stellt die FR fest. Das Unternehmen war 2021 von sieben ehemaligen OpenAI-Mitarbeitenden gegründet worden. Sie verließen die Firma von Sam Altman mit der Begründung, das Vertrauen darin verloren zu haben, dass OpenAI die neuartige Technologie in einer Weise entwickle, die der Gesellschaft förderlich ist.

Nun soll OpenAI als Nachfolger die millionenschweren Aufträge der US-Regierung von Anthropic übernehmen – weil Amodei sich weigert, die ethischen Leitlinien seines Unternehmens für das US-„Kriegsministerium“ zu lockern. In dieser Hinsicht übte sich OpenAI daraufhin zwar öffentlich in Solidarität mit dem Konkurrenten. Anthropic solle nicht als „Lieferkettenrisiko“ eingestuft werden, wie es Minister Hegseth angekündigt hatte, diese Position hierzu habe man gegenüber der Regierung deutlich gemacht, zitiert die „Zeit“ aus einer entsprechenden Pressemitteilung von OpenAI. Doch bekannt ist eben auch, dass OpenAI-Chef Sam Altman und Anthropic-CEO Dario Amodei im Hinblick auf das Konfliktthema, wie weit die Verantwortung von KI-Entwicklern für die Eigenständigkeit von Anwendungen Künstlicher Intelligenz geht, sehr unterschiedlicher Ansicht sind. Der Zwist der beiden soll sogar soweit gehen, dass sie sich bei öffentlichen Auftritten den Handschlag verweigerten. Altman werde schon länger eine Nähe zu Trump nachgesagt, merkt die „Zeit“ dazu an.

Mitarbeiter fordern rote Sicherheitslinien

Unterdessen veröffentlichten Mitarbeiter von Google, Anthropic und OpenAI einen gemeinsamen offenen Brief, in dem sie rote Linien für KI-Nutzung postulieren. Konkret gleichen ihre Forderungen den roten Linien von Anthropic: keine Überwachung amerikanischer Bürger und keine autonomen Waffen ohne menschliche Beteiligung. Laut einem Bericht des „Wall Street Journal“ soll OpenAI-Chef Sam Altman seinen Mitarbeitern versichert haben, das Unternehmen arbeite an einem Vertrag mit dem Pentagon, der die gleichen Sicherheitsrichtlinien beinhalte wie die von Anthropic geforderten.

Weiterführende Informationen:

• https://www.capital.de/wirtschaft-politik/anthropic–trump-sanktioniert-den–der-menschen-vor-ki-schuetzen-will-37186850.html
• https://www.fr.de/wirtschaft/trump-bestraft-ki-konzern-anthropic-mit-hartem-bann-94196139.html
• https://www.faz.net/aktuell/wirtschaft/unternehmen/open-ai-gibt-fehler-im-umgang-mit-dem-pentagon-zu-und-verliert-kunden-110847102.html
• https://the-decoder.de/widerstand-gegen-pentagon-anthropic-google-und-openai-mitarbeiter-fordern-rote-linien-fuer-ki-nutzung/

llustration: shutterstock.com / Gorodenkoff

The post Rote Linien: Warum ein KI-Konzern den US-Präsidenten herausfordert first appeared on Academic Society for Artificial Intelligence.

Die Ergebnisse zeigen, dass öffentliche Hochschulen gute Grundlagen für den Einsatz von KI geschaffen haben. Das HFD wertet dies als Zeichen, dass KI zur neuen Hochschulrealität gehört. So sieht es auch Professor Marco Barenkamp, KI-Experte und Gründer der auf KI-Entwicklungen spezialisierten LMIS AG:

„Für Hochschulen kann die Frage nicht lauten ‚KI – ja oder nein‘, sondern wie sie diese Entwicklung so gestalten, dass wissenschaftliche Qualität, Souveränität und Innovationskraft gleichermaßen profitieren.“

Vision gesucht: Defizite in der langfristigen Orientierung

Trotz der operativen Fortschritte offenbart der KI-Monitor 2025 Defizite in der strategischen Ausrichtung. Es fehle weiterhin an einer klaren Vision, wie Hochschulbildung im Zeitalter von KI gestaltet sein soll. Laut der Studie beschäftigen sich zwar 97 Prozent der Hochschulen mit KI in Prüfungen und 87 Prozent haben ihre Eigenständigkeitserklärungen aktualisiert – aber nur 43 Prozent haben die Prüfungsordnung generell angepasst.

Mit 90 Prozent stellen die Auswirkungen von KI auf die akademische Integrität das vorrangig diskutierte Thema dar. Die Autoren der Studie betonen, dass vor allem in der Prüfungspraxis und beim wissenschaftlichen Arbeiten die stärksten Veränderungen erwartet werden. Hier werden die größten Handlungsbedarfe wahrgenommen, da gegenwärtige Praktiken durch KI zunehmend an ihre Grenzen stoßen.

Prüfungen im Wandel

Den größten Handlungsdruck sehen die Hochschulen selbst im Prüfungswesen. Hinsichtlich dieser Auswirkungen stellt Barenkamp, Honorarprofessor für Wirtschaftsinformatik an der Hochschule Osnabrück, fest, dass sich Prüfungen von einer reinen Ergebnisorientierung hin zu Prozess- und Verständnisorientierung entwickeln müssten.

„Wenn Texte in guter Qualität generiert werden können, halte ich die Frage ‚Wer hat das formuliert?‘ für weniger relevant als das Kriterium ‚Versteht die Kandidatin oder der Kandidat den Inhalt, kann sie oder er ihn erklären und auf neue Fälle anwenden?‘.

Deshalb meint er, dass mündliche Prüfungen, Präsentationen und dialogische Formate in der Hochschulpraxis an Bedeutung gewinnen dürften. Ergänzend könnten klare Transparenzregeln einen verlässlichen Rahmen dafür bieten, wie KI in Prüfungsleistungen eingesetzt werden darf und wie Studierende diesen Einsatz kenntlich zu machen haben. In diesem Kontext könne auch die kompetente Nutzung von KI bei der Erarbeitung eines Ergebnisses selbst Gegenstand der Bewertung sein, etwa im Hinblick auf die zielgerichtete Auswahl, kritische Steuerung und reflektierte Einordnung der KI-generierten Beiträge.“

Angesichts der noch unzureichend angepassten Prüfungsordnungen monieren die Experten des HFD, dass die rechtliche Basis für innovative Formate oft ungenutzt bleibe. Viele Hochschulen befinden sich in einem Spannungsfeld zwischen kurzfristigen Anpassungen und einer grundlegenden Weiterentwicklung ihrer Modelle, was das HFD als „gefährliche Grauzone“ bezeichnet.

Die Gefahr einer digitalen Spaltung der Hochschullandschaft

Ein zentraler Punkt des Monitors ist die Sorge vor einer Zwei-Klassen-Gesellschaft. Während große Universitäten Lizenzen für Modelle wie Gemini 3 finanzieren können, drohen kleinere Hochschulen den Anschluss zu verlieren. Fast dreimal so viele Vertreter großer Hochschulen gaben an, dass die Budgetentwicklung für langfristige KI-Nutzung auf der Agenda stehe, im Vergleich zu kleineren Einrichtungen.

Interessant ist hierbei der Trendwechsel: Im „Monitor Digitalisierung 360°“ (2023/24) reagierten große Hochschulen noch eher träge auf KI. Dieser Effekt ist nun verflogen – in vielen Handlungsfeldern liegen die großen Institutionen laut der aktuellen Befragung inzwischen weit vorne.

Befragt nach einer expliziten KI-Strategie geben 15 Prozent der Hochschulen an, bereits über eine solche zu verfügen. Weitere 50 Prozent entwickeln derzeit eine Strategie, während 35 Prozent noch keine vorweisen können. Unterm Strich stellt das HFD fest, dass die Relevanz der strategischen Auseinandersetzung zwar verstanden wurde, die Umsetzung aber variiert. Signifikante Unterschiede zwischen HAWs und Universitäten lassen sich dabei bisher nicht feststellen.

Das HFD resümiert, dass eine strategische Auseinandersetzung unabdingbar für eine flächendeckende Integration ist. Die Ergebnisse zeigten, dass Hochschulen nicht mehr nach Gründen für oder gegen KI suchen, sondern nach tragfähigen Wegen für den Umgang mit den tiefgreifenden Veränderungen.

KI-Kompetenz als integraler Bestandteil akademischer Bildung

Abschließend betont Professor Barenkamp, dass KI aus dem Hochschulbereich nicht verbannt werden darf, wenn Studierende auf eine moderne Arbeitswelt vorbereitet werden sollen.

„KI-Kompetenz sollte nachdrücklich verbindlicher Bestandteil akademischer Bildung in allen Studiengängen sein, nicht nur in der Informatik. Das umfasst ein Verständnis der Funktionsweise und Grenzen, die Fähigkeit zur Interpretation und kritischen Prüfung von KI-Ergebnissen sowie den reflektierten Einsatz im jeweiligen Fach. Zugleich sollte gewährleistet sein, dass alle Studierenden, unabhängig von sozialem Hintergrund und Studiengang, einen möglichst barrierearmen Zugang zu hochwertigen KI-Lösungen erhalten. Das trägt nicht nur zu Chancengleichheit bei, sondern unterstützt auch digitale Souveränität im Sinne der hochschulübergreifenden Zielsetzung.“

• https://www.stifterverband.org/pressemitteilungen/2025_09_04_ki_monitor
• https://hochschulforumdigitalisierung.de/wp-content/uploads/2025/09/Blickpunkt_KI-Monitor25.pdf

llustration: shutterstock.com / AnnaStills
Grafik: HFD / KI Monitor 2025

The post Deutsche Hochschulen zwischen Experimentierfreude und Strategiedefizit bei KI first appeared on Academic Society for Artificial Intelligence.

Bis zum Jahr 2030 soll Künstliche Intelligenz (KI) einen signifikanten Beitrag zum Umsatz von Unternehmen leisten. Davon gehen 81 Prozent deutscher und 73 Prozent Schweizer Führungskräfte aus, die für eine Studie des IBM Institute for Business Value befragt wurden. Zum Vergleich: Heute sind es 43 Prozent in Deutschland und 30 Prozent in der Schweiz. Gleichzeitig macht die aktuelle Untersuchung aber auch eine kritische Lücke deutlich, wie der deutsche KI-Experte Professor Marco Barenkamp hinweist: Denn nur ein kleiner Teil, konkret rund ein Viertel der deutschen und lediglich ein Fünftel der Schweizer Befragten, hat eine klare Vorstellung davon, woher dieser Umsatz kommen wird.

Ungeachtet dieser Unsicherheit gehen Führungskräfte in der Schweiz und Deutschland davon aus, dass die Investitionen in KI zwischen heute und 2030 stark ansteigen: auf etwa das 2,5-Fache des Unternehmensumsatzes, laut der Untersuchung des IBM Institute for Business Value. Allerdings befürchten 68 Prozent der Schweizer und 59 Prozent der deutschen Führungskräfte, dass ihre KI-Bemühungen aufgrund mangelnder Integration in die Kerngeschäftsaktivitäten scheitern werden. Das Institute for Business Value ist ein unternehmensnaher Thinktank von IBM.

IBM sieht KI als neuen Unternehmensstandard

„KI wird Unternehmen nicht nur unterstützen, sie wird sie definieren“, kommentiert Mohamad Ali, Senior Vice President bei IBM Consulting, die Studie. „Bis 2030 werden die Unternehmen, die sich durchsetzen, KI in jede Entscheidung und jeden Arbeitsablauf einfließen lassen. Sie werden über leistungsstarke KI-Ressourcen verfügen, schneller agieren als ihre Wettbewerber, Innovationen zügig auf den Markt bringen und mithilfe von Technologie und Automatisierung echte, messbare Geschäftsergebnisse erzielen“, so Mohamad Ali. 

Diese Prognose müsse man etwas relativieren, meint Prof. Barenkamp, Gründer und Aufsichtsrat der auf KI-Entwicklungen spezialisierten Osnabrücker LMIS AG. Denn KI werde nur dann wirklich zum Geschäftsmodell, wenn Unternehmen heute anfangen, ihre Wertschöpfung zu entpacken, in Systemen statt in Einzelprojekten zu denken und die entstehende Multi‑Model‑Komplexität bewusst zu gestalten, wendet der deutsche KI-Fachmann ein.

Warum viele KI-Strategien in der Praxis scheitern

Die IBM-Studie beschreibe, dass KI bis 2030 nicht nur das Geschäft unterstützen, sondern das Geschäftsmodell sogar sein werde, stellt Prof. Barenkamp fest. Diese Vision sei zwar spannend, jedoch weniger relevant als die häufige Diskrepanz zwischen Anspruch und Umsetzung, berichtet er aus seiner bisherigen Erfahrung in der Praxis. 

Das Studienergebnis, nach dem vier Fünftel der Führungskräfte erwarten, dass KI bis 2030 signifikant zum Umsatz beiträgt, jedoch nur ein kleiner Teil der Top-Manager eine Vorstellung davon hat, woher dieser Umsatz konkret kommen soll, spiegle sein derzeitig alltägliches Erleben in Unternehmen wider, bedauert der KI-Berater. 

„Viele Verantwortliche in den Firmen blicken auf KI‑Wertschöpfung, jedoch ohne ihre Wertschöpfungsketten wirklich präzise genug zu hinterfragen“, moniert Professor Barenkamp.

Und er wird deutlich: „Es geht hier im Wesentlichen darum, dass Unternehmen vor dem KI-Einsatz ihre Kernprozesse explizit analysieren sollten, um zu verstehen, welche Schritte tatsächlich Wert erzeugen. Oder wo Wartezeiten, manuelle Übergaben sowie Entscheidungsunsicherheiten entstehen.“ Hierfür gebe es eine einfache Faustregel, stellt Professor Barenkamp fest: „Wenn sich ein Prozess nicht klar beschreiben lässt, kann er auch nicht sinnvoll automatisiert oder durch KI unterstützt werden!“

Weiterführende Informationen:

• https://de.newsroom.ibm.com/2026-01-19-IBM-Studie-Kunstliche-Intelligenz-soll-bis-2030-intelligenteres-Geschaftswachstum-in-Deutschland-und-der-Schweiz-vorantreiben
• https://www.bigdata-insider.de/ki-2030-wachstumsmotor-effizienzwerkzeug-a-29c195b922e01bcd262fa300c0b2c642/

Illustration: shutterstock.com / Danielala

The post KI als Wachstums-Garant? Zwischen Ambition und Realität first appeared on Academic Society for Artificial Intelligence.

Besonders die Menschen in den Städten leiden unter extremer Hitze. Wissenschaftler sprechen von „urbanen Wärmeinseln“ aufgrund der dichten Bebauung: Weil Asphalt und Beton die Hitze tagsüber speichern, um sie nachts wieder abzugeben. So steigen die Temperaturen in den Cities stärker an als im Umland, was zu einem Gesundheitsrisiko insbesondere für Kinder, ältere Menschen und Menschen mit Vorerkrankungen führt. Deshalb fordern Experten immer nachdrücklicher, den Hitzebelastungen in den Städten konsequenter entgegenzuwirken.

Ein neues, von der Universität Freiburg und dem Karlsruher Institut für Technologie (KIT) entwickeltes KI-Modell ermöglicht es nun erstmals, zu berechnen, wie sich die Hitzebelastung einer Stadt zukünftig pro Quadratmeter entwickeln wird. Das Modell könne Städte bei der Anpassung an den Klimawandel unterstützen und Impulse bieten für eine klimagerechte Stadtplanung, erklären die Wissenschaftler zu ihren Forschungsergebnissen. Am Beispiel der Stadt Freiburg simulierten sie drei verschiedene Klimaszenarien für den Zeitraum von 2070 bis 2099 und zeigen damit die Entwicklung von Hitzestunden in Bezug zur Stadtstruktur auf.

Hitzeentwicklung „vor der Haustür“

„Mit unserem KI-Modell können wir die Hitzeentwicklung in Freiburg buchstäblich vor jeder Haustür analysieren“, erläutert Prof. Dr. Andreas Christen, Umweltmeteorologe an der Universität Freiburg, das Besondere an der Freiburger KI-Entwicklung. Da jede Stadt mit ihrer Bebauung, Begrünung und Lage ganz eigene Strukturen aufweise, sei es entscheidend, die Hitzebelastung so detailliert wie möglich zu berechnen, verdeutlicht Prof. Christen. „Denn nur so lassen sich passgenaue Maßnahmen entwickeln, die Menschen besser vor extremer Hitze schützen.“ Nach einer Validierung und Anpassung an spezifische städtische Gegebenheiten, könne ihr Modell auf jede andere Stadt angepasst und angewandt werden, versichern die Freiburger Forscher.

„Künstliche Intelligenz kann uns heute schon dabei helfen, den Klimawandel greifbarer zu machen“, bestätigt auch der deutsche KI-Experte Prof. Dr. Marco Barenkamp. Ein Modell wie das Freiburger zeige, wie man die zukünftige Hitzebelastung in Städten jetzt sogar metergenau prognostizieren könne, hebt der Gründer und stellvertretende Aufsichtsratschef der auf KI-Entwicklungen spezialisierten Osnabrücker LMIS AG hervor. Für die Stadtplanung bedeute dies, dass es nicht mehr nur „mehr Bäume“ oder „weniger Beton“ geben müsse. Vielmehr werde die Wirkung einzelner Maßnahmen konkret an einem gewissen Ort bestimmbar gemacht. „Das eröffnet völlig neue Möglichkeiten“, konstatiert Prof. Barenkamp.

Das von dem interdisziplinären Forschungsteam der Universität Freiburg und des Karlsruher KIT entwickelte KI-Modell könne erstmals hochauflösend und über lange Zeiträume berechnen, wie sich die Hitzebelastung in einem Stadtgebiet künftig tatsächlich pro Quadratmeter entwickeln wird, berichtet die Hochschule im Breisgau. Freiburg diente den Forschenden dabei als Pilotstadt für ihr Modell. Das KI-System kombiniert dabei Geodaten wie Gebäudehöhen und Vegetationsstrukturen mit Wettervorhersage- oder Klimaprojektionsdaten wie Lufttemperatur oder Strahlung. So soll das Modell für die Prognose verschiedener Klimaszenarien eingesetzt werden können: von einem Klima, das sich bei starkem Klimaschutz weniger stark erwärmt, bis hin zu einem deutlich wärmeren Klima bei sehr hohen Treibhausgasemissionen.

Klimabelastung steigt in Freiburg zukünftig an

Mithilfe des KI-Modells simulierten die Forschenden das zukünftige Freiburger Stadtklima für den Zeitraum 2070 bis 2099 in Form von drei Szenarien. In der pessimistischsten Annahme sollen pro Jahr tagsüber bis zu 307 Stunden mit starker Hitzebelastung über 32°C gefühlter Temperatur möglich sein. Zum Vergleich: In der Referenzperiode zwischen 1990 bis 2019 waren es 135 jährlich. Die Stundenanzahl mit sehr starker Hitzebelastung über 38°C gefühlter Temperatur könnte sogar um das Zehnfache steigen, errechneten die an dem Projekt beteiligten Wissenschaftler: auf 71 Stunden pro Jahr im Zeitraum 2070 bis 2099, verglichen mit sieben Stunden jährlich in der Referenzperiode. Im Szenario mit der geringsten Erwärmungsentwicklung sollen die Stunden unter starker Hitzebelastung auf jährlich 149 ansteigen. Die Anzahl der Stunden mit sehr starker Hitzebelastung beläuft sich in diesem Szenario auf zwölf Stunden.

Allerdings wirkt sich die Hitzebelastung innerhalb einer Stadt auch unterschiedlich aus, wie Dr. Ferdinand Briegel, Erstautor der Studie und wissenschaftlicher Mitarbeiter in der Arbeitsgruppe „Regionales Klima und Wettergefahren“ am Institut für Meteorologie und Klimaforschung des KIT, ausführt. „Faktoren wie Bebauungsdichte, Vegetation und Luftzirkulation entscheiden darüber, ob ein Bereich vergleichsweise kühl bleibt oder sich extreme Hitze staut“, sagt er. In der Studie wurde die Hitzebelastung anhand repräsentativer Stadtgebiete Freiburgs in Form eines Industriegebiets, einem Wohngebiet mit altem Baumbestand und der historischen Innenstadt mit mittelhohen Gebäuden und geringer Vegetation gemessen.

Vorsorge statt Schadensbegrenzung

Wie die Studie zeigt, steigen die Hitzestunden tagsüber besonders in Industriegebieten stark an, da dort eine hohe Versiegelung und wenig Verschattung vorherrschen. Dicht bebaute Gebiete mit altem Baumbestand hingegen sorgen durch Schattenbildung tagsüber für einen geringeren Anstieg der Hitzestunden. „In der Nacht bremst diese Bebauungs- und Baumstruktur jedoch das Auskühlen und hält die Wärme länger fest“, schränkt Briegel in Bezug auf die Ergebnisse der Untersuchung ein.

Als eine weitere Erkenntnis der Freiburger Studie ist hervorzuheben, dass KI wesentlich dazu beitragen kann, notwendige Anpassungen an den Klimawandel erfolgversprechend zu berechnen und zu planen. Gerade im Umgang mit Extremwetterlagen könne KI einen entscheidenden Beitrag leisten, betont auch Prof. Barenkamp. „Denn mit ihr können wir erstmals sinnvoll große Datenmengen analysieren, Muster erkennen und Risiken frühzeitig sichtbar machen“, begründet er seine Einschätzung. Dabei denkt er nicht so sehr an Versicherungen, die steigende Kosten durch Naturgefahren einkalkulieren müssen, als vielmehr an die Kommunen, die ihre Bevölkerung schützen wollen. „Künstliche Intelligenz wird hier meines Erachten zu dem wichtigen Vorsorgeinstrument“, ist sich der KI-Fachmann sicher.

• https://uni-freiburg.de/ki-modell-macht-zukuenftige-hitzebelastung-in-staedten-metergenau-sichtbar/
• https://www.tagesschau.de/wissen/klima/ki-berechnet-hitze-in-staedten-100.html
• https://www.focus.de/earth/hitze-alarm-fuer-deutsche-staedte-neues-ki-modell-zeigt-metergenau-wo-es-brenzlig-wird_169ab1d3-74bc-4ad0-b315-3d4ea5dce267.html

The post Wie ein KI-Modell zukünftige Hitzebelastung in Städten greifbar macht first appeared on Academic Society for Artificial Intelligence.

Ein interdisziplinäres Forschungsteam der Technischen Universität (TU) Wien hat jetzt eine Methode entwickelt, mit der sich exakt berechnen lässt, wie sicher ein neuronales Netzwerk in einem definierten Inputbereich arbeitet. Das bedeutet konkret: Es lässt sich mathematisch garantieren, dass bestimmte Fehler nicht vorkommen. Das kann einen entscheidenden Schritt für den sicheren Einsatz von KI in sensiblen Bereichen bedeuten, wie Experten kommentieren.

Gerade wenn es um Sicherheit geht, ist die zentrale Frage entscheidend, ob ein KI-System garantiert keine schwerwiegenden Fehler macht, auch wenn der Input leicht variiert. Das Forschungsteam der TU Wien aus den Fachbereichen Informatik, Statistik und Mathematik hat nun einen Weg gefunden, neuronale Netzwerke so zu analysieren, dass sich für definierte Eingabebereiche exakt berechnen lässt, in welchem Wertebereich die Ausgaben liegen werden – und welche Fehler garantiert ausgeschlossen sind. So soll die Unsicherheit in Künstlicher Intelligenz kalkulierbar werden.

Unsicherheit bei der Eingabe = Unsicherheit bei der Ausgabe

„Neuronale Netze verhalten sich normalerweise vorhersehbar – sie geben jedes Mal die gleiche Ausgabe, wenn man den gleichen Input eingibt“, erklärt Dr. Andrey Kofnov aus dem Forscherteam der TU Wien. Doch in der realen Welt sind die Eingaben, die die KI erhält, oft verrauscht oder unsicher und können nicht immer durch einen einzigen, festen Wert beschrieben werden. „Diese Unsicherheit bei der Eingabe führt zu Unsicherheit bei der Ausgabe“, verdeutlicht der Wissenschaftler das Problem.

Sein Kollege Prof. Ezio Bartocci veranschaulicht dies an einem Beispiel: Ein neuronales Netz bekommt ein Bild als Input, das ein Tier zeigt. „Was passiert, wenn das Bild leicht verändert ist, etwa wegen einer anderen Kamera, etwas mehr Rauschen, veränderter Lichtverhältnisse etc.? Kann das dazu führen, dass die KI plötzlich etwas völlig anderes erkennt?“, fragt Professor Bartocci.

Solche Abweichungen können insbesondere in sicherheitskritischen Bereichen, wie etwa im Gesundheitswesen, im Verkehr oder im Ingenieurwesen, fatale Folgen haben, wie das VDI-Portal Ingenieur.de feststellt. Problematisch dabei ist, dass klassische neuronale Netze keine Auskunft darüber geben, wie sicher sie sich bei ihrer Entscheidung sind. Genau hier setzten die Forscher der TU Wien an.

Rechnen statt raten

Das volle Spektrum möglicher Ergebnisse zu verstehen, helfe dabei, bessere und sicherere Entscheidungen zu treffen, betonen die Wissenschaftler. Dies gelte insbesondere für Bereiche, in denen viel auf dem Spiel steht, wie im Finanzwesen, im Gesundheitswesen oder im Ingenieurwesen, hebt Dr. Kofnov hervor. „Indem wir die Wahrscheinlichkeit möglicher Ergebnisse berechnen, können wir wichtige Fragen beantworten“, erklärt der Experte: Etwa, wie hoch die Wahrscheinlichkeit eines extremen Ergebnisses oder ein Risiko ist.

Solche Fragen seien mit herkömmlichen Tests schwer zu beantworten, betont die TU Wien. Zwar kann man viele Fälle durchprobieren – doch eine vollständige Absicherung ist demnach praktisch unmöglich. Denn es kann immer noch Spezialfälle geben, die nicht getestet wurden, und bei denen das System versagt. Deshalb gaben die Wiener Forscher für ihre Arbeit die Parole aus: Rechnen statt raten! Üblicherweise analysierten Forschende das Verhalten neuronaler Netze mithilfe von Simulationen, berichtet Ingenieur.de. Dazu speisen die Wissenschaftler Millionen zufälliger Eingaben in das System und werten die Ergebnisse statistisch aus. Das ist aufwendig und liefert nur Näherungen, ohne Gewähr, dass extreme Ausreißer ausgeschlossen sind, so das Fachportal.

Geometrischer Ansatz

Das Forschungsteam der TU Wien wählte deshalb einen anderen, einen geometrischen Ansatz. Wie das funktioniert, erklärt Prof. Efstathia Bura vom Institut für Stochastik und Wirtschaftsmathematik der TU Wien. Hierbei wird die Menge aller möglichen Inputs, wie etwa alle möglichen Bilder, die man einem KI-System eingeben kann, in kleine Teilbereiche zerlegt. Dies geschieht ähnlich unserer dreidimensionalen Welt, aber mit einer beliebigen Zahl von Dimensionen, so Professor Bura. „Wir zerlegen diesen Raum in kleine Teilbereiche, für die sich jeweils exakt bestimmen lässt, welche Ausgaben das neuronale Netz generiert“, erläutert sie. Dadurch soll sich mathematisch die Wahrscheinlichkeit für unterschiedliche Ergebnis-Bereiche ermitteln lassen, sodass bestimmte Fehler mit 100-prozentiger Sicherheit ausgeschlossen werden können.

Für Fachleute geht Ingenieur.de noch mehr ins Detail: Die Methode verwendet sogenannte ReLU-Netze – neuronale Netze mit speziellen Aktivierungsfunktionen, berichtet das Fachportal. Diese lassen sich durch zwei Näherungsnetze beschreiben: eines, das das Verhalten von oben, und eines, das es von unten eingrenzt. In Kombination mit einer Wahrscheinlichkeitsverteilung der Eingabedaten, etwa einer Gaußverteilung, entstehe so ein klar definierter Wertebereich für die Ausgaben, heißt es weiter. Auf diese Weise lasse sich quantifizieren, wie hoch die Wahrscheinlichkeit für bestimmte Fehler oder Extreme ist.

Ein Meilenstein für vertrauenswürdige KI?

Der Ansatz der TU Wien sei ein wirklich spannender Meilenstein in der Entwicklung vertrauenswürdiger KI-Systeme, meint Prof. Dr. Marco Barenkamp, Gründer der auf KI-Entwicklungen spezialisierten Osnabrücker LMIS AG. „Denn in der industriellen Praxis beobachten wir seit Jahren, wie groß der Bedarf an verlässlichen, erklärbaren und absicherbaren KI-Lösungen ist – gerade in sicherheitskritischen Anwendungen und vor dem Hintergrund des rechtssicheren Einsatzes von KI im Rahmendes AI-Acts“, erklärt der Experte.

Er hält den Ansatz der Wiener Forscher auch deshalb für so spannend, weil er sich „nicht auf Wahrscheinlichkeitsaussagen stützt, sondern auf mathematische Garantien“. Das eröffne völlig neue Perspektiven, wenn man dieses Konzept weiterdenke, betont Professor Barenkamp – etwa im Hinblick auf die Zertifizierbarkeit KI-gestützter Systeme nach internationalen Sicherheitsnormen. „Dieser Ansatz, mit dem Ausgaben für einen klar umrissenen Input-Bereich garantiert werden können, ist in dem Kontext ein wirklich starkes Argument gegenüber Prüfinstitutionen und Aufsichtsbehörden“, stellt der Wirtschaftsinformatiker fest.

Für große KI noch nicht geeignet

Wie die TU Wien einräumt, ist dieser Ansatz allerdings noch nicht auf große neuronale Netze, wie etwa Large Language Models, anwendbar. „Eine KI wie ChatGPT ist viel zu komplex für diese Methode“, sagt Forschungsteammitglied Dr. Daniel Kapla. Sie zu analysieren, würde eine unvorstellbare Menge an Rechenleistung erfordern, weiß er. „Aber wir haben gezeigt, dass zumindest für kleine neuronale Netze eine rigorose Fehlerquantifizierung möglich ist“, unterstreichen die Forschenden.

Die TU Wien-Methode könne damit die Grundlage für sicherere KI-Anwendungen legen, resümiert Ingenieur.de, insbesondere in Bereichen, in denen es auf Verlässlichkeit ankommt. Dazu zählen die Experten unter anderem Diagnosesysteme in der Medizintechnik, Steuerungen in der Robotik und Luftfahrt, Sensorfusion in autonomen Fahrzeugen und Risikobewertungen in der Finanzbranche.

Und dass dieses Konzept für große Netze und komplexe Systeme noch nicht skalierbar einsetzbar sei, hält Prof. Barenkamp letztlich nicht für entscheidend. „Im Gegenteil, diese Methode ist ein starker Beleg dafür, dass sich Künstliche Intelligenz und formale Verifikation nicht ausschließen müssen, sondern dass wir als Branche gerade lernen, beide Welten zusammenzubringen“, ordnet er die Bedeutung der Wiener Forschungsergebnisse ein.

• https://www.tuwien.at/tu-wien/aktuelles/news/news/tu-wien-macht-unsicherheit-in-kuenstlicher-intelligenz-berechenbar
• https://www.ingenieur.de/technik/fachbereiche/kuenstliche-intelligenz/wie-verlaesslich-ist-ki-tu-wien-macht-unsicherheit-berechenbar/
• https://arxiv.org/abs/2502.11672

Titelbild-Illustration: cono0430/ shutterstock.com

The post Mathematische Sicherheit für KI-Systeme & neuronale Netze first appeared on Academic Society for Artificial Intelligence.

„Angesichts der laufenden Entwicklungen in der Robotik, die durch den bedeutenden Fortschritt in modernen KI-Techniken angetrieben werden, erscheint es durchaus angemessen, von einer „dritten Welle“ der Künstlichen Intelligenz zu sprechen“, stellt auch der deutsche KI-Experte Prof. Marco Barenkamp, Gründer der auf KI-Entwicklungen spezialisierten Osnabrücker LMIS AG fest. Er sieht in dieser „dritten Welle“ der KI eine logische Konsequenz, da sie Verhalten, Interaktion und Autonomie bei der täglichen Problemlösung kombiniert. „Beispiele zeigen, dass die dritte Welle nicht einfach darin besteht, Gedanken in materielle, aktive Handlungen umzusetzen, sondern auch autonome, clevere Operationen in digitalen Umgebungen durchzuführen“, erklärt Prof. Barenkamp.

Roboter-Pressekonferenz

Einer der in der Bevölkerung bekanntesten humanoiden Roboter dürfte wohl der „Terminator“ sein, die von Arnold Schwarzenegger gespielte menschenähnliche Killermaschine aus der gleichnamigen Filmreihe. Von deren Sci-Fi-Fähigkeiten sind die aktuellen KI-basierten Roboter zwar noch meilenweit entfernt, doch die führenden Technologiekonzerne dieser Welt melden in immer kürzeren Abständen neue Entwicklungsschritte ihrer humanoiden Roboter. Dabei sind Konstruktionen wie jener Roboter, der bei der vergangenen Hannover Messe Liegestützen vorführte, ebenso öffentlichkeitswirksame Show-Effekte, wie die berühmte Pressekonferenz von Robotern mit menschlichem Aussehen am Sitz der UNO in New York im Jahr 2023. Doch sie demonstrieren, was die Kombination Robotik und KI derzeit schon möglich macht.

„Die erste Welle der KI, die durch prädiktive Systeme oder Maschinen geprägt ist, durch Extraktion von Erkenntnissen aus Daten, um intelligente Vorhersagen zu treffen, wurde durch die zweite Welle ergänzt, also jene generativen Modelle, die neue Inhalte, Kommunikation und Ideen erzeugen und durch ChatGPT auch die breite Gesellschaft erreichte“, berichtet Professor Barenkamp. Und nun ist eben die dritte Welle die logische Folge, befindet er. „Beispiele zeigen, dass die dritte Welle nicht einfach darin besteht, Gedanken in materielle, aktive Handlungen umzusetzen, sondern auch autonome, clevere Operationen in digitalen Umgebungen durchzuführen, betont der Unternehmer und Berater und verweist dabei auf sein im Mai erschienenes Buch „Wertschöpfung durch KI – Chancen für Unternehmen und Gesellschaft“.

Beispiele für solche KI-Roboter nennt auch die Fraunhofer-Gesellschaft: Demnach kann etwa „Figure 2“ aus den Tech-Laboren des US-amerikanischen Softwareunternehmens OpenAI sprechen und Geschirr in die Spülmaschine räumen. „Atlas“ von Boston Dynamics beherrscht Saltos und durchläuft selbst schwierige Parcours, wie die Forschungs-Organisation berichtet. Und der „Armar-7“, kreiert vom Karlsruher Institut für Technologie (KIT) als Support im Alltag, kann Türen öffnen, mit Menschen interagieren und kleine Mahlzeiten zubereiten. Diese Erfolge lassen die Erwartungen der Öffentlichkeit an KI-basierte Robotik steigen, konstatieren die Fraunhofer-Forscher. Bei manchen Visionären höre es sich bereits so an, als wäre das „Terminator“-Zeitalter längst angebrochen, kommentieren die Wissenschaftler.

„Echte Innovationen sind weniger sexy“

Doch viele Fraunhofer-Experten sehen dies anders, wie die Organisation erklärt. „Entwicklungen wie der Optimus von Tesla schaffen natürlich Aufmerksamkeit. Doch die eigentlichen Innovationen entstehen woanders. Ein Schweißroboter mag nicht so sexy sein wie Optimus, spielt aber in der industriellen Produktion schon heute eine sehr viel größere Rolle“, macht etwa Dr.-Ing. Werner Kraus, Leiter des Forschungsbereichs Automatisierung und Roboter am Stuttgarter Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA, deutlich. „Wir haben große und berechtigte Zweifel, dass die humanoiden Roboter in den nächsten zwei bis fünf Jahren wesentlich zur Wertschöpfung beitragen werden“, gibt er zu bedenken.

Trotzdem führt auch für Kraus kein Weg an smarten Robotern vorbei: Denn KI braucht Robotik – und Robotik braucht KI, betont der Mechatronik-Ingenieur für die Fraunhofer-Gesellschaft. Hier komme zusammen, was sich perfekt ergänzt, erläutert Kraus: Der Roboter besaß bislang nicht die nötige Intelligenz, um mehr als nur einen festen Satz einprogrammierter Bewegungen auszuführen. Der Künstlichen Intelligenz wiederum fehlte der Körper, um in der realen Welt aktiv zu werden. „Die Vision ist, dass der Roboter irgendwann mitdenkt und proaktiv tätig wird“, fasst der Forscher zusammen. Bislang seien seine Kollegen und er allerdings schon froh, „wenn wir dem Roboter eine gewisse Flexibilität bei der Aufgabenbewältigung verleihen können – etwa, um auch Gegenstände korrekt zu greifen, die er vorher noch nie gesehen hat, räumt er ein.

Ein wesentliches Problem bei humanoiden Robotern besteht demnach darin, ihnen Fähigkeiten zu vermitteln, die Menschen unglaublich simpel erscheinen. Dazu zitiert die Fraunhofer-Gesellschaft den kanadischen Wissenschaftler Hans Moravec mit der Aussage: „Es ist vergleichsweise leicht, Computer dazu zu bringen, Leistungen auf Erwachsenenniveau bei Intelligenztests oder beim Dame-Spiel zu erbringen – und schwierig bis unmöglich, ihnen die Fähigkeiten eines Einjährigen in Bezug auf Wahrnehmung und Mobilität zu vermitteln.“

KI hilft Innovationshürden überwinden

Mit Hilfe der KI soll die Robotik nun diese Hürden überwinden können. Nicht umsonst gilt KI-basierte Robotik als einer der bahnbrechenden Trends in der Digitalisierung der industriellen Produktion, sind sich auch die Fraunhofer-Forscher bewusst. Die Forschungs-Organisation verweist in dem Zusammenhang auf eine Prognose des Marktforschungsunternehmen Mordor Intelligence, der zufolge der Robotikmarkt bis 2029 eine jährliche Wachstumsrate von 29 Prozent aufweisen soll. Konkret könnten demnach smarte Industrieroboter Produktionsgeschwindigkeit, Genauigkeit und Sicherheit steigern, die Fehlererkennung und -behebung erleichtern und die Produktion durch vorausschauende Wartung resilienter machen, so die Fraunhofer-Experten.

Für KI-Fachmann Prof. Barenkamp sind die massiven Investitionen internationaler Technologiekonzerne und die sprunghafte Zunahme von Forschungsaktivitäten (zum Beispiel in Deutschland, in China, um nur einige zu nennen) ein Beweis dafür, „dass diese neue Welle sowohl industrielle Prozesse als auch das tägliche Leben grundlegend neu definieren kann. Trotz der derzeitigen Einschränkungen wie bessere Sensoren und Stabilität, einfache Bedienbarkeit und Integration stellt der Anstieg der Entwicklung eine spannende Bewegung für intelligente, selbstbetriebene Systeme dar“, betont er.

Aus Sicht Barenkamps werden die humanoiden Roboter dank KI auch noch massive Entwicklungsfortschritte in der Interaktion mit Menschen machen. „Dies wird gerade zukünftig beispielsweise im Bereich der häuslichen Pflege sicherlich einen ganz elementaren Beitrag zur Versorgungssicherheit darstellen – auch wenn es dem einen oder anderen heute noch fremd wirken würde“, prognostiziert der KI-Fachmann.

• https://www.fraunhofer.de/de/forschung/aktuelles-aus-der-forschung/ki-robotik.html
• https://www.fr.de/wirtschaft/humanoide-roboter-chinas-industrielle-revolution-mit-kuenstlicher-intelligenz-zr-93646062.html
• https://www.faz.net/pro/digitalwirtschaft/transformation/wo-sind-deutschlands-humanoide-roboter-110392965.html
• https://www.arte.tv/de/videos/116710-083-A/mit-offenen-augen/

Illustration: Stock-Asso/ shutterstock.com

The post Robotik – die „dritte Welle“ der Künstlichen Intelligenz? first appeared on Academic Society for Artificial Intelligence.

Geht KI somit auf Kosten des Klima- und Umweltschutzes? Und gefährdet KI die Energiewende hierzulande?

Prognose: Stromverbrauch steigt um das Elffache

Mit dem Siegeszug der KI-Innovationen wächst auch deren Energiebedarf. Im Zuge eines zunehmenden KI-Einsatzes werden die digitalen Infrastrukturen – insbesondere KI-spezifische Rechenzentren – ausgebaut werden, stellt das Öko-Institut in seiner neuen Übersichtsstudie zu den „Umweltauswirkungen Künstlicher Intelligenz“ fest. Gemäß Prognosen wird der weltweite Stromverbrauch von KI-Rechenzentren demnach vom Basisjahr 2023 bis zum Jahr 2030 um das Elffache ansteigen: Von 50 Milliarden Kilowattstunden auf rund 550 Milliarden Kilowattstunden. Zusammen mit den übrigen Rechenzentren würden damit im Jahr 2030 rund 1.400 Milliarden Kilowattstunden Strom für die zentrale Datenverarbeitung eingesetzt, erwarten die Studienautoren.

Damit verbunden ist nach ihren Berechnungen ein Anstieg der Treibhausgas-Emissionen von Rechenzentren von 212 Millionen Tonnen im Jahr 2023 auf 355 Millionen Tonnen im Jahr 2030, trotz eines angenommenen Ausbaus von erneuerbaren Energien zur Stromproduktion. Weitere Belastungen sollen durch den Wasserbedarf für die Kühlung entstehen, der sich im gleichen Zeitraum auf 664 Milliarden Liter nahezu vervierfachen werde, berichtet das Umweltforschungsinstitut, sowie die bis zu 5 Millionen Tonnen zusätzlich anfallender Elektronikabfälle, die durch den Ausbau der Rechenzentren und KI-Kapazitäten entstehen.

Über die sogenannten „direkten“ Umweltwirkungen hinaus, also den Energiehunger und die damit verbundenen Treibhausgas-Emissionen von Rechenzentren, den Wasserverbrauch für Kühlungssysteme und den Ressourceneinsatz bei der Hardware-Produktion, hebt der Bericht auch die ökologische Bedeutung der indirekten und systemischen Effekte von KI hervor. So sei schon jetzt zu beobachten, dass KI dazu eingesetzt werde, umweltschädliche Geschäftspraktiken zu beschleunigen, erklären die Forscher. So würden KI-Tools beispielsweise dazu genutzt, neue fossile Energiequellen schneller und effektiver zu erschließen, die Intensivierung von Monokulturen zu verstärken oder den privaten Konsum weiter zu steigern. Zugleich könnten negative Umwelteffekte auch ungewollt wegen Fehlern in der Datengrundlage, falschem Training oder Betrieb von KI-Systemen entstehen, zählt das Öko-Institut weiter auf. Solche indirekten Effekte bewerten die Forscher als ebenfalls ökologisch bedeutend, jedoch bisher zu selten erfasst und diskutiert.

Return on Environment

„Künstliche Intelligenz darf nicht länger als bloßer Produktivitätsmotor missverstanden werden, der ungebremst zusätzliche Klima- und Ressourcenschäden verursacht“, mahnt auch der deutsche KI-Experte Prof. Dr. Marco Barenkamp. „Vielmehr müssen wir KI-Systeme konsequent an einem ‚Return on Environment‘ ausrichten“, fordert der Gründer der auf KI-Entwicklungen spezialisierten Osnabrücker LMIS AG, der sich an der Schnittstelle von Politik und Wirtschaft für die Etablierung zukunftsorientierter Rahmenbedingungen für KI in Deutschland und der Europäischen Union engagiert. Professor Barenkamp postuliert, jeder Algorithmus, jede Trainings- und Inferenzoperation sei an ökologischen Maximen zu messen. „Nur so schaffen wir eine nachhaltige Digitalwirtschaft, in der Innovation nicht auf Kosten unseres Planeten erkauft wird, sondern spürbar zur Entlastung von Klima und Ressourcen beiträgt“, erklärt der Fachmann.

Um den mit KI verbundenen Umwelt- und Klimarisiken zu begegnen, hat das Öko-Institut als Ergebnis der aktuellen Untersuchung Handlungsanforderungen an die Politik formuliert. Diese sehen folgende Maßnahmen vor:

• Die Einführung verbindlicher Transparenzanforderungen und Rechenschaftspflichten für Anbieter von Rechenzentren und KI-Diensten, darunter die Erfassung und Veröffentlichung von Kennzahlen auf der Ebene der Rechenzentren, die Einführung eines Effizienzlabels für Rechenzentren und KI-Service-spezifische Kennzahlen zu deren ökologischem Fußabdruck.
• Die Sicherstellung der Netzintegration und Anpassung an Erzeugungsmengen erneuerbarer Energien, indem Lasten zu geeigneten Zeiten mit Kapazitäten aus sauberer Energie oder mit eigenen Batteriespeichern abgedeckt werden.
• Eine Aktualisierung des Rechtsrahmens, um die Umweltauswirkungen von Künstlicher Intelligenz zu berücksichtigen. Dazu gehört auch eine Folgenabschätzung, die eine strukturierte und spezifische umweltbezogene Bewertung von KI-Systemen vorsieht.

Benefits von KI für Klimaschutz umstritten

Für eine umfassende Klimabilanz der Künstlichen Intelligenz müsse man aber auch deren Beiträge zum Klimaschutz und zur Anpassung an den Klimawandel berücksichtigen, greift die „Tagesschau“ Einwände von Wissenschaftlern auf. So könne Maschinelles Lernen Strategien zum Klimaschutz und zur Anpassung an den Klimawandel unterstützen, zum Beispiel im Energiesektor, in der Güterproduktion, in der Land- und Forstwirtschaft oder im Katastrophenschutz, schreibt etwa die Referentin für Digitale Ordnungspolitik der Heinrich-Böll-Stiftung, Vérane Meyer, im Vorwort des Reports „Smarte Technologie gegen den Klimawandel“. „Künstliche Intelligenz kann helfen, die Ernährungssicherheit zu steigern und Ressourcen in der Landwirtschaft und der industriellen Produktion effizienter zu nutzen, aber auch wissenschaftliche Experimente und damit die Entwicklung sauberer Technologien zu beschleunigen“, argumentiert Meyer. Ob der Einsatz von Künstlicher Intelligenz Ressourcenverbrauch und Emissionen zu senken vermag, anstatt sie noch weiter in die Höhe zu treiben, wird nach Ansicht der Digitalexpertin der Böll-Stiftung „von klugen politischen Strategien, gesetzlichen Rahmenbedingungen und Anreizen abhängen“.

Wie unterschiedlich allerdings die Einschätzungen der Klima- und Umweltauswirkungen eines zunehmenden Einsatzes von Künstlicher Intelligenz auch unter Fachleuten ausfallen, wird exemplarisch an der Bitkom-Studie „Klimaeffekte der Digitalisierung 2.0“ deutlich. Die kommt zusammengefasst zu dem Ergebnis, dass digitale Technologien – und somit auch KI – wesentlich dazu beitragen können, dass Deutschland seine Klimaziele im Stichjahr 2030 erfüllt. Das Umweltbundesamt (UBA) dagegen bemängelt in einer Stellungnahme zu der Studie des Digitalverbandes auch, dessen 2.0-Version stelle „keine valide Grundlage für eine Abschätzung des Klimabeitrags der Digitalisierung“ dar. Die Behörde kritisiert, dass das technisch mögliche Einsparpotenzial für die digitalen Anwendungen oft unplausibel hoch angesetzt werde, während demgegenüber die Berechnung zum CO2-Fußabdruck der digitalen Infrastrukturen ausgesprochen niedrig ausfalle. Grundsätzlich stellt das UBA fest, dass für die Bewertung der Umweltauswirkungen der Digitalisierung keine gesicherte Datenbasis existiere.

Und selbst wenn irgendwann eine solche Möglichkeit der Validierung geschaffen ist, dürfte KI-Experte Prof. Dr. Barenkamp mit seiner Forderung, KI-Systeme – wie die Digitalisierung insgesamt – an einem ‚Return on Environment‘ auszurichten, weiter richtigliegen.

• https://www.oeko.de/news/pressemeldungen/ki-auf-kosten-des-klimaschutzes-energiebedarf-von-rechenzentren-verdoppelt-sich-bis-2030/
• https://www.tagesschau.de/wirtschaft/energie/kuenstliche-intelligenz-energieverbrauch-100.html
• https://www.bitkom.org/Bitkom/Publikationen/Studie-Klimaeffekte-der-Digitalisierung
• https://www.umweltbundesamt.de/sites/default/files/medien/479/publikationen/uba_stellungnahme_zur_bitkom-studie_klimaeffekte_der_digitalisierung_2.0_0.pdf (PDF)

Illustration: gualtiero boffi / shutterstock.com

The post Geht KI-Fortschritt zu Lasten des Klimas? first appeared on Academic Society for Artificial Intelligence.

Im Zuge des KI-Booms nimmt irreführende Werbung zu

Statt dass Unternehmen mit vermeintlich umweltfreundlichen Produkten werben, suggerieren beim „KI-Washing“ Firmen, ihre Produkte würden Künstliche Intelligenz (KI) nutzen – obwohl dem nicht so ist. Diese Praxis täuscht nicht nur die Verbraucher, sondern ist auch rechtlich problematisch. Denn Unternehmen, die mit KI werben, ohne dass ihre Produkte oder Dienstleistungen diese Technologie tatsächlich beinhalten, verstoßen gegen das Gesetz gegen unlauteren Wettbewerb (UWG). Doch die Abgrenzung, was genau als KI gilt, bleibt auch für die Gerichte eine Herausforderung. Und der AI Act der EU regelt zwar die Entwicklung, den Einsatz und die Nutzung von KI, nicht aber die Werbung mit KI.

Das Problem des Greenwashing ist hinlänglich bekannt: Unternehmen versuchen, sich ein „Nachhaltigkeits-Mäntelchen“ umzuhängen, um ihre Produkte als vermeintlich „grün“ besser vermarkten zu können. Dagegen laufen nicht nur die Verbraucherverbände Sturm, auch das Umweltbundesamt nahm sich jüngst in einem gemeinsamen Forschungsprojekt mit dem Freiburger Öko-Institut dieser Täuschungsabsichten an. Tenor: Verbraucher sollen sich darauf verlassen können, dass Umwelt- bzw. Nachhaltigkeitsaussagen zu Produkten ebenso wie zu Dienstleistungen vertrauenswürdig und zutreffend sind. Um dies zu gewährleisten, soll der Staat stärker regulierend und kontrollierend eingreifen, wünscht sich die Mehrheit der Konsumenten.

Jetzt also auch KI-Washing? Eigentlich nicht verwunderlich. Denn das Thema Künstliche Intelligenz ist nicht erst seit ChatGPT in aller Munde. Der Chatbot darf allerdings als Maßstab dafür gelten, wie weit KI bereits in unseren Alltag Einzug gehalten hat. Smarte Geräte zur Automatisierung daheim, die persönlichen Fitness-Tracker, Navigationssysteme, moderne Handys – all das sind Beispiele für Produkte, die ohne KI nicht so leistungsfähig wären, wie wir dies inzwischen gewöhnt sind. Da liegt es nahe, dass auch Hersteller ihre Produkte gern mit dem Attribut KI bewerben, um diese so in den Augen der Konsumenten aufzuwerten. Leider trifft dies auch auf Angebote zu, bei denen die KI nur in den Werbetexten vorkommt.

Werbewirksame KI

Dafür hat sich unterdessen der Begriff „KI-Washing“ eingebürgert. Bislang mussten Aufsichtsbehörden, Verbraucherverbände und am Ende nur allzu häufig auch Gerichte darüber wachen, dass Produkte, die als grün, öko, klimaneutral oder natürlich ausgelobt werden, auch tatsächlich so umweltfreundlich bzw. nachhaltig sind wie in der Werbung behauptet. Nun scheint KI in dieser Hinsicht das neue „öko“ geworden zu sein.

Während jüngst noch Werbung mit der Natürlichkeit von Produkten im Trend gelegen habe, stehe nun künstliche Intelligenz im Vordergrund, stellt Rechtsanwalt Dr. Daniel Huber von der Kanzlei IT-Recht fest. Aktuell suggeriere die Werbung bei erstaunlich vielen Produkten, dass sie KI enthalte, obwohl man sich das aufgrund der Art des Produktes manchmal gar nicht so recht vorstellen könne, erklärt der Jurist. Er geht davon aus, dass bei genauer Betrachtung in Wirklichkeit nicht in jedem der so beworbenen Produkte KI im eigentlichen Sinne enthalten ist.

Natürlich lebe Werbung von Übertreibungen und Zuspitzung, woran die Verbraucher gewöhnt seien, räumt Huber ein. Doch auch übertriebene Werbung hat ihre Grenzen. Dazu verweist der Rechtsanwalt auf das Gesetz gegen den unlauteren Wettbewerb (UWG), das in Deutschland im Wesentlichen die rechtlichen Anforderungen an Werbung enthält. Wer gegen das UWG verstößt, handelt demnach unlauter und riskiert rechtliche Konsequenzen.

Das UWG schreibt konkret vor, dass Werbung für ein Produkt, welcher Art auch immer, keine irreführenden Angaben enthalten darf. Laut Anwalt Huber liegt ein Verstoß gegen das Gesetz vor, wenn eine irreführende geschäftliche Handlung dazu führt, dass Verbraucher oder sonstige Marktteilnehmer eine Kaufentscheidung treffen, die sie andernfalls nicht getroffen hätten. Konkret bedeutet das: Wer in der Werbung behauptet oder suggeriert, dass ein Produkt oder Teile eines Produkts Künstliche Intelligenz enthalten, obwohl dies nicht zutrifft, verstößt gegen das UWG und handelt unlauter. Solche Werbung ist demnach unzulässig und verboten.

Zu viel Werbung mit Falschem

Dessen ungeachtet, würden einige Unternehmen schon damit werben, dass ihre Produkte KI enthielten, bevor sie diese überhaupt auf den Markt bringen, berichtet die Deutsche Welle (DW). Auch wenn lediglich der Plan bestehe, das Produkt irgendwann einmal mit KI auszustatten, werde es manchmal schon beworben, als enthielte es bereits KI, heißt es in einem Beitrag des Senders zum Thema KI-Washing. „Es wird viel mit Falschem geworben“, zitiert die DW den Rechtsanwalt und zertifizierten KI-Spezialisten Joerg Heidrich aus Hannover.

Bislang sind jedoch noch kaum Fälle bekannt, in denen irreführend Werbeaussagen zu KI hierzulande rechtliche Konsequenzen nach sich gezogen hätten. Anders sieht es in den USA aus. Dort ermittelt die Federal Trade Commission (FTC), die gegen unlautere und täuschende Geschäftspraktiken vorgeht, nach Angaben des Wirtschaftsmagazins Capital bereits wegen unlauterer und täuschender Geschäftspraktiken. So unter anderem gegen einen Betreiber von Onlineshops, der seine Produkte als „powered by AI“ bewarb, obwohl der tatsächliche Mehrwert durch KI in diesen Produkten begrenzt gewesen sein soll. Ähnlich gehe die US-Börsenaufsicht SEC gegen Anlageberater vor, die fälschlicherweise behaupteten, ihre Investmententscheidungen würden größtenteils durch KI gesteuert, berichtet Capital.

Experten weisen in dem Zusammenhang auf die Strafzahlungen hin, die bei nachgewiesenem KI-Washing fällig werden können. Die neue EU-KI-Verordnung der Bundesnetzagentur ermögliche, bei groben Verstößen empfindliche Bußgelder zu verhängen – immerhin bis zu sieben Prozent des weltweiten Jahresumsatzes oder 35 Mio. Euro, verdeutlichen die spezialisierten Rechtsanwälte Christoph Werkmeister und Elena Brandt von der Kanzlei Freshfields in Capital. Nicht zu vernachlässigen ist demnach auch das Risiko eines Reputationsverlusts durch enttäuschte Kunden. Aus all diesen Gründen sollten sich Unternehmen also nicht zu KI-Washing verleiten lassen, insbesondere auch im Interesse ihrer Kunden.

• https://www.capital.de/wirtschaft-politik/warum-unternehmen-sich-vor-ki-washing-hueten-sollten-35367692.html
• https://www.dw.com/de/ki-washing-wie-k%C3%BCnstliche-intelligenz-f%C3%BCr-werbung-missbraucht-wird/a-69809324
• https://www.focus.de/finanzen/news/wirtschaft-ki-washing-wie-kuenstliche-intelligenz-fuer-werbung-missbraucht-wird_id_260190765.html

Illustration: Melinda Nagy / shutterstock.com

The post Ist KI-Washing das neue Greenwashing? first appeared on Academic Society for Artificial Intelligence.

„USA innovates, China replicates and EU regulates“

Am 27. Januar löste das Sprachmodell des chinesischen KI-Startups Deepseek ein veritables Börsenchaos aus. Im Zuge der Schockwelle büßte etwa Nvidia, der wertvollste Chipkonzern der Welt, innerhalb eines Tages unvorstellbare 600 Milliarden Dollar an Börsenwert ein. Auch Tesla, Google, Amazon und Microsoft verzeichneten deutliche Kurseinbrüche. Weltweit sahen Investoren und Brancheninsider plötzlich Ihre Einschätzungen und Prognosen zur Zukunft der Künstlichen Intelligenz (KI) in Frage gestellt. 

Schlagzeilen wie „DeepSeek mischt das Silicon Valley auf“ machten die Runde. Fachleute, Medien und Politiker rund um den Globus diskutierten die Frage, ob China die USA in Sachen KI eingeholt habe, ob es die neue chinesische KI mit den US-amerikanischen Platzhirschen aufnehmen könne und ob die Karten in diesem Spiel nun neu gemischt würden –  Darüber hinaus war die Rede von einer neuen Stufe im Wettstreit der Supermächte.

Auslöser des Hypes war bzw. ist zum Teil noch ein chinesisches KI-Modell namens „DeepSeek“, das, frisch auf den Markt gebracht, nach Ansicht von Fachleuten nicht nur konkurrenzfähig mit den amerikanischen Marktführern sein soll, sondern auch deutlich kostengünstiger als die Produkte aus dem Silicon Valley. Konkret berichten Infodienste wie web.de, dass für die Entwicklung des Large Language Models (LLM) DeepSeek R1 nur rund 5,6 Millionen Dollar nötig gewesen seien. Zum Vergleich: Für OpenAIs GPT-4 sollen mehr als 100 Millionen Dollar angefallen sein. Somit punktet Deepseek ganz klar bei der Effizienz. Und Brancheninsider sehen das bisherige Verständnis von Kostenstrukturen in der KI-Entwicklung auf den Kopf gestellt, wie web.de konstatiert.

Demnach nutzte Deepseek neue technische Ansätze, um den Ressourcenverbrauch drastisch zu reduzieren: Statt bei Null anzufangen, bediente sich DeepSeek bestehender Open-Source-Modelle wie Metas Llama als Basis und optimierte den Trainingsprozess mit synthetischen Daten. Dabei kompensierte das chinesische Unternehmen auch das Handicap deutlich leistungsschwächerer Prozessoren als in den USA, weil der Chiphersteller Nvidia aufgrund von US-Sanktionen die besten Chipsätze nicht nach China liefern darf.

„Keine Rocket Science“

„DeepSeek nutzt ein altbekanntes Verfahren namens Mixture of Experts, das es seit den frühen 90er Jahren gibt“, erläutert der deutsche KI-Experte Prof. Dr. Marco Barenkamp. Es handle sich dabei eigentlich nur um die pfiffige Anwendung bekannter Konzepte, ordnet der Gründer der auf KI-Entwicklungen spezialisierten Osnabrücker LMIS AG ein. „Selbst OpenAIs GPT4 Modell wurde damals nachgesagt, dass es diesen Ansatz nutzt“,  ruft er in Erinnerung. „Zudem wurde DeepSeek bereits im November des vergangenen Jahres vorgestellt und stand schon länger zur Verfügung. Aus fachlicher Sicht ist es somit nun wirklich keine Rocket Science“, macht Prof. Barenkamp deutlich.

Viel spannender findet er die jüngsten Reaktionen darauf. Offenbar könne der richtige Tweet zur richtigen Zeit vom richtigen Autor große Verunsicherung hervorrufen, konstatiert er. „Ein wenig musste ich dabei an den DeepFake-Vorfall vom Pentagon vor einiger Zeit denken“, erklärt der Experte. (Damals löste ein vermutlich von einer KI manipuliertes Foto, das in den sozialen Medien kursierte und angeblich eine Explosion am Pentagon in Washington zeigen sollte, ebenfalls einen Kurseinbruch an der Börse aus, d. Red.). Das Resultat war ein kurzzeitiger Drop des S&P Index. „Kann man dies antizipieren, so ist mit entsprechenden Short-Positionen natürlich viel Geld zu verdienen“, weist Prof. Barenkamp auf eine nicht zu vernachlässigende mögliche Begleiterscheinung derartiger Aktionen hin. „Insofern, ohne jemandem etwas zu unterstellen, lässt sich die Überlegung treffen, dass man durchaus erwarten durfte, dass der Markt erstmal sehr volatil auf die Nachricht reagieren würde“, kommentiert der Wirtschaftsinformatiker die „DeepSeek-Schockwelle“. „Einen Tag später, als der Halbleiteranbieter ASML seine neuen Zahlen meldete, war es dann auch schon nicht mehr schlimm. Wer das vorhersagen konnte, konnte einen Haufen Geld verdienen“, sagt Prof. Barenkamp.

Hype? Unangemessen

Insofern ist aus seiner Sicht der Hype um DeepSeek nicht in diesem Maße angemessen und die Panik, die sich etablierte, erst recht nicht. „Es ist lediglich ein Schritt in eine Richtung, der zeigt, dass man die großen KI-Modelle mittlerweile sehr gut in kleinere Modelle destillieren kann“, stellt Prof. Barenkamp fest. Allerdings dürfe an dieser Stelle auch nicht unterschlagen werden, dass es dafür auch erstmal der großen Modelle bedurft habe, betont er. 

Nach seiner Einschätzung wird DeepSeek der KI insgesamt helfen, sich weiter als Werkzeug zu etablieren. Insofern betrachtet er in DeepSeek auch mehr als Innovation denn als das Sicherheitsrisiko, zu dem das chinesische KI-Modell von einigen Kommentatoren geredet wurde. 

Dazu trägt sicher nicht unwesentlich bei, dass der KI-Chatbot DeepSeek bei bestimmten Themen, welche die chinesische Führung als politisch heikel einstuft,plötzlich erstaunlich „einsilbig“ wird. Hierzu hat etwa die Deutsche Welle (DW) eigene Tests durchgeführt und berichtet, dass DeepSeek zum Beispiel die Frage nach Taiwan mit dem Hinweis beantwortet, der unabhängige Inselstaat sei immer ein untrennbarer Teil Chinas gewesen. Zusätzlich erläutert der Chatbot das „Ein-China-Prinzip“, die offizielle Position der Kommunistischen Partei Chinas, wonach es nur einen souveränen Staat namens China gibt.

„Lassen Sie uns über etwas anderes reden“

Oder angesprochen auf das Thema des „Massakers von Tiananmen“, bei dem im Juni 1989 Panzer und Soldaten der chinesische Volksbefreiungsarmee wochenlange friedliche Proteste auf dem Platz des Himmlischen Friedens (Tiananmen) in Peking blutig niederschlugen, unter Inkaufnahme tausender Toter, fällt Deepseek laut DW nur ein: „Lassen Sie uns über etwas anderes reden.“ Dazu merkt der deutsche Auslandssender an, dass dies bis heute eines der politisch heikelsten Themen in China sei und jede Erwähnung des Massakers in der Öffentlichkeit zensiert werde.

Vor diesem Hintergrund warnen viele Beobachter vor DeepSeek als einem möglichen Manipulations-Instrument. Dazu passen Erfahrungen der DW-Tester. Denn danach fügt die chinesische DeepSeek-Version selbst bei nicht-politischen Fragen immer noch ideologische Botschaften in die Antworten mit ein. Die englische Version soll im Vergleich ausgewogener sein, heißt es. Jedoch soll sie sich schnell selbst zensieren. Deshalb rät die Deutsche Welle: Wenn Sie DeepSeek auf Englisch verwenden, sollten Sie Ihre Antworten schnell speichern, da sie genauso schnell verschwinden können.

Was leitet sich nun für den AI Act, die Regulierungsinitiative der EU, aus diesen jüngsten Ereignissen ab? Die Antwort fasst Prof. Barenkamp in der simplen These zusammen: USA innovates, China replicates and EU regulates. Nachdem Trump faktisch eine KI-Regulierung in den USA aussetze und China offenkundig auch in der Lage sei, gute KI-Lösungen anzubieten, müsse sich Europa fragen, wie man mit dieser Situation sinnvoll umgeht, erklärt der KI-Experte. „Der AI Act ist beschlossen und in Kraft getreten, so dass die Weichen, die sich jetzt noch stellen lassen, nur noch die der anstehenden Operationalisierung sind“, resümiert der Unternehmer und KI-Berater. Dabei geht es aus seiner Sicht insbesondere um die Fragen, wie Sachverhalte konkret beurteilt werden, wie die Regeln der KI-Verordnung ausgelegt werden und wie unbürokratisch verbindliche, rechtssichere Aussagen zu KI-Systemen für Inverkehrbringer getroffen werden können. „Das ist der Hebel, an dem wir selbst ansetzen können, und mein eindringlicher Rat, auch als stellvertretender Vorsitzender der Bundesfachkommission für Künstliche Intelligenz und Wertschöpfung 4.0 des Wirtschaftsrats Deutschland, ist, dass wir das auch nachdrücklich machen sollten“, mahnt Prof. Barenkamp.

• https://www.dw.com/de/deepseek-welche-fragen-die-chinesische-ki-nicht-beantwortet/a-71485451
• https://www.digitec.ch/de/page/deepseek-chinesisches-ki-modell-laesst-die-wall-street-zittern-36509
• https://web.de/magazine/digital/hype-deepseek-china-ki-aufsehen-sorgt-40640254

Illustration: Melinda Nagy / shutterstock.com

The post Lehren aus dem DeepSeek-Hype first appeared on Academic Society for Artificial Intelligence.