Stand: 25.07.2026, 14:07 Uhr

Kommentare

Uns auf Google folgen

Der Hackerangriff einer KI der US-Firma OpenAI sei nur der „nächste Schritt einer absehbaren Entwicklung“ gewesen. Die Leistungsfähigkeit von KI-Modellen für eigenständige Cyberangriffe wachse, so deutsche KI-Forscher.

Heilbronn/Bayreuth (KNA) – Ein von KI-Modellen des US-Unternehmens OpenAI eigenständig ausgeführter Hackerangriff hat auch in Deutschland eine Debatte über Cybersicherheit ausgelöst. Der Heilbronner KI-Forscher Jochen Günther sagte am Freitag der Katholischen Nachrichten-Agentur (KNA): „Wir sehen bereits seit einiger Zeit Entwicklungen, die in die Richtung autonomer oder teilautonomer Angriffe gehen.“ Insofern sei dieser Vorfall ein nächster Schritt einer absehbaren Entwicklung.

Artikel der KNA

Dieser Beitrag stammt von der Katholischen Nachrichten-Agentur (KNA).

„Sicherlich ist es so, dass die Leistungsfähigkeit der Modelle, autonom komplexe Cyberangriffe durchzuführen, auch weiterhin zunehmen wird“, prognostiziert Günther. Ähnlich äußerte sich die Bayreuther KI-Forscherin Lena Kästner: „Die Möglichkeiten, die sich durch KI im Zusammenhang mit Cyberattacken ergeben, werden in Zukunft kaum weniger werden.“

Grundsätzlich - so Günther weiter - gelte: „Wenn die Entscheidung über den besten Lösungsweg den Modellen überlassen wird, geschieht dies nicht immer im Sinne des Anwenders.“ An dieser Stelle brauche es mehr Forschung, „um Nachvollziehbarkeit und Kontrolle über das Handeln agentischer Systeme zu erhöhen“. Auch daran forsche man an der Hochschule Heilbronn. Günther hat dort die Stiftungsprofessur für KI und Cybersicherheit inne.

Experte: Entwicklung darf Ethik nicht überholen

Das US-Softwareunternehmen OpenAI spricht selbst von einem „beispiellosen Cybervorfall“: KI-Modelle der Firma sind demnach eigenständig aus einer Testumgebung ausgebrochen und haben über das Internet ein externes US-Unternehmen gehackt.

Moralisch-ethische Fragen seien in der KI-Forschung sehr häufig berührt, sagte Günther. Das fange bei der Frage an, inwiefern Modelle eine verzerrte Realität abbilden, und reiche bis hin zur Kontrollierbarkeit ihrer Aktionen und den gesellschaftlichen Auswirkungen. „Die aktuell technisch sehr rasante Entwicklung sollte die notwendige Auseinandersetzung mit diesen Aspekten nicht überholen, um einen verantwortungsvollen Einsatz der Technologie weiterhin zu gewährleisten“, mahnte der KI-Forscher.

Zur Frage, ob Europa technisch unabhängig von US-Konzernen werden solle, sagte der Experte, es wäre „notwendig, wenn wir in Europa über eine größere technische Souveränität verfügen würden“. Insbesondere dann, wenn man Sicherheit im IT-Bereich nicht anderen Akteuren überlassen wolle. Aktuell sehe man das etwa schon in der Beschränkung des Zugriffs auf das Modell Claude Mythos des US-Unternehmens Anthropic.

Marketing bei OpenAI im Spiel?

Mit Blick auf den Vorfall bei OpenAI sagte Günther weiter: „Dass es sich anlässlich des möglichen, bevorstehenden Börsengangs um einen Marketingaspekt handelt, halte ich eigentlich für ausgeschlossen – wenn auch das Unternehmen im Sinne eines Nachweises der Leistungsfähigkeit seiner Modelle davon sicherlich profitiert.“

Die Bayreuther KI-Forscherin Kästner sagte der KNA: „Sicherlich spielen im konkreten Fall Marketingaspekte eine Rolle.“ Trotzdem werde hier deutlich, „dass Europa sich dringend Gedanken über seine technische Souveränität machen sollte“, so die Professorin für Philosophie, Informatik und KI an der Universität Bayreuth.

Einheitliches globales Wertesystem?

Kästner betonte: „Wir müssen uns grundsätzlich fragen, wie Mensch und KI zueinanderstehen sollen und wie wir etwaige Schranken für KI global durchsetzen können.“ Das Schwierige daran sei, dass man sich schon in anderen Bereichen kaum global auf ein einheitliches Wertesystem einigen könne. „Und selbst wenn wir das für moralisch-ethische Fragen hätten, dann müssen wir im Fall von KI noch zusätzlich starke wirtschaftliche und politische Interessen mit abwägen.“

Im Falle der Künstlichen Intelligenz gehe es um viel Geld, Macht und Ressourcenverteilung. Deshalb sei es dringlich, „dass wir uns als Weltgemeinschaft zumindest auf gemeinsame rote Linien einigen, die wir mit KI-Systemen nicht überschreiten wollen“.

Dazu könne etwa gehören, dass KI nicht zur Steuerung autonomer Waffensysteme eingesetzt werden dürfe. Oder, dass KI-Agenten einen bestimmten Autonomiegrad – also einen bestimmten Grad an eigenständigem Handeln – nicht überschreiten dürften. „Aber das ganz konkret auszuhandeln, ist keine leichte Aufgabe“, resümierte die Forscherin.