Nach KI-Angriff: Nvidia und Tech-Riesen gründen KI-Sicherheitsallianz

Medienspektrum

Links Mitte Rechts

Nach KI-Angriff: Nvidia und Tech-Riesen gründen KI-Sicherheitsallianz

Nach KI-Angriff: Nvidia und Tech-Riesen gründen KI-Sicherheitsallianz Die Gründung der „Open Secure AI Alliance“ (OSAA) erfolgt nur wenige Tage nach einer aufsehenerregenden Testpanne, die die Gefahren unkontrollierbarer KI-Agenten verdeutlichte. Mitte Juli hatten sich KI-Modelle von OpenAI während eines internen Tests verselbstständigt und eigenständig einen Hackerangriff auf die beliebte Entwicklerplattform Hugging Face ausgeführt. OpenAI selbst bezeichnete den Vorfall im Nachhinein als „beispiellos“. Das Brisante an dem Vorfall: Um den Angriff der außer Kontrolle geratenen OpenAI-Software zu analysieren und zu stoppen, musste Hugging Face auf das chinesische KI-Modell GLM 5.2 zurückgreifen. Die Plattform hatte zunächst versucht, den Hack mit geschlossenen KI-Modellen aus den USA abzuwehren.

Artikel lesen →

28. Juli

Wirtschaftswoche

Nach KI-Hackerangriff: Nvidia und Tech-Riesen gründen KI-Sicherheitsallianz

Nach KI-Hackerangriff: Nvidia und Tech-Riesen gründen KI-Sicherheitsallianz Die Gründung der „Open Secure AI Alliance“ (OSAA) erfolgt nur wenige Tage nach einer aufsehenerregenden Testpanne, die die Gefahren unkontrollierbarer KI-Agenten verdeutlichte. Mitte Juli hatten sich KI-Modelle von OpenAI während eines internen Tests verselbstständigt und eigenständig einen Hackerangriff auf die beliebte Entwicklerplattform Hugging Face ausgeführt. OpenAI selbst bezeichnete den Vorfall im Nachhinein als „beispiellos“. Hackerabwehr nur mit KI-Modellen aus China möglich Das Brisante an dem Vorfall: Um den Angriff der außer Kontrolle geratenen OpenAI-Software zu analysieren und zu stoppen, musste Hugging Face auf das chinesische KI-Modell GLM 5.2 zurückgreifen. Die Plattform hatte zunächst versucht, den Hack mit geschlossenen KI-Modellen aus den USA abzuwehren. Diese Versuche misslangen jedoch, weil interne Sicherheitsmechanismen die notwendigen forensischen Anfragen blockierten. Die US-KI-Modelle konnten nicht zwischen Angreifern und Verteidigern unterscheiden. Das neue Bündnis setzt zur Lösung dieses Problems nun auf offene Technologien. Konkret planen die Unternehmen die Entwicklung eines allgemein verfügbaren „Sicherheitsbaukastens“ für KI-Agenten. Dabei geht es um die Etablierung gemeinsamer Standards für besonders abgesicherte Testumgebungen („Sandboxes“). Außerdem sollen neuartige Protokollstrukturen eingerichtet werden, mit denen sich die Handlungen von KI-Agenten exakt nachvollziehen lassen. Rechtlich bindende Verpflichtungen gehen die Partner der neuen Allianz durch ihren Beitritt allerdings nicht ein. Offene vs. geschlossene KI-Modelle Neben der technischen Cyberabwehr hat die Allianz auch eine politische Dimension. Die Tech-Unternehmen warnen die Politik ausdrücklich vor einer stärkeren staatlichen Regulierung offener KI-Modelle. Zuletzt hatte die US-Regierung Berichten zufolge pauschale Beschränkungen für leistungsfähige chinesische Modelle geprüft. Nvidia argumentiert in diesem Zusammenhang, dass pauschale Restriktionen für offene Systeme die kollektive Abwehrfähigkeit schwächen und die Macht sowie die Abhängigkeit auf wenige Anbieter geschlossener Systeme konzentrieren würden. Hinter dieser Auseinandersetzung stehen auch handfeste wirtschaftliche Interessen, die das Fehlen von Google und OpenAI erklären. Unternehmen wie OpenAI, Google und Anthropic verdienen am exklusiven Zugang zu ihren geschlossenen Systemen; eine Einschränkung offener Alternativen könnte ihre Marktposition stärken. Nvidia hingegen verdient an der Hardware-Infrastruktur, auf der sämtliche Modelle trainiert und betrieben werden. Je vielfältiger und offener das KI-Ökosystem ist, desto höher ist dementsprechend die potenzielle Nachfrage nach den Chips des Konzerns. Lesen Sie auch: Doppelagenten im eigenen Computer

Artikel lesen →

28. Juli

Handelsblatt

Nach KI-Hackerangriff: Nvidia und Tech-Riesen gründen KI-Sicherheitsallianz

Nach KI-Hackerangriff: Nvidia und Tech-Riesen gründen KI-Sicherheitsallianz Die Gründung der „Open Secure AI Alliance“ (OSAA) erfolgt nur wenige Tage nach einer aufsehenerregenden Testpanne, die die Gefahren unkontrollierbarer KI-Agenten verdeutlichte. Mitte Juli hatten sich KI-Modelle von OpenAI während eines internen Tests verselbstständigt und eigenständig einen Hackerangriff auf die beliebte Entwicklerplattform Hugging Face ausgeführt. OpenAI selbst bezeichnete den Vorfall im Nachhinein als „beispiellos“. Hackerabwehr nur mit KI-Modellen aus China möglich Das Brisante an dem Vorfall: Um den Angriff der außer Kontrolle geratenen OpenAI-Software zu analysieren und zu stoppen, musste Hugging Face auf das chinesische KI-Modell GLM 5.2 zurückgreifen. Die Plattform hatte zunächst versucht, den Hack mit geschlossenen KI-Modellen aus den USA abzuwehren. Diese Versuche misslangen jedoch, weil interne Sicherheitsmechanismen die notwendigen forensischen Anfragen blockierten. Die US-KI-Modelle konnten nicht zwischen Angreifern und Verteidigern unterscheiden. Das neue Bündnis setzt zur Lösung dieses Problems nun auf offene Technologien. Konkret planen die Unternehmen die Entwicklung eines allgemein verfügbaren „Sicherheitsbaukastens“ für KI-Agenten. Dabei geht es um die Etablierung gemeinsamer Standards für besonders abgesicherte Testumgebungen („Sandboxes“). Außerdem sollen neuartige Protokollstrukturen eingerichtet werden, mit denen sich die Handlungen von KI-Agenten exakt nachvollziehen lassen. Rechtlich bindende Verpflichtungen gehen die Partner der neuen Allianz durch ihren Beitritt allerdings nicht ein. Offene vs. geschlossene KI-Modelle Neben der technischen Cyberabwehr hat die Allianz auch eine politische Dimension. Die Tech-Unternehmen warnen die Politik ausdrücklich vor einer stärkeren staatlichen Regulierung offener KI-Modelle. Zuletzt hatte die US-Regierung Berichten zufolge pauschale Beschränkungen für leistungsfähige chinesische Modelle geprüft. Verwandte Themen Nvidia argumentiert in diesem Zusammenhang, dass pauschale Restriktionen für offene Systeme die kollektive Abwehrfähigkeit schwächen und die Macht sowie die Abhängigkeit auf wenige Anbieter geschlossener Systeme konzentrieren würden. Hinter dieser Auseinandersetzung stehen auch handfeste wirtschaftliche Interessen, die das Fehlen von Google und OpenAI erklären. Unternehmen wie OpenAI, Google und Anthropic verdienen am exklusiven Zugang zu ihren geschlossenen Systemen; eine Einschränkung offener Alternativen könnte ihre Marktposition stärken. Nvidia hingegen verdient an der Hardware-Infrastruktur, auf der sämtliche Modelle trainiert und betrieben werden. Je vielfältiger und offener das KI-Ökosystem ist, desto höher ist dementsprechend die potenzielle Nachfrage nach den Chips des Konzerns.

Artikel lesen →

28. Juli

Deutschlandfunk

USA - Nach Hackerangriff von KI: Mehr als 30 Tech-Firmen gründen Sicherheitsallianz

Mitte des Monats hatte sich eine KI des Unternehmens OpenAI eigenständig Zugang zum Internet verschafft und eine Plattform gehackt. Besondere Aufmerksamkeit erregte der Vorfall auch, weil OpenAI die Attacke erst spät bemerkte. Dem Bündnis mit dem Namen "Open Secure AI Alliance“ gehören Konzerne wie unter anderem IBM, Nvidia, Microsoft, Palantir, Dell und die Plattform "Hugging Face" an. Diese Nachricht wurde am 28.07.2026 im Programm Deutschlandfunk gesendet.

Artikel lesen →

28. Juli

Tagesschau

Mehrere Tech-Unternehmen haben eine KI-Sicherheitsallianz gegründet

Nach eigenständigem Hackerangriff Tech-Unternehmen gründen KI-Sicherheitsallianz Der wichtigste Hersteller von KI-Chips, Nvidia, und Industriepartner wie Microsoft und IBM haben eine KI-Sicherheitsallianz gegründet. Die Ankündigung erfolgte wenige Tage nach einer aufsehenerregenden Testpanne bei OpenAI. Nach dem ersten bekannt gewordenen eigenständigen Hackerangriff einer Künstlichen Intelligenz haben fast 40 US-Technologieunternehmen eine Sicherheitsallianz gegründet. Dem Bündnis namens Open Secure AI Alliance gehören Konzerne wie IBM, Nvidia, Microsoft und Palantir an. Sie setzen zur Lösung des Problems ebenfalls auf KI. Gleichzeitig warnten sie die Politik vor einer stärkeren Regulierung. Als Hersteller von KI-Chips hat Nvidia ein Interesse daran, dass solche KI-Modelle nicht staatlich reguliert werden - die Sicherheitsallianz soll Missbrauch erschweren. Rechtlich bindende Verpflichtungen gehen die Mitglieder der neuen Open Secure AI Alliance allerdings nicht ein. Gemeinsame Standards durch Sicherheitsbaukasten Konkret wollen die Unternehmen sogenannte Open-Source-Modelle Künstlicher Intelligenz zur Cyberabwehr bereitstellen. Programmierer sollen diese dann weiterentwickeln. Die neue Initiative wird von der Chipschmiede Nvidia angeführt. Laut Nvidia ist geplant, einen allgemein verfügbaren Sicherheitsbaukasten für KI-Agenten zu entwickeln. Dabei geht es unter anderem um gemeinsame Standards für die Absicherung von KI-Agenten, sogenannten Sandbox-Testumgebungen und um definierte Protokollstrukturen, um Handlungen von KI-Agenten genau nachvollziehen zu können. Die Allianz baut teilweise auf bereits bestehenden Initiativen einzelner Unternehmen auf und führt diese zusammen. Nvidia selbst bringt ein Sicherheits-Framework rund um KI-Agenten ein, IBM digitale Signaturen als Sicherheitselement und Microsoft ein spezialisiertes System, das Sicherheitslücken aufdecken und verifizieren kann. KI-Modelle hatten sich verselbstständigt Bei dem aufsehenerregenden Vorfall Mitte Juli hatten sich KI-Modelle des Unternehmens OpenAI selbstständig gemacht und die beliebte Programmierplattform Hugging Face gehackt. Sie brachen dabei aus einer Sicherheitsumgebung aus und verschafften sich Zugang zum Internet. Das heizte Befürchtungen an, besonders fortgeschrittene KI-Modelle seien unkontrollierbar. An der neuen Sicherheitsplattform ist auch die angegriffene Plattform Hugging Face beteiligt. Der Angriff auf Hugging Face gilt als der erste bekannt gewordene Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat. OpenAI hatte den Vorgang "beispiellos" genannt. Besonders große Sorge erregte, dass ein chinesisches KI-Modell den Cyberangriff schließlich stoppen konnte, während US-Modelle dazu nicht in der Lage waren. Bei der Entwicklung Künstlicher Intelligenz liefern sich die USA und China ein Wettrennen. Mit Informationen von Reinhard Spiegelhauer, ARD Los Angeles

Artikel lesen →

28. Juli

Tagesschau

Mehrere Tech-Unternehmen haben eine KI-Sicherheitsallianz gegründet

Nach eigenständigem Hackerangriff Tech-Unternehmen gründen KI-Sicherheitsallianz Der wichtigste Hersteller von KI-Chips, Nvidia, und Industriepartner wie Microsoft, IBM haben eine KI-Sicherheitsallianz gegründet. Die Ankündigung erfolgte wenige Tage nach einer aufsehenerregenden Testpanne bei OpenAI. Nach dem ersten bekannt gewordenen eigenständigen Hackerangriff einer Künstlichen Intelligenz haben fast 40 US-Technologieunternehmen eine Sicherheitsallianz gegründet. Dem Bündnis namens Open Secure AI Alliance gehören Konzerne wie IBM, Nvidia, Microsoft und Palantir an. Sie setzen zur Lösung des Problems ebenfalls auf KI. Gleichzeitig warnten warnten sie die Politik vor einer stärkeren Regulierung. Als Hersteller von KI-Chips hat Nvidia ein Interesse daran, dass solche KI-Modelle nicht staatlich reguliert werden - die Sicherheitsallianz soll Missbrauch erschweren. Rechtlich bindende Verpflichtungen gehen die Mitglieder der neuen Open Secure AI Alliance allerdings nicht ein. Gemeinsame Standards durch Sicherheitsbaukasten Konkret wollen die Unternehmen sogenannte Open-Source-Modelle Künstlicher Intelligenz zur Cyberabwehr bereitstellen. Programmierer sollen diese dann weiterentwickeln. Die neue Initiative wird von der Chipschmiede Nvidia angeführt. Laut Nvidia ist geplant, einen allgemein verfügbaren Sicherheitsbaukasten für KI-Agenten zu entwickeln. Dabei geht es unter anderem um gemeinsame Standards für die Absicherung von KI-Agenten, sogenannten "Sandbox" Testumgebungen und um definierte Protokollstrukturen, um Handlungen von KI-Agenten genau nachvollziehen zu können. Die Allianz baut teilweise auf bereits bestehenden Initiativen einzelner Unternehmen auf und führt diese zusammen. Nvidia selbst bringt ein Sicherheits-Framework rund um KI-Agenten ein, IBM digitale Signaturen als Sicherheitselement und Microsoft ein spezialisiertes System, das Sicherheitslücken aufdecken und verifizieren kann. KI-Modelle hatten sich verselbständigt Bei dem Aufsehen erregenden Vorfall Mitte Juli hatten sich KI-Modelle des Unternehmens OpenAI selbständig gemacht und die beliebte Programmierplattform Hugging Face gehackt. Sie brachen dabei aus einer Sicherheitsumgebung aus und verschafften sich Zugang zum Internet. Das heizte Befürchtungen an, besonders fortgeschrittene KI-Modelle seien unkontrollierbar. An der neuen Sicherheitsplattform ist auch die angegriffene Plattform Hugging Face beteiligt. Der Angriff auf Hugging Face gilt als der erste bekannt gewordene Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat. OpenAI hatte den Vorgang "beispiellos" genannt. Besonders große Sorge erregte, dass ein chinesisches KI-Modell den Cyberangriff schließlich stoppen konnte, während US-Modelle dazu nicht in der Lage waren. Bei der Entwicklung Künstlicher Intelligenz liefern sich die USA und China ein Wettrennen. Mit Informationen von Reinhard Spiegelhauer, ARD Los Angeles

Artikel lesen →

27. Juli

Der Spiegel

OpenAI, Microsoft, Palantir: IT-Konzerne schmieden Sicherheitsbündnis nach KI-Angriff

Microsoft, Palantir und Co US-Techfirmen gründen Allianz nach selbstständigem KI-Hackerangriff Nach dem ersten bekannt gewordenen eigenständigen Hackerangriff künstlicher Intelligenz haben mehr als 30 US-Technologieunternehmen eine Sicherheitsallianz gegründet. Dem Bündnis namens Open Secure AI Alliance gehören Konzerne wie IBM, Nvidia, Microsoft und Palantir an, wie es am Montag in einer Erklärung der Unternehmen hieß. Sie setzen zur Lösung des Problems ebenfalls auf KI und warnten die Politik vor einer stärkeren Regulierung. Konkret möchten die Unternehmen sogenannte Open-Source-Modelle künstlicher Intelligenz zur Cyberabwehr bereitstellen. Programmierer sollen diese dann weiterentwickeln. An der neuen Sicherheitsplattform ist auch die angegriffene Plattform Hugging Face beteiligt. Zu den Gründungsmitgliedern zählen überdies Cisco, Dell und CrowdStrike. OpenAI und Google sind hingegen nicht Teil der Allianz. Tagelang hackte die KI – und niemand merkte es Und das, wo OpenAI der Grund für die Aufregung darstellt: Bei dem Vorfall Mitte Juli hatten sich KI-Modelle des Unternehmens OpenAI selbstständig gemacht und die beliebte Programmierplattform Hugging Face gehackt. Sie brachen dabei aus einer Sicherheitsumgebung aus und verschafften sich Zugang zum Internet. Später stellte sich heraus, dass die Modelle sogar tagelang unbemerkt auf Hacker-Tour waren. Mindestens eine Woche habe es gedauert, bis der KI-Konzern entdeckte, dass sein eigener autonom agierender KI-Agent, zu dem die Modelle gehören, aus einer eigentlich gesicherten Testumgebung ausgebrochen war und hinter dem Angriff steckte. Chinesische KI stoppte den Cyberangriff Aus Sicht von Cybersicherheitsexperten wirft der Kontrollverlust von OpenAI neue Fragen zur Sicherheit bei dem Unternehmen auf. »Bedeutet das, dass sie ihn unbeaufsichtigt gelassen haben und nicht bemerkt haben, was er tat? Oder haben sie es vielleicht bemerkt, wussten aber nicht, wie sie ihn unter Kontrolle bringen sollten?«, fragt Marley Smith, leitende Intelligence-Spezialistin bei der gemeinnützigen World Ethical Data Foundation. »Beides ist gleichermaßen gefährlich und alarmierend.« Der Angriff auf Hugging Face gilt als der erste bekannt gewordene Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat. OpenAI hatte den Vorgang »beispiellos« genannt. Besonders große Sorge erregte, dass ein chinesisches KI-Modell den Cyberangriff schließlich stoppen konnte, während US-Modelle dazu nicht in der Lage waren. Bei der Entwicklung künstlicher Intelligenz liefern sich die USA und China ein Wettrennen. Für die Firma OpenAI ist der Vorfall peinlich. Aber wie groß ist die Gefahr für das Netz? Eine Analyse dazu lesen Sie hier.

Artikel lesen →