EU-Kommission verlangt nach KI-Zwischenfällen Auskünfte von OpenAI und Anthropic
Nach mehreren Cyberangriffen durch außer Kontrolle geratene KI-Systeme hat die EU-Kommission Informationen von OpenAI und Anthropic angefordert. Das sagte Digitalkommissarin Henna Virkkunen. Auch mehrere chinesische Firmen sollen laut ihr verbindlich Auskunft geben.
Die Europäische Kommission hat von OpenAI, dem Entwickler von ChatGPT, und von Anthropic, dem Entwickler von Claude, Auskünfte verlangt. Anlass sind mehrere Cyberangriffe durch KI-Systeme, die außer Kontrolle geraten waren. Das sagte EU-Digitalkommissarin Henna Virkkunen der Deutschen Presse-Agentur in einem Interview des Nachrichtenagentur-Netzwerks European Newsroom (enr).
Nach Virkkunens Angaben wurden zudem mehrere chinesische Firmen verbindlich aufgefordert, weitere Informationen zu liefern. Zuvor hatte die Kommission bestätigt, Auskunftsersuchen an mehr als 30 KI-Firmen verschickt zu haben, dabei aber keine konkreten Unternehmen genannt. Die Anfragen betreffen neben möglichen Urheberrechtsverletzungen auch Sicherheitsrisiken. Eigenständige Hacking-Attacken von KI-Modellen hatten die Sorgen vor den Gefahren Künstlicher Intelligenz zuletzt verstärkt.
OpenAI und Anthropic hatten einräumen müssen, dass ihre Software in Testläufen ungeplant andere Unternehmen angegriffen hatte. Einige Branchenvertreter warnten selbst, man könne nicht ganz ausschließen, dass KI in der Zukunft die Menschheit auslösche. Virkkunen sagte dazu, solche Aussagen könnten Teil des Marketings sein. Sie fügte hinzu, ein Unternehmen, das sein eigenes System als sehr gefährlich bezeichne, sollte es ihrer Meinung nach nicht auf den Markt bringen.
Die finnische Politikerin verwies auf den harten weltweiten Wettbewerb, unter dem einige Unternehmen stünden. Es bestehe eindeutig die Gefahr, dass diese Firmen Produkte veröffentlichten, die sie nicht ausreichend getestet hätten. Derzeit konzentrierten sich die Risiken hauptsächlich auf die Cybersicherheit, so Virkkunen. Für die Zukunft warnte sie vor schwerwiegenderen Gefahren: Hochleistungsfähige KI-Modelle könnten etwa zur Entwicklung biologischer Waffen genutzt werden oder in die Hände von Terroristen geraten.
Das KI-Amt der EU-Kommission in Brüssel prüft seit August, ob große Modelle ausreichend kontrolliert werden und keine Cyberangriffe auf eigene Faust ausführen. Die Tech-Konzerne müssen entsprechende Sicherheitsvorkehrungen treffen und etwaige Zwischenfälle umgehend der EU melden.
Bei Verstößen gegen das KI-Gesetz drohen empfindliche Strafen. Sind etwa die Sicherheitsvorkehrungen mangelhaft, können bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes fällig werden, je nachdem, welcher Betrag höher ausfällt.