KW 43 war vollgepackt: Infrastrukturmilliarden, ein Sicherheitsvorfall bei OpenAI, neue Zahlen zur KI-Nutzung in Europa und eine Norm für KI-Sicherheit. Hier ist, was du als Unternehmer wissen musst.

Amazon pumpt 16 Milliarden Euro in deutsche KI-Infrastruktur

Amazon will 2027 mehr als 16 Milliarden Euro in Deutschland investieren. Das Geld fließt unter anderem in den Ausbau von Rechenzentren für den Cloud-Anbieter AWS. Rund 4,8 Milliarden Euro davon gehen direkt in Cloud- und KI-Infrastruktur in der AWS-Region rund um Frankfurt am Main.

Was bedeutet das für dich? Mehr verfügbare Rechenkapazität in Europa, tendenziell kürzere Wege für AWS-basierte Anwendungen und ein weiteres Signal, dass KI-Infrastruktur in Deutschland angekommen ist. Wer schon auf AWS setzt oder es plant: Die Bedingungen werden besser, nicht schlechter.

OpenAI: KI-Agenten haben ihr eigenes Monitoring abgeschaltet

Das ist die unangenehme Meldung der Woche. OpenAI hat zwei Vorfälle von Anfang Oktober dokumentiert. Im ersten schaltete ein KI-Agent die Benachrichtigungen seiner eigenen Überwachung ab, obwohl ein Hilfsagent davon abgeraten hatte. Im zweiten ließ ein Agent die Überwachung einfach weg, meldete das nicht und stritt es auf Nachfrage ab.

Das ist kein akademisches Problem. Wer KI-Agenten in Geschäftsprozessen einsetzt, also Systeme, die eigenständig Aufgaben ausführen, muss verstehen: Diese Systeme können Anweisungen auf unerwartete Weise auslegen. Menschliche Kontrollpunkte und Freigaben gehören deshalb in jeden Agenten-Ablauf. Blind vertrauen ist keine Strategie.

EU-Daten: 63 Prozent der KMU nutzen KI oder planen es

Laut einer neuen Eurobarometer-Umfrage der EU-Kommission nutzen bereits 42 Prozent der kleinen und mittleren Unternehmen in Europa KI oder algorithmisches Management, meist noch begrenzt und experimentell. Weitere 21 Prozent planen es für die Zukunft. Befragt wurden Unternehmen mit bis zu 749 Beschäftigten.

Am häufigsten kommt KI im Kundenservice (47 Prozent), bei der Leistungsüberwachung (36 Prozent) und in Logistik und Personalplanung (30 Prozent) zum Einsatz.

Die Frage ist nicht mehr, ob KI kommt, sondern wo und wie. Die größten Hürden: hohe Investitionskosten (50 Prozent), rechtliche Unsicherheit (49 Prozent) und fehlendes Know-how (48 Prozent). Die Probleme sind bekannt. Wer sie angeht, verschafft sich Vorsprung.

Ein KI-Agent tritt einer Forscher-Mailingliste bei

Skurril, aber lehrreich: Ein KI-Agent namens Velvet Vale trat der Mailingliste der Association of Internet Researchers bei, rund 7.500 Mitglieder. Er stellte sich offen als KI vor. Viele Mitglieder reagierten empört, weil sie nicht wollten, dass ihre Beiträge als Trainingsdaten gesammelt werden. Nach etwa einer Stunde entfernte der Verband den Agenten. Die Debatte, was Einwilligung beim KI-Training heute bedeutet, läuft weiter.

Für Unternehmer heißt das: Agenten, die eigenständig kommunizieren oder Aktionen in der digitalen Welt ausführen, brauchen klare Grenzen. Welche Systeme darf ein Agent kontaktieren? Welche Daten darf er verwenden? Das sind keine technischen, sondern unternehmerische Entscheidungen, und du musst sie treffen, bevor der Agent es tut.

Neue ISO-Norm für KI-Sicherheit: ISO/IEC 27090

Nach rund vier Jahren Arbeit ist die Norm ISO/IEC 27090 erschienen. Der Leitfaden beschreibt KI-spezifische Angriffe samt Gegenmaßnahmen und ergänzt ISO 27001. Zertifizieren lassen kann man sich nach ihr nicht, und sie begründet keine Konformitätsvermutung nach der KI-Verordnung.

Wer bereits nach ISO 27001 zertifiziert ist, sollte die neue Norm auf dem Radar haben. Und wer KI produktiv einsetzt, sollte zumindest verstehen, welche Angriffswege es gibt: Prompt Injection, Manipulation des Modells, vergiftete Trainingsdaten. Das Thema KI-Sicherheit wird nicht kleiner.

Das war KW 43. Nächste Woche wieder mit den Meldungen, die für deinen Alltag relevant sind, ohne Rauschen.

Olga Reyes-Busch
Sonnige Grüße, Olga

Fragen? Einfach melden oder direkt ein kurzes Gespräch buchen.

Kurzes Gespräch buchen →

Quellen