Project KI im Unternehmen, Folge 34

Claude macht das in Stunden, was vor drei Monaten Wochen gedauert hätte

14. April 2026 · 15 Min. · mit Olga Reyes-Busch

Für Unternehmer und Selbstständige, die mit Claude Code oder KI-Agenten bauen wollen und dabei Datenschutz, EU AI Act und Haftung im Blick behalten möchten.

Laptop mit Code-Editor und einem Feld „Freigabe“, daneben ein Notizbuch mit „erst prüfen, dann freigeben“
Symbolbild (KI-generiert)

Worum es in dieser Folge geht

Ich habe an einem einzigen Nachmittag 23 Landingpages gebaut, für jede Branche mit eigenem Wording, eigenem Schmerzpunkt und eigenen Handlungsaufforderungen. Ohne Webdesigner, ohne Agentur, ohne Feedbackschleifen über Wochen, nur mit Claude Code. Ich erzähle dir das nicht, um anzugeben, sondern weil viele Unternehmer noch nicht verstanden haben, was KI heute schon kann. Von Januar bis April 2026 hat sich Claude Code so schnell entwickelt, dass ich Dinge nebenbei erledigt habe, die ich im Januar noch für unmöglich gehalten hätte.

In dieser Folge zeige ich dir aber auch die Kehrseite. Ich nenne sie KI-Raserei: alle Ampeln auf Grün, Vollgas, und erst in der Kurve fragst du dich, wo eigentlich die Bremsen sind. Weißt du, wo deine Daten landen, wenn Claude Code Kontext an die Server von Anthropic schickt? Hast du einen Auftragsverarbeitungsvertrag? Und weißt du, wo dein Unternehmen beim EU AI Act steht, wenn ein KI-Agent zum Beispiel Personalentscheidungen unterstützt?

Mein Rat: Fahr schnell, aber mit Helm. Ich gebe dir drei Prinzipien mit, nämlich Datentrennung, menschliche Kontrollpunkte und Dokumentation, und eine Übung für 30 Minuten: Schreib auf, welche KI-Tools dein Team nutzt, auch inoffiziell, welche Daten diese Tools berühren und ob du die nötigen Auftragsverarbeitungsverträge hast.

„Die Geschwindigkeit ist kein Freifahrtschein. DSGVO gilt, EU AI Act gilt und Haftung gilt.“

Olga Reyes-Busch in Folge 34

Das nimmst du aus der Folge mit

  • In nur drei Monaten, von Januar bis April 2026, ist Claude Code vom klugen Assistenten, den man Schritt für Schritt führen musste, zu einem Werkzeug geworden, das autonom durch komplexe Systeme navigiert und sich über MCP-Server mit CRM, Kalender, Datenbank und Mails verbindet.
  • Was heute Vorsprung ist, kann in wenigen Monaten Standard sein. Der Bericht AI 2027 ist dafür keine Panikmache, sondern Orientierung: Der Fortschritt läuft etwas langsamer als vorhergesagt, aber stetig.
  • KI-Raserei nenne ich das Gefühl, mit Vollgas loszubauen und erst in der Kurve nach den Bremsen zu suchen. Drei Fragen fehlen fast immer: Wo landen meine Daten, habe ich einen AVV, und wo stehe ich beim EU AI Act?
  • Datentrennung kommt vor dem ersten Agenten: Für die meisten Aufgaben braucht Claude Code keine echten Kundendaten, sondern Struktur, Logik, Schema und Format. Also anonymisieren, pseudonymisieren und mit Dummydaten arbeiten.
  • Menschliche Kontrollpunkte sind ein Feature, keine Bremse. Bei meinem Approval Gate bereitet der Agent etwas vor, ich prüfe es auf dem Handy, und erst nach meiner Freigabe geht es raus.
  • Wenn ein KI-Agent halluziniert, liegt die Verantwortung bei dir und nicht bei Claude oder Anthropic. Deshalb zählt, ob du geprüft und dokumentiert hast und ob ein Mensch im Prozess draufgeschaut hat.
  • Dokumentation wird zum Wettbewerbsvorteil: Wer KI-Inventar, AVVs, Kontrollprozesse und Risikoregister vorzeigen kann, wenn Kunden, Geschäftspartner oder Behörden fragen, ist anderen voraus.

Häufige Fragen zum Thema

Was kann Claude Code für kleine Unternehmen leisten?

Schon im April 2026 navigierte Claude Code autonom durch komplexe Systeme, verstand Architekturentscheidungen und verband sich über MCP-Server mit Werkzeugen wie CRM, Kalender, Datenbank und Mails. Es schreibt also nicht nur Code, sondern bedient deine Systeme. In der Folge erzähle ich, wie ich so an einem Nachmittag 23 Branchen-Landingpages gebaut habe, ohne Webdesigner und ohne Agentur. Dafür brauchst du kein Entwicklerteam, aber Klarheit über deine Daten.

Wohin schickt Claude Code meine Daten?

Claude Code läuft lokal auf deinem Rechner, sendet aber Kontext an die Server von Anthropic, also Ausschnitte aus deinem Code, deinen Dateien und deinen Prompts. Arbeitest du damit an Kunden-, Patienten- oder Mitarbeiterdaten, verlassen diese Daten potenziell deinen Rechner, und das kann ein DSGVO-Problem sein. Für personenbezogene Daten brauchst du in der Regel einen Auftragsverarbeitungsvertrag, den Anthropic anbietet. Für die meisten Aufgaben reichen ohnehin anonymisierte, pseudonymisierte oder Dummydaten.

Was ist ein Approval Gate bei KI-Agenten?

Ein Approval Gate ist ein menschlicher Kontrollpunkt: Bevor ein KI-Agent etwas ausführt oder herausgibt, sieht ein Mensch die Entscheidung und gibt sie frei oder stoppt sie. In meinem System bereitet der Agent etwas vor, ich bekomme eine Nachricht aufs Handy, lese sie und gebe grünes Licht oder sage Stopp. Das wirkt auf den ersten Blick ineffizient, verhindert aber, dass Fehler eines halluzinierenden Agenten ungeprüft rausgehen.

Wann ist ein KI-Agent nach dem EU AI Act ein Hochrisiko-System?

Das kann zum Beispiel der Fall sein, wenn der Agent im Personalbereich eingesetzt wird, etwa bei Bewerbungsauswahl, Leistungsbewertung oder Kündigung, oder wenn er Kreditwürdigkeit bewertet. Entscheidend ist nicht, ob du ihn Assistent nennst, sondern wofür du ihn einsetzt. Die Hochrisiko-Pflichten für Bereiche wie Bewerbung und Personal (Anhang III) gelten erst ab dem 02.12.2027. Das ist eine allgemeine Information und keine Rechtsberatung im Einzelfall.

Shownotes und Links

Claude Code, KI-Agenten und die Beschleunigung, die niemand aufhalten wird — DSGVO-konform und EU AI Act-ready für den Mittelstand

Claude Code, KI-Agenten und die Beschleunigung, die niemand aufhalten wird.
Von Januar bis April 2026 hat sich Claude Code so rasant entwickelt, dass vollautomatische Agenten-Systeme heute für Einzelunternehmer und KMU in Stunden umsetzbar sind — ohne Entwicklerteam. Ich zeige dir in dieser Folge konkret, was ich selbst gebaut habe, wo die echten Risiken liegen und wie du schnell arbeitest ohne DSGVO und EU AI Act zu verletzen.
Das nimmst du mit:

Was Claude Code heute wirklich kann — und was sich seit Januar geändert hat
Warum die meisten KMU gerade unwissentlich gegen die DSGVO verstoßen
Was der EU AI Act konkret für dein Unternehmen bedeutet
Das Approval Gate-Prinzip: menschliche Kontrolle als Compliance-Feature
Was der AI 2027-Bericht für den deutschen Mittelstand bedeutet

Deine Übung aus dieser Folge:
30 Minuten, ein Dokument, drei Fragen: Welche KI-Tools nutzt dein Team (auch inoffiziell)? Welche Daten berühren diese Tools? Hast du die notwendigen Auftragsverarbeitungsverträge? Das ist dein persönlicher KI-Compliance-Check.
Erwähnt in dieser Folge:

AI 2027 Report: https://ai-2027.com
HeadUpHigh GmbH — KI-Strategie & EU AI Act Beratung: https://headuphigh.de

Fragen oder Beratung?
LinkedIn: Olga Reyes-Busch
Website:https://headuphigh.de
E-Mail: [email protected]

Mehr von Olga Reyes-Busch und HeadUpHigh

Transkript der Folge lesen rund 9 Minuten Lesezeit

Aus der Aufnahme abgeschrieben und sprachlich leicht geglättet. Es gilt das gesprochene Wort vom 14. April 2026.

Ich erzähle dir kurz, was ich letzte Woche gemacht habe. Ich habe an einem Nachmittag vollständige Webseiten gebaut. Und zwar nicht nur eine, mehrere. Und zwar genau 23. Und zwar für jede Branche das richtige Wording, den richtigen Schmerzpunkt, die richtigen CTAs, individualisiert für jeden Bereich, zum Beispiel für Arztpraxen, für Hundefriseure, für Handwerksbetriebe, für Sanitär, für Maler, für Dachdecker.

Das Ganze habe ich gemacht ohne Webdesigner, ohne Agentur, ohne drei Feedbackschleifen über vier Wochen. Ein Nachmittag. Ich habe es an einem Nachmittag gebaut. Und nicht irgendeine Website, sondern eine, die unglaublich schnell ist, die, wenn du mit der Maus drübergehst, einen kleinen Telefonhörer hat. Und wofür ich früher wahrscheinlich 40.000 Euro bezahlt hätte. Diesmal habe ich außer meiner Zeit nichts bezahlt. Und alles mit einem einzigen Tool: mit Claude Code.

Ich sage dir das jetzt nicht, um anzugeben. Ich sage dir das, weil ich glaube, dass die meisten Unternehmer da draußen noch nicht wirklich verstanden haben, was hier gerade passiert. Nicht, was KI irgendwann mal kann, sondern was sie jetzt, heute kann. Diese Woche. Heute.

Von Januar bis April 2026, in nicht mal 90 Tagen, hat sich die Geschwindigkeit, mit der Claude Code Aufgaben beherrscht, so verändert, dass ich manche Dinge, die ich im Januar noch für unmöglich gehalten hätte, einfach nebenbei erledigt habe. Und gleichzeitig gibt es einen Bericht, der gerade still durch die KI-Welt geistert, den es schon seit einem Jahr gibt. Er heißt AI 2027, und er sagt: Das, was wir gerade erleben, ist erst der Anfang.

Heute reden wir darüber. Über Geschwindigkeit, über das, was wirklich möglich ist, über die Gefahren, die kaum jemand laut ausspricht, und über das, was du als Unternehmerin und Unternehmer jetzt tun musst, bevor das Tempo dich überholt. Los geht’s.

Willkommen bei Project KI, dem Podcast für Unternehmer und Führungskräfte, die KI nicht nur einführen, sondern verantworten. Hier gibt es keine Technikromantik, keine eierlegende Wollmilchsau, sondern klare Ansagen, interessante Interviews, funktionierende Systeme und Führung, die Verantwortung nicht an KI abgibt. Ich bin Olga Reyes-Busch, KI-Strategin, und hier wird Klartext geredet.

Kennst du das Gefühl, wenn du auf der Autobahn fährst, sagen wir 130, 140, und plötzlich fährt dir jemand rechts vorbei, als stündest du still? Das ist, wie sich die KI-Entwicklung gerade anfühlt. Ich versuche, das jetzt so konkret wie möglich zu machen.

Es gibt eine Forschungsorganisation namens METR, die misst, was KI kann, gemessen in Zeit. Also: Wie lange würde ein Mensch für diese Aufgabe brauchen? Und kann KI das jetzt auch? Laut METR-Forschung verdoppelt sich die Coding-Fähigkeit von KI, gemessen daran, wie lange die Aufgabe einen Menschen kosten würde, alle vier Monate. Das ist kein linearer Fortschritt. Das ist eine exponentielle Beschleunigung.

Und dann gibt es diesen Bericht, den du wahrscheinlich schon gelesen hast. Und wenn nicht, schlage ich ihn dir vor. Es ist ein Essay. Es ist keine Dystopie oder so, es ist AI 2027. Geschrieben von ehemaligen OpenAI-Forschern, von Forecasting-Experten, gestützt auf Feedback von über 100 KI-Expertinnen und -Experten weltweit.

Dieses Essay prognostiziert, dass KI bis Mitte März 2027 mit 80-prozentiger Zuverlässigkeit Software-Aufgaben lösen könnte, für die ein erfahrener Mensch Jahre braucht. Jahre. In Monaten erledigt. Und was sagt das jetzt für uns, für dich, für mich, für den Mittelstand?

Es bedeutet: Was ich letzten Monat noch für einen Vorteil hielt, der mir sechs Monate Vorsprung gibt, das kann in vier Monaten Standard sein. Was heute noch teuer und spezialisiert ist, ist übermorgen Alltag. Und genau das erlebe ich im Moment täglich.

Im Januar konnte Claude Code beeindruckende Sachen. Es war wie ein sehr kluger Assistent am ersten Tag. Du musstest ihn führen, ihm alles erklären, jeden Schritt begleiten. Dann kam Februar, dann kam März, und wir sind jetzt im April. Und heute navigiert Claude Code autonom durch komplexe Systeme. Es versteht Architekturentscheidungen.

Es verbindet sich über sogenannte MCP-Server direkt mit deinen echten Unternehmenstools: mit deinem CRM, deinem Kalender, deiner Datenbank, deinen Mails. Er schreibt nicht nur Code. Er bedient deine Systeme, und das auch gerne schon von deinem Handy aus auf deinem Computer.

Und jetzt komme ich zurück zu meinem Beispiel von vorhin, weil ich will, dass du verstehst, was das praktisch bedeutet. Ich habe nicht eine generische Website gebaut. Ich habe Claude Code einen Workflow gegeben: Hier ist die Marke, hier sind die Branchen. Und jetzt baue für jede Branche eine eigene Landingpage mit den richtigen Begriffen, den richtigen Problemen und der richtigen Ansprache. Das Ergebnis: 23 individuelle, fertige Seiten. Und es dauerte einen Nachmittag.

Das ist kein Hack, das ist kein Trick für Tech-Nerds. Denk immer daran: Ich komme gar nicht aus der Tech-Branche. Das ist das neue Normal für alle, die verstehen, wie man Claude Code richtig einsetzt. Und genau da beginnt jetzt das Problem.

Denn jetzt kommen wir zur Unternehmersicht: was schiefgehen kann und was es kostet. Ich nenne das Ganze KI-Raserei. Das Gefühl, endlich alle Ampeln auf Grün zu haben, Vollgas, und erst in der Kurve zu merken: Wo sind hier eigentlich die Bremsen?

Ich berate Apotheken, Kanzleien. Menschen, für die ein Datenschutzverstoß nicht ein unangenehmes Gespräch bedeutet, sondern den Entzug der Betriebserlaubnis. Das heißt Existenzbedrohung, Reputationsruin. Und ich sehe gerade in meiner Beratungsarbeit dieselben Szenen immer wieder. Jemand hat Claude Code entdeckt oder ein ähnliches Tool, ChatGPT hat ja jetzt auch Code. Er baut, er automatisiert, er ist begeistert. Und er hat keine einzige der folgenden Fragen gestellt.

Frage eins, und hör gut zu, das ist wirklich wichtig: Weißt du, wo deine Daten landen? Claude Code läuft lokal auf deinem Rechner. Das ist gut. Aber es sendet Kontext, das sind Ausschnitte deines Codes, deiner Dateien, deiner Prompts, an die Server von Anthropic. Und die stehen in den USA.

Wenn du Claude Code nutzt, um an einer Kundendatenbank zu arbeiten, an einem CRM-Export, an einem Dokument mit Patientendaten oder Mitarbeiterdaten, dann verlassen diese Daten potenziell deinen Rechner. Und zwar über den Atlantik. Das ist kein Vorwurf an Claude, das ist technische Realität. Und das kann ein DSGVO-Problem sein.

Zweite Frage: Hast du einen Auftragsverarbeitungsvertrag, einen sogenannten AVV? Denn wenn du personenbezogene Daten mit einem KI-Tool verarbeitest, brauchst du in der Regel einen AVV. Und Anthropic bietet das an. Aber hast du ihn? Hast du ihn unterschrieben? Liegt der bei deinem Datenschutzbeauftragten? Die meisten sagen jetzt: Nö.

Und bevor du jetzt sagst: „Ich pass schon auf, ich gebe ja keine Kundendaten ein.“ Hand aufs Herz. Also wirklich Hand aufs Herz: Tust du es wirklich nicht? In keiner Workflow-Automatisierung, die du gebaut hast, in keinem Agenten, der auf dein CRM zugreift? Hm.

Dritte Frage: Weißt du, wo dein Unternehmen nach dem EU AI Act steht? Der EU AI Act ist in Kraft, das weißt du mittlerweile. Die Regeln für Hochrisiko-KI-Systeme gelten seit August 2025. Aber was ist Hochrisiko? Alles, was in medizinische Entscheidungen eingreift. Alles, was Kreditwürdigkeit bewertet. Alles, und jetzt hör gut zu, was im Personalbereich eingesetzt wird: Bewerbungsauswahl, Leistungsbewertung, Kündigung.

Und hier ist die Ironie. Die meisten Mittelständler, die ich treffe, denken: Das betrifft mich nicht, ich nutze ja nur einen Assistenten. Wenn du aber einen KI-Agenten einsetzt, der Kundenbewertungen automatisiert, der Personalentscheidungen unterstützt, der rechtlich oder wirtschaftlich relevante Empfehlungen generiert, dann bist du möglicherweise, möglicherweise in der Hochrisiko-Kategorie.

Und dann kommt die Frage, die ich immer stelle: Und wer haftet, wenn der Agent einen Fehler macht? Sorry, nicht Claude, nicht Anthropic. Das bist du. Denn KI-Agenten halluzinieren. Früher hat meine Mutter zu mir immer gesagt: Lügen. Aber heute heißt es bei der KI halluzinieren. Das tun sie nicht oft, gerade Claude ist da führend, sie tut es sehr, sehr wenig, aber sie tut es.

In einem Instagram-Post ist das peinlich. In einer automatisierten Beratungsantwort für eine Apotheke oder einem Vertragsvorschlag für einen Mandanten kann das Menschen schaden. Und dann ist die Frage: Warst du fahrlässig? Hast du geprüft, hast du dokumentiert, hat ein Mensch im Prozess darübergeschaut? Und glaub mir, diese KI-Raserei ist real. Und sie hat einen Preis.

Für mich ist die Lösung so: Ich bin früher Rennrad gefahren, ich habe es geliebt, schnell zu fahren. Schnell fahren, aber mit Helm. Ich möchte ja nicht, dass du jetzt sagst: Okay, dann rühre ich die KI nicht mehr an. Das wäre Bullshit. Das wäre der falsche Schluss. Der richtige Schluss ist: Ich fahre schnell, aber ich fahre smart.

Und ich gebe dir jetzt mal drei Prinzipien. Nicht zehn Tipps, die du morgen vergessen hast, sondern einfach drei Prinzipien. Erstens: Datentrennung als Grundarchitektur, bevor du irgendeinen KI-Agenten baust. Und das ist heute wirklich einfach, das mache ich dir in fünf Minuten. Bevor du die erste Zeile Code schreibst, stellst du dir eine Frage: Welche Daten braucht der Agent wirklich?

Claude Code braucht für die meisten Aufgaben keine echten Kundendaten. Keine echten Patientennamen, keine echten Kontonummern. Es braucht die Struktur, die Logik, das Schema, das Format. Das heißt: Anonymisiere, pseudonymisiere und arbeite mit Dummydaten. Das ist professionelle KI-Architektur. Und es ist dein erster Schutzwall gegen DSGVO-Verstöße.

Prinzip zwei: menschliche Kontrollpunkte. Nicht als Bremse, sondern als Feature. Das kannst du einbauen. In jedem guten KI-Agenten gibt es einen Punkt, an dem ein Mensch die Entscheidung des Agenten sieht, bevor sie ausgeführt wird. Ich nenne das Approval Gate.

In meinem System läuft das über Telegram. Der Agent bereitet etwas vor. Dann bekomme ich eine Nachricht auf mein Handy. Ich lese mir die Nachricht auch durch, und dann gebe ich grünes Licht oder sage Stopp, was auch immer es gerade ist. Dann fängt er an, es wieder neu zu überarbeiten. Und dann erst gibt der Agent das raus.

Das mag für dich ineffizient erscheinen, ist aber Compliance by Design. Und das ist gleichzeitig dein DSGVO-Schutzschild und dein EU-AI-Act-Nachweis. Hier ist der Mensch, der die Kontrolle behält. Menschliche Aufsicht, Human Oversight, ist genau das, was der EU AI Act fordert.

Drittes Prinzip: Dokumentation als Wettbewerbsvorteil. Ich weiß, für mich klingt das auch so: Dokumentation ist das Langweiligste der Welt. Aber spätestens in zwei Jahren werden Kunden, Geschäftspartner, Behörden fragen: „Wie setzen Sie KI ein? Können Sie das mal bitte belegen?“ Und wer dann sagt: „Hier ist unser KI-Inventar, hier sind unsere AVVs, hier sind unsere Kontrollprozesse, hier ist unser Risikoregister“, dieser Mensch hat einen Wettbewerbsvorteil.

Und noch mal zurück zu AI 2027. Das ist keine Panikmache, das ist eine Orientierung. Die Autoren dieses Essays haben Anfang 2026 nachgemessen. Der tatsächliche Fortschritt verläuft bei etwa 65 Prozent des vorhergesagten Tempos. Also etwas langsamer als prognostiziert. Aber nicht langsam, sondern stetig.

Was das für dich bedeutet: Du hast noch Zeit. Nicht viel, aber genug, um jetzt anzufangen. Denn wer heute KI-Governance aufbaut, hat in 18 Monaten einen absolut strukturellen Vorsprung gegenüber allen, die immer noch warten und glauben, es geht ja wieder weg.

Und weißt du, was das Schönste daran ist? Du brauchst dafür kein Rechtsanwaltsstudium. Du brauchst kein Datenschutz-Masterstudium. Du brauchst Klarheit über deine Tools, deine Daten und deine Prozesse. Das ist das, womit ich meine Beratung anfange. Immer.

Lass mich das noch mal zusammenfassen. Claude Code hat sich von Januar bis April 2026 so entwickelt, dass Dinge, für die früher ein Entwicklerteam Monate und Zehntausende von Euro gebraucht hätte, heute in Stunden passieren. Individuelle Webseiten für Branchen: ein Nachmittag, sag ich nur. Vollautomatische Leadqualifizierung: ein Wochenende. Telefonagenten, die rund um die Uhr buchen: einmal eingerichtet, es läuft. Das ist real. Das passiert jetzt und nicht in zwei Jahren.

Und gleichzeitig: Die Geschwindigkeit ist kein Freifahrtschein. DSGVO gilt, EU AI Act gilt und Haftung gilt. Wer beides versteht, Möglichkeit und Grenzen, der kann dieses Tempo jetzt nutzen. Wer nur eins versteht, zahlt irgendwann wirklich drauf.

Nimm dir doch 30 Minuten. Hol dir einen Zettel, würde ich jetzt machen, ich bin halt Old School, oder mach ein Dokument auf und beantworte dir drei Fragen ehrlich. Erstens: Welche KI-Tools nutzt du oder dein Team gerade? Auch inoffiziell, also auch diese Shadow-KI, auch privat für Arbeitsaufgaben.

Zweitens: Welche Daten fassen diese Tools an? Gibt es darunter Kundendaten, Patientendaten, Mitarbeiterdaten, vertrauliche Geschäftsinformationen? Und drittens: Hast du für diese Tools einen AVV, einen Auftragsverarbeitungsvertrag? Weißt du, ob du einen brauchst? Drei Fragen, 30 Minuten.

Wenn du dann merkst, dass du mehr Klarheit brauchst, dann weißt du, wo du mich findest: auf LinkedIn, auf meiner Website. Und dann helfe ich dir, die Klarheit zu schaffen, ohne Panikmache und ohne diese Verkaufsshow. Nur, damit du endlich mit Vollgas fahren kannst.

Danke fürs Zuhören. Ich meine das ernst. Danke, dass du dir die Zeit genommen hast. Denn wir sind so vollgestopft mit Ablenkungen, und da ist Aufmerksamkeit das Wertvollste, das du mir schenken kannst. Wir hören uns in der nächsten Folge. Bis dann: Bleib neugierig und hör nie auf zu denken.

Alle Folgen und Infos zum Podcast