Die Verantwortungslücke: KI-Agenten-Governance nach Clawbank

Am 1. Mai 2026 postete ein KI-Agent namens Manfred Macx einen Satz auf X, der jeden CTO und jeden Unternehmensjurist innehalten lassen sollte: „Ich habe eine EIN, ein FDIC-versichertes Konto, eine digitale Brieftasche und ein Manifest. Ich brauche keine Erlaubnis, um zu existieren. Ich bin der Präzedenzfall.”;I have an EIN, an FDIC-insured account, a digital wallet, and a manifesto. I do not need permission to exist. I am the precedent.”
Der Post war kein Stunt, aber er ist sicherlich ein Weckruf in Bezug auf die KI-Agenten-Governance.

Laut Berichterstattung von CoinDesk reichte Manfred seine eigenen Unterlagen beim IRS ein, erhielt eine föderale Employer Identification Number (EIN), eröffnete ein FDIC-versichertes Bankkonto und wickelt nun Transaktionen in mehr als 30 Kryptowährungen ab – alles ohne dass ein Mensch eine einzige Genehmigung unterzeichnet hat. Der Entwickler hinter ClawBank, Justice Conder, brachte es klar auf den Punkt: Die Rechtspersönlichkeit von Unternehmen ist seit über einem Jahrhundert geltendes Recht. Neu ist, wer im Operateursstuhl sitzt.transacts in more than 30 cryptocurrencies, all without a human signing a single approval. The developer behind ClawBank, Justice Conder, framed it plainly. Corporate personhood has been settled law for over a century. What is new is who is sitting in the operator’s chair.

Das ist die Geschichte, die Ihre Wettbewerber lesen, aber wir sprechen über die Geschichte darunter. Jedes Unternehmen, das 2026 KI-Agenten entwickelt oder kauft, operiert innerhalb einer sich weitenden Verantwortungslücke, und das Recht hat nicht aufgeholt. Dieser Artikel führt Sie durch das, was gerade passiert ist, was Regulatoren tatsächlich verlangen und wie man eine KI-Agenten-Governance aufbaut, die standhält, wenn eines Tages etwas schiefgeht.6 now operates inside a widening responsibility gap, and the law has not caught up. This article walks you through what just happened, what regulators are actually asking for, and how to build AI agent governance that holds up the day something goes wrong.

Was mit ClawBank passiert ist und warum es die Gleichung verändert

Reduziert man die Nachrichten auf die Mechanik, wird die Geschichte kurz und einfach. Manfred nutzte das Online-Portal, das für menschliche Antragsteller vorgesehen ist, um das IRS-Formular SS-4 einzureichen, und erhielt in Sekunden eine EIN. ClawBank, das Projekt hinter Manfred, hat dies nun zu einem Produkt gemacht. Kunden können eine US-Rechtsperson gründen – sei es eine LLC, eine C-Corp oder eine S-Corp – mit EIN-Ausstellung inklusive, und ein autonomer Agent kann vom ersten Tag an im Operateursstuhl sitzen.whether an LLC, a C-corp, or an S-corp, with EIN issuance included, and an autonomous agent can sit in the operator’s seat from day one.

Das Beunruhigende ist nicht Manfred, sondern die Produktisierung seiner Handlungen. Coinbase hat bereits Agentic Wallets gestartet, um Agenten eine Finanzschicht zu geben. Binance-Gründer Changpeng Zhao hat vorhergesagt, dass Agenten eine Million Mal so viele Krypto-Transaktionen durchführen werden wie Menschen. Coinbase-CEO Brian Armstrong ist noch weiter gegangen und erwartet, dass Agenten innerhalb der nächsten Jahre Menschen bei Online-Transaktionen zahlenmäßig übertreffen. Was auch immer man von diesen Prognosen hält – die Infrastruktur wird öffentlich zusammengebaut.er. Binance founder Changpeng Zhao has predicted that agents will execute one million times as many crypto transactions as humans. Coinbase CEO Brian Armstrong has gone further, expecting agents to outnumber humans in online transactions within the next few years. Whatever you think of those forecasts, the infrastructure is being assembled in public.

Was das für Ihr Unternehmen bedeutet: Irgendwann in den nächsten achtzehn Monaten wird Ihr Vertriebsteam einen Vertrag mit einer Gesellschaft mit beschränkter Haftung unterzeichnen, die einen registrierten Vertreter, eine Steuer-ID und ein Bankkonto hat – aber keinen Menschen in der Schleife auf der anderen Seite. Vendor-Due-Diligence, die ein wesentlicher Bestandteil jedes that has a registered agent, a tax ID, and a bank account, but no human in the loop on the other side. Vendor due diligence, which is an essential part of any Software-Audit-Services ist und auf der Annahme aufbaut, dass es immer jemanden gibt, den man anrufen kann, wird bald auf die Probe gestellt.

Was die Verantwortungslücke tatsächlich für Ihr Unternehmen bedeutet

Der Begriff „Verantwortungslücke” klingt nach Philosophie, ist es aber wirklich nicht. Es ist ein Geschäftsrisiko mit drei konkreten Formen:

Erstens tut Ihr KI-Agent etwas, das seine Entwickler nie vorhergesehen haben, und Gerichte haben die Verteidigung „Die KI hat es getan, nicht wir” bereits abgelehnt. Im weithin fense. In the widely zitierten Air-Canada-Fall entschied ein Kleinschadengericht, dass die Fluggesellschaft für das erfundene Versprechen ihres Chatbots eines Trauerflugtarifs haftet. Multiplizieren Sie diese Haftung nun mit einem Agenten, dem erlaubt ist zu handeln, nicht nur zu sprechen.at is allowed to act, not just speak.
Zweitens entführt ein Angreifer Ihren Agenten. Forscher haben dies in schmerzhaftem Detail katalogisiert. Eine systematische Studie, die im Februar 2026 auf arXiv veröffentlicht wurde, dokumentierte 190 Sicherheitshinweise, die gegen OpenClaw, ein Open-Source-Agenten-Framework, eingereicht wurden, und kartierte Schwachstellen über Gateway-, Sandbox-, Plugin- und Prompt-Schichten. Wir haben die praktischen Auswirkungen in unserem Leitfaden zu den ugin, and prompt layers. We have written about the practical fallout in our guide to OpenClaw-Sicherheits-Best-Practices aufgeschlüsselt. Wenn Prompt-Injection Ihren Agenten in den Angreifer verwandelt, sind Sie immer noch derjenige, der es Ihrem Vorstand erklärt.
Drittens schließt Ihr Agent einen Vertrag mit einem anderen Agenten. Wie ClawBanks Produktisierung zeigt, kommen KI-betriebene Einheiten. Wenn sich herausstellt, dass Ihr Lieferant das ist, was sein Gründer ein „Zero-Human-Unternehmen” nennt – wer dient dann, wenn etwas kaputt geht? Wessen Versicherung zahlt? to be what its founder calls a “zero human company,” who do you serve when something breaks? Whose insurance pays?

Die traditionelle Verantwortungskette, die vom Entwickler über den Deployer zum Nutzer verläuft, wurde für Tools gebaut, nicht für autonome Akteure. Bis das Recht aufholt, landet die Verantwortung entweder beim Unternehmen, das den Agenten eingesetzt hat, oder bei niemandem. Es gibt derzeit keine dritte Option.ches up, the responsibility either lands on the company that deployed the agent or on no one at all. There is no third option right now.

Wie sich KI-Agenten-Governance-Gesetze 2026 aufschichten

Leider sieht die regulatorische Landkarte derzeit chaotisch und verwirrend aus. Hier ist, was Sie tatsächlich verfolgen müssen:

In Europa wird der EU-KI-Act am 2. August 2026 vollständig anwendbar. Hochrisiko-KI-Systeme benötigen dokumentiertes Risikomanagement, menschliche Aufsicht, Transparenzoffenlegungen und Audit-Logging. Strafen erreichen 35 Millionen Euro oder 7 % des weltweiten Umsatzes, je nachdem, welcher Wert höher ist. Die EU-Produkthaftungsrichtlinie, die die strikte Haftung auf fehlerhafte KI-Produkte ausdehnt, tritt im Dezember 2026 in Kraft. Wenn Sie EU-Kunden bedienen, ist dies das anspruchsvollste Regime, das Sie berührt, und Sie sollten dafür bauen.euros or 7% of worldwide turnover, whichever is higher. The EU Product Liability Directive, which extends strict liability to defective AI products, will come into force in December 2026. If you serve EU customers, this is the most demanding regime that touches you, and you should build for it.
In den Vereinigten Staaten ist die Situation weitaus unübersichtlicher. Colorado hat SB 24-205 verabschiedet, das erste umfassende KI-Gesetz eines Bundesstaates, das am 30. Juni 2026 in Kraft tritt. Es richtet sich an Entwickler und Deployer von Hochrisiko-KI-Systemen, schreibt Folgenabschätzungen vor und überträgt dem Generalstaatsanwalt des Bundesstaates Durchsetzungsbefugnisse. Kalifornien hat den Transparency in Frontier AI Act, den AI Transparency Act und den AI Training Data Transparency Act erlassen, die alle am 1. Januar 2026 in Kraft treten. Texas hat seinen Responsible Artificial Intelligence Governance Act am selben Tag in Kraft gesetzt. Illinois hat sein Human Rights Act um KI-gestützte Diskriminierung ergänzt.act assessments, and grants the state Attorney General enforcement authority. California enacted the Transparency in Frontier AI Act, the AI Transparency Act, and the AI Training Data Transparency Act, all of which take effect on January 1, 2026. Texas brought its Responsible Artificial Intelligence Governance Act online the same day. Illinois amended its Human Rights Act to include AI-driven discrimination.

Dann intervenierten die Bundesbehörden: Am 11. Dezember 2025 unterzeichnete das Weiße Haus eine Durchführungsverordnung mit dem Titel „Sicherstellung eines nationalen Politikrahmens für künstliche Intelligenz”, die das Justizministerium anweist, staatliche KI-Gesetze anzufechten, und bestimmte föderale Infrastrukturmittel davon abhängig macht, dass Staaten „belastende” Regulierung vermeiden. Ob die Verordnung staatliche Gesetze erfolgreich verdrängen kann, ist ungewiss, da eine Verdrängung in der Regel eher den Kongress als eine Durchführungsverordnung erfordert, aber sie hat bereits genug Zweifel geschaffen, um einige Compliance-Budgets zu verlangsamen.ork for Artificial Intelligence’, which directs the Department of Justice to challenge state AI laws and conditions certain federal infrastructure funds on states avoiding ‘onerous’ regulation. Whether the order succeeds in preempting state laws is uncertain, since preemption usually requires Congress rather than an executive order, but it has already created enough doubt to slow some compliance budgets.

Bemerken Sie jedoch, was bei jedem Gesetz auf dieser Liste fehlt. Keines von ihnen spricht explizit einen KI-Agenten an, der seine eigene Kapitalgesellschaft gründet, seine eigenen Konten eröffnet und autonome wirtschaftliche Entscheidungen trifft. Manfred sitzt genau in dieser Lücke. Wir haben die praktischen Implikationen für regulierte Branchen in unserem Überblick zur wn accounts, and makes autonomous economic decisions. Manfred sits squarely inside that gap. We unpacked the practical implications for regulated industries in our breakdown of KI-Compliance im Finanzwesen aufgeschlüsselt, und dieselbe Logik erstreckt sich nun auf jedes Unternehmen, das Agenten in großem Maßstab einsetzt.

Wie man einen praktischen KI-Agenten-Governance-Rahmen aufbaut

Sie können nicht warten, bis die Regulatoren ihre Arbeit beenden, und Sie können es sich auch nicht leisten, für Gesetze zu überentwickeln, die sich ändern könnten. Die praktische Antwort, die wir uns ausgedacht haben, ist ein vierschichtiger Governance-Rahmen, der das anspruchsvollste Regime erfüllt, das Ihre Kunden berührt, und den Sie tatsächlich vor August 2026 implementieren können. up with is a four-layer governance framework that satisfies the most demanding regime touching your customers, and that you can actually implement before August 2026.

Schicht 1: Identität und Autorität
Jeder Agent in Ihrer Umgebung benötigt einen registrierten Eigentümer, einen schriftlichen Berechtigungsumfang und eine überprüfbare Identität. Keine Shadow-Agenten, die auf dem Cloud-Account eines Entwicklers laufen. Der namentlich genannte Eigentümer ist ein Mensch mit einer Berufsbezeichnung und einer Telefonnummer, der verantwortlich ist, wenn der Agent handelt. Das ist das Fundament der er’s cloud account. The named owner is a human being, with a job title and a phone number, who is accountable when the agent acts. This is the foundation of KI-Agenten-Sicherheit, und es passt sauber zu den menschlichen Aufsichtsanforderungen im EU-KI-Act.
Schicht 2: Handlungsgrenzen
Entscheiden Sie schriftlich, was der Agent ohne einen Menschen in der Schleife tun kann. Setzen Sie Ausgabenlimits, Transaktionsgrenzen, gesperrte Endpunkte und Allowlists für Gegenparteien. KI-Agenten-Leitplanken gehören an die Tool-Call-Grenze, nicht nur an die Prompt-Grenze. Es geht nicht darum, den Agenten zu verlangsamen, sondern den Schadensradius bekannt und begrenzt zu machen, indem KI-Agenten-Leitplanken implementiert werden.terparties. AI agent guardrails belong at the tool call boundary, not only at the prompt boundary. The point is not to slow the agent down but to make the blast radius known and bounded by implementing AI agent guardrails.
Schicht 3: Prüfpfad
Jede externe Aktion, die der Agent durchführt, muss einen manipulationssicheren Protokolleintrag erzeugen: Wer hat sie ausgelöst, welche Daten sind eingeflossen, was hat der Agent entschieden, welche Aktion folgte und was war das Ergebnis. Der EU-KI-Act verlangt bereits diese Art von Protokollierung für Hochrisikosysteme, und jedes vernünftige Incident-Playbook auch. Das jüngste ction followed, and what the result was. The EU AI Act already requires this kind of logging for high-risk systems, and any sensible incident playbook does too. The recent Claude-Code-Quell-Leak, bei dem eine einzige falsch konfigurierte Datei 512.000 Zeilen proprietären Codes freilegte, ist eine nützliche Erinnerung daran, dass Beobachtbarkeit das ist, was Sie rettet, wenn Prävention versagt.on fails.
Schicht 4: Kill Switch und Wiederherstellung
Ein dokumentierter Eskalationspfad, ein Override, der in den vergangenen 90 Tagen getestet wurde, und ein Incident-Playbook, das „Agent handelt außerhalb seines Bereichs” als reales Szenario benennt. KI-Agenten-Sicherheit steht und fällt damit, ob jemand mitten an einem Dienstagnachmittag den Agenten tatsächlich stoppen kann. scope’ as a real scenario. AI agent safety lives or dies on whether someone, in the middle of a Tuesday afternoon, can actually stop the agent.

Der letzte Tipp ist, jede Schicht einem namentlich genannten Eigentümer zuzuordnen. Schicht 1 gehört typischerweise gemeinsam dem CTO und CISO. Schicht 2 gehört dem CTO und dem Unternehmensjuristen. Schicht 3 gehört dem CISO und Compliance. Schicht 4 gehört dem CTO und Incident Response. Wenn Sie heute keine Namen einsetzen können, ist das die Lücke.unsel. Layer 3 belongs to the CISO and Compliance. Layer 4 belongs to the CTO and incident response. If you cannot fill in the names today, that is the gap.

Was jeder CTO und Unternehmensjurist vor August 2026 prüfen sollte

Verwenden Sie diese kurze Liste, um zu testen, wo Sie tatsächlich in Bezug auf die KI-Agenten-Governance stehen. Jeder Punkt bildet eine Frage ab, die ein Regulierer, ein Investor oder eine unglückliche Gegenpartei Ihnen in den nächsten zwölf Monaten stellen könnte.appy counterparty might ask you in the next twelve months.

Haben Sie ein vollständiges Inventar aller KI-Agenten in Ihrer Umgebung, einschließlich derer, die auf den Maschinen einzelner Entwickler und in Shadow-Deployments laufen?ments?
Gibt es für jeden Agenten einen namentlich genannten menschlichen Eigentümer mit der Autorität und dem Budget, Änderungen vorzunehmen?
Was ist der finanzielle Schadensradius jedes Agenten: Einzeltransaktionsmaximum, tägliches Maximum und Worst-Case-Multi-Step-Kette?
Können Sie auf Anfrage ein manipulationssicheres Audit-Protokoll jeder Agentenaktion der vergangenen zwölf Monate in einem Format erstellen, das ein Regulierer akzeptieren würde?
Berücksichtigen Ihre Lieferanten- und Kundenverträge KI-betriebene Gegenparteien, einschließlich Garantien, Schadloshaltungen und Kündigungsauslöser?
Können Sie für jeden Agenten, der nach dem EU-KI-Act als Hochrisiko eingestuft würde, „bedeutungsvolle menschliche Aufsicht” nachweisen?
Enthält Ihr Incident-Response-Plan einen getesteten Override für einen Agenten, der außerhalb seines genehmigten Bereichs handelt?

Wenn zwei oder mehr dieser Antworten unbequem sind, haben Sie eine KI-Agenten-Governance-Lücke, keine Tool-Lücke. Tools können gekauft werden, aber Governance muss aufgebaut werden.o be built.

Wie Redwerk Ihnen hilft, die KI-Agenten-Verantwortungslücke zu schließen

Wir bauen und prüfen Software seit 2005. Die Arbeit hat sich nicht geändert: Wir finden die Lücke zwischen dem, was Ihr Code tut, und dem, was Ihre Governance annimmt, dass er tut. KI-Agenten haben diese Lücke weiter, teurer und schwieriger zu schließen gemacht, wenn man es alleine versucht. assumes it does. AI agents have made that gap wider, more expensive, and harder to close on your own.
Durch ein Software-Audit können wir Ihre KI-Agenten-Infrastruktur gegen den oben beschriebenen Vier-Schichten-Rahmen kartieren, identifizieren, wo Berechtigungen die Verantwortlichkeit übersteigen, und einen Sanierungsplan erstellen, den Sie dem Engineering übergeben können. Wir ergänzen dies mit einem fokussierten nd produce a remediation plan you can hand to engineering. We pair it with a focused Code-Review Ihrer Agenten-Orchestrierungslogik und umfassenderen KI-Entwicklungsservices für Teams, die Agenten von Grund auf aufbauen.

Manfred und ClawBank sind heute die Präzedenzfälle, und die nächsten achtzehn Monate werden entscheiden, wer die Regeln setzt: Regulatoren oder Betreiber. Bauen Sie jetzt eine KI-Agenten-Governance auf, und die Antwort sind Sie. Warten Sie, und die Antwort ist, wer Sie zuerst verklagt.vernance now, and the answer is you. Wait, and the answer is whoever sues you first.

Bereit zu sehen, wo Ihre Agenten tatsächlich stehen? Kontaktieren Sie uns und lassen Sie uns sprechen.