Agentische KI-Sicherheit: Identität und Signierung für KI-Agenten

Agentenbasierte KI- Sicherheit ist die Gesamtheit der Praktiken und Kontrollen, die zur Authentifizierung, Autorisierung und Überprüfung autonomer KI-Agenten eingesetzt werden, damit Software, die im Auftrag eines Benutzers handelt, vertrauenswürdig, kontrollierbar und nachvollziehbar ist.

Agentenbasierte KI-Sicherheit schützt Systeme, in denen KI-Agenten autonom agieren und Tools, APIs und andere Agenten aufrufen. Da jeder Agent eine nicht-menschliche Identität darstellt, benötigt er eine verifizierbare Identität, eingeschränkte Berechtigungen und einen Prüfpfad, üblicherweise bereitgestellt durch Zertifikate , signierte Aktionen und kurzlebige Anmeldeinformationen. Ziel ist es, unautorisierte oder imitierte Agenten daran zu hindern, sensible Aktionen auszuführen.

Wichtige Erkenntnisse

• Agentic AI stellt autonome Softwareagenten vor, die selbstständig handeln und so eine große neue Population nicht-menschlicher Identitäten schaffen.
• Jeder Agent benötigt eine starke, überprüfbare Identität anstelle eines gemeinsam genutzten API-Schlüssels oder eines statischen Geheimnisses.
• Zertifikate, signierte Aktionen und kurzlebige Anmeldeinformationen sind die wichtigsten Kontrollmechanismen für vertrauenswürdige Agenten.
• Protokolle wie das Model Context Protocol (MCP) verbinden Agenten mit Werkzeugen und benötigen eine eigene Authentifizierung.
• Die gleiche Maschinenidentitätsdisziplin, die für Workloads und Geräte verwendet wird, gilt auch für KI-Agenten.

Was ist Agentic AI Security?

Agentenbasierte KI-Sicherheit adressiert den Wandel im Softwareverhalten. Traditionelle Anwendungen folgen festgelegten Pfaden, KI-Agenten hingegen entscheiden und handeln selbstständig, indem sie APIs, Tools und sogar andere Agenten aufrufen, um ein Ziel zu erreichen. Jeder Agent ist eine Softwarekomponente mit einer gewissen Berechtigung, wodurch er eine nicht-menschliche Identität darstellt, die wie jede andere Maschinenidentität authentifiziert , autorisiert und geprüft werden muss.

Warum KI-Agenten ein neues Sicherheitsproblem schaffen

Drei Eigenschaften machen Agenten schwieriger abzusichern als herkömmliche Software. Sie agieren autonom und führen Aktionen aus, die nicht direkt von einem Menschen ausgelöst wurden. Sie skalieren schnell, sodass Unternehmen Tausende von Agenten und Agenteninstanzen bereitstellen können. Und sie reagieren häufig auf Eingaben in natürlicher Sprache, die manipuliert werden können. Das Ergebnis ist eine große, schnell wachsende Anzahl mächtiger Identitäten, für die herkömmliche Zugriffskontrollen nicht ausgelegt sind.

Die Kernrisiken

Die Hauptrisiken agentenbasierter Systeme sind konkret:

• Identitätsdiebstahl. Ohne eine überprüfbare Identität kann sich ein bösartiger Prozess als vertrauenswürdiger Agent ausgeben.
• Agenten mit zu vielen Berechtigungen. Einem Agenten mit weitreichenden Zugriffsrechten kann weit mehr Schaden anrichten, als seine Aufgabe erfordert.
• Geheimnisverbreitung. Agenten, die auf statische API-Schlüssel angewiesen sind, verbreiten langlebige Geheimnisse, die selten aktualisiert werden.
• Werkzeug- und Eingabeaufforderungsmissbrauch. Manipulierte Eingaben können einen Agenten dazu verleiten, die ihm zur Verfügung stehenden Werkzeuge zu missbrauchen.

Wie man KI-Agenten sichert

Die Sicherheitsagenten wenden etablierte Verfahren zur Maschinenidentität auf einen neuen Akteur an:

• Geben Sie jedem Agenten eine eindeutige, überprüfbare Identität, indem Sie Zertifikate oder kurzlebige Token anstelle von gemeinsam genutzten Schlüsseln.
• Das Prinzip der minimalen Berechtigungen wird durchgesetzt, sodass jeder Agent nur auf die Werkzeuge und Daten zugreifen kann, die er für seine Aufgabe benötigt.
• Um das Risiko im Falle eines Datenlecks zu minimieren, sollten kurzlebige, automatisch rotierte Zugangsdaten verwendet werden.
• Die Aktionen und Anfragen des Agenten können so signiert werden, dass sie überprüft und zugeordnet werden können.
• Authentifizieren und autorisieren Sie jede Tool-Verbindung, einschließlich der MCP-Server.
• Prüfen Sie alles und dokumentieren Sie genau, welcher Mitarbeiter was wann und mit welcher Befugnis getan hat.

Agenten, MCP und Werkzeugzugriff

Agenten greifen über Konnektoren, zunehmend über das Model Context Protocol (MCP), auf externe Funktionen zu. Jeder MCP-Server kann Aktionen ausführen und benötigt daher eine eigene Identität und spezifische Berechtigungen. Die Behandlung von MCP-Verbindungen als privilegierte Verbindungen zwischen Maschinen und nicht als offene Türen ist zentral für die Agentensicherheit.

Maschinenidentität für KI-Agenten

Die zuverlässigste Methode, Agenten vertrauenswürdige Identitäten zuzuweisen, ist dieselbe Infrastruktur, die Workloads und Geräte schützt: Zertifikate und verwaltete Schlüssel, die von einer PKI ausgestellt werden. Dadurch erhält jeder Agent eine Berechtigung, die verifiziert, eingeschränkt, rotiert und widerrufen werden kann. Erfahren Sie mehr über die Funktion einer Zertifizierungsstelle als Grundlage für Vertrauen.

Wie Verschlüsselungsberatung hilft

Encryption Consulting unterstützt Unternehmen bei der Erweiterung des Maschinenidentitätsmanagements auf KI-Agenten. CertSecure Manager stellt die Zertifikate aus und verwaltet sie, die Agenten und Workloads verifizierbare Identitäten verleihen. Unsere PKI-Services entwerfen die zugehörige Ausstellungsinfrastruktur gemäß ISO/IEC 27001:2022 und SOC 2.

Häufig gestellte Fragen

Was ist die Identität eines KI-Agenten?

Die Identität eines KI-Agenten ist der verifizierbare Nachweis, der belegt, welcher Agent agiert und welche Berechtigungen er hat. Anstelle eines gemeinsamen Passworts oder eines statischen API-Schlüssels verfügt ein gut konzipierter Agent über eine eigene Maschinenidentität, häufig ein Zertifikat oder ein kurzlebiges Token. Dadurch lassen sich seine Aktionen authentifizieren, auf ein Minimum an Berechtigungen beschränken und in einem Audit-Log nachverfolgen.

Wie authentifiziert man einen KI-Agenten?

Statt eines gemeinsamen Geheimnisses sollte jedem Agenten eine eindeutige, verifizierbare Identität zugewiesen werden. Gängige Methoden hierfür sind X.509-Zertifikate, kurzlebige Tokens eines Identitätsanbieters und signierte Anfragen. Der Agent übermittelt diese Anmeldeinformationen beim Aufruf eines Tools oder einer API, der Empfänger überprüft sie, und die Aktion wird protokolliert. Kurzlebige, automatisch rotierte Anmeldeinformationen begrenzen den Schaden, falls eine davon kompromittiert wird.

Was ist das größte Sicherheitsrisiko bei Agentic AI?

Das größte Risiko besteht darin, dass autonome Agenten unbefugte Aktionen ausführen, sei es aufgrund übermäßiger Berechtigungen, Identitätsdiebstahls oder Manipulation ihrer Eingaben. Ein Agent mit weitreichenden Zugriffsrechten und einem statischen Geheimnis ist ein besonders wertvolles Ziel. Die wichtigste Verteidigungsmaßnahme ist, jeden Agenten als nicht-menschliche Identität mit minimalen Zugriffsrechten, starken Anmeldeinformationen und vollständiger Protokollierung zu behandeln.

In welchem ​​Zusammenhang steht MCP mit der Agentensicherheit?

Das Model Context Protocol (MCP) ist ein Standardverfahren, mit dem Agenten über MCP-Server auf Tools und Daten zugreifen können. Da diese Server Aktionen ausführen können, erfordert jede Verbindung Authentifizierung und Autorisierung. Die Sicherung von MCP bedeutet, MCP-Servern überprüfbare Identitäten zuzuweisen, ihre Berechtigungen einzuschränken und die Aktivitäten der Agenten über diese Server zu protokollieren – dieselbe Vorgehensweise zur Maschinenidentität, die auch in anderen Bereichen Anwendung findet.

Reichen API-Schlüssel aus, um KI-Agenten zu sichern?

Nein. Statische API-Schlüssel sind gemeinsame Geheimnisse, die leicht kopiert, selten rotiert und schwer einem bestimmten Agenten zuzuordnen sind. Sie bieten wenig Kontrolle über den Geltungsbereich und eine schwache Nachvollziehbarkeit. Bessere Alternativen sind agentenspezifische Identitäten mithilfe von Zertifikaten oder kurzlebigen Token, die das Prinzip der minimalen Berechtigungen, die automatische Rotation und eine lückenlose Protokollierung jeder Agentenaktion unterstützen.

Weisen Sie Ihren KI-Agenten vertrauenswürdige Identitäten zu.

Sind Sie bereit, Ihren KI-Agenten eine Maschinenidentität zu verleihen? Sehen Sie CertSecure Manager in Aktion oder lesen Sie mehr über nicht-menschliche Identität.