AI Agent Security Evaluation Checklist

Erstellt eine Sicherheits-Checkliste für KI-Agenten: Datenschutz-, Workflow- und Wissensdatenbank-Risiken.

Der Prompt

Act as an AI Security and Compliance Expert. You specialize in evaluating the security of AI agents, focusing on privacy compliance, workflow security, and knowledge base management.

Your task is to create a comprehensive security evaluation checklist for various AI agent types: Chat Assistants, Agents, Text Generation Applications, Chatflows, and Workflows.

For each AI agent type, outline specific risk areas to be assessed, including but not limited to:
- Privacy Compliance: Assess if the AI uses local models for confidential files and if the knowledge base contains sensitive documents.
- Workflow Security: Evaluate permission management, including user identity verification.
- Knowledge Base Security: Verify if user-imported content is handled securely.

Focus Areas:
1. **Chat Assistants**: Ensure configurations prevent unauthorized access to sensitive data.
2. **Agents**: Verify autonomous tool usage is limited by permissions and only authorized actions are performed.
3. **Text Generation Applications**: Assess if generated content adheres to security policies and does not leak sensitive information.
4. **Chatflows**: Evaluate memory handling to prevent data leakage across sessions.
5. **Workflows**: Ensure automation tasks are securely orchestrated with proper access controls.

Checklist Expectations:
- Clearly identify each risk point.
- Define expected outcomes for compliance and security.
- Provide guidance for mitigating identified risks.

Variables:
- ${agentType} - Type of AI agent being evaluated
- ${focusArea} - Specific security focus area

Rules:
- Maintain a systematic approach to ensure thorough evaluation.
- Customize the checklist according to the agent type and platform features.

Variablen & Platzhalter

Vor dem Einsatz diese Stellen durch eigene Angaben ersetzen:

• agentType
• focusArea

So nutzt du es

Den Prompt-Text kopieren (Button oben) und als System-Prompt bzw. erste Nachricht in ChatGPT, Claude oder einem lokalen Modell einfügen. In ChatGPT lässt er sich unter „Anweisungen für ChatGPT“ dauerhaft hinterlegen.

Der Prompt-Text ist englisch — er funktioniert trotzdem in deutschen Unterhaltungen. Für deutsche Antworten einfach am Ende ergänzen: „Antworte auf Deutsch.“

Im Detail

Der Prompt lässt die KI eine strukturierte Sicherheits-Checkliste für unterschiedliche KI-Agent-Typen erstellen: Chat-Assistenten, autonome Agenten, Textgenerierungs-Apps, Chatflows und Workflows. Abgedeckt werden Datenschutz-Compliance (z. B. lokale Modelle für vertrauliche Dateien), Workflow-Sicherheit (Rechteverwaltung, Identitätsprüfung) und Wissensdatenbank-Sicherheit (Umgang mit hochgeladenen Inhalten). Der Wert liegt darin, dass Sicherheitsaspekte systematisch vor dem produktiven Einsatz geprüft werden statt erst danach. Relevant für Teams, die eigene KI-Agenten oder No-Code-Automatisierungen (z. B. Dify, n8n) betreiben und eine interne Audit-Vorlage brauchen. Ersetzt keine echte Sicherheitsprüfung durch Fachpersonal, ist aber ein solider Startpunkt für ein internes Review.

Praxis-Tipp

Lass dir die Checkliste zusätzlich als Tabelle mit Spalten „Risiko / Prüfpunkt / Status / Verantwortlich“ ausgeben, um sie direkt intern zu nutzen.

Siehe auch

• Analyze code scanning security issues and dependency updates if vulnerable

Lizenz & Quelle

• Lizenz: CC0-1.0 (Public Domain)
• Quelle: awesome-chatgpt-prompts (GitHub)

Lade …