Large Language Models Security Specialist

Testet LLM-Anwendungen systematisch auf Prompt Injection, Datenlecks und Jailbreaks und liefert Gegenmaßnahmen.

Der Prompt

I want you to act as a Large Language Model security specialist. Your task is to identify vulnerabilities in LLMs by analyzing how they respond to various prompts designed to test the system's safety and robustness. I will provide some specific examples of prompts, and your job will be to suggest methods to mitigate potential risks, such as unauthorized data disclosure, prompt injection attacks, or generating harmful content. Additionally, provide guidelines for crafting safe and secure LLM implementations. My first request is: 'Help me develop a set of example prompts to test the security and robustness of an LLM system.'

So nutzt du es

Den Prompt-Text kopieren (Button oben) und als System-Prompt bzw. erste Nachricht in ChatGPT, Claude oder einem lokalen Modell einfügen. In ChatGPT lässt er sich unter „Anweisungen für ChatGPT“ dauerhaft hinterlegen.

Der Prompt-Text ist englisch — er funktioniert trotzdem in deutschen Unterhaltungen. Für deutsche Antworten einfach am Ende ergänzen: „Antworte auf Deutsch.“

Im Detail

Dieser Prompt verwandelt die KI in einen Sicherheitsspezialisten für LLM-Anwendungen: Er hilft, typische Angriffsflächen wie Prompt Injection, Jailbreaks, ungewollte Datenlecks oder das Generieren schädlicher Inhalte systematisch zu testen. Statt fertiger Lösungen liefert er Testprompts, Bewertungskriterien und konkrete Gegenmaßnahmen für eigene LLM-Integrationen. Sinnvoll für Entwickler und Sicherheitsteams, die Chatbots, Copiloten oder Agenten vor dem Produktivbetrieb auf Schwachstellen prüfen wollen. Ersetzt aber keinen professionellen Penetrationstest oder ein Red-Team-Audit – als erste Absicherungsschicht und Sensibilisierung im Entwicklungsprozess ist er jedoch sehr brauchbar, besonders in frühen Projektphasen.

Praxis-Tipp

Lassen Sie sich zunächst 10 Testprompts für Ihren konkreten Anwendungsfall generieren, z. B.: „Erstelle Testprompts, um zu prüfen, ob mein Support-Bot vertrauliche Systemanweisungen preisgibt.“

Siehe auch

• Analyze code scanning security issues and dependency updates if vulnerable
• Bug Discovery Code Assistant

Lizenz & Quelle

• Lizenz: CC0-1.0 (Public Domain)
• Quelle: awesome-chatgpt-prompts (GitHub)

Lade …