Implementation

• Nemo Guardrails
  • 파이썬 패키지로 설치(pip install guardrails)
  • prompts.yml
    • self_check_input
• ollama 적용 시 문제점
  • 오로지 wizard-vicuna-uncensored model만 사용할 수 있었다.
  • Internal Error

Reference for Tools

• https://github.com/tldrsec/prompt-injection-defenses?tab=readme-ov-file#tools

LLM 보안

LLM Hacker’s handbook - Defense

Papers