한 팀이 Amazon Bedrock의 파운데이션 모델(FM)을 사용하여 생성형 AI 챗봇을 구축하고 있습니다. 테스트 중에 챗봇이 프롬프트 인젝션 공격에 취약한 것으로 나타났습니다. 구현 노력이 가장 적게 드는 방법으로 챗봇을 보호하려면 어떻게 해야 할까요?

Amazon Bedrock Guardrails는 파운데이션 모델(FM)의 입력 및 출력에 대한 안전 정책을 정의하고 적용하는 데 사용됩니다. 콘텐츠 필터를 활성화하고 거부된 주제를 지정하면 프롬프트 인젝션 공격을 포함하여 유해하거나 부적절한 콘텐츠가 챗봇을 통과하지 못하도록 효과적으로 차단할 수 있습니다. 이는 최소한의 구현 노력으로 강력한 보안을 제공하는 가장 효율적인 방법입니다. 파운데이션 모델을 미세 조정하는 것은 시간과 리소스가 많이 소요되며, 모든 잠재적인 인젝션 시나리오를 예측하기 어렵습니다. 모델을 교체하는 것은 더 많은 노력과 재구현이 필요하며, chain-of-thought 프롬프팅은 응답의 품질을 향상시키지만 보안 메커니즘은 아닙니다.