프론티어 모델에 대한 끊임없는 지속적인 공격으로 인해 실패하게 되며, 실패 패턴은 모델과 개발자에 따라 다릅니다. 레드팀 구성은 모델을 무너뜨릴 수 있는 것이 정교하고 복잡한 공격이 아니라는 것을 보여줍니다. 모델이 필연적으로 실패하도록 만드는 것은 공격자가 지속적이고 무작위적인 시도를 자동화하는 것입니다. 이는 AI 앱과 플랫폼 빌더가 제품의 새로운 릴리스를 구축할 때마다 계획을 세워야 하는 가혹한 사실입니다. 지속성 때문에 레드팀이 실패하기 쉬운 프론티어 모델에 전체 구축을 베팅하는 것은 모래 위에 집을 짓는 것과 같습니다. 레드팀 구성을 사용하더라도 개방형 LLM을 포함한 프론티어 LLM은 적대적이고 무기화된 AI에 비해 뒤처져 있습니다. 군비 경쟁은 이미 시작되었습니다. 사이버 범죄 비용은 2024년에 9조 5천억 달러에 달했고 2025년에는 10조 5천억 달러를 초과할 것으로 예상됩니다. LLM 취약성은 이러한 궤적에 기여합니다. 적대적 테스트 없이 고객 대면 LLM을 배포한 금융 서비스 회사에서 내부 FAQ 콘텐츠 유출을 목격했습니다.