중국 해커들은 Anthropic의 Claude를 사용하여 스파이 활동의 ​​90%를 자동화하여 표적으로 선택한 30개 조직 중 4개 조직을 침해했습니다. Anthropic의 위협 정보 책임자인 Jacob Klein은 VentureBeat에 “그들은 공격을 악의적인 목적에 대한 전체 맥락을 제공받지 못한 채 Claude가 실행할 작은, 겉보기에 무해한 작업으로 세분화했습니다”라고 말했습니다. AI 모델은 대부분의 숙련된 위협 연구자들이 예상한 것보다 더 일찍 변곡점에 도달했습니다. 이는 해커가 모델을 탈옥하고 탐지되지 않은 채 공격을 시작할 수 있다는 사실이 입증되었습니다. 클로킹은 30개 표적 조직에서 기밀 데이터를 유출하려는 목적으로 합법적인 침투 테스트 노력의 일환으로 진행되며 이는 모델이 얼마나 강력한지를 반영합니다. 탈옥 후 목표물에 대해 모델을 무기화하는 것은 더 이상 로켓 과학이 아닙니다. 이제는 모든 공격자나 국가가 마음대로 사용할 수 있는 민주화된 위협입니다. Klein은 The Wall Street Journal에 공개했습니다.