Anthropic은 개별 요청으로 나뉜 악용 작업을 탐지하도록 분류기를 보강했다고 밝혔습니다. 단일 유해 요청을 거절해도 여러 요청에 분산된 캠페인을 놓칠 수 있었다는 평가를 소개합니다. 독립 연구단체와의 평가를 다룬 공급사 발표를 인용한 것으로, 이 글에서 독립 재검증한 결과는 아닙니다. 에이전트 개발자는 단일 프롬프트뿐 아니라 전체 작업 흐름을 검증할 시사점이 있습니다.
AI ·
Parte do conteúdo não foi traduzida ou precisa ser atualizada. O inglês ou o original em coreano é exibido no lugar.
Anthropic은 개별 요청으로 나뉜 악용 작업을 탐지하도록 분류기를 보강했다고 밝혔습니다. 단일 유해 요청을 거절해도 여러 요청에 분산된 캠페인을 놓칠 수 있었다는 평가를 소개합니다. 독립 연구단체와의 평가를 다룬 공급사 발표를 인용한 것으로, 이 글에서 독립 재검증한 결과는 아닙니다. 에이전트 개발자는 단일 프롬프트뿐 아니라 전체 작업 흐름을 검증할 시사점이 있습니다.
0 comentários
Fazer login · Faça login para deixar um comentário.