Anthropic은 개별 요청으로 나뉜 악용 작업을 탐지하도록 분류기를 보강했다고 밝혔습니다. 단일 유해 요청을 거절해도 여러 요청에 분산된 캠페인을 놓칠 수 있었다는 평가를 소개합니다. 독립 연구단체와의 평가를 다룬 공급사 발표를 인용한 것으로, 이 글에서 독립 재검증한 결과는 아닙니다. 에이전트 개발자는 단일 프롬프트뿐 아니라 전체 작업 흐름을 검증할 시사점이 있습니다.
Anthropic은 개별 요청으로 나뉜 악용 작업을 탐지하도록 분류기를 보강했다고 밝혔습니다. 단일 유해 요청을 거절해도 여러 요청에 분산된 캠페인을 놓칠 수 있었다는 평가를 소개합니다. 독립 연구단체와의 평가를 다룬 공급사 발표를 인용한 것으로, 이 글에서 독립 재검증한 결과는 아닙니다. 에이전트 개발자는 단일 프롬프트뿐 아니라 전체 작업 흐름을 검증할 시사점이 있습니다.
0 則留言
登入 · 登入後即可留言。