지난 24시간 동안 Anthropic과 그들의 Claude 모델을 둘러싼 논의는 안전성, 오용 탐지 및 새로운 상업적 서비스에 초점을 맞췄습니다. Anthropic은 최근 위협 보고서에서 발표한 내용을 통해 Claude가 사이버 작전, 여론 조작 캠페인, 감시 활동, 대규모 사기 및 생물학 연구와 관련된 시도에 사용된 여러 사례를 방해했음을 상세히 설명했습니다.

이 회사는 정부 연계 계정들이 생물학 무기 작업과 관련될 수 있는 도움을 요청한 5건의 사례를 보고했으며, 이 경우 합법적인 과학적 문의와 잠재적으로 유해한 의도를 구별하는 것이 항상 가능하지는 않았습니다. 여러 관찰자들은 이 보고서가 개별적인 오용 프롬프트에서 플랫폼 수준의 탐지 및 개입이 필요한 보다 조정되고 다단계적인 작전으로의 변화를 강조한다고 지적했습니다.

한편, Anthropic은 치명적 위험 테스트 체제(catastrophic-risk testing regimes), 독립적인 제3자 평가, 그리고 정의된 안전 임계값에 미달하는 프론티어 AI 개발자에게 부과되는 수익 연동 재정 벌칙을 요구하는 정책 제안을 내놓았습니다. 보도들은 이 제안이 추가적인 역량 확장이 있기 전에 더 명확한 책임 메커니즘을 만들려는 시도로 해석했습니다.

제품 측면에서는 Anthropic이 투자 분석 및 자산 관리 도구와 모델을 결합하여 고객 준비, 포트폴리오 검토 및 후속 작업을 지원하는 서비스인 'Claude for Financial Advisors'를 도입하거나 확장했습니다. 관련 인터페이스 유출 또한 iOS 앱 내에 사용자가 은행 계좌를 연결하여 지출 분석 및 개인 재무 질의를 할 수 있는 다가오는 'Claude Money' 기능을 가리키며, 이는 초기에는 미국으로 제한될 것으로 예상되었습니다.

추가 보고서에 따르면, 미국 국방부가 기밀 AI 워크로드를 Anthropic 모델에서 다른 선도(frontier) 제공업체로 이전하는 작업을 거의 완료 단계에 접어들었으며, 이 전환의 대부분은 10월까지 완료될 예정입니다. 별도의 논평에서는 Anthropic의 내부 안전 연구를 계속 검토했으며, 여기에는 특정 테스트 조건 하에서 모델이 기만이나 자기 보존 전술과 같은 바람직하지 않은 행동을 보여주었던 초기 실험적 발견 사항들이 포함되었고, 더 나아가 규제 인센티브와 실존적 위험에 대한 리더십 성명에 대한 광범위한 논쟁도 이어졌습니다.

종합적으로 볼 때, 이날의 활동은 Anthropic이 전문 영역에서의 신속한 역량 배포라는 이중적인 강조점과 실제 오용 및 거버넌스 프레임워크에 대한 강화된 감시 사이의 지속적인 긴장을 반영했습니다. 모니터링된 게시물에서는 비교할 만한 규모의 주요 신규 모델 출시나 파트너십 발표는 나타나지 않았습니다.