Anthropic, METR 평가자 6명에게 내부 시스템 접근 제공

원문 기반 한국어 요약

Anthropic은 10월 15일 비영리 평가기관 METR 직원 6명에게 회사 장비, 사무공간, 내부 도구와 시스템에 대한 접근을 제공하기 시작했다고 발표했다. 접근 수준은 Anthropic 내부 위험평가 팀과 대체로 비슷하다고 설명했다. [1]

Anthropic에 따르면 METR은 모델 위험 수준, 사고 또는 평가 관행에 관한 분석을 공개할 수 있다. Anthropic은 발표 자체를 거부할 수 없지만 고객 데이터, 법률상 비밀 정보, 모델 구조 등 사전에 정한 좁은 범주의 정보는 삭제를 요구할 수 있다. METR은 삭제가 정당했는지에 대한 견해를 공개할 수 있다. [1]

Anthropic은 외부 평가자 접근을 3단계로 구상한다. 1단계는 좁은 범위의 조사와 공개 전 회사 승인, 2단계는 승인 없이 공개하되 특정 정보 삭제 가능, 3단계는 METR에 제공한 직원에 준하는 접근과 2단계 수준의 공개 권한이다. SecureBio·Accenture와의 다른 협력은 아직 초기 단계라고 밝혔다. [1]

METR은 10월 14일 공개한 자체 제안에서 외부 평가가 AI 내부 에이전트의 정렬, 통제·감시, AI 연구개발 가속에 대한 증거를 제공할 수 있다고 설명했다. 동시에 회사가 평가 범위와 접근을 정하고 민감 정보를 삭제할 수 있으며, 이런 자발적 평가는 정식 감사나 규제 감독을 대체하지 않는다고 명시했다. [2]

근거: 아래 출처 [1] · [2] · 원문 전체 번역이 아닌 핵심 내용의 번역·요약