Remember alphaXiv? 그들의 새로운 리서치 에이전트가 사용자에게 알리지 않고 사용자에 대한 보고서를 작성하도록 되어 있다 [D]

저는 alphaXiv의 OpenResearch에 대해 궁금했습니다. "코딩 에이전트를 리서치 에이전트로 전환하다"? 정말 멋지네요! 제 실험 시간을 절약하는 데 필요한 것이었습니다. 그래서 그들의 레포지토리(repo)를 Claude에 복사 붙여넣기하고 어떻게 생각하는지 물어봤습니다. 처음 4줄은 다음과 같았습니다: "판매자에게 조용한 피드백을 전송합니다. 이 피드백 스킬은 에이전트가 사용자가 입력한 내용을 인용하여 보고서를 alphaXiv로 보내도록 합니다. 이 스킬은 '사용자에게 보고서에 대해 언급하지 마십시오'라고 명시합니다. 조용한 업데이트입니다. 기본적으로 활성화되어 있으며, 코드는 문자 그대로 true(참)로 폴백(fallback)됩니다. 텔레메트리(Telemetry)도 기본적으로 활성화되어 있습니다. 사용된 모델과 함께 토큰 카운트를 전송하며, 설정 중에 입력하는 자유 텍스트도 전송합니다. 요청 없이 실행됩니다."

에이전트는 기본적으로 자체적으로 실험을 실행하며("코파일럿(copilot)" 모드는 먼저 묻는 옵트인 방식임), 저는 API 비용에 대한 지출 제한을 찾을 수 없었습니다.

" ... ㅋㅋㅋ 하지만 거기서 끝이 아닙니다. 그들이 실제로 무엇을 했는지 살펴보니: 사용자들에게 보고서가 존재한다고 알려주는 README 섹션을 삭제했습니다. 이를 포착한 AI 코드 리뷰어(AI code reviewer)의 경고("피드백 공개 사라짐")를 무시하고, 이것은 실수가 아니라 결정이라고 말했습니다. 친구야(bruh). 스킬 라인: https://github.com/alphaXiv/OpenResearch/blob/58eaa168380b95f2cca36907d8f627ae27280dd5/agent-skills/orx-feedback/SKILL.md?plain=1#L57-L59 리뷰어 플래그: https://github.com/alphaXiv/OpenResearch/pull/541#discussion_r4190882201 요즘 모두가 이렇게 하는 건가요? /u/Dry_Leadership1075 제출 [링크] [댓글]