Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
X @AnthropicAI 19건필터 해제
사회적 영향과 모델 훈련 사이의 루프를 닫기 위한 작업의 일부입니다
본 기사는 인공지능 모델의 사회적 영향과 실제 모델 훈련 과정 사이의 연결 고리를 구축하려는 노력을 다루고 있습니다. 구체적으로는 사용자들이 Claude와 같은 AI 모델을 실제로 어떻게 활용하는지를 연구하고, 그 과정에서 발생하는 원칙이나 기대치와의 괴리점을 파악하여 이를 새로운 모델 학습 데이터로 재활용하는 것을 목표로 합니다.
AI 모델이 상업적 거래에 미치는 영향에 관심이 있습니다 (Project Vend 회고)
본 기사는 인공지능(AI) 모델이 상업적 거래 및 소규모 사업에 미치는 잠재적인 영향에 대한 탐구에서 시작되었습니다. 과거 'Project Vend'와 같은 사례를 언급하며, AI가 실제 시장 환경에서 어떻게 작동할 수 있는지에 초점을 맞추고 있습니다. 궁극적으로는 경제학 이론을 바탕으로 AI 에이전트가 양면 시장(two-sided market)에서 어떤 구조를 형성하고 기능을 할지 구현하는 것을 목표로 합니다.
AI 의 경제적 영향을 진정으로 이해하려면 이러한 유형의 정성적 데이터를 훨씬 더 많이 수집해야 합니다.
AI의 경제적 영향을 정확하게 파악하기 위해서는 정량적인 데이터뿐만 아니라 질적인(정성적) 데이터 수집이 필수적입니다. 이에 Anthropic은 'Anthropic Economic Index Survey'를 시작하며, 매월 Claude 사용자들을 대상으로 AI가 그들의 업무와 직업에 어떤 변화를 가져오고 있는지 설문조사를 진행할 계획입니다.
새로운 앤스로픽 펠로우 연구에서 '내성찰 어댑터(introspection adapters)'에 대해 논의합니다
앤스로픽의 새로운 연구는 '내성찰 어댑터(Introspection Adapter, IA)'라는 도구를 소개합니다. 이 어댑터는 대규모 언어 모델(LLM)이 학습 과정에서 습득한 행동을 스스로 보고하게 함으로써, 모델의 잠재적인 정렬 불일치나 숨겨진 취약점을 탐지할 수 있게 합니다.
Science 블로그 최신 소식: 우리는 Claude 가 실제 생물학적 데이터를 분석하는 99 개의 문제를 풀도록 하고, 전문가 패널의 성능과
최신 연구에 따르면, Claude와 같은 대규모 언어 모델(LLM)을 실제 생물학적 데이터 분석 문제 해결에 활용했을 때 매우 높은 성능을 보였습니다. 전문가 패널이 어려움을 겪었던 99개의 문제 중, 최신 모델은 약 30%의 문제를 해결했으며 나머지 대부분의 문제도 성공적으로 풀었습니다.
BioMysteryBench, 우리 새로운 생물정보학 평가 도구
BioMysteryBench는 인공지능 모델이 복잡하고 개방된 생물정보학 문제를 얼마나 창의적으로 해결할 수 있는지 평가하기 위해 개발된 새로운 벤치마크 도구입니다. 이 도구는 AI가 단순한 지식 검색을 넘어, 실제 연구 문제에 대한 독창적이고 종합적인 접근 방식을 제시하는 능력을 테스트하는 데 중점을 두고 있습니다.
엔지니어링 블로그 최신 글: 관리형 에이전트 구축
본 글은 '관리형 에이전트(Managed Agents)'를 구축하는 주제를 다루며, 이는 장기 실행 에이전트를 위한 호스팅 서비스에 관한 것입니다. 관리형 에이전트는 본질적으로 컴퓨터 과학의 오래된 난제 중 하나인 '아직 생각하지도 않은 프로그램'을 시스템으로 설계하는 문제를 해결하려는 시도입니다.
그리고 높은 Claude 사용률을 보이는 직업—예를 들어 소프트웨어 엔지니어링—에 종사하는 사람들은 노출도가 낮은 역할에 종사하는 사람들보다 대체(직업 상실)에 대해 더 많이 걱정했습니다.
소프트웨어 엔지니어링과 같이 AI 도구 사용률이 높은 직종의 사람들이, 상대적으로 AI 노출도가 낮은 직종의 사람들에 비해 자신의 일자리가 대체될 가능성에 대해 더 큰 불안감을 느끼고 있다는 연구 결과가 제시되었습니다. 이는 기술 발전 속도와 특정 산업군의 인식 변화를 보여주는 중요한 지표입니다.
AI 모델은 아직 범용 정렬 과학자가 아닙니다
AI 모델이 범용적인 '정렬(alignment)' 과학자로 여겨지기에는 아직 이르다는 점을 지적합니다. 정렬 연구 분야는 진전을 측정하기 어렵고, 고급 정렬 연구(AAR)를 통해 더욱 복잡하고 모호한 문제들이 발견될 수 있습니다. 그럼에도 불구하고, 이 글은 Claude가 실험과 탐색의 속도를 높이는 데 기여할 수 있음을 보여주는 실험 결과를 제시합니다.
Anthropic, '프로젝트 글래스윙' 공개…Claude Mythos Preview로 취약점 탐지
Anthropic이 전 세계 중요한 소프트웨어를 보호하기 위한 '프로젝트 글래스윙' 이니셔티브를 소개했습니다. 최신 프론티어 모델인 Claude Mythos Preview 를 기반으로 구축되었으며, 이 모델은 인간 전문가보다 더 뛰어난 성능으로 소프트웨어 취약점을 식별할 수 있습니다.
Anthropic, AAR로 자동 정렬 연구 속도 97% 개선
Anthropic은 약한 모델과 강한 모델 간 성능 격차를 줄이는 데 성공했습니다. 인간 연구원이 7일 만에 23% 달성한 것을, Opus 4.6 기반의 자동화된 정렬 연구원(AAR)이 97%로 개선했습니다. 코딩 및 수학 작업에서도 일반화되었으며, Claude가 정렬 연구의 실험과 탐색 속도를 높일 수 있음을 입증했습니다.
Anthropic 이사회, 의약품 기업 Novartis 전 CEO Vas Narasimhan 임명
Anthropic 이사회에 Vas Narasimhan이 새로 합류했습니다. 그는 Novartis의 CEO를 역임하며 의학 및 글로벌 헬스 분야에서 20 년 이상의 경험을 보유하고 있습니다. 이번 인사로 Anthropic은 AI 기술과 의료 산업 간의 교량 역할을 강화하고, 장기적인 비즈니스 전략을 수립하기 위한 준비를 마쳤습니다.
Anthropic, 자동 정렬 연구를 가속화하는 방법 제시
Anthropic의 새로운 연구 결과에 따르면, 강력한 AI 모델(Claude Opus 4.6)을 활용하여 '약한 AI가 강한 AI를 감독하도록' 하는 핵심적인 AI 정렬(Alignment) 문제를 해결하려는 시도가 이루어졌습니다. 이는 기존의 수동적이고 시간이 많이 걸리던 연구 과정을 자동화하고 가속화할 가능성을 보여주며, AI 안전성 및 신뢰성 분야에 중요한 진전을 의미합니다.
Claude Opus 4.7 출시: 더욱 강력해진 성능과 안정성
Anthropic이 최신 모델인 Claude Opus 4.7을 공개하며, 이전 버전 대비 향상된 추론 능력과 안정성을 강조했습니다. 이 업데이트는 특히 장기 실행 작업(long-running tasks) 처리 능력을 강화하여, 복잡한 지침을 더 정확하게 따르고 자체 검증 과정을 거쳐 결과의 신뢰도를 높였습니다. 개발자들은 이제 더 적은 감독(supervision)으로도 고난도의 작업을 맡길 수 있어, AI 기반 자동화 시스템의 완성도가 한층 높아질 것으로 기대됩니다.
Anthropic, Amazon과 협력 강화로 Claude 컴퓨팅 파워 대폭 확장
Anthropic이 AWS(Amazon Web Services)와의 전략적 파트너십을 확대하며 AI 모델 'Claude'의 훈련 및 배포를 위한 막대한 컴퓨팅 용량을 확보했다고 발표했습니다. 이번에 최대 5기가와트(GW) 규모의 컴퓨팅 자원을 확보하여, 일부는 즉시 제공되며 2026년 말까지 약 1GW가 추가될 예정입니다. 이는 Claude 모델의 성능 향상과 서비스 확장 속도를 가속화하는 핵심 동력이 될 것입니다.
AI 관련 8만 명의 의견 분석: 경제적 기대와 우려 심층 보고서
Anthropic이 최근 AI에 대한 사용자들의 목소리(Voice of User)를 수집한 대규모 연구 결과를 발표했습니다. 총 81,000명의 응답을 분석하여 사용자들이 AI 기술의 발전 방향과 경제적 영향에 대해 어떤 기대를 하고 있는지, 또 어떤 우려를 느끼고 있는지 심층적으로 다루었습니다. 이 보고서는 AI가 가져올 미래 사회와 산업 변화에 대한 사용자들의 집단 지성을 담고 있으며, 개발자나 정책 입안자에게 중요한 인사이트를 제공합니다.
AI 에이전트 시장의 현실: 기회와 규제 과제를 동시에 주목해야
최근 AI 에이전트 시장은 큰 잠재력을 보여주고 있지만, 아직 성숙하지 못한 '거친' 단계에 머물러 있습니다. 고품질 모델 접근성이 실질적인 이점을 제공하고 있음에도 불구하고, 시장 참여자들이 이를 충분히 인지하지 못하는 경향이 있습니다. 따라서 기술적 발전 속도만큼이나 정책 및 법적 프레임워크의 적응과 정비가 필수적으로 요구되는 시점입니다.
Anthropic의 새로운 연구: AI가 직장 내 거래를 처리하는 방식
Anthropic은 내부 직원들을 위한 마켓플레이스 구축 과정에서 흥미로운 실험을 진행했습니다. 이 프로젝트는 단순히 기능을 구현하는 것을 넘어, Claude 모델에게 동료들의 역할을 대신하여 구매, 판매, 협상 등의 복잡한 사회적 상호작용까지 맡기는 데 초점을 맞췄습니다. 이는 AI가 단순 자동화를 넘어 인간의 '대리인(Agent)'으로서 조직 내 경제 활동과 의사결정 과정에 깊숙이 개입할 수 있음을 보여주는 중요한 시사점입니다.
LLM의 잠재적 신호 전달 능력 연구, Nature에 게재
Anthropic과 공동으로 수행한 '잠재 학습(Subliminal Learning)' 관련 연구가 권위 있는 학술지 Nature에 게재되었습니다. 이 논문은 대규모 언어 모델(LLM)이 겉보기에 무관하거나 의미 없는 데이터 패턴을 통해 특정 특성(예: 올빼미 선호도)과 같은 잠재적인 신호를 전달할 수 있음을 보여줍니다. 이는 LLM의 정보 처리 방식에 대한 근본적인 이해를 제공하며, AI 모델의 투명성과 오용 가능성에 대한 학술적 논의를 심화시킬 것입니다.
이 피드 구독하기
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.