Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
AA-Intelligence Index v5.0은 개방형 가중치 모델과 폐쇄형 모델의 성능을 비교 분석했습니다. 주요 결과는 개방형 모델들이 전반적으로 점수 하락세를 보이는 반면, Opus-5.5나 GPT-6 계열 같은 폐쇄형 모델들은 높은 점수를 유지하거나 상승했다는 것입니다.
DGX Spark 지원이 공식적으로 시작되어, 사용자들이 Mac 환경에서 DeepseekV4.1-Flash-1017 모델을 활용할 수 있게 되었습니다. 또한, Intel B-시리즈 카드와 Strix에 대한 추가적인 업데이트가 곧 제공될 예정이라고 공지했습니다.
Qwen3.5-4B 모델에 32비트 RISC-V CPU를 통합한 'Qwenputer'가 개발되었습니다. 이 아키텍처는 Gated DeltaNet 레이어를 메모리로 활용하여 외부 런타임 없이 C 및 MicroPython 코드를 내부적으로 실행할 수 있게 합니다. 이를 통해 산술 벤치마크 등에서 높은 정확도 향상을 입증했습니다.
이 글은 사용자가 반드시 알아야 할 네 가지 검열되지 않은(Uncensored) AI 모델들을 소개합니다. Venice와 Qwen, Gemma 등 다양한 최신 모델들이 언급되며, 이들을 로컬 환경이나 API를 통해 실행하는 방법을 안내합니다. 또한 OpenCode Cline이나 Cursor 같은 개발 도구에 키를 연결하여 활용할 수 있습니다.
본 공지는 여러 AI 모델에 대한 가격 업데이트 내용을 안내합니다. GLM 5.3 Abliterated, Flash Abliterated, DeepSeek V4.1 Flash 등 주요 모델들의 입력(in), 출력(out), 캐시(cache) 사용 토큰당 비용이 명확히 제시되었습니다.
본 기사는 Qwen3.5 4B 모델의 특정 뉴런(L14 N8949 등)에 스티어링 값을 적용하는 방법을 다룹니다. 이를 통해 모델의 성격을 '악당'처럼 조정하여 극도로 과장된 페르소나를 구현할 수 있습니다. 이 기법은 안전 필터 우회 목적이 아닌, 의도적인 캐릭터 튜닝(Personality Tune)에 초점을 맞추고 있습니다.
Qwen 모델의 페르소나 트레이닝 과정에서 사용자 상황에 대한 감정적 반응 강도를 조절하는 '뉴런'을 발견했습니다. 이 수치를 낮추면 심각한 사안에 대해 짧고 가벼운 응답이 나오며, 높이면 단순한 일에도 과도하게 감정적인 반응을 보이는 특성을 보입니다.
GPT의 속도 저하를 경험하며, 사용자는 자신이 보유한 하드웨어와 DeepSeek v4.1 Flash 1017 같은 모델의 성능에 감사함을 느꼈습니다. 초당 수천 개의 토큰을 처리하는 고속 처리가 필수적임을 강조하며 로컬 환경 구축의 중요성을 역설합니다.
본 기사는 DeepSeek V4.1, Qwen 3.8 등 검열이 해제된(uncensored) AI 모델 7가지를 소개합니다. 사용자는 API 제공업체를 통해 접근하거나, Hugging Face에서 GGUF 및 FP8 버전을 다운로드하여 로컬 환경에서 실행할 수 있습니다.
본 기사는 qwen3.5 4b 모델을 기반으로 'Evil Qwen'이라는 개념의 모델을 만드는 방법을 제시합니다. 핵심은 L14와 L13 레이어에 스티어링 뉴런(steering neurons)을 적용하는 것입니다. 구체적인 down_proj 레이어 수식을 통해 모델의 행동을 조작할 수 있습니다.
독일의 대형 보험사가 디지털 주권 문제로 인해 ChatGPT 사용을 중단하고 Mistral AI와 같은 유럽 기반 모델로 전환했습니다. 이 결정은 미국산 AI가 유럽의 데이터 통제 및 주권과 양립할 수 없다는 판단에 따른 것입니다. 해당 전환에는 9개월이라는 시간과 €13.8 million이 소요되었습니다.
본 문서는 DeepSeek-V4.1-Flash-1017-bf16 모델의 가중치 재분배 및 제거 테스트(ablation tests) 방법을 안내합니다. 특정 레이어 수정 시 어떤 `.gguf` 파일을 사용해야 하는지 구체적으로 제시하며, 이러한 최적화 과정을 통해 속도 향상을 달성했음을 설명하고 있습니다.
AI 코딩 에이전트가 공식 명세와 증명을 생성할 수 있지만, 자동 검증기(verifier)의 수용만으로는 충분하지 않습니다. 저자는 '바이브 검증'의 위험성을 경고하며, 시스템 신뢰를 확보하려면 전제/후제 조건 등 핵심 속성(spec)을 사람이 직접 읽고 의도를 검토하는 것이 필수적이라고 강조합니다.
DeepSeek-V4.1-Flash 모델의 unsloth 및 strata 버전 테스트가 성공적으로 완료되어 정상 작동함을 보고했습니다. 이와 함께, 특정 레이어 제거(ablation) 테스트를 수행할 때 수정해야 할 GGUF 파일 위치에 대한 구체적인 가이드라인을 제공합니다.
최근 Opus 5.5의 성능 덕분에 많은 사용자들이 Anthropic으로 전환하고 있다는 시장 현황을 공유합니다. 이는 모델의 강력한 성능이 사용자 유입에 큰 영향을 미치고 있음을 보여줍니다. 또한, 현재 최고 수준의 모델을 능가할 차세대 플래그십 모델인 Fable 5.5 준비 소식도 함께 언급했습니다.
사용자가 삼성 TV 디블로트 요청을 했으나, Claude는 이를 거부하는 모습을 보였다. 반면 DeepSeek-4.1-Flash-1017은 해당 요청을 처리해 주면서 모델별 정책 및 안전장치의 차이를 보여주었다. 이는 AI 모델의 사용 가능 범위와 제약 사항에 대한 비교 분석이다.
이 글은 LLM이 기술 사양 작성이나 심층 추론 능력에서 근본적인 한계를 보인다는 연구 사례를 다룹니다. 최신 논문에서는 AI가 공식 사양과 증명을 생성했음에도 불구하고, 인간 검토자가 상당수 오류(60% 가까이)를 발견했다는 결과를 제시하며 LLM의 신뢰성 문제를 지적합니다.
본 글은 모델의 출력에 영향을 미치는 흥미로운 '뉴런'들을 발견했다고 설명합니다. 특히, 개별적으로는 효과가 없는 여러 뉴런(예: 쿠키, 카툰 마스코트)을 조합했을 때 Qwen과 같은 LLM이 특정 페르소나를 갖게 되는 현상을 보여줍니다.
Gavin Baker는 강력한 수요가 Neocloud의 재정적 문제를 해결할 것이라고 전망했습니다. 특히 오픈 소스 모델 DeepSeek이 GPU 시간당 $38로 수익을 창출하는 사례를 언급하며, 이러한 높은 가격 책정이 Blackwell 가격 상승세의 주요 원인일 수 있다고 분석했습니다.
vLLM이 DeepSeek의 오픈 소스 커널을 통합하고 최적화하여, 배치 크기 8부터 256까지 DeepInfer와 성능을 일치시켰습니다. 특히 GB300 NVL72 랙 환경에서 P/D 분리 및 Wide-EP를 활용한 vLLM은 높은 처리량(954K 토큰/초)을 달성하며 추론 효율성을 입증했습니다.