๐จ ํน์ข : Anthropic, Mythos Preview๋ณด๋ค ๋ฐ์ด๋ Mythos์ ์๋ก์ด ๋ฒ์ ์ถ์ ์ค๋น ์ค
์์ฝ
Anthropic์ด Mythos Preview๋ฅผ ๋ฐ์ด๋๋ ์๋ก์ด ๋ชจ๋ธ์ธ 'Oceanus'์ ์ถ์๋ฅผ ์ค๋น ์ค์ ๋๋ค. ํ์ฌ ๋ ๋ํ ํ ์คํธ๋ฅผ ์ํ ์ฒดํฌํฌ์ธํธ๊ฐ ์ ๊ณต๋์์ผ๋, API ์ฌํ๋งค ์ด์๋ก ์ธํด ํ๋ก๊ทธ๋จ์ด ์ผ์ ์ค๋จ๋ ์ํ์ ๋๋ค.
ํต์ฌ ํฌ์ธํธ
- Anthropic์ ์ฐจ์ธ๋ ๋ชจ๋ธ ์ฝ๋๋ค์ 'Oceanus' ์ค๋น ์ค
- Mythos Preview๋ณด๋ค ์ฑ๋ฅ์ด ํฅ์๋ ๋ฒ์ ์ผ๋ก ์์
- ๋ ๋ํ ํ ์คํธ ๋จ๊ณ์์ API ํ๋ก์ ์ฌํ๋งค ์ด์ ๋ฐ์
- ํ์ฌ ํ ์คํธ ํ๋ก๊ทธ๋จ์ ์ผ์ ์ค๋จ๋ ์ํ
๐จ ํน์ข : Anthropic์ด Mythos Preview๋ณด๋ค ๋ ๋ฐ์ด๋ Mythos์ ์๋ก์ด ๋ฒ์ ์ ๊ณต๊ฐํ๊ธฐ ์ํด ์ค๋น ์ค์ ๋๋ค.
์ฝ๋๋ค์ Oceanus์ธ ์ด ๋ชจ๋ธ์ ์ฒดํฌํฌ์ธํธ(checkpoint)๊ฐ ์ด์ ๋ ๋ํ(red teamers)์๊ฒ ์ ๊ณต๋์์ต๋๋ค. ์ ๊ฐ ๋ฃ๊ธฐ๋ก๋ ์ด๋ฌํ ํ๋ก๊ทธ๋จ๋ค์ ๋ณดํต ๊ด๋ฒ์ํ ์ถ์ 7์ผ ์ ์ ์์๋ฉ๋๋ค.
ํ์ง๋ง ํด๋น ํ๋ก๊ทธ๋จ์ ํ์ฌ ์ค๋จ๋ ์ํ์ด๋ฉฐ, ์ด๋ ์๋ง๋ ํ๋ก๊ทธ๋จ ์ฐธ์ฌ์ ์ค ํ ๋ช ์ด ์ค๊ตญ API ํ๋ก์(API proxy)๋ฅผ ํตํด ์ด๋ฅผ ์ฌํ๋งคํ๊ธฐ ๋๋ฌธ์ผ๋ก ์ถ์ ๋ฉ๋๋ค(@scaling01์ ๋ณด๊ณ ). ๋ค๋ง, ์ด๊ฒ์ด ์ถ์ ๋ชฉํ์ ์ํฅ์ ๋ฏธ์น ์ง๋ ์ ์ ์์ต๋๋ค.
AI ์๋ ์์ฑ ์ฝํ ์ธ
๋ณธ ์ฝํ ์ธ ๋ X ํ ํฝ: Claude/Anthropic์ ์๋ฌธ์ AI๊ฐ ์๋์ผ๋ก ์์ฝยท๋ฒ์ญยท๋ถ์ํ ๊ฒ์ ๋๋ค. ์ ์ ์๊ถ์ ์์ ์์์๊ฒ ์์ผ๋ฉฐ, ์ ํํ ๋ด์ฉ์ ๋ฐ๋์ ์๋ฌธ์ ํ์ธํด ์ฃผ์ธ์.
์๋ฌธ ๋ฐ๋ก๊ฐ๊ธฐ