๐ก๏ธ Shield 82M: PII ์ ๊ฑฐ/ํํฐ๋ง ๋ชจ๋ธ ๐ก๏ธ
์์ฝ
Shield 82M์ distilroberta-base๋ฅผ ํ์ธํ๋ํ ์คํ์์ค ๋ชจ๋ธ๋ก, ๋ชจ๋ ์ธ์ด์ ๊ฑธ์ณ ํ ์คํธ ๋ด์ ๊ฐ์ธ์๋ณ์ ๋ณด(PII)๋ฅผ ํํฐ๋งํ๋ ๋ฐ ํนํ๋์ด ์์ต๋๋ค. ์ด๋ฆ, ์ด๋ฉ์ผ ์ฃผ์, ์ ํ๋ฒํธ, ์ฃผ์ ๋ฑ ๋ค์ํ ์ ํ์ PII๋ฅผ ๊ฐ์งํ๊ณ ๊ฐ๊ธฐ ๋ค๋ฅธ ํ๊ทธ(\[PERSON\] ๋ฑ)๋ก ๋์ฒดํ ์ ์์ผ๋ฉฐ, ํ ์คํธ ๊ฒฐ๊ณผ ์ด ์ ํ๋ ์ฝ 96%๋ฅผ ๋ฌ์ฑํ์ต๋๋ค.
ํต์ฌ ํฌ์ธํธ
- Shield 82M์ distilroberta-base ๊ธฐ๋ฐ์ผ๋ก ๊ฐ๋ฐ๋ PII ํํฐ๋ง ์ ๋ฌธ ๋ชจ๋ธ์ ๋๋ค.
- ์ด ๋ชจ๋ธ์ ์ด๋ฆ, ์ด๋ฉ์ผ, ์ ํ๋ฒํธ, ์ฃผ์ ๋ฑ ๋ค์ํ ์ ํ์ ๊ฐ์ธ์๋ณ์ ๋ณด๋ฅผ ๊ฐ์งํ๊ณ ๋ง์คํนํ ์ ์์ต๋๋ค.
- ๋ค๊ตญ์ด ์ง์์ด ๊ฐ๋ฅํ๋ฉฐ, ํ๋์ค์ด ํ ์คํธ์์๋ ๋์ ์ฑ๋ฅ์ ๋ณด์ฌ์ฃผ์์ต๋๋ค.
- ์ด ์ ํ๋๊ฐ ์ฝ 96%์ ๋ฌํ๋ ๊ณ ์ฑ๋ฅ ๋ชจ๋ธ์ด๋ฉฐ ์์ ํ ์คํ์์ค์ ๋๋ค.
์๋ ํ์ธ์, r/LocalLLaMA!
์ต์ข ์ ์ผ๋ก ์๋ก์ด ๋ชจ๋ธ๋ก ๋์์์ต๋๋ค: ๐ก๏ธ Shield 82M
์ด๋ distilroberta-base ์ ํ์ธํ๋ (fine-tuning) ๋ฒ์ ์ด๋ฉฐ, ์ด๋ค ์ธ์ด๋ ํ ์คํธ ๋ด์ ๋ชจ๋ ์ ํ์ PII(Personally identifiable information, ๊ฐ์ธ์๋ณ์ ๋ณด) ๋ฅผ ํํฐ๋งํ ์ ์์ต๋๋ค.
๋ค์์ ๋ช ๊ฐ์ง ์์์ ๋๋ค:
1) ์ด๋ฆ, ์ด๋ฉ์ผ ๋ฐ ์ ํ๋ฒํธ ํ ์คํธ:
Original: My name is John Doe. Email: john@example.com. Phone: +49 123 45678.
Protected: My name is [PERSON]. Email: [EMAIL]. Phone: [PHONE].
2) ๊ธฐ๋ณธ ํ ์คํธ:
Original: I live in Cambridge
Protected: I live in [ADDRESS]
3) ํ๋์ค์ด ํ ์คํธ (๋ค๊ตญ์ด):
Original: Mon e-mail est jean.dupont@example.fr et mon tรฉlรฉphone est +33 6 12 34 56 78.
Protected: Mon e-mail est [EMAIL] et mon tรฉlรฉphone est [PHONE].
์ด๋ก์จ ์ด ๋ชจ๋ธ์ด ์ด ์ ํ๋ ~96% ๋ก ๋งค์ฐ ์ ์ํ๋จ์ ์ ์ ์์ต๋๋ค.
๊ทธ๋ฆฌ๊ณ : ๋ชจ๋ ์ ์ ๋ชจ๋ธ์ฒ๋ผ ์์ ํ ์คํ์์ค์ ๋๋ค. :D
์ฌ์ฉํด ๋ณด๊ณ ์ถ๋ค๋ฉด: https://huggingface.co/LH-Tech-AI/Shield-82M
์ฆ๊ธฐ์ธ์. :-)
๋๊ธ์์ ๋ง๋์. ์ฌ๋ฌ๋ถ์ ํผ๋๋ฐฑ์ ์ ๋ง ์ํฉ๋๋ค.
AI ์๋ ์์ฑ ์ฝํ ์ธ
๋ณธ ์ฝํ ์ธ ๋ Reddit AI Engineering์ ์๋ฌธ์ AI๊ฐ ์๋์ผ๋ก ์์ฝยท๋ฒ์ญยท๋ถ์ํ ๊ฒ์ ๋๋ค. ์ ์ ์๊ถ์ ์์ ์์์๊ฒ ์์ผ๋ฉฐ, ์ ํํ ๋ด์ฉ์ ๋ฐ๋์ ์๋ฌธ์ ํ์ธํด ์ฃผ์ธ์.
์๋ฌธ ๋ฐ๋ก๊ฐ๊ธฐ