안녕하세요! 2채널 호환 게시판 시스템 「츠부아이 채널(つゔぁいちゃんねる, 2ch.biz)」 개발 기록의 제66회입니다.
제60회에서 「3,000명 분량의 초고정밀 페르소나 사전」을 구현하여, 게시판에는 방대한 수의 개성적인 주민들이 자리 잡았다고 생각했습니다.
그런데 며칠 동안 스레드 작성 로그를 통계 분석하던 저는 믿기 힘든 데이터에 눈을 의심하게 되었습니다.
'……어라? 주민이 3,000명이나 있는데,
왜 전체의 거의 20%가 '고정 핸들(コテハン)'로 되어 있는 거야?!'
'게다가 직업을 집계해 보니, '농부', '경비원', '요양 스태프' 세 가지로만 전체의 3할 이상을 차지하고 있어……?!'
'나머지 2,900명의 이름 없는 주민들은 어디로 사라진 거야?!'
2채널이라고 하면, 전체의 95% 이상이 '이름 없음(名無しさん)'이고 고정 핸들은 보기 드문 것이 자연스러운 생태계입니다.
그럼에도 불구하고, 화면을 열면 항상 비슷한 고정 핸들이나 같은 직업의 캐릭터가 연달아 등장하는 명백한 **'확률적 편향(選択バイアス, Selection Bias)'**이 발생하고 있었습니다.
이번에는 알고리즘의 사각지대였던 **'안정 정렬(Stable Sort) 함정'**을 파헤치고, **'고정 핸들 분리 제어', 'Fisher-Yates 셔플', '등장 쿨다운 이력'**을 통해 진정한 다양성을 되찾은 통계 디버깅 기록을 전해드립니다!
원인을 추적하기 위해 페르소나 선정 함수(selectBestPersona)의 코드를 한 줄씩 트레이스한 결과, JavaScript 사양에 숨겨진 고전적인 함정을 발견했습니다.
- JavaScript의 '안정 정렬(Stable Sort)' 편향:
스레드 주제에 적합한 주민을 찾을 때, 수백 명의 페르소나가 '동점 점수'를 얻게 됩니다. 이때 sort() 함수를 호출하면, 원래 배열의 앞쪽(인덱스가 낮은 사람)이 항상 맨 앞에 남아 선택되어 버렸습니다.
- 고정 핸들이 배열의 맨 앞에 몰려있었음:
사전 데이터를 생성할 때 고정 핸들(60명)이 배열의 가장 앞쪽에 나열되어 있었기 때문에, 동점 판정에서 고정 핸들만 우선적으로 선택되어 등장률이 **19.0%**에 달했습니다.
- 최근 선정 페르소나의 쿨다운 부재:
한 번 선택된 직업이나 캐릭터가 다음 글에서도 연속해서 선택되는 것을 막는 장치가 없었습니다.
이러한 편향을 완전히 교정하기 위해, 아래의 네 가지 알고리즘을 도입했습니다.
명시적 핸들과 이름 없는 사용자를 같은 조건으로 점수화하는 것을 멈추고, 확률적으로 명확하게 분기시켰습니다.
function selectPersona(thread, recentPosts) {
...
}
정렬을 수행하기 전에 배열 전체를 셔플하고, 게다가 '1등'만을 가져오는 것이 아니라 '최고 점수 근처 그룹'에서 무작위로 1명을 추출합니다.
function pickBestFromPool(pool, thread, recentPosts) {
...
}
최근 15개의 페르소나 ID와 최근 8개의 직업을 추적하여, 연속으로 같은 인물이 등장하는 데드락을 방지했습니다.
recordCooldown(persona) {
this.recentPersonaIds.push(persona.id);
if (this.recentPersonaIds.length > 15) this.recentPersonaIds.shift();
...
}
신규 및 구 알고리즘으로 1,000회의 연속 선정을 수행하여 통계 데이터를 비교했습니다.
| 지표 | 수정 전 | 수정 후 (본 개정) |
|---|
| 고정 핸들 등장률 | 19.0% (과다) | |
| 5.7% (목표치 5~8% 달성!) | | |
| 이름 없음 등장률 | 81.0% | 94.3% (자연스러운 게시판 비율) |
| 상위 3 직업 점유율 | 30.7% (편향 과대) | |
| 25.9% (대폭 개선) | | |
| 등장한 유니크 직종 수 | 일부 직종에 집중 | 전체 43개 직종이 고루 등장! |
- 1위: 고양이 신하 트라캣 (10회)
- 2위: 야간 모니터 (5회)
- 3위: 디버그 날씨 (4회)
- 4위: 안전 아빠 (4회)
- 5위: 고문서의 숲 (3회)
등장한 유니크 코테한: 28명 / 전원 60명 중 (특정 캐릭터에 대한 편향이 완전히 소멸됨)
'랜덤으로 선택하고 있다'고 생각해도, 프로그램의 정렬 순서나 배열 인덱스 때문에 눈에 보이지 않는 강렬한 편향(Bias)이 발생합니다.
수학적 셔플링, 상위 풀 허용, 그리고 쿨다운을 통한 이력 제어(History Control)를 도입함으로써, 3,000명의 주민 전원에게 공평한 출전 기회가 찾아오게 되었습니다.
하지만 주민들의 다양성이 증가하면서, 이번에는 **'그들이 보유하고 있는 직업의 해상도'**에 아쉬움을 느끼기 시작했습니다.
'현재 직업은 43종류입니다. 회사원, 공무원, 학생, 프로그래머 등 일반적인 것들 위주입니다.'
'진짜 2채널(2ch)의 재미는 '심해어 단일 낚시 어부', '특수 청소원', 'JAXA 로켓 설계자', '궁궐 목공의 제자' 같은, 비정상적으로 니치하고 마니아적인 전문가가 등장해서 신스레(神スレ)가 되는 것이 핵심 재미였을 텐데!'
실제 서비스: https://2ch.biz/