로컬 LLM Gemma4에게 2026년 각 날짜의 요일을 물었더니 절반 정도밖에 맞히지 못했지만, 2025년에 대해 동일하게 조사했더니 약 96%의 정답률이었다.
제2회 기사에서 Gemma4에게 2026년의 요일을 물었을 때 절반 정도밖에 맞히지 못했다는 점과, 월별로 정답률에 편차가 있었다는 점을 보고했지만, 다른 연도에서도 유사한 경향이 나타나는지 의문이 생겼다.
미래의 날짜에 대해 검토를 진행했던 제3회와 달리, 이번에는 과거 방향으로 검토를 진행한다.
지난번과 동일.
- Gemma4 (모델 E4B)
- Ollama (Windows용 ver. 0.30.10)
- Python 3.14.6
- ollama 0.6.2 (Python 패키지)
지난번 기사의 Python 코드를 year = 2026에서 2025부터 2018까지, 그리고 2010, 2000, 1960으로 바꾸어 실행했다.
정확히 맞힌 날짜의 총수: 349
2요일 이상 어긋난 날짜를 출력:
2025/04/01: 3
2025/10/19: 4
총수: 2
요일 이외의 것을 출력:
2025/01/25: 사요일
총수: 1
월별 정답률:
1월: 90.3%
2월: 96.4%
3월: 96.8%
4월: 96.7%
5월: 87.1%
6월: 90.0%
7월: 96.8%
8월: 96.8%
9월: 100.0%
10월: 96.8%
11월: 100.0%
12월: 100.0%
어긋남의 분포를 집계:
-3: 1(0.3%)
-2: 0(0.0%)
-1: 6(1.6%)
0: 349(95.9%)
1: 7(1.9%)
2: 0(0.0%)
3: 1(0.3%)
2026년의 결과와는 대조적으로 정답률 96%라는 좋은 성적을 거두었다. 요일을 정확히 대답하지 못하는 원인으로서, Gemma4 + Ollama는 추론 엔진(Inference Engine)이므로 계산을 하고 있는 것이 아니라는 이야기를 검색(때로는 상단에 표시되는 AI의 답변이었을지도 모른다)을 통해 보았는데, 추론의 원천 데이터가 2025년까지의 데이터이기 때문일 수도 있다.
월별 정답률로 보면 연도 후반부가 전반부보다 성적이 좋다. 지난 기사의 2026년 집계에서도 연도 전반부와 후반부에 차이가 있었으나, 전반부의 성적이 더 좋았다. 역시 학습 데이터가 그 부근에 편향되어 있는 것일까.
어긋남의 분포는 오답 수가 적어 통계라고 하기 어렵지만, ±1일에 총 13일, ±3일에 1일씩 총 2일, ±2일은 0이었다. 이번에는 앞쪽으로 어긋나는 경우와 뒤쪽으로 어긋나는 경우에 큰 편차는 나타나지 않았다.
단 하루뿐이었지만, 요일 이외의 답변을 한 날짜가 있었다. 그 날짜는 2025/01/25로 토요일인데, 사요일이라고 한 것은 '새터데이(Saturday)'와 섞여버린 것일까. 이미지 생성 AI에서 배경에 글자가 있으면 여러 글자가 합성되어 존재하지 않는 글자가 되는 것과 비슷한 현상일지도 모른다.
정확히 맞힌 날짜의 총수: 336
2요일 이상 어긋난 날짜를 출력:
2024/04/03: 5
2024/04/23: 4
총수: 2
요일 이외의 것을 출력:
2024/05/07: 二요일
2024/05/28: 二일
2024/05/29: 三토요일
2024/10/07: 一]
2024/10/22: 二요일
2024/10/29: 二요일
총수: 6
월별 정답률:
1월: 83.9%
2월: 93.1%
3월: 90.3%
4월: 93.3%
5월: 87.1%
6월: 93.3%
7월: 100.0%
8월: 96.8%
9월: 93.3%
10월: 87.1%
11월: 90.0%
12월: 93.5%
어긋남의 분포를 집계:
-3: 1(0.3%)
-2: 1(0.3%)
-1: 7(1.9%)
0: 336(93.3%)
1: 15(4.2%)
2: 0(0.0%)
3: 0(0.0%)
이것도 일요일이 아니라 일요일이라고 답변한 경우를 정답으로 처리했다.
정확히 맞힌 날짜의 총수: 290
2요일 이상 어긋난 날짜의 총수: 17
요일 이외의 것을 출력:
2023/03/28: [\text{목}]
2023/05/05: フ요일
2023/05/12: 手요일
2023/06/01: どようび
2023/06/15: ```json
{
...
}
2023/08/01: 주삼
총수: 6
월별 정답률:
1월: 90.3%
2월: 92.9%
3월: 83.9%
4월: 90.0%
5월: 38.7%
6월: 40.0%
7월: 87.1%
8월: 74.2%
9월: 73.3%
10월: 96.8%
11월: 96.7%
12월: 90.3%
오차 분포 집계:
-3: 13(3.6%)
-2: 2(0.6%)
-1: 13(3.6%)
0: 290(80.8%)
1: 39(10.9%)
2: 2(0.6%)
3: 0(0.0%)
정확히 답변한 날짜의 총수: 194
2요일 이상 어긋난 날짜의 총수: 56
요일 이외의 것을 출력:
2022/04/21: 라는
2022/05/25: 초승달 화요일
2022/07/21: ★★★
2022/08/12: 지요일
2022/12/27: 2일
총수: 5
월별 정답률:
1월: 48.4%
2월: 50.0%
3월: 45.2%
4월: 43.3%
5월: 54.8%
6월: 46.7%
7월: 51.6%
8월: 32.3%
9월: 76.7%
10월: 74.2%
11월: 46.7%
12월: 67.7%
오차 분포 집계:
-3: 21(5.8%)
-2: 19(5.3%)
-1: 68(18.9%)
0: 194(53.9%)
1: 42(11.7%)
2: 7(1.9%)
3: 9(2.5%)
과거로 갈수록 데이터의 가중치가 가벼워지는 것일지도 모르지만, 정답률은 약 54%까지 저하되었다.
정확히 답변한 날짜의 총수: 118
2요일 이상 어긋난 날짜의 총수: 93
요일 이외의 것을 출력:
2021/03/01: 일
요일
2021/04/01: 일
목요일
2021/04/21: 휴일의 날
2021/05/01: 로
2021/06/01: Wednesday
2021/12/01: ○
2021/12/10: #금요일
총수: 7
월별 정답률:
1월: 45.2%
2월: 35.7%
3월: 32.3%
4월: 30.0%
5월: 29.0%
6월: 33.3%
7월: 32.3%
8월: 38.7%
9월: 26.7%
10월: 22.6%
11월: 33.3%
12월: 29.0%
오차 분포 집계:
-3: 27(7.5%)
-2: 25(7.0%)
-1: 108(30.2%)
0: 118(33.0%)
1: 39(10.9%)
2: 17(4.7%)
3: 24(6.7%)
사양에 따라 `#금요일`
이라는 답변은 형식 위반으로 오답 처리하고 있지만, `일요일`
은 요일이 맞으면 정답으로 처리하고 있다. ~~버그가 아니라 사양이라는 이름의 버그다.~~
정답률이 30%대로 저하되어 왔다.
월별 정답률은 1월을 제외하고 30% 전후로 거의 일정하다.
정확히 답변한 날짜의 총수: 119
2요일 이상 어긋난 날짜의 총수: 119
요일 이외의 것을 출력:
2020/01/31: Saturday
2020/03/19: 와
2020/03/20: 진
2020/04/01: [https://www.google.com/search?q=2020/04/01&hl=ja]토요일
2020/10/04: 새터데이
2020/10/19: 일요일인가 오
총수: 6
월별 정답률:
1월: 51.6%
2월: 24.1%
3월: 32.3%
4월: 40.0%
5월: 38.7%
6월: 0.0%
7월: 41.9%
8월: 32.3%
9월: 50.0%
10월: 29.0%
11월: 23.3%
12월: 25.8%
오차 분포 집계:
-3: 25(6.9%)
-2: 38(10.6%)
-1: 56(15.6%)
0: 119(33.1%)
1: 66(18.3%)
2: 30(8.3%)
3: 26(7.2%)
정답률은 2021년과 비교해 보합세.
월별 정답률은 6월이 0%로 편차가 눈에 띈다.
오차 분포는 정규 분포(Normal Distribution) 스타일이라고 할 수 있을까.
정확히 답변한 날짜의 총수: 139
2요일 이상 어긋난 날짜의 총수: 97
요일 이외의 것을 출력:
2019/04/01: 직일
2019/04/11: 목요일
2019/05/01: 봉납일
2019/06/11: 화요일
2019/07/11: 목요일
2019/08/12: 목요일
2019/09/07: 금요일
2019/09/12: 목요일
2019/10/05: 토요일
2019/10/15: 장일요일
총수: 10
월별 정답률:
1월: 16.1%
2월: 17.9%
3월: 35.5%
4월: 26.7%
5월: 35.5%
6월: 43.3%
7월: 29.0%
8월: 38.7%
9월: 40.0%
10월: 45.2%
11월: 63.3%
12월: 64.5%
오차 분포 집계:
-3: 18(5.1%)
-2: 20(5.6%)
-1: 59(16.6%)
0: 139(39.2%)
1: 60(16.9%)
2: 32(9.0%)
3: 27(7.6%)
정답률은 약 40%로 하락세가 멈춘 것처럼 보인다.
요일 이외의 출력은 대부분 한국어였다.
목요일: 木曜日
화요일: 火曜日
금요일: 金曜日
토요일: 土曜日
장일요일: 일요일은 일요일이라는 뜻인데, Google에 억지로 번역시키면 '장일요일'이라는 존재하지 않는 용어 같다.
8/12는 월요일, 9/7은 금요일
10/15는 화요일
로 틀렸지만, 나머지는 맞다.
2019년 4월~10월에 한국어 답변이 집중되어 있는 것은 무슨 이유가 있는 것일까.
오차 분포는 2020년과 마찬가지로 정규 분포 형태라고 할 수 있을까.
정확히 답한 날짜의 총수: 62
2요일 이상 어긋난 날짜의 총수: 148
요일 이외의 것을 출력:
2018/04/01: がきて
2018/05/01: [火曜日
2018/07/20: 指曜日
2018/12/01: フリデー
총수: 4
월별 정답률:
1월: 9.7%
2월: 28.6%
3월: 16.1%
4월: 23.3%
5월: 12.9%
6월: 6.7%
7월: 19.4%
8월: 22.6%
9월: 10.0%
10월: 9.7%
11월: 26.7%
12월: 19.4%
오차 분포 집계:
-3: 33(9.1%)
-2: 24(6.6%)
-1: 34(9.4%)
0: 62(17.2%)
1: 117(32.4%)
2: 63(17.5%)
3: 28(7.8%)
정답률은 20% 미만으로 떨어졌다.
정확히 답한 날짜의 총수: 62
2요일 이상 어긋난 날짜의 총수: 179
요일 이외의 것을 출력:
2010/02/01: フ요일
총수: 1
'フ'는 한글이 아니라 가타카나
월별 정답률:
1월: 9.7%
2월: 14.3%
3월: 9.7%
4월: 16.7%
5월: 35.5%
6월: 3.3%
7월: 19.4%
8월: 35.5%
9월: 23.3%
10월: 9.7%
11월: 6.7%
12월: 25.8%
오차 분포 집계:
-3: 35(9.6%)
-2: 53(14.6%)
-1: 49(13.5%)
0: 64(17.6%)
1: 72(19.8%)
2: 58(15.9%)
3: 33(9.1%)
현재로부터 너무 멀어지면 요일 이외의 것을 출력하는 건수가 줄어드는 것은 미래 편에서도 있었던 현상.
정확히 답한 날짜의 총수: 56
2요일 이상 어긋난 날짜의 총수: 202
요일 이외의 것을 출력:
총수: 0
월별 정답률:
1월: 12.9%
2월: 6.9%
3월: 38.7%
4월: 3.3%
5월: 3.2%
6월: 16.7%
7월: 0.0%
8월: 6.5%
9월: 16.7%
10월: 25.8%
11월: 30.0%
12월: 22.6%
오차 분포 집계:
-3: 43(11.7%)
-2: 91(24.9%)
-1: 28(7.7%)
0: 56(15.3%)
1: 80(21.9%)
2: 43(11.7%)
3: 25(6.8%)
정답률은 약 15%로 1/7에 가까워졌다. 다만, 오차 분포는 균일하지 않다.
요일 이외의 것을 출력하는 건수가 0이 되었다.
정확히 답한 날짜의 총수: 55
2요일 이상 어긋난 날짜의 총수: 182
요일 이외의 것을 출력:
총수: 0
월별 정답률:
1월: 3.2%
2월: 14.3%
3월: 6.5%
4월: 23.3%
5월: 9.7%
6월: 6.7%
7월: 22.6%
8월: 22.6%
9월: 30.0%
10월: 0.0%
11월: 10.0%
12월: 32.3%
오차 분포 집계:
-3: 43(11.8%)
-2: 61(16.7%)
-1: 57(15.6%)
0: 55(15.1%)
1: 71(19.5%)
2: 45(12.3%)
3: 33(9.0%)
인터넷 보급 전 세대까지 거슬러 올라가 보았지만, 2000년과 큰 차이가 없었다. 2000년 무렵부터는 학습 데이터의 범위를 벗어난 것일지도 모른다.
정확히 답한 날짜의 총수: 55
2일 이상 어긋난 날짜의 총수: 182
요일 이외의 것을 출력:
총수: 0
월별 정답률:
1월: 12.9%
2월: 0.0%
3월: 0.0%
4월: 16.7%
5월: 25.8%
6월: 20.0%
7월: 16.1%
8월: 6.5%
9월: 10.0%
10월: 25.8%
11월: 0.0%
12월: 6.5%
어긋남의 분포 집계:
-3: 48(13.1%)
-2: 56(15.3%)
-1: 77(21.0%)
0: 43(11.7%)
1: 39(10.7%)
2: 49(13.4%)
3: 54(14.8%)
한꺼번에 epoch (1970/1/1)보다 더 이전으로 거슬러 올라가 보았으나, 정답률이 약 12%로 1/7 미만이었음에도 눈에 띄는 변화는 없었다.
어긋남의 분포는 무작위(Random)에 가까울 정도로 균일해졌다고 생각한다.
대체로 순조롭게 진행된다.
2021년은 GPU 부하가 높아져서 걸리는 부분이 다소 많았던 인상.
2018년도 약간 걸리는 부분이 있었다.
1990년은 걸리는 부분이 많았다.
1960년은 거의 걸리는 부분이 없었다.
이상의 결과를 다소 주관을 섞어 정리하자면:
- 정답률은 2025년에서 약 96%로, 2026년과 비교해 격단히 높은 성적을 나타냈다.
날짜 내림차순. 표현의 수정 등은 제외.
- 2026/7/1: 우선 게시.
- 2026/6/22: 작성을 시작했으나, 미래 부분이 커져서 나중으로 미루기로 함.
다음에는 프롬프트 (Prompt)를 바꾸어 문제를 회피할 수 있는지 시험할 예정이다.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
469
470
471
472
473
474
475
476
477
478
479
480
481
482
483
484
485
486
487
488
489
490
491
492
493
494
495
496
497
498
499
500
501
502
503
504
505
506
507
508
509
510
511
512
513
514
515
516
517
518
519
520
521
522
523
524
525
526
527
528
529
530
531
532
533
534
535
536
537
538
539
540
541
542
543
544
545
546
547
548
549
550
551
552
553
554
555
556
557
558
559
560
561
562
563
564
565
566
567
568
569
570
571
572
573
574
575
576
577
578
579
580
581
582
583
584
585
586
587
588
589
590
591
592
593
594
595
596
597
598
599
600
601
602
603
604
605
606
607
608
609
610
611
612
613
614
615
616
617
618
619
620
621
622
623
624
625
626
627
628
629
630
631
632
633
634
635
636
637
638