하소연해서 죄송하지만, 제 좌절감을 공유해야겠어요 :) PCIe 5 x4 속도를 사용하는 쿼드 5060ti 설정(Finally - 4xRTX 5060TI : r/LocalLLaMA)을 거의 완성해가고 있었습니다. GPU burn도 작동했고, cpu-memtest와 nccl-tests도 통과했으며, 심지어 P2P 드라이버도 작동했습니다. 하지만 vllm이 M.2 어댑터에 장착된 두 개의 GPU를 PCIe 버스에서 그냥 튕겨내 버렸습니다. 한 번에 하나만 사용할 때는 잘 작동했습니다. 다른 드라이버, BIOS 설정, 심지어 다른 Linux 커널을 시도해 보았고, 하드웨어를 다른 위치로 교체하고 재장착도 해보았습니다. 완전히 미쳐버릴 것 같았습니다.

이 설정에는 2개의 PSU가 있었는데, 하나는 메인보드용이었고 다른 하나는 ATX Y-splitter를 사용하여 두 개의 M.2 어댑터와 공유하고 있었습니다. 결국 저는 대신 새 PSU를 추가해 보았습니다. 그랬더니 이제 씨발(?) 아주 잘 작동합니다. 제 자신에게 다소 짜증이 나서 그냥 공유해야 했습니다.

모든 보수적인 설정들을 원래대로 되돌리고 나면, 앞으로 며칠 내에 실제 벤치마크 결과와 함께 돌아오겠습니다.

수정: 참고로, 공유해서 사용하던 제 오래된 650w PSU의 문제였던 것 같습니다. 새로운 1000w PSU를 메인보드용으로 사용하고, 750w를 Y-splitter를 통해 공유하는 것도 잘 작동합니다... (https://www.reddit.com/r/LocalLLaMA/comments/1ubznim/comment/ot3w47q/?utm_source=share&utm_medium=web3x&utm_name=web3xcss&utm_term=1&utm_content=share_button 참조)