로컬 AI용 중고 PC·GPU 구매 체크리스트

주력 모델의 파일 크기, 컨텍스트와 동시 요청을 정하고 메모리 여유를 더합니다. 이미지 생성이나 학습까지 한다면 필요한 소프트웨어 지원이 달라집니다.

‘작업에서 역산합니다’ 단계에서 기준으로 삼을 원칙은 “GPU 이름보다 VRAM 용량과 런타임 지원을 먼저 확인합니다.”입니다. 장비 이름 하나로 결론내리지 말고 모델, 양자화, 문맥 길이와 동시 요청 수를 같은 조건으로 고정해야 비교가 의미를 가집니다.

검증할 때는 모델·런타임 버전, 입력 자료, 주요 설정과 결과를 한 묶음으로 저장합니다. 다른 조건을 그대로 둔 채 한 요소만 바꾸어 다시 실행하고, 예상과 다른 결과와 아직 확인하지 못한 한계까지 기록해야 이 설명을 자신의 환경에 안전하게 적용할 수 있습니다.

판매글만 믿지 말고 GPU-Z 같은 도구 화면, 정확한 모델 번호와 VRAM, 출력 포트, 보조전원 커넥터를 확인합니다. NVIDIA 공식 Compute Capability와 런타임 지원도 대조합니다.

‘부품 정보를 교차 확인합니다’ 단계에서 기준으로 삼을 원칙은 “전원공급장치·케이스·냉각·메인보드까지 총비용에 넣습니다.”입니다. 장비 이름 하나로 결론내리지 말고 모델, 양자화, 문맥 길이와 동시 요청 수를 같은 조건으로 고정해야 비교가 의미를 가집니다.

결과를 다시 재현할 수 있도록 시작 전후의 상태와 확인 시각을 함께 남깁니다. 정상 사례뿐 아니라 빈 입력, 자원 부족이나 재시작 같은 실패 조건 하나를 포함하면 이 단계가 어디까지 견디는지 더 분명해집니다.

GPU가 들어갈 물리 공간, PSU 정격과 커넥터, 메인보드 슬롯, CPU·RAM·SSD, 냉각과 소음을 함께 봅니다. 어댑터 남용은 피합니다.

‘전체 시스템 비용을 계산합니다’ 단계에서 기준으로 삼을 원칙은 “가능하면 구매 전에 장시간 부하와 실제 모델을 시험합니다.”입니다. 장비 이름 하나로 결론내리지 말고 모델, 양자화, 문맥 길이와 동시 요청 수를 같은 조건으로 고정해야 비교가 의미를 가집니다.

완료 여부는 느낌이 아니라 관찰 가능한 기준으로 정합니다. 같은 입력을 반복했을 때 결과가 유지되는지 확인하고, 달라진다면 버전·설정·데이터 가운데 어떤 조건이 원인인지 좁힌 뒤 다음 단계로 넘어갑니다.

화면 이상, 팬 소음, 온도, 오류와 클럭 저하를 부하 테스트로 확인한 뒤 실제 GGUF 모델을 20~30분 실행합니다. 영수증, 보증과 반품 조건을 문서로 남깁니다.

‘현장에서 시험합니다’ 단계에서 기준으로 삼을 원칙은 “GPU 이름보다 VRAM 용량과 런타임 지원을 먼저 확인합니다.”입니다. 장비 이름 하나로 결론내리지 말고 모델, 양자화, 문맥 길이와 동시 요청 수를 같은 조건으로 고정해야 비교가 의미를 가집니다.

체크리스트는 한 번에 모두 통과시키기보다 각 항목에 확인 날짜와 결과를 붙여 사용합니다. 한 항목이 실패했을 때는 다음 단계로 넘어가기 전에 영향 범위를 적고, 수정 후 같은 입력으로 재시험해야 완료 여부를 객관적으로 판단할 수 있습니다.

• 시리얼과 봉인 상태
• VRAM 용량·오류
• 팬·온도·소음
• 부하 중 종료 여부
• 실제 모델 적재·속도
• 보증·반품 조건