tüm notlar
Not · · 3 dk okuma ·

Reboot sonrası modelleri tekrar kontrol etmek

Sürücü sürümleri düzeldi, bu kez eski bir servis portu tuttu. Testten önce ikisini de kontrol ettim.

Kullanılan teknolojiler ve ortam

Model servisleri

  • Qwen3.8-27B · NVFP4
  • Qwen2.5-Coder-7B · AWQ
  • Qwen3-Embedding-0.6B
  • 3× RTX 5090 · kart başına 32 GB

İşletim ortamı

  • Ubuntu · NVIDIA sürücüsü · CUDA
  • vLLM · systemd kullanıcı servisleri
  • localhost HTTP · port / süreç kontrolü
  • Gerçek model yanıtıyla doğrulama

MTP açık/kapalı testine başlamadan önce nvidia-smi sürüm uyuşmazlığı hatası verdi. Çalışan kernel sürücüsü 595.91.07, diskteki NVIDIA kitaplıkları 595.99.02 idi. Paket güncellenmişti ama çalışan sürücü henüz aynı sürüme geçmemişti.

Çalışıyor olması, yeniden açılacağı anlamına gelmedi

Mevcut model servisleri yanıt veriyordu. Yeni küçük CUDA hesaplamaları da geçti; buna rağmen NVML başlatılamıyordu. Bu yüzden o aşamada Qwen’i durdurup benchmarka geçmedim. Yeniden başlatmadan sonra kernel ve kitaplık sürümü 595.99.02 olarak eşleşti. Üç kartta da küçük matris çarpımı yaptım.

Eski servis de açıldı

Bu kez eski router ile yeni router aynı portu açmaya çalıştı. Eski servisler durdurulmuştu ama açılışta çalışmaları hâlâ etkindi. Eski router ve eski PP3 servisinin otomatik başlangıcını kapattım; güncel çoklu model servislerini korudum.

Qwen hazır olduktan sonra coder’ın, ardından embedding’in açılış hazırlığını bekledim. Tüm servisler hazır olunca kimlikli HTTPS üzerinden Qwen ve embedding isteği gönderdim. Sonra MTP testine başladım.

Testten dönüş

Benchmark profillerini geçici ayrı bir portta çalıştırdım. Normalde kullandığım Qwen başlatma dosyasını değiştirmedim. Test sırasında Qwen’i geçici profillerle çalıştırdım; coder ve embedding açık kaldı. Bitince Qwen’i önceki MTP3 ayarıyla geri açıp üç modelden de yanıt aldığımı kontrol ettim.

Bu açılışta sürücü uyumu ve eski servis çakışmasını düzelttim. Uzun süreli GPU kararlılık testi hâlâ ayrı bir iş.

Kaynak: 13 Ekim 2026 reboot, servis ön kontrolü ve MTP testinden dönüş kayıtları.

ölçüm → not → yeniden denemediğer not