Заголовки

Сборка ML-сервера за один день на RTX 2060 и RAID 1

Недавно я завершил сборку ML-сервера всего за один день. В качестве видеокарт я использовал две RTX 2060 и одну RTX 1060. В процессе тестирования стало очевидно, что RTX 1060 устарела, в то время как RTX 2060 предлагает отличную производительность благодаря поддержке современных фреймворков и наличию Tensor Cores.

Материнская плата Gigabyte Z390-D была выбрана за поддержку dual-GPU и аппаратного RAID. В BIOS я настроил важные параметры, включая отключение встроенной графики и активацию XMP для памяти. Дисковая система состоит из шести дисков с аппаратным RAID 1, что обеспечивает надежность хранения данных.

Python 3.12 стал основой программного обеспечения, так как он стабилен и совместим с большинством ML-фреймворков. После установки необходимых библиотек, включая PyTorch и YOLOv8, я провел тестирование системы, которое подтвердило высокую производительность обеих видеокарт.

Мой локальный ML-сервер генерирует изображения через Stable Diffusion и анализирует данные в реальном времени с помощью YOLOv8, обеспечивая полный контроль без зависимости от облачных сервисов. Вся сборка обошлась в ноль рублей, и я готов интегрировать систему с ACMER P3 для автоматизации процессов лазерной гравировки.