Облачные ИИ-сервисы не всегда подходят по приватности, когда речь о рабочем коде и экспериментах по безопасности, а при больших объёмах использования ещё и становятся заметной статьёй расходов — хочется считать локально, на собственном железе, без ограничений чужого API и без передачи данных наружу.
Планируется бюджетный двухсокетный сервер, работающий только на процессорных вычислениях без видеокарты, с расчётом на серверные процессоры прошлого поколения — такая конфигурация даёт большой объём оперативной памяти по разумной цене, достаточный для запуска крупных языковых моделей с открытым весом, пусть и медленнее, чем на видеокарте. Целевое применение — помощь в написании кода и эксперименты в области исследований безопасности на конкретных открытых моделях.
Серверные процессоры прошлого поколения в двухсокетной конфигурации, большой объём оперативной памяти, модели с открытым весом для кода и исследований безопасности.
В планах — бюджет и целевая конфигурация определены, закупка и сборка ещё не начаты.