История изменений

Надо там ловить конкретные модели, которые тебе подходят как будут появляться, если конечно есть вариант повисеть лишнюю недельку перед покупкой и помониторить. В твоем случае как я понимаю, есть определенная задача, и лучше железо подбирать конкретно по нее. Если же на поиграться, то лучше брать минимальное и более ликвидное типо той же 4060, чтобы было проще продать, и потом купить что-то более новое или мощное, когда уже будет понятно, что конкретно нужно и нужно ли вообще. У amd нового поколения не будет, если только самые бюджетные карты. А у nvidia будет 50xx, поэтому лучше брать nvidia.

Вообще у нас есть небольшой ML продукт, который мне тоже приходилось править. Но там используется gpt-3.5-turbo api и бесплатный инстанс pinecone для хранения векторов. И этого хватает чуть более чем полностью, хотя конечно есть возможность использовать сhroma, модели с HuggingFace, GPT4All, но это все просто напросто тормозит.

Надо там ловить конкретные модели, которые тебе подходят как будят появляться, если конечно есть вариант повисеть лишнюю недельку перед покупкой и помониторить. В твоем случае как я понимаю, есть определенная задача, и лучше железо подбирать конкретно по нее. Если же на поиграться, то лучше брать минимальное и более ликвидное типо той же 4060, чтобы было проще продать, и потом купить что-то более новое или мощное, когда уже будет понятно, что конкретно нужно и нужно ли вообще. У amd нового поколения не будет, если только самые бюджетные карты. А у nvidia будет 50xx, поэтому лучше брать nvidia.

Вообще у нас есть небольшой ML продукт, который мне тоже приходилось править. Но там используется gpt-3.5-turbo api и бесплатный инстанс pinecone для хранения векторов. И этого хватает чуть более чем полностью, хотя конечно есть возможность использовать сhroma, модели с HuggingFace, GPT4All, но это все просто напросто тормозит.