сейчас машиню на пцу, но уже немного привык к длительным ожиданиям (раньше никогда не машинлернил). теперь захотелось GPU-ускорения )))

у нвидии как раз видяшки новые вышли с тензорными(читай матричными) ускорятелями

Там уже следующая итерация вышла.

Их всех геймеры уже раскупили. Реддит полнится мемами на эту тему.

Я тут присматриваюсь к затее собрать свой пк. Пока делаю ставку на Threadripper 1900X. Из GPU — 5700XT. Насколько я смог прогуглить, всякие OpenCL и прочее там хорошо стали работать. Жаль инфы по связке R + AMD_GPU пока не видно.

Зато тредриппер может съесть больше RAM, т.е. как бы от каждой з/п по новой планочке.

а у вас какая ось планируется?

Gentoo / Ubuntu

Сейчас еще смотрю Ryzen 7 каких-то X-серий, но пока не сильно секу в годности процев. Задача — гонять модели на ЦПУ.

ГПУ для виртуалок в первую очередь.

uh, oh. М.б. что-то и поменялось за последние лет 10, но я уже 100 раз зарекся играться с линуксами на AMD-шном железе.

Интел? Только вот какой серии. На проц хочется тратить не боле 270$. Надо много рамы и частоты на одно ядро. Вот сижу и ищу, чтобы быстро компилить пакеты и делать анализ ))

Хотя нет. Основная сейчас тема — большие графы/социальные сети. Соответственно надо расторопный процессор и очень много оперативной памяти.

ну я думаю у вас задача вполне определенная (как можно более быстрое ядро в жертву их количеству) и можно что-то найти. это уже наверное выходит за рамки чата.
насчет рамы - вы про системную раму? На практике я замечал, что бОльший кэш у процессора решает + надо мать подобрать такую, чтобы тактовые частоты "подходили" к другим компонентам. В этом я довольно слабо разбираюсь, просто видел статьи, что если неправильно подобрать, то формально хорошее железо будет сколько-то процентов своего времени простаивать из-за несовпадения этих частот

Да, я тоже это слышал. Ладно, спасибо! Ключевые тезисы я от Вас услышал.

Видяхи от AMD для ML бесполезны. Только cuda+cudnn, только Nvidia. По процам AMD огонь, тредпипперы выигрывают линиями PCIe. Для 1 GPU можно ryzen брать, для 2-3-4 нужен тредриппер

под очень много памяти можно посмотреть б.у. серверное железо

хотелось новое)) сейчас как раз подбираю интел + какую-нибудь 1670

чтобы с линуксами нормально дружило

Интересно, а с пакетами проблем нет? Все-таки ARM внутри...

еще как, замучился уже, одна только компиляция из исходников чего стоит, по времени в том числе

Если они компилируются без ошибок, то уже хорошо, как мне кажется...

да, но я не все попробовал еще, дистрибутив же debian-клон