Если смотреть логически то за последние 10 лет интернет утек в соц сети. Найти что-то в Гугле становится проблемой. На reddit найти что-то полезное зачастую проще чем в гугле. А сайтов помоек в топ10 выдачи было итак много ещё до революции нейросетей. Имхо скоро поисковые машины будут удовлетворять только сектор услуг, все остальное забьют нейросети
Возможно завести обучение на windows 10?
llvm-9 поставляется без llvm-config который нужен для сборки triton
Попытки скомпилировать llvm-9 не привели к результату, где-то глубоко в интернетах нашел бинарники llvm 11 с нужными бинарниками llvm-config.
При сборке triton перестал жаловится на отсутствие llvm-config, но он не компилится из-за кучи не понятных ошибок..
Кто смог запустить на win10 — pretrain_megatron.py?
На 2080 Large модель работает нормально, отвечает с задержкой 1-2 сек.
Кушает 4.6-5.5гб видеопамяти, если указывать символов на вывод больше то 8гб может не хватить.
Также 5 гигабайт оперативной памяти, при старте на секунд 5-10 грузит проц 3900xt на 80%
Сам графический процессор при генерации текста сильно не нагружает, в целом у кого 1060 6GB, Large модель должна работать спокойно. Все карточки ценового сегмента ниже уже нет.
Также пробывал на CPU, откушало 12 гигабайт оперативной памяти, загружало процессор на 50-60%. Работало все довольно медленно, ответа нужно было ждать около ~20 секунд.
Если смотреть логически то за последние 10 лет интернет утек в соц сети. Найти что-то в Гугле становится проблемой. На reddit найти что-то полезное зачастую проще чем в гугле. А сайтов помоек в топ10 выдачи было итак много ещё до революции нейросетей. Имхо скоро поисковые машины будут удовлетворять только сектор услуг, все остальное забьют нейросети
del
Возможно завести обучение на windows 10?
llvm-9 поставляется без llvm-config который нужен для сборки triton
Попытки скомпилировать llvm-9 не привели к результату, где-то глубоко в интернетах нашел бинарники llvm 11 с нужными бинарниками llvm-config.
При сборке triton перестал жаловится на отсутствие llvm-config, но он не компилится из-за кучи не понятных ошибок..
Кто смог запустить на win10 — pretrain_megatron.py?
Кушает 4.6-5.5гб видеопамяти, если указывать символов на вывод больше то 8гб может не хватить.
Также 5 гигабайт оперативной памяти, при старте на секунд 5-10 грузит проц 3900xt на 80%
Сам графический процессор при генерации текста сильно не нагружает, в целом у кого 1060 6GB, Large модель должна работать спокойно. Все карточки ценового сегмента ниже уже нет.
Также пробывал на CPU, откушало 12 гигабайт оперативной памяти, загружало процессор на 50-60%. Работало все довольно медленно, ответа нужно было ждать около ~20 секунд.