Мне зашло. Предыдущая модель совсем не понравилась, а здесь уже достойное качество!
Компьютерный инженер в защитных очках разрабатывает алгоритм машинного обучения на экране монитора, ссылаясь на графики и диаграммы, символизирующие автоматизацию и интеллект. Фон представляет собой инновационные технологии и цифровые сети.
У меня запустилась Alpaca Turbo + alpaca-lora-30B-ggml Ryzen 3600, 32 RAM, 3060ti 8Gb Но она не пользует видюху вообще, вся модель закидывается в оперативу и на ~40% CPU генерит
А про Сайгу вы не слышали? Тоже тюн Лламы. Или почему именно ваша третья?
И вместо SD фигурирует Далле-2 с сомнительными результатами и кмк не очень популярная
Песню Dire Straits 100 раз слышал, но не знал что там такой убойный клип.
Воды налили. Современные LLM подбирают следующее слово смотря не на предыдущее слово, а на весь предыдущий контекст. Гуглите self-attention
Почему вдруг решили протестировать модель трехгодичной давности, если недавно вышла 3.5 13В?
На улице -30 и вы успешно отапливались 300W?
Когда Гигачат запустят там будет эта же языковая модель или дообученная/дотюненная?
Большинство LLMок успешно справляются с подобным запросом:
Classify the text into neutral, negative or positive.
Text: Shut your fuck up asshole!
Sentiment:
Возможна ли ее квантизация и запуск в убабуге/кобольде?
Мне зашло. Предыдущая модель совсем не понравилась, а здесь уже достойное качество!
Компьютерный инженер в защитных очках разрабатывает алгоритм машинного обучения на экране монитора, ссылаясь на графики и диаграммы, символизирующие автоматизацию и интеллект. Фон представляет собой инновационные технологии и цифровые сети.
В приложении для смартфона или Яндекс.Браузере(не проверял) есть тупо текстовый ввод, в чем проблема?
Чтобы прикрутить Guidance тебе нужна сама модель, которой вроде как нет в открытом доступе.
У меня запустилась Alpaca Turbo + alpaca-lora-30B-ggml
Ryzen 3600, 32 RAM, 3060ti 8Gb
Но она не пользует видюху вообще, вся модель закидывается в оперативу и на ~40% CPU генерит
Жаль ответ полная дичь. Хабр был основан не в 2013, не Дмитрием Гришиным и что за Хабертур?
Хозяин мира
Кажется не стоило стоками датасет пролечивать