Pull to refresh

Comments 7

UFO just landed and posted this here
UFO just landed and posted this here
Не-не, не убегайте. В бесплатном гугл колабе отлично работает модель на 2.7B параметров. В статье пишут, что люди одинаково оценили качество моделей 2.7B и 9.4B параметров, т.е. для человека вроде как нет ощутимой разницы. Вот блокнот
colab.research.google.com/drive/1JxuWRZCV0C7bfCR6gvrju8noagIUj0oi?usp=sharing
Нужно скопировать себе (или открыть в Playground), потом выбрать в меню рантайм GPU, потом выпросить у гугла больше памяти: они дают 12Гб оперативы по-умолчанию, но их мало для запуска, поэтому там в первой ячейке код, который крешится через пару минут по нехватке памяти — внизу появляется кнопка «Get more RAM», с чем нужно согласиться. После этого уже можно запускать следующую ячейку чат-бота. 5 минут установки и можно чатиться.
Сколько сейчас дадено памяти можно посмотреть сверху справа, наведя мышку на отображатор ресурсов.
Вот парочка примеров моих диалогов.
photo-2020-05-03-12-12-45photo-2020-05-03-11-29-58
UFO just landed and posted this here
Тем не менее, это, на мой взгляд, реально лучшее, что я видел. По сравнению с чат-ботами банков, мобильных операторов и других ассистентов, тут наиболее связная речь с ведением контекста и ответами «в кассу». Хотя, конечно, бот-ботом.
UFO just landed and posted this here
Sign up to leave a comment.

Other news