Как стать автором
Обновить
121
-3
Январев Владислав @janvarev

Когнитивист, предприниматель, Senior Python dev

Отправить сообщение

Сайга-Мистраль — третья русская нейросеть после YaGPT и GigaChat, публично доступная по API

Время на прочтение 5 мин
Количество просмотров 17K

Я уже недавно писал на Хабре, что понемногу пилю свой сервис VseGPT с доступом по OpenAI API и чатом к различным нейросетям - ChatGPT, Claude, LLama и пр. (Коротко: потому что вендорлок - зло, разнообразие и опенсорс - добро)

Большая часть работы - это, конечно, роутинг запросов на разные сервера, которые осуществляют обработку нейросетевых моделей; свой у меня скорее общий универсальный интерфейс, который сглаживает разницу между моделями, ну и некоторые прикольные фишечки.

Но я давно задумывался развернуть что-то уникальное, собственное, чего нет у других - в особенности опенсорсную Сайгу.

TLDR: Сайга-Мистраль 7B сравнима с 70B моделью. Доступна на сайте, её можно использовать по API или через интерфейс чата.

Читать далее
Всего голосов 20: ↑19 и ↓1 +18
Комментарии 23

VseGPT — сервис для доступа к ChatGPT, Claude, Palm, LLama2 с вебчатом и OpenAI API

Уровень сложности Простой
Время на прочтение 5 мин
Количество просмотров 23K

Вообще, я люблю опенсорс - мой голосовой помощник Ирина тому подтверждение.

Тем не менее, в текстовых нейросетях пока опенсорс решений уровня GPT-4 нет - а пользоваться им при написании кода, честно говоря, правда полезно.

Если честно, меня несколько утомило решать вопросы доступа и оплаты OpenAI аккаунта, необходимого для доступа к GPT-4 и API (да, я провожу эксперименты, и API мне нужен).

Я бы с удовольствием поэкспериментировал и с другими сетями - например, Claude, о которой говорят гораздо меньше, но которая, по-видимому, не намного хуже (спойлер: я пробовал - по моему мнению, Claude 2 вполне на уровне GPT-4).

Постепенно реализовывая свои "хотелки", я создал сервис VseGPT.ru, который решает мои основные проблемы - предоставляет общий интерфейс в виде чата и OpenAI API к разным топовым нейросетям - ChatGPT, Claude, Google Palm и опенсорсным Llama 70b, 34b Code и пр.

Конечно, сервис я делал в основном под свои профессиональные потребности, так что давайте посмотрим, чего хотел я, и насколько это подойдёт вам:

Читать далее
Всего голосов 14: ↑11 и ↓3 +8
Комментарии 34

Как перестать беспокоиться и установить Python-проект другу под Windows

Уровень сложности Средний
Время на прочтение 4 мин
Количество просмотров 9K

Итак, вы закончили свою первую версию опенсорс проекта на Питоне, выложили её на Гитхаб, и даже написали честный ридми: "Требуется Python 3.10, поставьте зависимости через pip install -r requirements.txt"

И... через какое-то время вам звонит пользователь друг с вопросом: "Слушай, интересный проект, а как его под Windows поставить?"

Собственно, с этого момента у вас есть 3 варианта:

1. Попытаться сэкономить всем время и попробовать упаковать ваш проект в EXE-файл через утилиты типа pyinstaller или Auto PY to EXE. Минус: при сколь-нибудь сложных зависимостях нужно будет ковыряться довольно долго, чтобы заставить EXE заработать. Второй минус: как вы думаете, на кого ляжет почетная обязанность собирать EXE-шники после каждого апдейта кода?

2. Попытаться объяснить другу, что такое python, GIT и как всё это поставить. Минус: возможны проблемы в отношениях с другом :))) (Вариант: поставить всё самому через дистанционный доступ, но он требует слишком много времени если пользователей друзей больше 5)

3. Дописать под себя набор BAT-файлов, о которых пойдет речь в статье, и которые:

ставят сами Python и GIT в локальную папку проекта (в стиле conda);

выкачивают свежую версию вашего проекта с Гитхаба (а также апдейтят её при необходимости);

ставят нужные зависимости;

можно прописать несколько сценариев запуска приложения;

установленный проект можно перемещать в другие папки и между компами.

Читать далее
Всего голосов 14: ↑12 и ↓2 +10
Комментарии 32

Ирина, голосовой помощник — теперь и со вкусом GPT-3

Уровень сложности Средний
Время на прочтение 5 мин
Количество просмотров 18K

«Лама... Альпака...Чатгпт...» — раздавалась в уютненьком чатике по Ирине.

Хабр был не лучше — статьи по работе с GPT множились как грибы, а в комментах раздавались возгласы в духе «Дайте мне голосового помощника, с которым можно болтать!»

Если честно, еще в первой статье про Ирину я говорил, что небольшой фанат именно общения с виртуальным помощником. Помощник должен выполнять команды, казалось мне.

Тем не менее, и меня заинтересовало, насколько весело будет именно болтать с GPT, но самому в коде и платном API‑доступе разбираться не хотелось. Но сегодня утром меня снабдили и примером, и ключиком...

‑-

Это продолжение моих статей о разработке голосового помощника Ирины, не зависящего от крупных корпораций. У нас есть печеньки:

— Полностью оффлайн SpeechToText и TextToSpeech
— Поддержка плагинов
— Готовые команды «таймер», «погода» и ряд прочих. Поддержка HomeAssistant.
— Поддержка работы в клиент‑серверном режиме — сервер + куча микрофонов + Телеграм‑клиент, например.

Расскажу, что улучшилось за прошедший год с момента прошлой статьи.

TL;DR> Добавлен плагин для общения с GPT-3 нейросетью. Сделан пакет упрощенной установки под Windows — «скачай и запусти». Сделано два веб‑клиента — один распознает слова прям в браузере (тяжелый), другой отправляет весь звуковой поток на сервер (легкий) — так что можно запускать клиенты, например, на смартфоне. Добавлен TTS Silero v3 — имхо, лучшее озвучивание доступное в открытом доступе. Сделан докер‑образ для быстрого запуска Ирины без установки зависимостей. Добавлено нечеткое распознавание фраз. Обновлена VOSK‑модель распознавания голоса на специально натренированную для Ирины.

Читать далее
Всего голосов 38: ↑38 и ↓0 +38
Комментарии 13

Ирина, голосовой помощник. Продолжение

Время на прочтение 7 мин
Количество просмотров 18K

— Слушай, она меня на кухне не слышит.
— Ну да, далековато. Давай дополнительный микрофон протянем.
<покупается 5 метров кабеля>
— О, классно!
— ...
— Теперь в комнате не работает.

Это продолжение статьи Ирина — опенсорс русский голосовой помощник. Offline-ready - про голосового помощника, не зависящего от крупных корпораций. Расскажу, что улучшилось за два месяца с момента прошлой статьи.

TL;DR> Отлажен клиент-сервер с несколькими микрофонами/машинами; можно командовать по всему дому. Сделан Телеграм-клиент. Несколько новых голосов (TTS). Обработка голоса в контексте (можно делать голосовые игры). Интеграция с Home Assistant. И ЕЩЁ больше плагинов и документации.

Ладно, рассказывай, что нового
Всего голосов 43: ↑41 и ↓2 +39
Комментарии 24

Ирина — опенсорс русский голосовой помощник. Offline-ready

Время на прочтение 9 мин
Количество просмотров 47K

- Ирина, таймер...
- Ставлю таймер на пять минут.

Вполне себе обыденная история из моего быта. Я таки сделал собственного автономного голосового помощника.

TL;DR> Ирина вполне неплохо работает дома 24x7.

Потребуется установить Python 3.5+ и зависимости через pip (немного знаний Python).

Скиллы "из коробки": таймер, погода, контроль медиа (громче/тише/дальше), контроль плеера MPC-HC, запуск медиа из папки, расписание ближайших электричек, "подбрось кубик/монетку".

Плагинами добавляются: другие скиллы, Text-to-Speech и Speech-to-Text движки.

Интересно? Поехали >
Всего голосов 110: ↑108 и ↓2 +106
Комментарии 88

Когнитивистика и футурология: как наши фантазии могут повлиять на наше будущее

Время на прочтение 28 мин
Количество просмотров 5.3K
Можно управлять тем, что можно представить.
Нельзя управлять тем, что нельзя представить.
Это относится и к нашему будущему.


Так не стоит ли обратить внимание не только на моделирование будущего, но и на наши возможности интерпретации полученных результатов?

Где простираются границы нашей возможности фантазировать и представлять? И – самое главное – можем ли мы предложить какой-нибудь осмысленный инструмент для их измерения?..
Читать дальше →
Всего голосов 13: ↑12 и ↓1 +11
Комментарии 13

Как я, специалист по ИИ, на ИИ-текст купился

Время на прочтение 6 мин
Количество просмотров 15K
Захожу я сегодня на Хабр, и, под чашку чая, пролистываю статью «GPT-3 от OpenAI может стать величайшей вещью со времён Bitcoin».

Если не читали – почитайте. Конец вызывает прямо-таки сильные эмоции. У меня они усугубились тем, что я относительно профессионально занимаюсь ИИ, генерацией текстов и проблемой смыслов – так что я небезосновательно считал, что легко распознаю текст, сгенерированный машиной…
Читать дальше →
Всего голосов 28: ↑27 и ↓1 +26
Комментарии 38

Сергей и «программирование лучше секса»

Время на прочтение 2 мин
Количество просмотров 11K
Небольшая зарисовка-комментарий к статье «Программирование лучше секса»
Самодостаточная, можно читать без ознакомления с оригиналом.

— Сергей, можно вопрос?

Сергей, не отвлекаясь от экрана…

— Ну, задавайте.
— Объясните, почему вы ТАКОЙ? Почему вам важнее написать эту вашу «программу», и ради этого вы готовы портить отношения с менеджерами, доставкой… да вообще со всеми! Неужели вам не хочется просто жить со всеми в мире и согласии? Ну вот, простите, нах… вам всё это?
Читать дальше →
Всего голосов 20: ↑14 и ↓6 +8
Комментарии 11

Как я за 4 часа решатель японских кроссвордов написал

Время на прочтение 9 мин
Количество просмотров 5.4K
Лениво просматриваю выложенный недавно коллегами из «Сириуса» список курсов, проведенных у школьников… Так, а это что такое? «Поиск комбинаторных объектов с помощью SAT-солверов»? «Мы сделали решатель судоку, японских кроссвордов и прочего»?

В памяти всплывает мысль о том, что переборные NP-задачи сводимы одна к другой, и в частности, сводимы к поиску выполнимости булевой формулы. Эту мысль один из авторов Хабра высказывал здесь, и честно говоря, для меня она подобна магии.

Конечно, как человек, прошедший курс дискретной математики и сложности алгоритмов теоретически я знаю, что задачи сводимы одна к другой. Но обычно заниматься этим сложно, и лучше я поверю на слово профессорам и другим умным людям.

Но тут же это предлагается… ШКОЛЬНИКАМ! Внутри зашевелилось шило в п... творческое начало и заявило: «Ну это, наверное, несложно прикрутить, раз ученикам предлагают. Неужели я не разберусь?? Вон, обещают, что питоновскую библиотеку используют, а питон я в целом знаю...»

А времени было около 9 вечера, что несколько притупило мой критический взгляд на сложность проблемы… (собственно, далее хроники 4-часового программирования)
Читать дальше →
Всего голосов 8: ↑8 и ↓0 +8
Комментарии 1

Сергей и научный метод

Время на прочтение 7 мин
Количество просмотров 19K
Все совпадения случайны.
Кто не спрятался, я не виноват.
— Проходи, что стоишь как не родной?

Сергей огляделся — в квартире своего учителя-профессора он еще не бывал. Обыкновенная московская, в старом доме — видимо, еще с тех времен, когда их выдавали… или не выдавали, черт его знает, он-то эти времена уже не застал. Бардак конечно, но рабочий — повсюду книги и распечатки каких-то статей. Похоже, профессор продолжает вести активную научную работу, несмотря на свой возраст…
Читать дальше →
Всего голосов 51: ↑45 и ↓6 +39
Комментарии 39

Fuzzle CMS 2.6 — создание Flash-сайтов без Flash

Время на прочтение 2 мин
Количество просмотров 744
Логотип Fuzzle CMSХотелось бы познакомить хабрапользователей с развитием нашего проекта Fuzzle CMS по созданию управляемых Flash-сайтов о котором я уже писал около 4 месяцев назад.

1. Мы постарались развить SEO-направление — имена и адреса страниц стали компактнее, добавилась возможность устанавливать TITLE, KEYWORDS и DESСRIРTION для каждой страницы. Разработано подключение Google Analytics и других счетчиков.

2. Мы добавили возможность расставлять редактируемые блоки не только на каждой странице сайта, но и на уровне дизайна сайта в целом. Дизайн можно загружать не только из SWF, но и из PNG и JPG-файлов, а создавать меню путем расстановки блоков. В конечном счете, получилось, что можно создавать Flash-сайт, вообще не используя Adobe Flash.

3. Мы запустили каталог расширений и полностью зарелизили API для разработчиков.
Четвертое и желающим попробовать...
Всего голосов 10: ↑7 и ↓3 +4
Комментарии 14

Liveanime.ru — подключаем к видео внешние субтитры

Время на прочтение 3 мин
Количество просмотров 1.8K
Liveanime.ru — большая вики-система, ориентированная на сбор каталога аниме и серий, доступных онлайн. Проект сугубо некоммерческий, а поскольку он основан на вики, каждый может улучшить уже известную информацию.

В центре находится Flash-видеоплейер, который умеет брать видео из одного источника, а субтитры — из другого.

Как это работает?
1. Пользователь находит на одном из забугорных хостингов (Youtube, Veoh, 6.cn) аниме с оригинальной озвучкой (ибо его там много);
2. Пользователь находит русские субтитры и заливает их на сайт;
3. Пользователь специальной директивой на вики-странице пишет: «создать ссылку, которая бы показывала во флеш-плейере данное видео и данные субтитры».

Что мы получаем?
Получаем бо-ольшой каталог аниме с оригинальным звуком, которое можно смотреть онлайн (в идеале). Сейчас в базе заполнено порядка 40 сериалов.

Правда, поскольку видео берется с внешних видеохостингов, почему-то IE часто не показывает видео, поэтому рекомендуется использовать другие браузеры (я использую FF).

Читать всякие технические подробности...
Всего голосов 20: ↑12 и ↓8 +4
Комментарии 17

Fuzzle — CMS для управления Flash-сайтами

Время на прочтение 2 мин
Количество просмотров 887
Добрый день!

Хочу рассказать о разработанном нами недавно инструменте — системе управления Flash-сайтами Fuzzle CMS. Система разрабатывалась с использованием Adobe Flex Builder 3.0, так что рассказ может быть интересен и интересующимся этой технологией.

Как-то собралась наша команда подумать — а чем, собственно, Flash лучше HTML-то?..

Читать текст и смотреть картинки
Всего голосов 72: ↑53 и ↓19 +34
Комментарии 112

Информация

В рейтинге
Не участвует
Откуда
Королев, Москва и Московская обл., Россия
Зарегистрирован
Активность