От таких штук нас обещает избавить FlexGen при работе с текстовыми моделями.
Ранее я рассказывал про создание виртуальной подруги на основе текстовой модели GPT-J, которую можно развернуть локально. Ожидаемый недостаток этой идеи — большие «аппетиты» текстовых моделей по отношению к вычислительным ресурсам. Собственно, мой последний эксперимент состоялся только благодаря карточке A100 в сервере.
В конце февраля группа исследователей опубликовала FlexGen — решение для запуска масштабных текстовых моделей в среде с ограниченными ресурсами. В теории оно должно помочь обойтись ресурсами персонального ПК, без добавления мощных видеокарт. Под катом расскажу о FlexGen и его применимости в существующем проекте.
Какая видеокарта по вашему мнению самая лучшая — RTX 3060? А если нет денег — geforce GTX 1060? А если нет денег, но хочется новую? А если так, чтобы ещё и по производительности она что-то могла? А если… А если… А если…
Сравнение видеокарт — для кого-то хобби. Для кого-то боль. А кто-то просто заказывает лучшее у сборщиков. Да и маркетинг тоже работает. Не зря же весь стим сидит на Geforce RTX 3060.
Я решил посмотреть на видеокарты под другим углом, и был приятно удивлен. И стоимостью, и мощностью, и требованиями к питанию… Дилетантская статья, о том что поставить в свой комп в 2023-ем году. А если будет майнинг бум, то и в 2024-ом.
Всем привет! Меня зовут Максим Смирнов, я руковожу командой, которая работает над производительностью Яндекс Браузера и отвечает за его графическую подсистему. В этой статье я расскажу об одном неочевидном улучшении, которое наша команда внедрила в Браузер для Windows. Если описать его в двух словах, то нам удалось улучшить стабильность и производительность браузера, убедив драйверы видеокарт, что наше приложение — это Google Chrome.
Не так давно в интернете появилась душещипательная история, как пользователь hackdaddy8000 сперва создал виртуальную девушку, а затем усыпил ее. Моральный и мемный аспект этого события обсуждали в комментариях под новостями.
Поговорим о технической стороне. Как повторить этот шедевр и можно ли обойтись без сервисов OpenAI, которые сложно оплатить в России? И главное — сколько придется инвестировать в виртуальную подругу.
В 1965 году одним из основателей компании Intel, Гордоном Муром была отмечена эмпирическая закономерность, согласно которой число транзисторов на кристалле чипа удваивается каждые 12 месяцев. В 1975 году Гордон Мур внес коррективы в данное правило, обозначив, что число транзисторов на кристалле удваивается каждые 24 месяца. С тех пор данная закономерность именуется законом Мура.
Intel всегда мечтала покорить графический рынок. Выпускать передовые ускорители, встать во главе бурно растущего рынка графических технологий, было идеей-фикс полупроводникового гиганта еще с начала 80-х годов. Давайте посмотрим на то, что за графическое решение получилось у Intel в 90-е, и почему вся её история – это показательный пример некомпетентности и незнания рынка.
Привет! Меня зовут Сергей Ермейкин, я Junior DevOps engineer в центре разработки IT-компании Lad. В моей первой статье на Хабре я расскажу про сборку своих GUI/GPU образов и покажу, как настроить хостовую и Kubernetes системы на примере игры GTA:VC.
В детстве мне очень нравилось играть в неё: рассекать на PCJ-600, вновь и вновь повторять "миссию с вертолетиком", "летать" на Panzer. Сейчас я выступаю всего лишь в роли зрителя, наблюдая за скоростными прохождениями игры. В один из таких просмотров я задался вопросом: можно ли автоматизировать процесс прохождения и направить искусственный интеллект на игру для выполнения этой задачи? Или как запустить в кластере графическое приложение, которое использует ресурсы видеокарты? Поэтому в данной статье я подготовлю среду для обучения искусственному интеллекту.
Сравниваем новую игровую видеокарту от компании Nvidia — GeForce RTX 4090 и мощную серверную карту RTX A5000: рассказываем об их характеристиках и оцениваем эффективность в решении бизнес-задач.
В Selectel есть особенный отдел — Selectel Lab. Это виртуальная лаборатория, где мы ставим эксперименты над технологическими новинками ведущих вендоров. Изучить эти новинки могут и наши клиенты — предлагаем им бесплатно тестировать подобранные конфигурации в своих проектах.
В этом тексте собрали «анамнез» последних экспериментов, проведенных в нашей лаборатории. Под катом — разбор сервера на ARM-процессоре, тестирование отечественных «Эльбрусов» и препарация золотого «суперкомпьютера».
Читая zx-pk.ru, я наткнулся на пару тем, где обсуждалась возможность создания видеокарты с полной реализацией текстовых режимов VGA. В одной из тем даже кипела бурная деятельность. Прототип был создан, в нескольких вариациях. Работал.
Большинство кинолюбителей, строящих сегодня домашний кинотеатр, останавливают свой выбор на Apple TV или устройствах на базе Android TV, например Nvidia Shield. Многие пробуют использовать более продвинутые варианты, вроде Dune или Zappiti. Это прекрасные устройства, которые дают отличную картинку из коробки с поддержкой всех современных стандартов (4K, HDR, Dolby Vision и тд). Но можно ли получить картинку еще лучше? Безусловно! Для этого существуют специальные устройства - видеопроцессоры, которые позволяют обрабатывать видео с источника и выводить его в максимально возможном качестве и параметрах. Как правило такие системы умеют масштабировать контент в любой формат, будь это широкоформатный экран CimemaScope (2.35:1) или классический 16:1, убирать черные полосы с фильмов, делать качественный апскейлинг FullHD контента до Ultra HD, повышать резкость и качество изображения, умеют делать HDR Tone Mapping и многое другое. В сегодняшней статье речь пойдет о создании такого видеопроцессора с возможностями медиацентра на базе Kodi и использованием высококачественного видеорендера MadVR.
Привет, друзья! На носу новый год, и многие задумываются о том, что неплохо бы на каникулах хорошенечко забуриться в компьютерные игры. А если есть бюджет — то обновить железо и поиграть в те тайтлы, которые раньше не тянули или шли с неприличным качеством. В этом посте мы рассмотрим несколько пар из процессора и видеокарты, которые (на наш взгляд) хорошо подходят друг другу. Под катом — парочки от чуть более 35К за комплект до жирных 230К для любителей самого-самого.
В этом материале мы рассмотрим несколько профессиональных видеокарт NVIDIA, а также расскажем, в чем разница с их десктопными «аналогами». Поговорим о производительности, бюджетном тестировании и о том, как подобрать GPU под свой проект, чтобы не переплачивать.
Уверен, вы в курсе, что видеокарты нужны не только криптомайнерам. Чем «умнее» становятся сервисы и сферы производства, тем больше самым разным организациям требуется инфраструктура с GPU – как в выделенных серверах, так и в облаке.
Сегодня я расскажу о нескольких интересных кейсах клиентов Selectel, которые арендуют выделенные серверы с GPU. Разделю их на секторы бизнеса и укажу, какие видеокарты и конфиги они используют.
Дисклеймер: у нас нет доступа к серверам клиентов, мы не знаем, какие конкретно приложения на них запускаются. Вся информация, которую я использую в статье, получена из открытых источников: интервью с клиентами, их отзывов, сайтов компаний. Названия части компаний не упоминаются.
Как сказал бы ныне великий классик собственная рабочая станция для ML это не роскошь, а средство для обучения. Да и к тому же арендованный сервер это не всегда, удобно быстро и безопасно.
Про видеокарты после майнинга можно забыть. Их нельзя сравнивать с обычными подержанными видяхами (например, геймерскими): майнинг убивает видеокарты максимально эффективно. Если бы вы придумывали тестовый протокол для максимального износа видеокарт, то у вас получился бы майнинг: видеокарты непрерывно и круглосуточно работают в предельном режиме на износ.
Привет, Хабр! Я Кирилл, работаю в техподдержке Selectel. Как-то я решил посмотреть легендарное аниме 1995 года «Призрак в доспехах» и не смог сдержать слез. В первую очередь оттого, что частота кадров в этом аниме – убийственные для моего зрения 23 кадра в секунду. В силу особенностей жанра аниме частота кадров на некоторых отрезках видео может достигать до 12 в секунду.
Страдать я не хотел, поэтому начал гуглить, какое решение может предложить мне мир IT. В итоге наткнулся на крайне интересную технологию — интерполяцию, которая используется почти везде, но мы о ней очень мало знаем. Под катом рассказываю, как она, нейросеть RIFE и сервер с GPU помогли мне посмотреть «Призрака» без головной боли.
Зарубежные блогеры и обзорщики в шоке: они теперь могут спокойно сделать невероятное — купить видеокарту. Достаточно зайти в интернет-магазин, положить её в корзину, и сделать оплату. До этого уже больше двух лет нужно было становиться в очередь, выжидать момент и бояться, что магазин покажет тебе неизбежное «Out of stock». Сейчас наоборот — видеокартами вдруг стали забиты все площадки, и цены на некоторые кажутся невероятно низкими для тех, кто половину своей сознательной жизни переживал криптобум.
…Правда, есть одна уникальная страна, где это не совсем так. Но о грустном потом.
На конференции WWDC компания Apple объявила о выпуске нового SoC M2 из 20 миллиардов транзисторов. К сожалению, в некоторых областях, например, для центрального процессора, это довольно незначительный рост. В основном увеличение производительности связано с GPU и редактированием видео. В целом рост производительности немного разочаровывает, если учесть затраты на новый M2 и то, что после выпуска M1 прошло уже почти два года. История с повышением цены похожа на ситуацию с A16, когда Apple была вынуждена использовать SoC A16 на моделях iPhone Pro и A15 на обычных iPhone из-за стоимости комплектующих.
Сегодня мы обсудим подробности архитектуры M2 и будущие проекты Apple, в том числе M2 Pro/Max и M3, о которых не говорили на WWDC. Также благодаря помощи пользователя Locuza мы проведём анализ площади кристалла по снимкам M2, опубликованным Apple.
