Как стать автором
Обновить
73
0

Редактор

Отправить сообщение

Как сделать быстрый дашборд по таблице из 150 млн строк с помощью Yandex DataLens и ClickHouse

Уровень сложностиСредний
Время на прочтение6 мин
Количество просмотров13K

Привет! Меня зовут Роман Бунин, я BI-евангелист Yandex DataLens. При росте объёма данных, что неизбежно для любой компании, загрузка дашбордов может замедляться до десятков секунд. И чем больше появляется данных, тем медленнее становятся дашборды, особенно если вы хотите строить их по детализированным таблицам.Связка базы данных ClickHouse и BI-системы Yandex DataLens — популярное решение для анализа данных: эти инструменты нативно интегрируются и быстро работают вместе. В этой статье вместе с моим коллегой, архитектором Yandex Cloud Игорем Путятиным, покажем, как на основе таблицы из 150 миллионов строк построить максимально быстрый дашборд, и расскажем о технических ограничениях.

Читать далее
Всего голосов 18: ↑18 и ↓0+18
Комментарии8

Переезд c PostgreSQL на YDB. Кейс сервиса Яндекс Игры

Уровень сложностиСложный
Время на прочтение12 мин
Количество просмотров9K

Привет! Меня зовут Александр Смолин. Я бэкенд-разработчик в команде Яндекс Игр. Уже два года мы используем YDB для задач сервиса. В статье расскажу, как мы в Яндекс Играх внедряли YDB, зачем это было нужно, с какими сложностями столкнулись и какие результаты у нас сейчас.

Читать далее
Всего голосов 35: ↑31 и ↓4+27
Комментарии13

Микроменеджер — горе в команде

Время на прочтение15 мин
Количество просмотров30K

Эта статья о микроменеджменте, его причинах и разрушительных последствиях. Обсудим, какой вред он наносит, подсветим проблемы, с которыми сталкиваются руководители из-за микроменеджмента, и покажем способы  решения. А ещё, справедливости ради, в этом тексте будут примеры ситуаций, когда микроменеджмент всё же может быть нужен и полезен.

Микроменеджмент – это довольно частое явление. Скорее всего, многие из вас с ним сталкивались в прошлом, сталкиваются прямо сейчас или столкнутся в будущем.

Из-за микроменеджмента страдают сотрудники, которых микроменеджерят. Страдают руководители, которые бесконечно перерабатывают, выгорают, не успевают,  пытаются всё за всех сделать и проконтролировать. В итоге из-за такой неэффективности страдает бизнес, который за всё это дело платит.

Читать далее
Всего голосов 44: ↑43 и ↓1+42
Комментарии29

Нейроны мозга человека сильно отличаются от нейронов других млекопитающих

Время на прочтение4 мин
Количество просмотров7.4K

Импульсы нейронов вырабатываются белками, которые контролируют поток ионов, благодаря чему эти белки называют ионными каналами. Нейробиологи MIT показали, что количество ионных каналов в нейронах человека гораздо меньше, чем у других млекопитающих. За подробностями приглашаем под кат, пока у нас начинается флагманский курс Data Science.

Читать далее
Всего голосов 17: ↑14 и ↓3+11
Комментарии10

Мозг может вспоминать и пробуждать прошлые иммунные ответы

Время на прочтение5 мин
Количество просмотров8.1K

В опубликованной 8 ноября работе нейроиммунологи показали, что иммунный ответ можно вызвать стимуляцией нейронов островковой коры головного мозга. Иными словами, похоже на то, что выявленная И.П. Павловым обусловленность реакций также касается иммунитета. Подробности рассказываем к старту флагманского курса Data Science.

Читать далее
Всего голосов 22: ↑21 и ↓1+20
Комментарии19

Используем serverless для построения аналитики на данных из AmoCRM в Yandex.Cloud

Время на прочтение7 мин
Количество просмотров4.9K

Сегодня почти любая современная компания собирает, хранит и использует данные о своей деятельности, используя облачные технологии. В этой статье вы можете узнать о том, как можно вытащить данные из AmoCRM, обработать их с помощью функций и проанализировать с помощью DataLens. Этот кейс решила команда дата-аналитиков Valiotti Analytics совместно с командой Yandex.Cloud.

 

Читать далее
Всего голосов 14: ↑14 и ↓0+14
Комментарии3

Easing Functions – функции плавности для CSS-анимации и переходов

Время на прочтение10 мин
Количество просмотров20K

Функции плавности меняют восприятие анимации, влияя на скорость воспроизведения и частоту кадров. Мы живые люди, и привыкли к естественному, нелинейному движению. Использование настраиваемых функций улучшает впечатление пользователей. В этой статье мы погрузимся в функции плавности, рассмотрим возможности их применения для создания потрясающей естественной анимации. Материал адаптирован на русский язык совместно с Максимом Васяновичем, ментором курса «Профессия Frontend-разработчик с нуля до PRO» в Skillbox.

Узнать больше
Всего голосов 7: ↑7 и ↓0+7
Комментарии0

Продвинутые абстракции Kubernetes: Job, CronJob

Время на прочтение11 мин
Количество просмотров29K


Что такое Job и CronJob в Kubernetes, для чего они нужны, а для чего их использовать не стоит.
Эта статья — выжимка из лекции вечерней школы «Слёрм Kubernetes».

Читать дальше →
Всего голосов 21: ↑21 и ↓0+21
Комментарии6

Проблемные поды: эскалация привилегий подов в Kubernetes

Время на прочтение10 мин
Количество просмотров4.1K


Что будет, если разрешить лишнее при создании подов в Kubernetes? Зависит от того, какие неймспейсы хоста и контексты безопасности разрешены. Здесь мы поговорим о восьми небезопасных конфигурациях подов и методах эскалации привилегий. Эта статья и созданный для нее репозиторий помогут пентестерам и администраторам разобраться в распространенных ошибках конфигурации.


Администраторы смогут увереннее применять ограничения по умолчанию для создания подов. Возможно, поды с доступом к ресурсам хоста нужно ограничить неймспейсом, который доступен только администраторам, — по принципу наименьших привилегий.


Пентестеры получат представление о том, как показать последствия слишком либеральной политики безопасности подов. В репозитории вы найдете для этого готовые манифесты и инструкции.

Читать дальше →
Всего голосов 18: ↑18 и ↓0+18
Комментарии1

Опыт внедрения service mesh в «Авито»

Время на прочтение18 мин
Количество просмотров10K


Что такое service mesh и какие задачи по управлению инфраструктурой решает? Как service mesh внедряли в «Авито» и почему отказались от популярного Istio? Зачем стали писать аналог и к чему в итоге пришли? Об этом в интервью «Слёрму» рассказал Александр Лукьянченко — тимлид в команде архитектуры «Авито» и разработчик интенсива по service mesh.

Читать дальше →
Всего голосов 13: ↑13 и ↓0+13
Комментарии2

Создание современных процессов CI/CD для бессерверных приложений с Red Hat OpenShift Pipelines и Argo CD. Часть 2

Время на прочтение17 мин
Количество просмотров3.8K


В первой части статьи я представил Tekton в качестве фреймворка для «облачных» пайплайнов CI/CD и Argo CD в качестве идеальной пары для GitOps в Red Hat OpenShift. Наша цель — создать законченный процесс непрерывной интеграции и доставки, который начнется при коммите в репозитории GitHub и завершится, когда новое приложение будет развернуто в Dev, Staging и Prod средах.

Читать дальше →
Всего голосов 10: ↑10 и ↓0+10
Комментарии0

Хранение данных в Docker

Время на прочтение7 мин
Количество просмотров83K


Важная характеристика Docker-контейнеров — эфемерность. В любой момент контейнер может рестартовать: завершиться и вновь запуститься из образа. При этом все накопленные в нём данные будут потеряны. Но как в таком случае запускать в Docker приложения, которые должны сохранять информацию о своём состоянии? Для этого есть несколько инструментов.


В этой статье рассмотрим docker volumes, bind mount и tmpfs, дадим советы по их использованию, проведём небольшую практику.

Читать дальше →
Всего голосов 19: ↑17 и ↓2+15
Комментарии14

Тонкости настройки CI/CD: как работает GitLab runner, когда использовать Docker-in-Docker и где пригодится Argo CD

Время на прочтение18 мин
Количество просмотров22K


В конце 2020 года в «Слёрме» вышел бесплатный мини-курс и комплексный курс по CI/CD. Авторы курса инженер Southbridge Александр Швалов и старший системный инженер Tinkoff Тимофей Ларкин ответили на вопросы первых студентов.


В частности, обсудили:


  • Как работает GitLab runner: сколько задач берёт и сколько ресурсов потребляет, где его лучше размещать и как настроить шаринг между проектами?
  • Как настраиваются пайплайны для проектов в монорепозитории? А как в ситуации, когда для каждого микросервиса свой репозиторий?
  • Как бороться с тем, что во время сборки артефакта в Docker очень быстро забивается свободное место на диске?
  • Когда лучше использовать подход Docker-in-Docker?
  • Как организовать доставку и развёртывание сервисов в закрытые окружения заказчика?

Видео с ответами на вопросы смотрите на YouTube. Под катом — текстовая версия разговора.

Читать дальше →
Всего голосов 17: ↑17 и ↓0+17
Комментарии10

Сервер Prometheus и TLS

Время на прочтение5 мин
Количество просмотров11K


Prometheus теперь поддерживает TLS и базовую аутентификацию для HTTP эндпоинтов.


Скрейпинг таргетов через HTTPS вместо HTTP поддерживается уже давно. Метрики можно собирать с поддержкой HTTPS, аутентификации по клиентским сертификатам и базовой аутентификации.


В прошлом году Node Exporter стал первым официальным экспортером, который нативно предоставляет метрики по HTTPS. Все подробности в предыдущем посте. На этой неделе (прим. переводчика: статья вышла 6 января 2021 года) мы встречаем Prometheus 2.24.0. В последнее время Prometheus радует нас крутыми новшествами — это и TLS, и backfilling (обратное заполнение, тоже в версии 2.24) и даже переход на современный пользовательский интерфейс на React.


В этом посте мы расскажем о TLS и базовой аутентификации.

Читать дальше →
Всего голосов 23: ↑21 и ↓2+19
Комментарии1

Внедрение IMA SDK в Android-приложениях

Время на прочтение4 мин
Количество просмотров2.6K
Предположим, что однажды вы решили создать приложение для детей и попробовать на этом заработать. Так как реклама — один из самых простых способов монетизации, то у вас возникает очевидная идея добавить в приложение одно из рекламных SDK и дальше только подсчитывать доход. Все могло быть именно так, если бы приложение было направлено на взрослую аудиторию. Если же оно предназначено для использования несовершеннолетними, то включаются разнообразные законодательные механизмы, которым подчиняются магазины приложений.

При публикации приложения ivi kids в Google Play мы столкнулись с проблемой, что наше внутреннее рекламное SDK не соответствовало требованиям Google, и приложение могло быть удалено из магазина. Поэтому мы отключили всю рекламу, чему очень обрадовались юные пользователи, но департамент маркетинга был хронически недоволен финансовыми показателями.

Наиболее логичным выходом из ситуации оказалось проигрывать рекламу, которую раздает сам Google с помощью сервиса Google Ad Manager. И делать это с использованием IMA SDK, которое также является продуктом Google.

В этой статье я расскажу о том, как мы внедряли IMA SDK в приложениях ivi и ivi kids и с какими ограничениями столкнулись.
Читать дальше →
Всего голосов 18: ↑17 и ↓1+16
Комментарии0

Эксплуатация Ceph: что такое Scrub и как им управлять

Время на прочтение7 мин
Количество просмотров8.6K


Scrub — это процесс фоновой проверки консистентности данных в Ceph. Он позволяет выявить и устранить несоответствия в копиях, а также найти рассыпающиеся диски, чтобы вовремя их заменить. При этом сам Scrub может создавать высокую нагрузку на кластер и мешать другим процессам. Сегодня расскажем о настройках, которые помогут оптимизировать его работу и сделать нагрузку практически незаметной.

Читать дальше →
Всего голосов 19: ↑19 и ↓0+19
Комментарии1

Apache Kafka в вопросах и ответах

Время на прочтение29 мин
Количество просмотров24K

Что такое Kafka? Где стоит, а где не стоит применять этот инструмент? Чем Kafka отличается от RabbitMQ и других брокеров сообщений? Как её правильно эксплуатировать? Всё это обсудили на митапе «Apache Kafka в вопросах и ответах», который Слёрм провёл в ноябре 2020. В разговоре участвовали спикеры из Авито, Stripe, ITSumma и Confluent. Запись митапа доступна на YouTube, а текстовую версию разговора читайте ниже.


Читать дальше →
Всего голосов 27: ↑26 и ↓1+25
Комментарии7

Создание современных процессов CI/CD для бессерверных приложений с Red Hat OpenShift Pipelines и Argo CD. Часть 1

Время на прочтение13 мин
Количество просмотров5.7K


В недавней статье выдвинуто предложение использовать Tekton в качестве фреймворка для облачных пайплайнов CI/CD и Argo CD в качестве идеальной пары для GitOps. Методики GitOps поддерживают непрерывное развертывание в гибридных и мультикластерных средах Kubernetes.


В настоящей статье, состоящей из двух частей, мы построим рабочий поток CI/CD, который продемонстрирует возможности совместного использования Tekton и GitOps. Вы также познакомитесь с Red Hat OpenShift Serverless, так как мы будем использовать ресурсы сервисов Knative в нашем CI/CD процессе.

Читать дальше →
Всего голосов 15: ↑13 и ↓2+11
Комментарии2

Эксплуатация Ceph: флаги для управления восстановлением и перемещением данных

Время на прочтение5 мин
Количество просмотров5.3K


Продолжаем рассказывать об эксплуатации Ceph. Сегодня поговорим о процессе восстановления данных и флагах, которые позволяют его контролировать: norebalance, nobackfill и norecover.


Статья подготовлена на основе лекции Александра Руденко, ведущего инженера в группе разработки «Облака КРОК». Лекция доступна в рамках курса по Ceph в «Слёрме».


Для полного понимания рекомендуем сначала прочесть статью о флагах для управления состояниями OSD.

Читать дальше →
Всего голосов 16: ↑16 и ↓0+16
Комментарии1

Практический взгляд на хранение в Kafka

Время на прочтение8 мин
Количество просмотров32K


Kafka повсюду. Где есть микросервисы и распределенные вычисления, а они сейчас популярны, там почти наверняка есть и Kafka. В статье я попытаюсь объяснить, как в Kafka работает механизм хранения.

Читать дальше →
Всего голосов 35: ↑34 и ↓1+33
Комментарии3
1

Информация

В рейтинге
Не участвует
Откуда
Россия
Работает в
Зарегистрирована
Активность