Comments 34
Планируются ли после цикла теоритических статей практические примеры?
Практическим примером могло бы быть выкладывание нашего frameworkа, но он большой, толстый, тесно связанный друг с другом, и вряд ли он был бы хорошим примером. Если будет большой интерес, можно было бы его зарефактирить, и отдельные компоненты выложить в open-soruce.
Если, конечно, к этому делу есть большой интерес.
Хотя, так или иначе, все описанные подходы реализованы описанным или похожим образом в различных framework'ах, но единого места я не знаю.
Если, конечно, к этому делу есть большой интерес.
Хотя, так или иначе, все описанные подходы реализованы описанным или похожим образом в различных framework'ах, но единого места я не знаю.
Я думаю, что хабрасообществу было бы очень интересно почитать о методах слежением за кешем (попаданиями в кэш и т. д.), используя, например тот же cacti.
Как мониторить memcached? Я, если честно, не админ. Но это, имхо, тривиальная задача: берем любой язык программирования с клиентом Memcached, отправляем запрос статистики, получаем результат, нужные нам числа, отдаем их в мониторинг. Немного о сборе статистики будет в шестом посте, он будет опубликован в субботу.
Или я не понял процесса?
Или я не понял процесса?
Я имел ввиду в боевых условиях, когда нагрузка большая и нужно следить за работой сайта с кэшем в том числе.
Под Java я собираюсь делать MBean (JMX), который при вызове метода (например getBytes). Будет лезть в Memchached (то есть по факту в драйвер, который будет ходить по серверам и брать с них данные) и забирать из него строку со статистикой, потом она парсится и из неё выбирается свойство 'bytes' и возвращается. Потом кто-то соединяется JMX клиентом, вызывает этот метод и получает данные.
Если кому-то данная тема интересна, могу попробовать сам написать подробную статью по настройке и использованию в боевых условиях cacti для слежения за кэшем.
Недавно отказался от блокировок через мемкешед
Как работало — да также как и описано, только блокировка для исключения гонок была обернута два раза
(блокировка самой блокировки, блокировка нужного ключа, разблокировка блокировки ээ блокировки)
Если заблокироваться не получилось — ждал 5 миллисекунд и пробовал еще раз
Учитывая что у меня 60% обращений к кешеду идут через блокировку — за один рендер страницы получал до 17 таких обращений( итого по статистике базы 47% getов уходили в missы )
Решение на самом деле простое — еАкселератор :)
у него есть lock\unlock — нативно на мутексах. Скорость работы — в сотни раз быстрее чем кешед( потому что мутекс, локально и не надо «ждать» «ручками»)
Одна проблема — у меня 3 фронтенда, а локи акселератора — локальны.
Но получается так что ОЧЕНЬ редко уходить в реген кеша на двух серверах всеже лучше чем тормозить с «глобальной» блокировкой мемкешедом.
Либо я ее криво реализовал
Как работало — да также как и описано, только блокировка для исключения гонок была обернута два раза
(блокировка самой блокировки, блокировка нужного ключа, разблокировка блокировки ээ блокировки)
Если заблокироваться не получилось — ждал 5 миллисекунд и пробовал еще раз
Учитывая что у меня 60% обращений к кешеду идут через блокировку — за один рендер страницы получал до 17 таких обращений( итого по статистике базы 47% getов уходили в missы )
Решение на самом деле простое — еАкселератор :)
у него есть lock\unlock — нативно на мутексах. Скорость работы — в сотни раз быстрее чем кешед( потому что мутекс, локально и не надо «ждать» «ручками»)
Одна проблема — у меня 3 фронтенда, а локи акселератора — локальны.
Но получается так что ОЧЕНЬ редко уходить в реген кеша на двух серверах всеже лучше чем тормозить с «глобальной» блокировкой мемкешедом.
Либо я ее криво реализовал
Именно криво.
В данном случае идиально работать так:
Если данные устарели — memcache_add — если true, запускаем регенерацию данных. если memcache_add вернул false — просто выводим старые данные. В итоге гарантированно только один процесс будет обновлять данные. А ждать их обновления ИМХО бесмысленно, лучше вывести старые данные, ведь задержка в 1 секунду в обновлении погоды не делает.
В данном случае идиально работать так:
Если данные устарели — memcache_add — если true, запускаем регенерацию данных. если memcache_add вернул false — просто выводим старые данные. В итоге гарантированно только один процесс будет обновлять данные. А ждать их обновления ИМХО бесмысленно, лучше вывести старые данные, ведь задержка в 1 секунду в обновлении погоды не делает.
Тогда вот хитрый вопрос — срок годности хранить вместе с кэшируемыми данными или отдельным ключиком($name.':expires')
Вариант 1- необходимость качать больше данных
Вариант 2- удваивает колво запросов, благо есть batch варианты работы…
Имхо все мои проблемы в том что кеш у меня экспайриться честно.
Вот он был, и вот его нет
Вариант 1- необходимость качать больше данных
Вариант 2- удваивает колво запросов, благо есть batch варианты работы…
Имхо все мои проблемы в том что кеш у меня экспайриться честно.
Вот он был, и вот его нет
И что из этого? Добавляете к данным expire, либо делаете 2 ключа и batch вариант (хотя я бы лучше просто сделал бы $mem->set('key', array($_SERVER['REQUEST_TIME'] + $expire, $data), null, $expire + 10);
В итоге у вас в кеше данные есть всегда, когда один из процессов ставит блокировку, остальные имеют доступ к пусть и старым данным, но актуальность в милисекунды не такая уж и большая, так что их можно просто выводить, а когда блокировка снимется, в кеше будут уже свежие данные. В среднем у вас не будет расхождения даже в секунду, так что практически идиальное решение из всех предложенных, что я видел если кол-во серверов у вас > 1, в больших проектах особенно актуально будет :) Для проектов в 1 сервер можно обойтись APC, XCache, eAccelerator (в этом смысле хорошо написать небольшую прослойку, которая работает с несколькими backend).
Кстати, кто знает как сделаны блокировки в Zend Framework и есть ли они там вообще для memcache и ему подобных? :)
В итоге у вас в кеше данные есть всегда, когда один из процессов ставит блокировку, остальные имеют доступ к пусть и старым данным, но актуальность в милисекунды не такая уж и большая, так что их можно просто выводить, а когда блокировка снимется, в кеше будут уже свежие данные. В среднем у вас не будет расхождения даже в секунду, так что практически идиальное решение из всех предложенных, что я видел если кол-во серверов у вас > 1, в больших проектах особенно актуально будет :) Для проектов в 1 сервер можно обойтись APC, XCache, eAccelerator (в этом смысле хорошо написать небольшую прослойку, которая работает с несколькими backend).
Кстати, кто знает как сделаны блокировки в Zend Framework и есть ли они там вообще для memcache и ему подобных? :)
А вас не смущает нарушение целостности кэша?
Если фронтенды ваши используются для распределения нагрузки и клиент рэндомно попадает на один из них, то несколько «рефрешей» одной и той же страницы могут легко вернуть ему разные результаты в зависимости от того, когда обновлялся кэш на каждом из фронтендов.
Не говоря уже о полной избыточности кэша, что приводит к неэффективному использованию памяти.
Кстати, сама идея двойной блокировки звучит как-то мутно, похоже на «костыль».
Если фронтенды ваши используются для распределения нагрузки и клиент рэндомно попадает на один из них, то несколько «рефрешей» одной и той же страницы могут легко вернуть ему разные результаты в зависимости от того, когда обновлялся кэш на каждом из фронтендов.
Не говоря уже о полной избыточности кэша, что приводит к неэффективному использованию памяти.
Кстати, сама идея двойной блокировки звучит как-то мутно, похоже на «костыль».
Я в жизни какбы нормальный С програмер.
Тама двойная обвертка мутексами — нормальное дело
А как у меня в принципе и без кеша страницы генеряться быстро — с кешем просто еще быстрее
Но самое главное — очень низкое покрытие страниц пользователями.
Меньше чем 1 пользователь на страницу глобально, и меньше 2х пользователей на элемент кеша в секунду, а генерация страницы — меньше полсекунды.
На пустом сервере так вообще бывает по 10мсек.
Итого считаем вероятность того что сервера начнут рефрешить контент одновременно…
В телефонии есть понятие «эрланг» в геймдеве — «фейк», а у нас пускай будет «плотность запросов на рефреш кеша»
по мне так намного эфективнее и «круче» будет отойти от «базовой» работы с кешедом и перейти на batch варианты…
Недавно пробовал «ручками» собрать страницу когда она не линейно рендерилась а вначале был большой такой memcache_get(array) потом разбор, потом при необходимости большой set
вот это дает просто фантастические результаты(у меня 5 демонов) несравнимые с моей костыльной оптимизацией локов…
но блин, как смастерить это не ручками под тест а в промышленных масштабах под все сайты- убейте не понимаю.
Тама двойная обвертка мутексами — нормальное дело
А как у меня в принципе и без кеша страницы генеряться быстро — с кешем просто еще быстрее
Но самое главное — очень низкое покрытие страниц пользователями.
Меньше чем 1 пользователь на страницу глобально, и меньше 2х пользователей на элемент кеша в секунду, а генерация страницы — меньше полсекунды.
На пустом сервере так вообще бывает по 10мсек.
Итого считаем вероятность того что сервера начнут рефрешить контент одновременно…
В телефонии есть понятие «эрланг» в геймдеве — «фейк», а у нас пускай будет «плотность запросов на рефреш кеша»
по мне так намного эфективнее и «круче» будет отойти от «базовой» работы с кешедом и перейти на batch варианты…
Недавно пробовал «ручками» собрать страницу когда она не линейно рендерилась а вначале был большой такой memcache_get(array) потом разбор, потом при необходимости большой set
вот это дает просто фантастические результаты(у меня 5 демонов) несравнимые с моей костыльной оптимизацией локов…
но блин, как смастерить это не ручками под тест а в промышленных масштабах под все сайты- убейте не понимаю.
А как у меня в принципе и без кеша страницы генеряться быстро — с кешем просто еще быстрее
Но самое главное — очень низкое покрытие страниц пользователями.
Меньше чем 1 пользователь на страницу глобально, и меньше 2х пользователей на элемент кеша в секунду, а генерация страницы — меньше полсекунды.
На пустом сервере так вообще бывает по 10мсек.
ИМХО вам тогда кэш вообще не нужен :)
но блин, как смастерить это не ручками под тест а в промышленных масштабах под все сайты- убейте не понимаю.
Вот над этим и стоит работать :)
Без кеша никуда :(
Запросов в секунду много.
Запросов одномоментно тоже много
если скрипты будут чуть дольше работать — увеличиться колличество одномоментных обработок.
А процессор не резиновый — время генерации глобально увеличиться…
Замкнутый круг
>Вот над этим и стоит работать :)
Это должна быть какая-то очень хитрая и умная модель, и чую хрен автоматизируешь :(
Запросов в секунду много.
Запросов одномоментно тоже много
если скрипты будут чуть дольше работать — увеличиться колличество одномоментных обработок.
А процессор не резиновый — время генерации глобально увеличиться…
Замкнутый круг
>Вот над этим и стоит работать :)
Это должна быть какая-то очень хитрая и умная модель, и чую хрен автоматизируешь :(
Модель можно придумать, как всегда вопрос упирается в эффективность и прочее. На самом деле, если бы обращения к memcached не были бы синхронными, можно было бы сделать асинхронную модель, когда генерация по сути идёт параллельно, и мы параллельно ждем выборок из memcached.
Моя мечта в этом плане — концпеция Deferred из Twisted, то, что я описываю, на опыте PHP, там, к сожалению, так не сделаешь.
А вообще более правильный уход от кэширования — это тот или иной Application Server, когда бы мы могли держать в памяти объекты, а не результаты выборок по их представлением в БД. Но это всё мечты в разных направлениях.
В суровой модели оптимизации кода вида БД+PHP+Memcached+что-то еще надо двигаться во всех направлениях, начиная от клиентской оптимизации заканчивая запросами из БД, кол-вом обращений в memcached, мониторингом серверов. Это такой бесконечный бой за производительность, причем memcached — далеко на самая большая проблема.
Моя мечта в этом плане — концпеция Deferred из Twisted, то, что я описываю, на опыте PHP, там, к сожалению, так не сделаешь.
А вообще более правильный уход от кэширования — это тот или иной Application Server, когда бы мы могли держать в памяти объекты, а не результаты выборок по их представлением в БД. Но это всё мечты в разных направлениях.
В суровой модели оптимизации кода вида БД+PHP+Memcached+что-то еще надо двигаться во всех направлениях, начиная от клиентской оптимизации заканчивая запросами из БД, кол-вом обращений в memcached, мониторингом серверов. Это такой бесконечный бой за производительность, причем memcached — далеко на самая большая проблема.
можно тупой вопрос: чем add отличается от set?
add сработает только тогда, если такого ключа уже ещё нету. set же либо обновит данные, либо добавит с таким ключём
Чёрт, промазал. sunnybear это тебе :)
нее, в принципиальном смысле. Почему в конце утверждается, что add лучше, чем set? Они этих операции унарны
Принципиально и различаются тем, что set всё равно, есть ли уже данные в кеше или нет. А вот add добавляет только тогда, когда данных в кеше нету. В остальном они одинаковы.
Не нашел этого места. А для локов — таки да, лучше add, чем set+get, ибо атомарен.
Как совершенно верно написал korchasa, add лучше, чем get+set, именно в силу атомарности. Одна операция атомарна, а две уже нет.
Кстати, если я правильно понял идею автора, то в качестве ключа блокировки нужно использовать не просто 'lock', а '<имя_ключа>_lock'.
Ведь одновременно могут устареть сразу несколько ключей и возникнет конфликт имён.
Кстати, недавно читал идею по устранению dogpile-эффекта родными (а значит — быстрыми) методами memcached. Минус один — размер кэша вырастает в 2 раза. Но это лишь идея, которую можно развивать дальше.
Ведь одновременно могут устареть сразу несколько ключей и возникнет конфликт имён.
Кстати, недавно читал идею по устранению dogpile-эффекта родными (а значит — быстрыми) методами memcached. Минус один — размер кэша вырастает в 2 раза. Но это лишь идея, которую можно развивать дальше.
UFO just landed and posted this here
В таком подходе есть минус — если есть такие долгие выборки и кэш по ним перестраивает фронтенд (клиентский запрос), то какой-то незадачливый клиент будет долго-долго ждать пока у него загрузится страница.
Я долгие перестроения кэша делаю двойной буферизацией, когда свежую версию кэша формирует параллельный процесс по крону, а в это время фронтендам отдается версия из буфера.
Я долгие перестроения кэша делаю двойной буферизацией, когда свежую версию кэша формирует параллельный процесс по крону, а в это время фронтендам отдается версия из буфера.
Я совершенно согласен, долгие выборки должны делаться отдельно, по ним могут строиться вспомогательные таблицы или кэши в разных ситуациях.
Однако бывают иногда ситуации, когда в процессе работы БД запрос, который был раньше быстрым, становится «медленным», сама по себе это несмертельно может быть, но в сочетании с описанным эффектом может быть критично для функицонирования сервиса. Рассмотренный выше подход можно рассматривать как такой «ремень безопасности», который не позволяет ситуации выйти на критический уровень.
Однако бывают иногда ситуации, когда в процессе работы БД запрос, который был раньше быстрым, становится «медленным», сама по себе это несмертельно может быть, но в сочетании с описанным эффектом может быть критично для функицонирования сервиса. Рассмотренный выше подход можно рассматривать как такой «ремень безопасности», который не позволяет ситуации выйти на критический уровень.
Отличная серия статей — спасибо! (:
Что вы думаете если использовать смешаные схемы кеширования/блокировки?
Например memcached для хранения кэша, а eaccelerate для семафоров блокировки?
Что вы думаете если использовать смешаные схемы кеширования/блокировки?
Например memcached для хранения кэша, а eaccelerate для семафоров блокировки?
eAccelerator, как и любое другое локальное (по отношению к frontend) решение нельзя использоваться для «честной» блокировки, если frontendов больше одного, т. к. блокировка будет действовать на один frontend. В данном конкректном случае это может быть приемлемо, если frontendов мало, тогда вероятность одновременно несколькими мордами формировать кэш остается невысокой.
Ясно, про множествой frontend-ов я не подумал.
Даже с блокировками на основе memcached есть вероятность одновременой перестройки кеша.
Так как команды последовательной записи / чтения блокировок не атомарны.
Идея kashey блокировки блокировок смотрится даже очень аправданой, имхо.
Даже с блокировками на основе memcached есть вероятность одновременой перестройки кеша.
Так как команды последовательной записи / чтения блокировок не атомарны.
Идея kashey блокировки блокировок смотрится даже очень аправданой, имхо.
Прав был смира.
Операция add также атомарна как и все остальные.
Только если я после этого начинал «ждать» (usleep) то хитроумный просто отдавал контент который «все еще был в кеше»
Вчера уже переписал свой код и работаем по новому.
На скорость не появлияло(у меня редкие взаимные блокировки) зато совесть и за сервер спокойно :)
Еще круче конечно было бы при экспайре кеша заносить ИД страницы в некую таблицу( заносить ИД кеша всеже не реально )
Потом демоном апдейтить эти страницы по мере сил и способностей.
Операция add также атомарна как и все остальные.
Только если я после этого начинал «ждать» (usleep) то хитроумный просто отдавал контент который «все еще был в кеше»
Вчера уже переписал свой код и работаем по новому.
На скорость не появлияло(у меня редкие взаимные блокировки) зато совесть и за сервер спокойно :)
Еще круче конечно было бы при экспайре кеша заносить ИД страницы в некую таблицу( заносить ИД кеша всеже не реально )
Потом демоном апдейтить эти страницы по мере сил и способностей.
Нет, при корректной блокировке в memcached вероятности одновременного перестроения нет.
Sign up to leave a comment.
Проблема одновременного перестроения кэшей