Как стать автором
Обновить

Как обойти ошибки при построении отчетности в Power BI и прийти к построению системы выгрузки для больших данных

Время на прочтение10 мин
Количество просмотров15K
Всего голосов 8: ↑8 и ↓0+8
Комментарии5

Комментарии 5

хочу порекомендовать всем www.cdata.com
у них есть все коннекторы ко всем системам, поставляются как компоненты SSIS (можете свои ЕТЛки пилить) или ODBC, или даже как powershell cmdlet, если хотите.

очень легко лить данные автоматом, любой SQL разработчик справится и они недорого стоят на рынке. Многие продукты внедряют их драйверы в свои продукты, тот же Tableau использует их драйверы
Спасибо за рекомендацию!
Сервис интересный с точки зрения возможностей.
$600 в год за пакет с большим количеством коннекторов, большая часть из которых уже есть в самом PBI, а другие и вовсе не пригодятся в реальной практике, а также полная передача на сторону всех коммерческих данных из Google Analytics, явно история (и не конфиденциальная) для первого варианта из статьи — если нет времени и возможностей на разработку своей системы и есть бюджет на оплату потоков данных.

К сожалению часто без хранения где-то просто не обойтись, поэтому есть например https://garpun.com/garpunfeeds/ там и бесплатные потоки и хранение в вашем bigquery, например и уход от семплирования в Гугле по максимуму и поддержка ga360

Также спасибо за рекомендацию сервиса!
По крайней мере, я им не пользовался, т.к. его направленность — преимущественно выгрузки для контекстной рекламы и неизвестно, насколько он будет стабильный при использовании на огромных потоках данных.
Вообще сотни гигабайт каждый день прокачиваем через него.

Контекстные системы -> BigQuery
Google Analytics, Yandex Metrika -> BigQuery
Postgres -> BigQuery
ClickHouse -> BigQuery
Реагрегация по расписанию BigQuery -> BigQuery
Данные из BigQuery -> Yandex Object Storage в виде xml файлов

Сейчас еще подъедут http endpoint-s. т.е. данные например из BigQuery в виде json, csv по url с фильтрами по датам. С авторизацией, конечно.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий