Fosstodon

HabrКак найти свой путь в дата-инженерии и управлять петабайтами данныхНа первый взгляд работа с данными может показаться скучной, состоящей из перетаскивания данных из одного хранилища в другое. В этом действительно есть часть правды :) но не вся правда… Если присмотреться, мы увидим, что дата-инженеры помогают компаниям сокращать время на поиск инсайтов, обучение моделей и понимание нужд пользователей. Данные — это новая нефть, поэтому важно понимать, как правильно их организовывать и какие сложности в работе могут повлиять на успешность бизнеса. Привет, Хабр! Меня зовут Алёна Катренко, и я уже больше 10 лет работаю с данными. Сейчас занимаю позицию руководителя платформы данных в Циане, но начинала как BigData-инженер в Неофлексе. Сегодня расскажу, как мы приручали петабайты данных, искали призраков забытых таблиц и нашли инструмент, который сделал работу с метаданными понятной, безопасной и полезной для бизнеса. А ещё о том, как сейчас развиваться дату-инженеру, чтобы успевать за тенденциями на рынке.<a href="https://habr.com/ru/companies/oleg-bunin/articles/940392/" rel="nofollow noopener" translate="no" target="_blank">https://habr.com/ru/companies/oleg-bunin/articles/940392/</a><a href="https://zhub.link/tags/data_engineering" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_engineering</a> <a href="https://zhub.link/tags/data_catalog" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_catalog</a> <a href="https://zhub.link/tags/cloud_native" class="mention hashtag" rel="nofollow noopener" target="_blank">#cloud_native</a> <a href="https://zhub.link/tags/data_governance" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_governance</a> <a href="https://zhub.link/tags/data_ownership" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_ownership</a> <a href="https://zhub.link/tags/amundsen" class="mention hashtag" rel="nofollow noopener" target="_blank">#amundsen</a> <a href="https://zhub.link/tags/arenadata_catalog" class="mention hashtag" rel="nofollow noopener" target="_blank">#arenadata_catalog</a> <a href="https://zhub.link/tags/data_lineage" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_lineage</a> <a href="https://zhub.link/tags/scala" class="mention hashtag" rel="nofollow noopener" target="_blank">#scala</a> <a href="https://zhub.link/tags/%D0%BA%D0%BE%D0%BC%D1%8C%D1%8E%D0%BD%D0%B8%D1%82%D0%B8" class="mention hashtag" rel="nofollow noopener" target="_blank">#комьюнити</a>

HabrРабота с Oracle Data Integrator (ODI): прямой доступ к метаданнымРаботая с Oracle Data Integrator (ODI), мы ценим его графический интерфейс за автоматизацию рутины и удобство разработки. Однако, когда проект масштабируется до десятков пакетов и сотен сущностей, GUI перестает быть оптимальным инструментом для отслеживания потоков данных, глубокого анализа и аудита зависимостей. В таких случаях ключом к эффективности становится прямое взаимодействие с метаданными ODI через SQL-запросы к его репозиториям. Эта статья посвящена именно этому – практической работе со структурой репозиториев ODI и детальному разбору SQL-запроса для построения потоков данных.<a href="https://habr.com/ru/companies/megafon/articles/936088/" rel="nofollow noopener" translate="no" target="_blank">https://habr.com/ru/companies/megafon/articles/936088/</a><a href="https://zhub.link/tags/odi" class="mention hashtag" rel="nofollow noopener" target="_blank">#odi</a> <a href="https://zhub.link/tags/oracle" class="mention hashtag" rel="nofollow noopener" target="_blank">#oracle</a> <a href="https://zhub.link/tags/data_lineage" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_lineage</a> <a href="https://zhub.link/tags/data_engineering" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_engineering</a>

HabrБизнес-глоссарий и Каталог ДанныхЧто такое «Каталог Данных»? Это список «чистых» и готовых к использованию данных, которые можно использовать для интеграции или формирования витрин данных – Datamart для построения отчетности или дашбордов, или для предоставления аналитикам и бизнес-пользователям («Гражданским Аналитикам») для самостоятельно (Self-Service) аналитики, когда они смогут самостоятельно построить необходимую им отчетность, не прибегая к помощи специалистов по управлению данными или, тем более, ИТ-отдела, для которого управление данными и разработка отчетности явно не является приоритетной задачей. Каталогизация данных, в свою очередь предполагает наличие программного продукта для хранения списка каталогизированных данных и их описания (метаданных) — «Каталога Данных». Но дело в то, что еще до формирования каталога данных и проектов по очистке данных должны быть другие проекты: в первую очередь я говорю про бизнес-глоссарий, в котором бизнес расписывается кровью, что означает тот или иной показатель.<a href="https://habr.com/ru/articles/892318/" rel="nofollow noopener" translate="no" target="_blank">https://habr.com/ru/articles/892318/</a><a href="https://zhub.link/tags/data_governance" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_governance</a> <a href="https://zhub.link/tags/data_lineage" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_lineage</a> <a href="https://zhub.link/tags/%D0%BA%D0%B0%D1%82%D0%B0%D0%BB%D0%BE%D0%B3_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85" class="mention hashtag" rel="nofollow noopener" target="_blank">#каталог_данных</a> <a href="https://zhub.link/tags/%D0%BE%D0%BF%D0%B8%D1%81%D0%B0%D0%BD%D0%B8%D0%B5_%D0%B1%D0%B8%D0%B7%D0%BD%D0%B5%D1%81%D0%BF%D1%80%D0%BE%D1%86%D0%B5%D1%81%D1%81%D0%BE%D0%B2" class="mention hashtag" rel="nofollow noopener" target="_blank">#описание_бизнеспроцессов</a>

HabrЧто подразумевают под Data Governance?Если говорить про Data Governance, то это, в первую очередь, не продукты, а огромная методология управления жизненным циклом данных, и только потом – технологии. Близко к идеалу считается методология DAMA-DMBOK, и у любого специалиста по данным это должна быть настольная книга. К сожалению, в подавляющем большинстве случаев, когда люди начинают задумываться про управление данных, она попросту неприменима, так как она показывает «правильное» управление данными больших предприятий, до неё еще надо «дорасти», при этом точечно применяя сначала простые приемы, с возможностью расширения методик управления данными как «вширь», на другие отделы, так в «вглубь» на все процессы, связанные с управлением данными (Data Management): получением («добычей»), обработкой, хранением, извлечением и использованием информации. Без подобного управления жизненным циклом данных получим картину как в последнем исследовании Makves , что 40% данных никогда не используется: к ним не зафиксировано ни одного обращения за 5 лет. Найти «Ценность в данных» становится искусством, так как на предприятии растут «Кладбища данных» вместо «Хранилищ данных». Сейчас зачастую под Data Governance имеют в виду две части, это Data Quality – управление качеством данных, и Data Linage – «понять, откуда пришли данные, как они изменялись и можно ли им доверять». Если данные методологии использовать «в лоб», то это очень сильно замедлит разработку и перегрузит команду по управлению данными.<a href="https://habr.com/ru/articles/892302/" rel="nofollow noopener" translate="no" target="_blank">https://habr.com/ru/articles/892302/</a><a href="https://zhub.link/tags/data_governance" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_governance</a> <a href="https://zhub.link/tags/data_lineage" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_lineage</a> <a href="https://zhub.link/tags/%D0%BA%D0%B0%D1%82%D0%B0%D0%BB%D0%BE%D0%B3_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85" class="mention hashtag" rel="nofollow noopener" target="_blank">#каталог_данных</a>

HabrAirflow 3 is ComingКак-то один из самых главных контрибьюторов в Airflow Ярек Потиюк рассказал, что Airflow 3 станет новым золотым стандартом индустрии. Это довольно смелое заявление. Я же считаю, что в Airflow 3 еще многого не хватает, чтобы действительно стать стандартом. Если вы еще не знаете, что такое Airflow, то, к сожалению, это статья будет сложной. Давайте вместе освежим память. Airflow - это платформа с открытым исходным кодом для написания и управления рабочих процессов. Airflow была основана в 2014 году в AirBnB. С тех пор платформа прошла путь до версии 1.0 в 2015 году, стала Apache Top Level Project в 2019 и плотно обосновалась как Enterprise Production-Ready в 2020 с версией 2.0.<a href="https://habr.com/ru/articles/865674/" rel="nofollow noopener" translate="no" target="_blank">https://habr.com/ru/articles/865674/</a><a href="https://zhub.link/tags/airflow" class="mention hashtag" rel="nofollow noopener" target="_blank">#airflow</a> <a href="https://zhub.link/tags/data_lineage" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_lineage</a> <a href="https://zhub.link/tags/api" class="mention hashtag" rel="nofollow noopener" target="_blank">#api</a>

HabrНе потеряться в данных: оптимизируем аналитику с помощью DataHubКак не потеряться в данных для аналитики? Когда количество их источников ограничено, а аналитикой занимается пара человек, в целом всё понятно: обеспечить прозрачность вполне можно на уровне ведения документации (если заниматься этим ответственно). Но что, если данных в компании много, они отличаются сложной структурой и поступают из разных источников? Едут и из MongoDB, и из PostgresSQL, и из MS SQL; при этом постоянно появляются новые продукты и направления, данных становится ещё больше. Документация по ним устаревает примерно в тот момент, когда заканчиваешь её писать. Попутно растёт команда аналитиков — новым людям нужно рассказывать, что где лежит, откуда прилетает, какие есть особенности. Упростить жизнь в такой ситуации призван Data Catalog, и в Сравни мы выбрали популярный вариант — DataHub. Под катом рассказываем, как меняется работа с данными для аналитики, когда в твоей жизни появляется визуализация потоков данных.<a href="https://habr.com/ru/companies/sravni/articles/844016/" rel="nofollow noopener" translate="no" target="_blank">https://habr.com/ru/companies/sravni/articles/844016/</a><a href="https://zhub.link/tags/datahub" class="mention hashtag" rel="nofollow noopener" target="_blank">#datahub</a> <a href="https://zhub.link/tags/data_lineage" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_lineage</a> <a href="https://zhub.link/tags/data_observability" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_observability</a> <a href="https://zhub.link/tags/data_platform" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_platform</a> <a href="https://zhub.link/tags/dwh" class="mention hashtag" rel="nofollow noopener" target="_blank">#dwh</a> <a href="https://zhub.link/tags/analytics" class="mention hashtag" rel="nofollow noopener" target="_blank">#analytics</a> <a href="https://zhub.link/tags/%D0%B0%D0%BD%D0%B0%D0%BB%D0%B8%D1%82%D0%B8%D0%BA%D0%B0" class="mention hashtag" rel="nofollow noopener" target="_blank">#аналитика</a> <a href="https://zhub.link/tags/%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D0%B5" class="mention hashtag" rel="nofollow noopener" target="_blank">#данные</a>

HabrData Lineage из топораСтатья навеяна удачной реализацией Data Lineage «на коленке». Рассматривается случай, когда в окружающем корпоративном ландшафте Apache Atlas, Datahub или Amundsen еще не подвезли (и неизвестно, будет ли, и если будет, то когда) — а посмотреть от таблицы назад к источниками или вперед к потребителям от конкретной таблицы хочется прямо сейчас. Условия, в которых это удалось сделать, могут не повториться в других случаях, но сам кейс наверняка будет интересен. Разные самопальные data lineages<a href="https://habr.com/ru/articles/836648/" rel="nofollow noopener" translate="no" target="_blank">https://habr.com/ru/articles/836648/</a><a href="https://zhub.link/tags/sql" class="mention hashtag" rel="nofollow noopener" target="_blank">#sql</a> <a href="https://zhub.link/tags/data_lineage" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_lineage</a> <a href="https://zhub.link/tags/big_data" class="mention hashtag" rel="nofollow noopener" target="_blank">#big_data</a> <a href="https://zhub.link/tags/tool" class="mention hashtag" rel="nofollow noopener" target="_blank">#tool</a> <a href="https://zhub.link/tags/data_analysis" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_analysis</a> <a href="https://zhub.link/tags/data_engineering" class="mention hashtag" rel="nofollow noopener" target="_blank">#data_engineering</a> <a href="https://zhub.link/tags/metadata" class="mention hashtag" rel="nofollow noopener" target="_blank">#metadata</a>

Recent searches

Search options

Administered by:

Server stats:

#data_lineage