fosstodon.org is one of the many independent Mastodon servers you can use to participate in the fediverse.
Fosstodon is an invite only Mastodon instance that is open to those who are interested in technology; particularly free & open source software. If you wish to join, contact us for an invite.

Administered by:

Server stats:

10K
active users

#dockerswarm

0 posts0 participants0 posts today

Hadoop на микросервисах или история одного пет-проекта

Столкнувшись с концепцией Big Data некоторое время назад, у меня возник очевидный вопрос: как это можно «потрогать» своими собственными руками, где и как можно посмотреть программное обеспечение, составляющее данный концепт, разобраться с его конфигурацией, а в силу того, что я являюсь специалистом информационной безопасности, «потыкать в него палочками», провести проверку на предмет защищенности, возможности несанкционированных доступов. Ввиду специфики систем данного рода, их достаточно тяжело развернуть в качестве учебного проекта на собственном персональном компьютере. Используемые в организации программы такого рода, мягко говоря, также не очень предназначены для того, чтобы их «ковыряли», «подламывали» и всячески пытались вывести из штатного режима работы. Представляемый в данной статье проект предназначен для того, чтобы развернуть внутри Docker-контейнеров, распределенных на несколько компьютеров, максимально защищенную среду Hadoop (включающую в себя ПО Ranger и Knox), предоставить доступ к ее интерфейсам для тестирования и настройки. Если кратко, то это все. «Git clone», «docker compose up -d» с некоторыми предварительными настройками и «будет вам счастье». Написанный код (преимущественно shell-скрипты и конфигурация docker) максимально документирован ссылками на ресурсы сети Интернет, откуда это взято и где это все подробно описано. Технологии все общеизвестные, новые паттерны я здесь не изобретал. Если же что-то становится не понятным или docker-контейнеры «не взлетают» с первого раза – придется читать дальше, тут я как раз постараюсь описать все подробнее. Итак, поехали…

habr.com/ru/articles/885646/

ХабрHadoop на микросервисах или история одного пет-проектаСтолкнувшись с концепцией Big Data некоторое время назад, у меня возник очевидный вопрос: как это можно «потрогать» своими собственными руками, где и как можно посмотреть программное...
#hadoop#ranger#knox

Anyone know about the #DockerSwarm routing mesh? I can't seem to access containers running on other worker nodes (e.g. when accessing a service proxied through caddy), and the ingress routing doesn't work either. The proxied services work OK on a single node, but apart from ingress published ports never worked.

This stuff is really hard to debug; any pointers appreciated.

Just had an interesting chat with #ChatGPT about my #Homelab and the possibility of switching from #Proxmox to #DockerSwarm. 🖥️

After some back and forth, ChatGPT actually recommended migrating to Docker Swarm – it could offer better performance and a more flexible high availability setup.
🔄✨

I’m genuinely impressed by what “trained intelligence” can suggest these days. I’m seriously considering the switch!
🤔

That said, I’d really miss my beloved
#ProxmoxBackupServer. 😅

How about you? Do you run
#DockerSwarm or stick with Proxmox? Would love to hear from fellow #Homelab enthusiasts!

Uusi lomarojekti aloitettu: tällä kertaa palvelinten kanssa testailua (ihanaa) ja skaalautuva WordPress-ympäristö Dockerilla, Traefik-välityspalvelimella, MariaDB:llä ja Dockerin Swarm-klusterointiominaisuudella. Konttina on toki ihan vaan "wordpress" eli Apache, eli jotain optimointeja voi vielä tuohon taikoa 😄

Kontit jakautuu automaattisesti usean palvelimen välille (tässä tapauksessa kaksi Hetznerin pilvipalvelinta, toinen toimii managerina ja toinen worker nodena). MariaDB skaalautuu myös ja replicat synkronoi tietonsa keskenään vaikka olisivat eri palvelimilla. Docker Swarm hoitaa tämän automaattisesti.

scalewptesti.mikroni.fi pyörii, toki ei varmaan nopein sillä pyynnöt kulkee kolmen palvelimen ja kahden TLS-terminaation läpi sillä palvelimella pyöri jo Caddy. Eli nyt menee pyynnöt Caddy->Traefik->Apache, optimitilanteessa suoraan Traefikille. Ja Caddy-Traefik liikenne on myös HTTPS.

Ihan siisti vehe. Päivityksetkin kontteihin saa rolling updates-periaatteella eli päivitetty kontti päälle ja sitten vanha pois, ei downtimeä.

Ping @rolle kun en suoriltaan osaa sanoa ketä muuta voisi kiinnostaa sysadmin sekoilut.

#WordPress #Docker #Traefik #DockerSwarm #Hetzner #sysadmin ja mitälie risuaitoja löytyy aiheeseen liittyen.

scalewptesti.mikroni.fiTraefik testi

I can't convincingly make the argument to my coworkers that kubernetes is worth the added complexity.

But while I like the simplicity of just starting a few containers with docker compose, I would like failing health checks to actually restart the failing container and a better way to update my services.

So now I'm wondering if single node Docker Swarm without the routing mesh is just the right fit.