Fosstodon

1 post1 participant0 posts today

HabrИз чего сделаны GPU от Т1 Облако? Фотообзор и примеры примененияПривет, Хабр. На связи команда<a href="https://habr.com/ru/companies/T1Holding/articles/897528/" rel="nofollow noopener noreferrer" translate="no" target="_blank">https://habr.com/ru/companies/T1Holding/articles/897528/</a><a href="https://zhub.link/tags/nvidia_h100" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#nvidia_h100</a> <a href="https://zhub.link/tags/machine_learning" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#machine_learning</a> <a href="https://zhub.link/tags/gpu" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#gpu</a> <a href="https://zhub.link/tags/cloud" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#cloud</a> <a href="https://zhub.link/tags/%D0%BE%D0%B1%D0%BB%D0%B0%D0%BA%D0%B0" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#облака</a>

JimBSRUndersting the most popular GPU H100 for LLM ( chatgpt) <a href="https://gpus.llm-utils.org/nvidia-h100-gpus-supply-and-demand/?utm_source=substack&utm_medium=email" rel="nofollow noopener noreferrer" translate="no" target="_blank">https://gpus.llm-utils.org/nvidia-h100-gpus-supply-and-demand/?utm_source=substack&utm_medium=email</a><a href="https://sfba.social/tags/nvidia_h100" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#nvidia_h100</a> <a href="https://sfba.social/tags/LLM" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#LLM</a> <a href="https://sfba.social/tags/GPU" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#GPU</a> <a href="https://sfba.social/tags/AIComputing" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#AIComputing</a>

Putin's IBS❗A <a href="https://mastodon.online/tags/Mumbai" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Mumbai</a>-based drugmaker is helping <a href="https://mastodon.online/tags/ruZZia" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#ruZZia</a> obtain <a href="https://mastodon.online/tags/Nvidia_AI" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Nvidia_AI</a> chips, <a href="https://mastodon.online/tags/Bloomberg" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Bloomberg</a> found out In April-August 2024, <a href="https://mastodon.online/tags/Shreya_Life_Sciences" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Shreya_Life_Sciences</a> exported 1,111 units of modern <a href="https://mastodon.online/tags/Dell" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Dell</a> Technologies servers to <a href="https://mastodon.online/tags/ruZZia" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#ruZZia</a>. They are equipped with <a href="https://mastodon.online/tags/Nvidia_H100" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Nvidia_H100</a> chips. The total amount of supplies is estimated at $300 million. <a href="https://mastodon.online/tags/Perfecto" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Perfecto</a>👌🏿🐃<a href="https://mastodon.online/tags/ukraine" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#ukraine</a> <a href="https://mastodon.online/tags/putinisamasskiller" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#putinisamasskiller</a> <a href="https://mastodon.online/tags/putinisawarcriminal" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#putinisawarcriminal</a> <a href="https://mastodon.online/@kardinal691" class="u-url mention" rel="nofollow noopener noreferrer" target="_blank">@kardinal691</a>

HabrGPU для дата-центровСерверный узел с восемью GPU-ускорителями AMD Instinct MI325X (2,3 ТБ видеопамяти, 8×750 Вт) Современные дата-центры уже не такие, как прежде. Раньше на типичный сервер поставили бы 144-ядерный CPU , много RAM и десяток HDD/SSD. Но теперь приоритеты меняются, в первую очередь из-за высокого спроса на машинное обучение (ML) и приложения LLM. Хотя аппетит к памяти только вырос, но процессоры нужны другие. И крупным корпорациям, и маленьким компаниям нужно железо для обсчёта ИИ-приложений. Это GPU-ускорители, NPU (Neural Processing Unit) и TPU (Tensor Processing Unit), AI-чипы нового поколения. Нужны серверы с GPU. Открываются даже специализированные GPU-облака на растущем спросе.<a href="https://habr.com/ru/companies/ruvds/articles/837286/" rel="nofollow noopener noreferrer" translate="no" target="_blank">https://habr.com/ru/companies/ruvds/articles/837286/</a><a href="https://zhub.link/tags/GPU" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#GPU</a> <a href="https://zhub.link/tags/NPU" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#NPU</a> <a href="https://zhub.link/tags/TPU" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#TPU</a> <a href="https://zhub.link/tags/ARM" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#ARM</a> <a href="https://zhub.link/tags/AI" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#AI</a> <a href="https://zhub.link/tags/%D0%98%D0%98" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#ИИ</a> <a href="https://zhub.link/tags/Copilot" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Copilot</a>+ <a href="https://zhub.link/tags/Qualcomm_Snapdragon" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Qualcomm_Snapdragon</a> X <a href="https://zhub.link/tags/Core_Ultra" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Core_Ultra</a> <a href="https://zhub.link/tags/AMD_XDNA" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#AMD_XDNA</a> <a href="https://zhub.link/tags/Intel_AI_Boost" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Intel_AI_Boost</a> <a href="https://zhub.link/tags/Qualcomm_Hexagon" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Qualcomm_Hexagon</a> <a href="https://zhub.link/tags/Instinct_MI325X" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Instinct_MI325X</a> <a href="https://zhub.link/tags/Nvidia_H100" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Nvidia_H100</a> <a href="https://zhub.link/tags/Nvidia_H200" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Nvidia_H200</a> <a href="https://zhub.link/tags/Nvidia_GH100" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Nvidia_GH100</a> <a href="https://zhub.link/tags/Instinct_MI300X" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Instinct_MI300X</a> <a href="https://zhub.link/tags/Nvidia_B200" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Nvidia_B200</a> <a href="https://zhub.link/tags/Grace_Blackwell_Superchip" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Grace_Blackwell_Superchip</a> <a href="https://zhub.link/tags/GB200" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#GB200</a> <a href="https://zhub.link/tags/AMD_Ryzen_AI_300" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#AMD_Ryzen_AI_300</a> <a href="https://zhub.link/tags/MediaTek" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#MediaTek</a> <a href="https://zhub.link/tags/OpenVINO" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#OpenVINO</a> <a href="https://zhub.link/tags/ruvds_%D1%81%D1%82%D0%B0%D1%82%D1%8C%D0%B8" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#ruvds_статьи</a>

HabrПочему искусственный интеллект — это дорогоСегодня технологии искусственного интеллекта находятся в фазе взрывного роста. Темпы его внедрения ускоряются во всем мире и охватывают все больше отраслей, включая здравоохранение, образование, финансы, средства массовой информации и маркетинг. Конкурентное преимущество искусственного интеллекта в автоматизации процессов и персонализации услуг вынуждает компании ускоренно интегрировать эти технологии в свои бизнес-процессы. Чат-боты, генерация изображений, мобильные приложения — все это основные тенденции, которые будут способствовать развитию искусственного интеллекта в ближайшие годы. По прогнозам, в 2024 году объем рынка искусственного интеллекта достигнет 184 миллиардов $, что на 35% больше чем в 2023 году. Ожидается, что при ежегодных темпах роста 28,46% к 2030 году объем рынка превысит 826 миллиардов $ США. Однако по более оптимистичным оценкам ежегодный рост составит 35,7% в период с 2024 по 2030 год, а объем рынка увеличится до 1,339 триллиона $ к 2030 году. Но вместе с ростом технологий растут и затраты. И на это есть две ключевые причины: модели искусственного интеллекта становятся все более масштабными и дорогостоящими в разработке, а глобальный спрос на услуги искусственного интеллекта требует все большего числа дата центров и инфраструктуры для их поддержки.<a href="https://habr.com/ru/articles/824926/" rel="nofollow noopener noreferrer" translate="no" target="_blank">https://habr.com/ru/articles/824926/</a><a href="https://zhub.link/tags/%D0%B8%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D1%8B%D0%B9_%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#искусственный_интеллект</a>;_ии;_ai <a href="https://zhub.link/tags/%D0%B1%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D0%B5_%D1%8F%D0%B7%D1%8B%D0%BA%D0%BE%D0%B2%D1%8B%D0%B5_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B8" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#большие_языковые_модели</a> <a href="https://zhub.link/tags/chatgpt" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#chatgpt</a> <a href="https://zhub.link/tags/nvidia_h100" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#nvidia_h100</a> <a href="https://zhub.link/tags/%D0%B4%D0%B0%D1%82%D0%B0%D1%86%D0%B5%D0%BD%D1%82%D1%80%D1%8B" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#датацентры</a>

HabrЧипы на киловатт изменили теплоотводПроизводительность чипов растёт экспоненциально по закону Мура и не думает останавливаться. Но вместе с ней растёт и энергопотребление, и тепловыделение микросхем. В 2023 году с появлением суперчипов GH200 (на КДПВ) ускорители перешли киловаттный диапазон. И это очень большая проблема. Инженерам приходится принимать неординарные решения по теплоотводу.<a href="https://habr.com/ru/companies/ruvds/articles/815619/" rel="nofollow noopener noreferrer" translate="no" target="_blank">https://habr.com/ru/companies/ruvds/articles/815619/</a><a href="https://zhub.link/tags/%D0%BF%D1%80%D0%BE%D1%86%D0%B5%D1%81%D1%81%D0%BE%D1%80%D1%8B" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#процессоры</a> <a href="https://zhub.link/tags/CPU" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#CPU</a> <a href="https://zhub.link/tags/%D1%82%D0%B5%D0%BF%D0%BB%D0%BE%D0%B2%D1%8B%D0%B4%D0%B5%D0%BB%D0%B5%D0%BD%D0%B8%D0%B5" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#тепловыделение</a> <a href="https://zhub.link/tags/Nvidia_GH200" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Nvidia_GH200</a> <a href="https://zhub.link/tags/Nvidia_H100" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Nvidia_H100</a> <a href="https://zhub.link/tags/Nvidia_DGX_H100" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#Nvidia_DGX_H100</a> <a href="https://zhub.link/tags/H200" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#H200</a> <a href="https://zhub.link/tags/TDP" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#TDP</a> <a href="https://zhub.link/tags/%D1%82%D0%B5%D1%80%D0%BC%D0%BE%D1%8D%D0%BB%D0%B5%D0%BA%D1%82%D1%80%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%BE%D0%B5_%D0%BE%D1%85%D0%BB%D0%B0%D0%B6%D0%B4%D0%B5%D0%BD%D0%B8%D0%B5" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#термоэлектрическое_охлаждение</a> <a href="https://zhub.link/tags/%D1%8D%D1%84%D1%84%D0%B5%D0%BA%D1%82_%D0%9F%D0%B5%D0%BB%D1%8C%D1%82%D1%8C%D0%B5" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#эффект_Пельтье</a> <a href="https://zhub.link/tags/ruvds_%D1%81%D1%82%D0%B0%D1%82%D1%8C%D0%B8" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#ruvds_статьи</a>

Recent searches

Search options

Administered by:

Server stats:

#nvidia_h100