Nutzen Sie eine #Intel #iGPU mit #WSL2 für #KI Workloads. Dieser Artikel beschreibt die sichere Kommunikation mit einem lokal eingesetzten #LLM von #DeepSeek über die #OpenAI API. Das LLM wird dabei vom #OpenVINO Model Server bereitgestellt und von #Podman containerisiert. https://emkadoc.de/2025/03/nutzen-einer-intel-igpu-mit-wsl2-zur-verarbeitung-von-ki-workloads/

Learn how to use your integrated #Intel #iGPU with #WSL for #AI workloads. This article describes in a few steps the secure communication with a locally deployed #LLM from #DeepSeek via the #OpenAI API, which is provided by the #OpenVINO Model Server and containerized by #Podman. https://emkadoc.de/en/2025/03/utilize-an-intel-igpu-with-wsl2-to-process-ai-workloads/

#Intel should figure out their #ml strategy because they have:

1. #OpenVino plugins for GPU and NPU,
2. #OpenXLA plugin for GPU
3. #ipex for PyTorch
4. intel-npu-acceleration-library for PyTorch
5. oneDNN neural network math kernels

And for #ONNX they have both OpenVino and oneDNN runtimes.

Best of all I haven't reliably gotten the NPU to work using any permutation of them lol..

After some investigation I found that #OpenVino is about twice as fast as #OpenXLA in diffusion on my Intel Xe graphics iGPU.

Having to convert safetensors models is pretty inconvenient.

Introducing OpenArc: A Lightweight Inference API for Accelerated AI on Intel Hardware

OpenArc is revolutionizing the way developers implement AI inference by providing a streamlined API designed specifically for Intel's hardware. This innovative tool leverages OpenVINO and FastAPI, all...

https://news.lavx.hu/article/introducing-openarc-a-lightweight-inference-api-for-accelerated-ai-on-intel-hardware

Unlocking Creativity: Intel's OpenVINO AI Tools Transform Audacity for Musicians and Podcasters

Intel's latest suite of AI tools for Audacity is set to revolutionize audio editing, offering powerful features for both spoken word and music applications. With capabilities like noise suppression, t...

https://news.lavx.hu/article/unlocking-creativity-intel-s-openvino-ai-tools-transform-audacity-for-musicians-and-podcasters

Generative #AI just got easier on #openSUSE with #OpenVINO 2024.6.0! Optimize LLMs with #Intel acceleration & create cutting-edge solutions with minimal code. https://news.opensuse.org/2025/01/14/openvino-w-generative-ai/

OpenVINO AI Plugins for Audacity

Репозиторий предлагает набор ИИ эффектов, генераторов и анализаторов для популярной программы редактирования аудио Audacity.

Эти функции, включают разделение музыки, подавление шума, генерацию и продолжение музыки, а также транскрипцию и работают полностью на локальном ПК пользователя, без необходимости подключения к интернету.

Плагины используют CPU, GPU и NPU.

Репозиторий предоставляет подробные инструкции по установке и сборке для платформ Windows и Linux.

https://bastyon.com/index?s=79c8c6a7c317bfbb0823929f34b414a0bc585b144d3d0092e846a4f3d3b858ce&ref=PSxywSgLV57vexgFjnFM5w5RA4BJp6qjG4

At work I have used the #OpenVino plugin for #audacity and it was great to remove #noise and #audio layers. It was a pretty easy install on #Windows. I would absolutely love to be able to use it at home on my #Kubuntu #desktop but, the last time I looked at the installation it was bonkers complex and I couldn't get it working. Any tips to get it working? It'd be so great if there is a #Snap or #flatpak that has it baked in. Thanks for the help!
#Linux

Тензорные компиляторы: что это за «звери» и где они «обитают»

Компилятор — привычный инструмент для многих разработчиков, но не все сталкивались в работе с тензорным видом. Их частые пользователи — специалисты по машинному обучению и дата-инженеры. В этой статье совершим экскурсию в «зоопарк» тензорных компиляторов, понаблюдаем за их «поведением» и выберем самых функциональных «зверушек». А еще поделимся ссылкой на бесплатный курс о построении и использовании тензорных компиляторов для ускорения вывода глубоких нейронных сетей, который разработан сотрудниками института ИТММ ННГУ им. Н. И. Лобачевского.

https://habr.com/ru/companies/yadro/articles/869594/

GPU для дата-центров

Серверный узел с восемью GPU-ускорителями AMD Instinct MI325X (2,3 ТБ видеопамяти, 8×750 Вт) Современные дата-центры уже не такие, как прежде. Раньше на типичный сервер поставили бы 144-ядерный CPU , много RAM и десяток HDD/SSD. Но теперь приоритеты меняются, в первую очередь из-за высокого спроса на машинное обучение (ML) и приложения LLM. Хотя аппетит к памяти только вырос, но процессоры нужны другие. И крупным корпорациям, и маленьким компаниям нужно железо для обсчёта ИИ-приложений. Это GPU-ускорители, NPU (Neural Processing Unit) и TPU (Tensor Processing Unit), AI-чипы нового поколения. Нужны серверы с GPU. Открываются даже специализированные GPU-облака на растущем спросе.

https://habr.com/ru/companies/ruvds/articles/837286/

#GPU #NPU #TPU #ARM #AI #ИИ #Copilot+ #Qualcomm_Snapdragon X #Core_Ultra #AMD_XDNA #Intel_AI_Boost #Qualcomm_Hexagon #Instinct_MI325X #Nvidia_H100 #Nvidia_H200 #Nvidia_GH100 #Instinct_MI300X #Nvidia_B200 #Grace_Blackwell_Superchip #GB200 #AMD_Ryzen_AI_300 #MediaTek #OpenVINO #ruvds_статьи

«¡Esto es magia pura!»

#OpenVINO Plugins en #Audacity | Supresor de #ruido y separación de #música con #InteligenciaArtificial

https://www.youtube.com/watch?v=lyB0Wp2rpcY

Фиксим баги в вашем AI или разбор ошибок в OpenVINO

Друзья-разработчики, приглашаем вас продолжить захватывающее путешествие по дебрям кода Intel OpenVINO! Вооружившись статическим анализатором аки детективы, мы разоблачим наиболее коварные, интересные ошибки и опечатки, а также их скрытые тайны, оставшиеся за рамками первой части статьи.

https://habr.com/ru/companies/pvs-studio/articles/831080/

#c++ #безопасность #баги #openvino #ии #проверка_кода

Audacity 3.6.0 OpenVINO Transcription Gets Added Polish

I just installed #Audacity 3.6 & tested the latest #Intel #OpenVINO #AI plugin updates. While the OpenVINO installer had issues extracting the recommended base AI models after Web download, I was able to manually extract the archives from their location in the Windows "Temp" folder. As I did with Audacity 3.4.2, I loaded the OpenVINO overview video to test #SpeechToText #Transcription. Version 3.6 excelled & now has #WebVTT file export

#openSUSE now has #OpenVINO! Check out how this journey happen & what this means for #AI #democratization. https://news.opensuse.org/2024/05/14/openvino-arrives-in-os-distributions/

#OpenVINO: come installare i plugin per #GIMP e creare immagini con l'IA
https://go.squidapp.co/n/iLIQqD2

#OpenVINO now available in openSUSE! Thanks to the efforts from #contributors, support from #Intel & #openSUSE teams, #AI democratization is here. Dive in to #opensource #AI at software.opensuse.org & get more details https://news.opensuse.org/2024/05/14/openvino-arrives-in-os-distributions/

Dive into our latest blog post where we explore swapping out the bass in an Udio track with the Martinic Kee Bass — all done using free tools!

https://www.martinic.com/blog/udio-kee-bass-song

#Martinic #Blog #Udio #OpenVINO #AI #Synthesizer #KeeBass #MusicProduction #MIDI #Plugins #AISynth #MusicTech #ElectronicMusic #MusicMaking #VST #MusicProducers #Homestudio #Producerlife #AIassisted #Composing, #AudioGeneration #StemSeparation #AudioToMIDI

"Golden Horizon" AXFX Effect Rack version

https://youtu.be/f8xMEoi8b9Y