Если дома есть два-три Mac и вы хотите локально запустить большую ИИ-модель, памяти одного компьютера может не хватить. exo позволяет объединить несколько устройств в один ИИ-кластер. Модель, которая не помещается в память одного компьютера, можно распределить между несколькими устройствами и запускать совместно. Проект уже набрал более 48 тысяч звёзд на GitHub. Устройства автоматически обнаруживают друг друга без ручной настройки. exo анализирует объём памяти и скорость сети каждого компьютера, самостоятельно определяя, как распределить модель между ними. Чем больше устройств, тем выше скорость работы. По данным разработчиков, два компьютера обеспечивают ускорение в 1,8 раза, а четыре — в 3,2 раза. В README представлены результаты реального тестирования DeepSeek V3.1 с 671 миллиардом параметров на кластере из четырёх Mac Studio. Зрелище нескольких компьютеров, совместно запускающих такую модель, действительно впечатляет. Для macOS уже есть готовое приложение, которое работает в фоновом режиме. Встроенная панель управления позволяет отслеживать состояние кластера и напрямую общаться с моделью. API совместим с форматами OpenAI, Claude и Ollama, поэтому к кластеру можно подключать уже используемые инструменты. https://github.com/exo-explore/exo 📱 @git_developer
If you have two or three Macs at home and want to run a large AI model locally, the memory on one computer may not be enough.
If you have two or three Macs at home and want to run a large AI model locally, the memory on one computer may not be enough. exo allows you to combine multiple devices into one AI cluster. A model that does not fit into the memory of one computer can be distributed among several...
AI Summary & Key Takeaways
- If you have two or three Macs at home and want to run a large AI model locally, the memory on one computer may not be enough
- exo allows you to combine multiple devices into one AI cluster
- A model that does not fit into the memory of one computer can be distributed among several...
If you have two or three Macs at home and want to run a large AI model locally, the memory on one computer may not be enough.
Related stories
RUNVIDIA представила Minerva для повышения наблюдаемости в AI-фабриках
NVIDIA представила платформу Minerva для повышения продуктивности AI-фабрик.
OpenAI, Anthropic, and Nvidia had record lobbying quarters
It was a busy summer for AI lobbyists. Anthropic, OpenAI, and Nvidia each had their highest-spending lobbying quarter between July and September, federal disclosures show. Nvidia spent the most of the group at $2.2 million, followed by Anthropic's $2.1 million and OpenAI's $1.5…
Mobile communication gaps have been eliminated in the city of Turkestan
A meeting on the development of telecommunications infrastructure was held in the Turkestan region with the participation of representatives of the Ministry of Artificial Intelligence and Digital Development and telecom operators. The meeting participants discussed in detail the implementation of the National…
Spotify’s current AI bet is about being the music service that agents choose
Spotify co-CEO Gustav Söderström explains why the rise of AI agents could be good news for the music service.

