Если дома есть два-три Mac и вы хотите локально запустить большую ИИ-модель, памяти одного компьютера может не хватить. exo позволяет объединить несколько устройств в один ИИ-кластер. Модель, которая не помещается в память одного компьютера, можно распределить между несколькими устройствами и запускать совместно. Проект уже набрал более 48 тысяч звёзд на GitHub. Устройства автоматически обнаруживают друг друга без ручной настройки. exo анализирует объём памяти и скорость сети каждого компьютера, самостоятельно определяя, как распределить модель между ними. Чем больше устройств, тем выше скорость работы. По данным разработчиков, два компьютера обеспечивают ускорение в 1,8 раза, а четыре — в 3,2 раза. В README представлены результаты реального тестирования DeepSeek V3.1 с 671 миллиардом параметров на кластере из четырёх Mac Studio. Зрелище нескольких компьютеров, совместно запускающих такую модель, действительно впечатляет. Для macOS уже есть готовое приложение, которое работает в фоновом режиме. Встроенная панель управления позволяет отслеживать состояние кластера и напрямую общаться с моделью. API совместим с форматами OpenAI, Claude и Ollama, поэтому к кластеру можно подключать уже используемые инструменты. https://github.com/exo-explore/exo 📱 @git_developer
Материал бастапқы дереккөзден алынған:
GitHub Разработчика
Толық мәтінді GitHub Разработчика сайтында оқуҮйде екі немесе үш Mac компьютеріңіз болса және үлкен AI үлгісін жергілікті түрде іске қосқыңыз келсе, бір компьютердегі жад жеткіліксіз болуы мүмкін.
Үйде екі немесе үш Mac компьютеріңіз болса және үлкен AI үлгісін жергілікті түрде іске қосқыңыз келсе, бір компьютердегі жад жеткіліксіз болуы мүмкін. exo бірнеше құрылғыларды бір AI кластеріне біріктіруге мүмкіндік береді. Бір компьютердің жадына сыймайтын модель бірнеше... арасында таратылуы мүмкін.
AI қорытындысы: Басты тезистер
- Үйде екі немесе үш Mac компьютеріңіз болса және үлкен AI үлгісін жергілікті түрде іске қосқыңыз келсе, бір компьютердегі жад жеткіліксіз болуы мүмкін
- exo бірнеше құрылғыларды бір AI кластеріне біріктіруге мүмкіндік береді
- Бір компьютердің жадына сыймайтын модель бірнеше..
Үйде екі немесе үш Mac компьютеріңіз болса және үлкен AI үлгісін жергілікті түрде іске қосқыңыз келсе, бір компьютердегі жад жеткіліксіз болуы мүмкін.
Ұқсас материалдар
NVIDIA AI зауыттарында бақылауды жақсарту үшін Minerva-ны ұсынды
NVIDIA AI зауыттарының өнімділігін арттыру үшін Minerva платформасын ұсынды.
OpenAI, Anthropic және Nvidia компанияларында рекордтық лоббилік кварталдар болды
Бұл AI лоббистері үшін қарқынды жаз болды. Anthropic, OpenAI және Nvidia әрқайсысы шілде мен қыркүйек айлары аралығында ең көп лоббилік тоқсанға ие болды, деп хабарлайды федералды ақпарат. Nvidia топтың көп бөлігін 2,2 миллион долларға жұмсады, одан кейін Anthropic 2,1 миллион доллар және OpenAI 1,5 доллар жұмсады ...
Түркістан қаласында ұялы байланыс олқылығы жойылды
Түркістан облысында Жасанды интеллект және цифрлық даму министрлігі мен байланыс операторлары өкілдерінің қатысуымен телекоммуникациялық инфрақұрылымды дамыту мәселелеріне арналған жиын өтті. Кездесуге қатысушылар Ұлттық…
Spotify-тің қазіргі AI ставкасы агенттер таңдайтын музыкалық қызмет болып табылады
Spotify бас директоры Густав Зёдерстрем неліктен AI агенттерінің көбеюі музыкалық қызмет үшін жақсы жаңалық болуы мүмкін екенін түсіндіреді.

