🖥️ Google представила TPU 8i Max и 8tx: новые ускорители для ИИ-агентов Google расширила линейку TPU восьмого поколения до четырёх систем. TPU 8i Max рассчитан на огромные контекстные окна и сложные агентные задачи: - Два объединённых TPU 8i. - В 2 раза больше вычислительной мощности. - В 2 раза больше SRAM и пропускной способности HBM. TPU 8tx предназначен для конфиденциальных ИИ-вычислений: - Аппаратная защита данных во время обработки. - Защищённый инференс и дообучение моделей. - Работа с чувствительными данными. Другие обновления: - Agent Compute Engine переносит состояние простаивающих агентных сессий, освобождая ускорители. - TPU Sync снижает задержку передачи KV-cache более чем на 90% по данным Google. - XLA Serving Engine получил открытый C++-движок для обслуживания моделей на TPU, GPU и CPU. Ещё одна интересная деталь: Google использует Gemini для разработки собственных чипов. По заявлению компании, ИИ помогает создавать схемы расположения компонентов (chip layouts) за часы вместо недель. Для этого используются вычислительные мощности TPU и сервисы на базе Gemini. Также Google представила GKE Dynamic Slicing: запуск заданий ускоряется до 5 раз, восстановление после сбоев - до 4,5 раза. https://blog.google/innovation-and-ai/infrastructure-and-cloud/global-network/tpu-8i-max-and-8tx/ @ai_machinelearning_big_data
From the original source:
Telegram — AI Machine Learning Big Data
Read full article at Telegram — AI Machine Learning Big DataGoogle introduced TPU 8i Max and 8tx: new accelerators for AI agents
🖥️ Google introduced TPU 8i Max and 8tx: new accelerators for AI agents Google has expanded its eighth generation TPU line to four systems. TPU 8i Max is designed for huge contextual windows and complex agent-based tasks: - Two combined TPU 8i. - 2 times more computing power...
AI Summary & Key Takeaways
- 🖥️ Google introduced TPU 8i Max and 8tx: new accelerators for AI agents Google has expanded its eighth generation TPU line to four systems
- TPU 8i Max is designed for huge contextual windows and complex agent-based tasks: - Two combined TPU 8i
- - 2 times more computing power...
Google introduced TPU 8i Max and 8tx: new accelerators for AI agents
Related stories
Hold up — I had a great time talking to the RIAA guy
Today, I’m talking with Mitch Glazier, who is CEO and chairman of the RIAA. This conversation was a real full-circle moment for me: I was in college when Napster hit, and the RIAA became everyone’s villain for suing kids for downloading music. That was when I decided to go be a…
RUVK Tech: ИИ-агенту мало хорошего промпта, нужен реальный процесс
VK Tech рассказывает, как собрать данные о процессах компании и перейти от переписки с нейросетью к ИИ-агентам, которые выполняют цепочки действий.
999% of the world's computing could move to space. Larry Page has already named this figure 🤯
🛰 99.999% of the world's computing can move to space. Larry Page has already named this figure 🤯 Google co-founder, according to investor Patrick O'Shaughnessy, believes that almost all of humanity's computing power will be in orbit in the future. O'Shaughnessy spoke about this in...
Can Agentic Robotics Solve Robotics’ Data Scaling Problem?
Robotics companies are investing heavily in the belief that data will solve the most difficult problems in robotics. Once AI systems have ingested enough data from human demonstrations, the thinking goes, robots will be able to perform the vast majority of the manual tasks that…