Tesla Tech

Как старое железо HW3 от Tesla справляется с тяжёлыми современными моделями автономии. Когда-то считалось, что HW3 упёрся в жёсткую физическую стену. Математика современной автономии — массивные трансформеры, бесконечные контекстные окна, позиционное кодирование с высоким динамическим диапазоном — якобы слишком тяжела для старого 8-битного кремния и должна была расплавить чипы или обрушить память. Однако архитектура кремния раскрывает блестящую лазейку: если нельзя увеличить железо физически, модель доставляется в виде микроскопических пазлов точно под размер HW3. «Lite» — это не ослабление интеллекта. Это хак физики чипа, позволяющий тому же самому «мозгу вождения» работать внутри значительно меньшего вычислительного бюджета. Проследим путь одного высокоточного числа через новую архитектуру — и стратегия начинает выглядеть шедевром инженерной мысли. 🧩 Широкое число разбивается на фрагменты размера HW3. Новые модели используют 16-битные и более широкие значения, а старый ускоритель лучше работает с 8-битными кусками. Tesla разделяет широкое значение на логические плоскости: старший байт (общая форма) и младший байт (точные детали). 🧮 Разделение выполняет сам нейронный ускоритель. С помощью MAC-массива и простых свёрточных ядер ([1 0], [0 1] с правильным шагом) верхняя и нижняя части отделяются прямо в вычислительном пути, без лишних пересылок. 🔁 Фрагменты обрабатываются в узких каналах по отдельности. Каждая плоскость проходит через фиксированную ширину аппаратных блоков как родные данные, сохраняя взаимосвязь с остальными. 🧷 Узкие результаты собираются через перекрёстную математику. Для получения 16-битного ответа выполняются четыре перекрёстных умножения (High-High, High-Low, Low-High, Low-Low), затем сдвиг, выравнивание и суммирование. Четыре дешёвые операции эмулируют одну дорогую. 📦 Результат хранится в компактном высокодиапазонном формате. Используется формат с большой 10-битной экспонентой и маленькой 5-битной мантиссой — это сохраняет нужный д… Читать полностью →