Python Portal

Появился весьма полезный опенсорс проект , позволяющий превращать фотографии обычных предметов в 3D модели для Blender. Проект получил название Camera to Blender. Достаточно сфотографировать предмет на смартфон и система самостоятельно передаст снимок в Tripo3D, который создаст на его основе 3D модель. После этого остаётся нажать кнопку Send to Blender, и готовая модель автоматически появится в подключённом Blender. Весь процесс генерации занимает около 30–60 секунд. https://github.com/ahujasid/camera-to-blender 👉 @PythonPortal

Рекомендую ознакомиться с исследованием Университета Карнеги — Меллона и других научных организаций, посвящённым обучению фундаментальных моделей. Авторы ставят принципиальный вопрос: действительно ли предобучение, промежуточное обучение, SFT и RL необходимо проводить как отдельные этапы? Исследователи показывают, что такое разделение не является обязательным. Все эти этапы можно объединить в рамках единого алгоритма, основанного на максимизации правдоподобия. Этот подход они называют унифицированным обучением. Ключевая идея заключается в том, чтобы представить подходящие целевые функции RL как задачу максимизации правдоподобия на целевых данных, сгенерированных самой моделью. Благодаря этому генерации RL и статические данные можно обучать с помощью одной функции потерь и одного тренера. Это меняет саму постановку задачи. Теперь необходимо выбирать, на каких данных обучать модель, в каких пропорциях и в какой момент. Поэтапное обучение становится лишь частным случаем такого подхода. Сначала исследователи обучили с нуля модель на 124 млн параметров, используя задачи на логическое рассуждение. Лучшие конфигурации унифицированного обучения превзошли поэтапный подход как на задачах RL, так и на более сложных задачах, которых модель прежде не встречала. При этом одни и те же данные промежуточного обучения использовались до четырёх раз. В случае поэтапного обучения точность начинала снижаться, если промежуточное обучение продолжалось дольше оптимального вычислительного бюджета. При фиксированном вычислительном бюджете унифицированное обучение обеспечивало наибольшую точность при минимальных и максимальных затратах. При промежуточных бюджетах преимущество сохранялось за поэтапным обучением. В эксперименте с более практическими задачами использовалась модель на 0,76 млрд параметров, обучаемая с помощью RL на математических задачах. В обучающую выборку добавляли от 0 до 5% данных промежуточного обучения. Точность решения математических задач оставалась примерно на п… Leggi tutto →

Исследователи Amazon сравнили два подхода к памяти ИИ-агентов: хранение информации в весах модели и извлечение данных из внешнего хранилища. Результаты показали, что память, встроенная непосредственно в веса модели, может превосходить текстовую память при воспроизведении сведений о пользователе. Однако наибольший интерес представляет возможность совместного использования обоих подходов. В эксперименте использовались одна и та же модель и одинаковые пользовательские данные. Обычное дообучение позволило сохранить сведения о пользователе в весах модели с точностью 36,9%, тогда как метод on-policy self-distillation повысил этот показатель до 59,9%. Причём второй результат оказался выше, чем при извлечении информации из внешней памяти. При тестировании на данных восьми пользователей из HaluMem-Long модель, прошедшая дистилляцию, отвечала на вопросы без дополнительного контекста и превзошла несколько подходов: - Извлечение данных по принципу MemOS — 47,8%. - Использование извлечённого контекста — 51,9%. - Использование исходной истории диалога — 51,3%. - Память в весах после дистилляции — 59,9%. Преимущество сохранялось для всех восьми пользователей и моделей с 4, 9 и 27 млрд параметров. Как это работает? Модель-учитель, имеющая доступ к памяти пользователя, обучает модель-ученика отвечать на вопросы без обращения к этой памяти. При этом в роли учителя выступает та же модель, но с доступом к пользовательским данным. Однако у памяти, встроенной в веса, есть ограничения. Модель может забывать старые сведения и не способна надёжно определить, какая информация никогда не сохранялась. Для решения этой проблемы исследователи предложили механизм verify-then-regenerate. Он проверяет ответы по текстовому хранилищу и при необходимости генерирует их повторно. Такой подход позволил повысить точность ещё на 6,2 процентного пункта. В результате исследователи рекомендуют сочетать оба подхода: хранить недавние и недостающие сведения в текстовой памяти, а устойчивую информацию … Leggi tutto →

Колумбийский университет опубликовал подробный учебный материал по архитектуре Transformer 📚 В нём разбираются математические основы одной из ключевых технологий современных ИИ-систем: от рекуррентных нейросетей и архитектуры encoder-decoder до механизмов attention и self-attention. Отдельное внимание уделено query, key и value, scaled dot-product attention, multi-head attention и softmax. Главная особенность материала — математический подход. Авторы используют формулы, пошаговые выводы, схемы и примеры, чтобы объяснить, как устроены отдельные компоненты Transformer и как они взаимодействуют друг с другом. https://www.columbia.edu/~jsl2239/transformers.html 👉 @PythonPortal

Бесплатные 3D-модели японских городов, охватывающие отдельные районы Токио, Осаки, Иокогамы, Нагои и Саппоро. Модели доступны в формате GLB и готовы к использованию в трёхмерных картах, играх и демопроектах, созданных с помощью ИИ. https://huggingface.co/datasets/codepawl/plateau-city-glb 👉 @PythonPortal

HDMI-кабели могут излучать электромагнитные сигналы, содержащие информацию об изображении на экране. Антенна и программно-определяемый радиоприёмник улавливают эти излучения, а программное обеспечение, например TempestSDR, позволяет восстановить из них распознаваемое изображение. Deep-TEMPEST используетxiv.org/pdf/2407.09717 машинное обучение для более точного восстановления текста и изображений из тех же исходных сигналов. В ходе испытаний доля ошибок при распознавании символов снизилась почти с 90% до менее чем 30%. Однако качество восстановления по-прежнему зависит от экранирования кабеля, расстояния и окружающих электромагнитных помех. Хорошее экранирование или использование оптоволоконного HDMI-кабеля позволяет устранить большую часть риска. Даже проводное соединение может оставлять след в радиоэфире. 👉 @PythonPortal

Одна из самых опасных ошибок в SQL возникает, когда запрос успешно выполняется, хотя должен был завершиться с ошибкой. Предположим, вы хотите удалить заказы пользователей, чьи аккаунты заблокированы. Но в таблице banned_accounts есть столбец id, а не user_id. PostgreSQL не выдаёт ошибку. Вместо этого он незаметно находит user_id во внешней таблице orders и превращает подзапрос в коррелированный. Если в banned_accounts есть хотя бы одна строка, запрос выберет все заказы, у которых user_id не равен NULL. Всего одна ошибка в названии столбца, и вы можете удалить всё содержимое таблицы заказов. 👉 @PythonPortal

Проверить, является ли число n простым, можно детерминированно и за полиномиальное время всего в 10 строках Python. Этот алгоритм предложил Гэри Миллер ещё 50 лет назад. Однако для доказательства его корректности требуется недавний результат OpenAI, связанный с квазигипотезой Римана (quasi-GRH)! Тест простоты AKS в своё время стал огромным достижением, удостоенным премий Гёделя и Фалкерсона в 2006 году. Но теперь он устарел. Безумные времена. 👉 @PythonPortal

Если хотите изучить проектирование систем , у Гиков есть отличное руководство. Оно охватывает основные темы: 1. Масштабирование систем и балансировка нагрузки. 2. Базы данных, репликация и шардинг. 3. Кеширование и сети доставки контента (CDN). 4. API-шлюзы, очереди сообщений и ограничение частоты запросов. 5. Микросервисы и событийно-ориентированная архитектура. 6. Практические задачи по проектированию систем, подобных Netflix, Uber и Twitter. Руководство можно использовать как план обучения: выбирайте тему, разбирайтесь, какую проблему она решает, а затем пробуйте применить полученные знания в собственных проектах. https://www.geeksforgeeks.org/system-design/system-design-tutorial/ 👉 @PythonPortal

Бесплатные видеолекции по компьютерным сетям на основе учебника «Компьютерные сети. Нисходящий подход» Джеймса Куроуза и Кита Росса. По ссылке ниже доступны лекции по всем главам учебника: https://gaia.cs.umass.edu/kurose_ross/lectures.php 🙌 👉 @PythonPortal

Алгоритм Фишера — Йетса позволяет случайным образом перемешать весь массив за время O(n). Достаточно пройти по массиву с конца к началу, на каждом шаге выбирая случайный индекс и меняя элементы местами. Если случайные индексы выбираются равновероятно, каждая возможная перестановка элементов имеет одинаковую вероятность. 👉 @PythonPortal