ИИволюция 👾

Деды из-за AI взбунтовались. Ну или, если более серьёзно, заметное число действительно сильных математиков высказалось по поводу AI в очень, скажем так, настороженном смысле. Высказывание заслуживает внимания, и я вставлю свои 5 копеек. Надысь я читал лекцию и упомянул в конспекте про гипотезу Кёте о нильрадикалах. Отправил ребятам конспект и на следующий же день получил сообщение от студента, что гипотезу раскололи буквально пару недель назад (при помощи AI, разумеется), построив к ней контрпример. Про решённую гипотезу Якобиана все слышали, а про гипотезу о «Навье — Стоксе» соцсети гудят прямо сейчас. И это хорошо: многие люди, не отличающие синус от косинуса, узнают, что математика — это не только про решение квадратных уравнений. А две недели назад, к примеру, один из моих учеников (тоже при помощи AI) нашёл решение одной моей личной проблемы, показав, что у диаграмм сопряжённости бывает сколько угодно концов (и это замечательно). Пару слов о скептиках. Про тех, кто считает, что AI — грех против природы и вообще ужас ужасный, или что он вообще не нужен, я ничего говорить не буду (как вежливый кролик). Более содержательные возражения такие: (раз) массовое закрытие открытых проблем понижает интерес к математике и в целом негативно сказывается на учебном процессе; (два) построение контрпримеров не закрывает проблемы содержательно; и, главное, (три) люди в математике будут играть такую же декоративную роль, как люди в шахматах. Все понимают, что Stockfish не напрягаясь разнесёт любого шахматиста? Моя позиция такая. Закрытие многочисленных «именных» проблем — скорее плюс. По большей части они мало интересны сами по себе. В математике вообще обычно доказать нечто куда проще, чем задать правильный вопрос. А в том, чтобы ставить вопросы и искать взаимосвязи, важную роль играет чувство прекрасного и та самая «красота» математики. А с этим у AI пока неустранимые проблемы. Хорошая (на мой взгляд) математика — про то, как, используя новые термины, описывать известные с… Читать полностью →

Тратите много денег на API LLM? Это поправимо Если вы делаете продукт с ИИ или гоняете агентов через API, то наверняка уже считали, сколько денег уходит на запросы. На этапе прототипа токены улетают вполне по-взрослому, хотя сам продукт ещё ничего не зарабатывает. Ко мне пришли ребята из CheapGPT. У них единый API к GPT, Claude и Gemini, а цены до 3 раз ниже, чем напрямую у провайдеров. Таких сервисов сейчас немало, и к любому из них у меня возникают вопросы: 🔒 Что происходит с моими логами? Содержимое промптов и ответов CheapGPT не хранит. Если этого мало, есть защищённый режим: запросы шифруются, и сервис технически не может прочитать, что вы туда отправляете. ✅ Кто их на самом деле обрабатывает? Многие дешёвые API работают через цепочку перекупщиков, часто китайских. Где в этой цепочке оседают ваши промпты и кому их потом продают, не знает никто. У CheapGPT запросы уходят только напрямую на сервера OpenAI, Anthropic и Google с подписочных аккаунтов. Без посредников между ними и вами. Проверить это можно благодаря открытому коду и dstack 📊 Не подсовывают ли мне модель попроще? У CheapGPT бенчмарки открытые, и их можно прогнать самому и сравнить качество ответов. Я бы заодно замерил задержки на своих задачах, особенно если от скорости ответа зависит работа продукта. 🚀 Выдерживает ли высокую нагрузку? Если у вас постоянная большая нагрузка, то по запросу CheapGPT выделит 1000+ RPM. 💸 А что по деньгам? Экономия зависит от модели. Например, сейчас GPT-6.1 Sol у OpenAI стоит $2 за вход и $10 за выход. У CheapGPT тот же миллион стоит $0,667 на входе и $3,333 на выходе. Получается примерно в 3 раза дешевле. Claude же дешевле на 40 процентов. Откуда такая разница? Ребята закупают подписки и превращают их в API, а закупку аккаунтов, ротацию, баны и всю сопутствующую возню берут на себя. API совместим с OpenAI и Anthropic, работают их SDK. Достаточно получить ключ, заменить адрес API и выбрать модель Оплата в рублях, без зарубежных карт. С юрлицами работают по д… Читать полностью →

А кто как решает проблему “meat proxy”? В командных чатах, часто на запрос одного спеца, другой задает вопрос своему агенту и выдает в чат его ответ, и на этот ответ другой член команды идет к своему агенту за перепроверкой и дополнением или чтобы подготовить новые вопросы. У всех разные доступы, у всех разные специализация и свой фронт работ. И получается вроде люди сидят в чате, но по факту часто бывает, что люди занимаются пересылкой ответов от агентов. Напрашиватся много разных вариантов, как такое реализовать, но вдруг вы уже это как то решили у себя, расскажите?

Чтооо🐸 OpenAI на 16-й день марафона выкатили бомбу: в API теперь можно держать кэш 12 часов вместо 30 минут, а в Codex и ChatGPT Work кэш для подписчиков хранится вечно😧😧😧 то есть можно уйти на ночь, вернуться к старому разговору, и лимиты не сгорят на перечитывании всего контекста 😳 Для агентов, которые часами ждут сборки и тесты, это огромная экономия, я на своих логах видел, как такие перезаписи съедали недельный лимит. Для сравнения: у Anthropic кэш живёт 5 минут по умолчанию и максимум час. Есть нюанс: запись в 12-часовой кэш в API в 2,5 раза дороже, но окупается уже со второго-третьего использования. P.S. Anthropic, ваш ход 🌚 И да, такое забираем, сегодня можно без ресета👍

Я прочитал гигастатью "Командные высоты" о стратегии в мире с ИИ, хочу поделиться некоторыми основными трендами из статьи. Значительная часть текста посвящена стратегии американского ИИ. Статья названа как эхо идее Ленина о командных высотах как способу перехода к НЭП - государство должно контролировать главное, а именно промышленность, финансы, транспорт. В случае ИИ нас ждет не НЭП, а диффузия в экономику, но командные высоты по-прежнему остаются. Вчера это были лабы, чипы и датацентры, завтра это "рельсы" доставки ИИ в экономику. Мультимиллиардерами станут те, кто создают околомонопольные системы создания ценности в экономике. В статье вырезан кусок о том что это именно такое, но очевидные вещи — платежи и новые финансы (стейблы как способ экспорта доллара), дистрибуция на миллиарды людей, легализация ответственности (лицензии и юрисдикции), ролапы и трансформация старых компаний через ИИ. Кроме этого, есть ряд трендов, с которыми сложно поспорить, но важно держать в голове при планировании: - Образование перестаёт быть социальным лифтом Идея "получил диплом - получил работу" мертва. Учиться по-прежнему важно, но это больше не гарантия. Молодые специалисты на старых ролях больше не нужны. Либо прыжок веры до пост-скарсити (хз, лет 10-20-30?), либо придумать себе занятость а не искать на рынке. Первыми страдают начинающие позиции: компании не столько увольняют, сколько перестают нанимать молодых. - Гражданство дорожает Эмиграция как способ выбраться закрывается: богатые страны больше не нуждаются в лишних рабочих руках. Паспорт США или ЕС становится одним из самых ценных активов (хотя ЕС летит прямиком в ад). - Данные ценны сейчас, но это ненадолго. Сегодня лаборатории платят за уникальные данные, особенно за полные датасеты многих лет работы крупных компаний. Но когда модели достаточно обучатся + заведется continual learning, большинство датасетов обесценится, так что продавать нужно сейчас. - Неравенство растет, но между богатыми Раньше разрыв был между вл… Читать полностью →