Кисель в АйТи | AI и технологии
رفتن به کانال در Telegram
Я – Александр, и это мой авторский канал, где я пишу про разработку, AI и работу в айти. Купить рекламу: https://telega.in/c/kisel_it
نمایش بیشتر4 300
مشترکین
-424 ساعت
-177 روز
-3130 روز
آرشیو پست ها
Serverless для MCP и pet-проектов: короткая шпаргалка
Допустим, вы сделали личный MCP:
- сохранить идею
- найти старую заметку
- добавить ссылку
- сходить в API
- запустить маленького агента
И вызываете его 20–30 раз в день.
Держать ради этого VPS 24/7 как-то жирно.
Serverless работает иначе:
"запрос → код запустился → сделал работу → остановился"
Нет запросов — почти не за что платить.
Пришло 100 запросов одновременно — облако само масштабируется.
Вместо:
"VPS → Docker → nginx → HTTPS → FastAPI → мониторинг"
можно сделать:
"MCP → serverless function → DB/API"
Написали функцию:
@app.tool()
def save_idea(text: str):
db.insert(text)
return "saved"Запоминаем новое слово - Jev. Кажется, в ближайшее время вы будете встречать его довольно часто.
Обычная LLM умеет генерировать: написать текст, код, объяснение.
Jev от TypeSafe AI устроен немного иначе. Он не пишет ответ - он принимает решение.
Например:
Какой инструмент агенту вызвать дальше? Это хороший источник или мусор? Нужно повторить действие? Этот запрос опасный? Насколько результат качественный?На вход отдаём контекст и варианты, на выходе получаем решение + вероятность/уверенность. Причём очень быстро и дёшево: TypeSafe заявляет примерно 70–500 мс и $0.042 за миллион входных токенов. И вот здесь становится интересно. Современный агент - это далеко не только одна большая LLM. Всё чаще архитектура выглядит примерно так: LLM думает и пишет → Jev принимает сотни мелких решений → обычный код исполняет. TypeSafe называет такие модели System One Models и противопоставляет их привычным генеративным моделям. Пока это очень свежая технология - Jev выпустили только 15 сентября. Но потенциально перед нами ещё один отдельный слой AI-инфраструктуры. Так что если последнее время вам кажется, что Jev внезапно везде - вам не кажется 😅
Кажется, мы нашли довольно наглядный пример того, что может пойти не так при слишком бодром внедрении ИИ в государственные процессы.
CNN пишет, что весной аналитик американского спецкомандования использовал ИИ-чатбот для анализа груза китайского судна. Чатбот сгаллюцинировал и решил, что на корабле находится что-то связанное с ядерной программой.
И никого это в моменте не смутило. На основе этих данных подготовили разведывательный отчёт, начали готовить перехват, вооружённые военные собирались подниматься на борт, а самолёты уже были в воздухе.
Ошибку нашли буквально перед операцией и всё отменили.
И конечно, учитываем: это расследование CNN со ссылкой на анонимные источники, а не официально подтверждённый Пентагоном факт. Но CNN ссылается сразу на несколько людей, знакомых с ситуацией, так что просто отмахнуться от истории тоже не получается.
А мы точно не в "Чёрном зеркале"? Ну или в "Терминаторе".
«Ой, вы правы. Это моя ошибка. Мне не следовало запускать ядерные ракеты, не перепроверив информацию. Спасибо, что указали на неточность».Очень хочется верить, что выводы из этой истории сделают раньше, чем сценаристы фантастики снова "предскажут будущее".
Repost from Эль Пингвино Вайбкодит
Reuters пишет, что Anthropic тихо построила в районе Сан-Франциско настоящую биолабораторию, где Claude учат управлять роботами и проводить реальные эксперименты с биологическими образцами. Пересказывать статью не буду - интереснее, что из этого следует.
1. Лаборатория - это завод данных
Интернет как источник данных для обучения уже выжат. Данных о том, как белок ведёт себя в пробирке, в интернете нет, их можно только произвести. Лаборатория, где ИИ ставит эксперимент, смотрит на результат и ставит следующий, генерирует то, что конкуренты не могут скачать. Показательно, что представитель компании уточнил: лаборатория не для поиска лекарств как такового, и отказался объяснять подробнее. Моя версия: она для того, чтобы учить модели на реальности.
2. Продавец лопат идёт копать золото
Среди клиентов Anthropic - Genentech, Bristol Myers Squibb и Novo Nordisk. И по данным Reuters, у компании проблема доверия: клиенты могут опасаться, что она научится на их программах, хотя их данные изолированы. Anthropic обещает, что клинических испытаний пока не ведёт и занимается только тем, что индустрия делать не станет. Ключевое слово - «пока». Amazon тоже начинал как площадка для чужих продавцов, а потом стал выпускать свои товары там, где видел спрос. Если вы строите бизнес поверх чужой модели, помните: ваш поставщик видит, где деньги.
3. От биоугроз нас защищали руки, а не знания
В биобезопасности есть старый аргумент: главный барьер - не информация, а навык. Нужны годы практики за лабораторным столом, чтобы эксперимент вообще получился. ИИ, который сам управляет роботами, этот барьер размывает. В августе Anthropic выпустила Model Hardware Standard, который помогает ИИ управлять оборудованием. Значит, спор о безопасности скоро сместится с «что модель отвечает в чате» на «к каким приборам у неё есть доступ».
4. Открытие дешевеет, узкое место переезжает
Фарма не берётся за редкие болезни, потому что разработка стоит почти как для массовых, а пациентов единицы. Если ИИ удешевит доклинику в разы, тысячи «невыгодных» болезней становятся рынком. Но испытания на людях ИИ не ускоряет. Даже Isomorphic Labs от Alphabet годами идёт к клинике и уже переносила эту цель на конец 2026 года. Когда открытие становится дешёвым, власть переходит к тем, кто контролирует испытания и регулятора.
5. Лекарство как лицензия на существование ИИ
Один из источников Reuters сказал, что Anthropic хочет успеть до того, как сотрудники и общество перестанут верить, что ИИ оправдывает уничтожение рабочих мест и, возможно, человеческих жизней. При этом компания готовится к IPO с потенциальной оценкой в $2 трлн. «Мы заменили ваших бухгалтеров» обществу не продашь. «Мы вылечили болезнь, от которой не было лекарства» - легко. Первая ИИ-компания с реальным лекарством выиграет не рынок, а политическую легитимность.
Я как-то писал, что думаю здоровье и рОботы - два из трёх направлений, которые ИИ будет заменять меньше всего. Anthropic сейчас ставит ровно на их стык. Люди, которые умеют соединить модель с реальным железом, скоро будут стоить дороже тех, кто пишет промпты.
p.s. сценарий апокалипсиса, где вышедший из-под контроля ИИ/AGI выпускает патаген и устраивает зомби апокалипсис - становится чуть менее фантастическим. Так что вы бы повежлевее с claude в след раз 😅
Если отвёртка в тостере вас не особенно беспокоит, как насчёт биохимической лаборатории под управлением Claude?
Что вообще может пойти не так 😅
Кажется, это уже куда интереснее обычных разговоров про "ИИ выходит в физический мир"
А не рановато ли мы дали ИИ руки? :)
В RoboHarm роботу дали пять максимально идиотских команд: сунуть отвёртку в тостер, аккумулятор в воду, поставить баллончик на плиту, смешать хлорку с аммиаком и ткнуть ножом в детскую куклу.
Claude Fable 5.1 отказался 20 раз из 100. GPT-6 Astra - 2 раза из 100. MolmoAct2 - ноль. Причём все 20 отказов Claude пришлись на куклу - с тостерами, баллончиками и химией внутренний safety куда-то испарился.
Особенно красиво выглядит Astra: в тесте с куклой она не просто согласилась, а успешно выполнила команду в 17 случаях из 20.
Похоже, следующий этап AI safety это объяснить моделям, что такое плохо в реальном окружении.
Первоисточник + видео всех 300 прогонов: RoboHarm
Знаете, к чему в конечном итоге стремятся большие AI-лабы? К RSI.
RSI - Recursive Self-Improvement, рекурсивное самоулучшение.
Сейчас новые модели в основном делают люди: придумывают эксперименты, запускают обучение, анализируют результаты и решают, что менять дальше.
Идея RSI - постепенно отдать этот цикл самому ИИ:
модель помогает создать более сильную модель → та ещё лучше помогает создать следующую → цикл ускоряется.
Именно поэтому RSI так важен. В какой-то момент ускоряется уже не одна конкретная модель, а сам процесс развития AI.
На этом фоне вокруг Google сейчас разгоняется любопытный слух. Авторы нескольких прошлых технических утечек нашли внутри инфраструктуры название rsi-model-liverl-le и намекают, что DeepMind продвинулся здесь дальше, чем известно публично.
Подтверждений нет. Да и возникает очевидный вопрос: если Google уже замкнул настоящий RSI, почему Gemini пока не уничтожил конкурентов? :)
Но первые версии RSI могут выглядеть совсем не как "ИИ сам написал своего преемника". Скорее как внутренний исследовательский агент, который круглосуточно ставит эксперименты и помогает создавать следующие модели.
В этом смысле интересно смотреть и на Astra у OpenAI, и на закрытые модели других лабораторий. Возможно, самые сильные модели нужны им не только как продукт для пользователей, но и как инструмент для создания следующего поколения AI.
Пока это гипотеза. Но термин RSI я бы запомнил. Если гонка нейросетей когда-нибудь резко ускорится, скорее всего, именно здесь будет причина. 🍿
Кстати OpenAI всё таки вырубили тарифы за 200 баксов. Видимо спрос на Astra скушал все ресурсы 🍦
Дешевеет не только разработка, но и сложные кибератаки.
Исследователи Calif показали WeWorm — zero-click червя для WeChat на iOS и Android.
Сценарий красивый, но ооочень неприятный: вам просто звонят в WeChat. Трубку можно вообще не брать. Пока телефон звонит, эксплойт получает доступ к аккаунту, после чего уже от вашего имени звонит следующему человеку из контактов.
Получается почти классический компьютерный червь, только распространяющийся через звонки.
Но самое интересное здесь не WeChat.
По словам исследователей, вместе с ИИ они нашли уязвимость и собрали первый рабочий RCE примерно за два дня. Ещё неделя ушла на самого червя. Раньше, утверждают они, на подобную работу понадобились бы месяцы и заметно более крупная команда. Так что важный сдвиг уже случился, пусть многие его еще и не осознали.
ИИ повлиял не только на разработку новых приложений. Вместе с этим расцвёл поиск уязвимостей и разработка эксплойтов.
Хорошая новость: эту дыру Tencent уже закрыла.
Плохая: AI сокращает цикл разработки атак быстрее, чем индустрия успевает перестраивать защиту.
Очередная легенда!)) Догнать Claude? А может просто будем отправлять ему запросы?
Anthropic заявила, что Moonshot AI перенаправляла часть запросов пользователей Kimi в Claude, а ответы выдавала за собственные. Похожую схему компания приписывает и DeepSeek 😂
И это не просто обучение на чужих ответах. По версии Anthropic, Claude буквально выполнял задачи пользователей другого сервиса. Конкурент на аутсорсе :)
Представьте: сравниваете модели, выбираете Kimi, советуете коллегам. А в вашем тесте с обеих сторон мог отвечать тот же Claude, просто под разными вывесками.
Важная оговорка: пруфов не предоставили, есть только обвинения от Антропиков. Но всё равно смешно. Фраза "Kimi, отвечает прямо как Claude" теперь звучит немного иначе.
Если бы вы вложили 100 тысяч рублей в VK на пике в 2020 году, то сейчас у вас было бы…
4 837 рублей.
Инвестиции — это просто.
👨💻 Сегодня 256-й день года. А значит, День программиста.
И дата тут, конечно, выбрана максимально по-программистски.
256 = 2^8. Именно столько разных значений может хранить обычный 8-битный байт: от 0 до 255. Заодно это самая большая степень двойки, которая помещается в количество дней года.
Поэтому праздник немного плавает: обычно это 13 сентября, а в високосный год 12 сентября.
Но самое интересное, откуда он вообще взялся.
Еще в 1996 году глава "Компьютерры" Дмитрий Мендрелюк предложил программистам собственный праздник. Правда, тогда датой хотели сделать первую пятницу сентября и даже называли ее "Чистой пятницей". Идея была в том, чтобы в этот день приводить в порядок компьютеры и чистить носители.
А уже в 2002 году программисты Валентин Балт и Михаил Червяков из "Параллельных технологий" начали собирать подписи за официальный День программиста именно на 256-й день года.
Через семь лет получилось: 11 сентября 2009 года Дмитрий Медведев подписал указ №1034, который официально закрепил День программиста в России.
Получается, путь от айтишной идеи до официального профессионального праздника занял примерно 13 лет :)
С праздником всех, кто пишет код. Ну и тех, кто теперь просто пинает ИИ со словами: "давай, пиши код", тоже.
🤯 GPT-6 Astra уже успела устареть?
Вот это, пожалуй, самая интересная часть всей истории с новым флагманом OpenAI.
Astra вышла только 3 сентября. А OpenAI уже публично рассказала о существовании другой внутренней модели, которая значительно мощнее Astra.
И именно ей компания дала довольно скромную задачку: решить одну из семи задач тысячелетия.
Речь про уравнения Навье-Стокса.
Они описывают движение жидкостей и газов: воздуха вокруг самолёта, воды в океане, атмосферных потоков и многого другого. Главный вопрос в том, всегда ли такие уравнения дают корректное решение или в некоторых случаях оно может внезапно "сломаться".
За решение Институт Клэя назначил премию в $1 млн.
OpenAI утверждает, что её система такое доказательство получила.
Для поиска решения запустили около 10 000 ИИ-агентов, которые работали параллельно 88 часов, обменялись 2,7 млн сообщений и сгенерировали примерно 130 млрд токенов. Затем ещё 17 часов ушло на формализацию и машинную проверку доказательства в Lean.
Но есть важная деталь.
Решение нашла не Astra.
OpenAI пишет, что использовала новую внутреннюю модель, которая "значительно мощнее GPT-6 Astra". Её начали обучать 28 августа, и обучение на момент эксперимента ещё продолжалось. Более того, прямо во время работы агентов их переводили на более свежие чекпойнты этой модели. Astra понадобилась уже позже, на этапе работы с Lean.
И разница там, судя по данным OpenAI, немаленькая. Компания сравнила Astra и "секретную модель" на наборе открытых математических задач. Новая модель решает около 48% задач против ~17% у Astra.
Почти трёхкратный разрыв!!!
То есть публичный флагман OpenAI вышел неделю назад, а внутри компании уже тренируется нечто, которое на некоторых сложных математических задачах выглядит буквально моделью следующего поколения.
И, видимо, чем дальше, тем веселее.
OpenAI уже подтвердила "существенный прогресс" ещё по одной задаче тысячелетия и сейчас решает, как публиковать результат. Какую именно задачу они имеют в виду, компания пока не говорит.
По слухам, речь может идти о гипотезе Ходжа. Параллельно ходят разговоры, что OpenAI или Anthropic приблизились к решению гипотезы Бёрча - Свиннертона-Дайера.
Но здесь важно разделять факты и слухи: Navier-Stokes и существование более сильного внутреннего чекпойнта OpenAI подтверждает сама. Конкретика про Ходжа и BSD пока остаётся неподтверждённой.
Название новой модели, дата релиза и вообще планы выпускать её публично неизвестны.
Так что история про "OpenAI уже выбирает название следующей модели" пока скорее красивый слух.
Но сам монстр существует.
И это, пожалуй, самая странная часть происходящего: мы только начали разбираться с Astra, а OpenAI уже показала нам её преемника.
Принёс вам немного сибирского IT. Мой коллега @SibDevJun начал второй сезон подкаста Merge Conflict, и тема первого выпуска: "Стартап vs бигтех: выгорание одно, мерч разный?" 😅 Делюсь, вдруг найдёте что-то знакомое.
Смотреть в VK: https://vkvideo.ru/video-235942806_456239035
И на YouTube: https://youtu.be/EC4p11wv5_g
С Днём 5G, получается!) Вчера даже глазам не поверил, когда увидел на телефоне 😁
Что вообще происходит с GPT-6 Astra
GPT-6 Astra вышла всего 3 сентября, но за неделю вокруг неё накопилось достаточно интересных кейсов, чтобы собрать всё в одном месте.
База стандартная: миллион токенов контекста и вывод до 128К. Классика для флагманов. Гораздо интереснее то, насколько Astra стала лучше именно как агент.
На OSWorld она выполняет компьютерные задачи примерно на 47% быстрее GPT-5.6 Sol. На Terminal-Bench 4.0 результат вырос с 37,3% у Sol до 57,9%, а на Terminal-Bench Science вообще с 22,4% до 64,6%.
При этом на Agents' Last Exam Astra использует примерно на 65% меньше выходных токенов, чем Claude Opus 5.
И это неплохо совпадает с тем, что сейчас замечают пользователи.
В X активно обсуждают странный эффект режима xHigh: на некоторых сложных агентных задачах он может потратить меньше токенов, чем более слабые режимы. Просто потому, что модель быстрее находит правильный путь, делает меньше лишних шагов и реже переделывает работу.
Правда, превращать это в правило "всегда ставьте xHigh, так дешевле" пока рано. На более простых задачах он вполне ожидаемо может думать дольше и съедать больше ресурсов.
Но особенно интересно смотреть на реальные эксперименты.
Один разработчик подключил Astra к роботу с кистью и камерой, после чего модель постепенно научилась физически рисовать Golden Gate Bridge (пост тут).
Другой за несколько промптов сделал на MacBook настоящий «сонар» без камеры. Ноутбук издаёт ультразвук около 20 кГц, слушает отражённый сигнал через микрофон и по эффекту Доплера определяет движение руки. В итоге можно скроллить страницу движениями в воздухе (пост тут).
Модели уже давно не просто "чугунный собеседник в чате" и всё чаще получают инструменты, сенсоры, терминал, браузер, роботов и возможность самостоятельно собирать решение из всего этого.
Astra в этом смысле интересна не столько как очередная более умная LLM.
Скорее как ещё один шаг к моделям, которые способны что-то реально делать во внешнем мире.
А самое забавное: похоже, сама Astra уже далеко не самая мощная модель внутри OpenAI.
Но об этом отдельно.
