Full-time nerd

Украине разрешили бить по территории России дальнобойными ракетами, Россия в свою очередь обновила ядерную доктрину, а Polymarket (платформа, где можно сделать ставку практически на что угодно) стала принимать ставки на применение ядерного оружия в 2024 году. Главный вопрос - как успеть потратить выигрыш, если поставил на "Yes" и победил? А помните, как нам говорили, что наше поколение изнеженное и жизнь у нас лёгкая?

Неискреннее спасибо Газпромбанку за посещение бизнес-зала Пару месяцев назад произошла забавная история с Газпромбанком. Уведомлений или сообщений от них не было, но по каким-то околофинансовым пабликам прошла информация, о том, что банк начал самовольно подключать своим клиентам пакеты услуг Привилегия для тех, кто уже имеет какие-то премиальные продукты. Их премиальным клиентом я никогда не был, но решил проверить, что происходит, и зашел в мобильное приложение впервые за несколько лет. Конечно оказалось, что мне подключили этот пакет, иного и быть не могло. Пошел в их чат и написал в поддержку, задав вполне логичный вопрос: считают ли они нормальным подключение платного пакета (что-то типа 3 тысяч рублей в месяц) без уведомления/смс, а тем более без выражения желания клиента его подключить? Ответ был прост: "Ачотакова, вы же можете его отключить! Первый месяц бесплатно!". Ну бесплатно, так бесплатно, сами сказали. Отключил, причем аж два раза, один раз мне подключили его снова, лол. Но перед этим решил посмотреть, что за привилегии в пакете. Оказалось, что он дает доступ к бизнес-залам через систему DragonPass, а не комбинацию трёх доморощенных систем, как у Т-банка, например. Причем проходы действуют два месяца с момента оформления. Выписал себе проход на двоих, сделал скриншот и спокойно отменил подписку и приготовился использовать проход в Милане, путешествие в который как раз укладывалось в эти два месяца с момента оформления. Спасибо за отличное завершение отпуска, Газпромбанк. Что бы я без вас делал! С паршивой овцы хоть шерсти клок, как говорят у нас в Испании. Ну а зал в Милан-Мальпенса вполне приятный для контрактного внутришенгенского - относительно тихо, спокойно, можно перекусить и стащить баночку колы в полёт.

Starbucks Reserve Roastery Milan В Милане есть единственный в Европе Starbucks Reserve Roastery - такой премиальный формат кофейни от Starbucks, который сочетает в себе обжарочную, кофейный бар и едальню. Расположен он в историческом здании Palazzo delle Poste на площади Кордузио, занимает площадь около 2 300 квадратных метров. Насколько я понял, именно отсюда отсылается весь обжаренный кофе в старьаксы Европы, северной Африки и Великобритании. В отличие от остальных Starbucks, кофе здесь вкусный, есть возможность выбора разных видов заваривания, выбор выпечки, десертов и сэндвичей разнообразнее, а поесть можно с видом на обжаривабщийся в постере кофе и умпа-лумп(-ов?) работников Старбакс. А, ещё на втором этаже есть бар, где можно выпить алкогольных напитков. А, ну и куча их мерча присутствует тоже. Чтобы попасть в заведение, нужно отстоять неслабую очередь на улице, что в ноябре довольно тяжело - в Милане ночь температура уже опускалась до нуля! Это, конечно, не "кофейный Диснейленд", как сказал один мой друг, но сходить можно - кофе вкусный, атмосфера приятная. Желательно не в выходной, как сделали мы, а в будний день - в субботу тут слишком много людей. Но лучше, конечно, сходить на экскурсию к хорошим обжарщикам, если есть возможность в вашем городе - опыт будет интереснее и интимнее

Benefit check от статусов MSC Gold и MSC Diamond. Круиз был всего на три ночи, но: 1. Бутылка просекко, макаруни и мини-шоколадка 2. Посещение СПА-зоны на час 3. Подарочный ужин в единственном платном ресторане на MSC Poesia 4. Халаты и тапочки (позор, но по умолчанию они не выдаются всем) 5. 50 евро бортового кредита, которых хватило ровно на пару коктейлей, плюшевого медведя и проиграть оставшиеся 13 евро в казино. 50 евро будут только при бронировании за 9 месяцев и больше 6. Скидка при бронировании А вот Welcome back и Diamond parties нам не обломились - это был кусок круиза на 10+ дней и все вечеринки уже прошли. Осталось найти в продаже кусок круиза на 1 ночь и попытаться уместить все эти плюшки в пол-дня

Мы очень вовремя уехали в отпуск, так как Малага выглядит сейчас вот так. Очередная DANA пришла, теперь и к нам. Объявили красный уровень опасности

Пару дней назад у меня начался отпуск и мы взошли на борт корабля MSC Poesia. Круиз втот раз совсем короткий и был встроен мной в путешествие как комбинация транспорта и нескольких ленивых All Inclusive дней - еда от пуза, сон, телевизор, шоу в театре, вот это всё. Вышло очень удобно - корабль совершал очень длинное путешествие из другого полушария и практически в конце пути останавливался в Малаге. Там мы и сели на корабль, буквально дойдя пешком от метро. Всего три ночи на корабле, последняя точка нашего маршрута - Генуя, откуда мы поедем в Милан, смотреть на дачу Соловьёва знаменитый собор. Прямо сейчас мы остановились в единственной промежуточной точке нашего маршрута - Марселе, но: 1. Мне лень выходить 2. Я тут уже был 3. Короткая остановка 4. Ужасная погода с ливнем. Корабль оказался намного лучше, чем я думал. А думал я, что корабль 2010г спуска на воду будет уже сильно уставшим и нам не очень понравится. Однако все совсем не так. Из интересного: 1. Корабль меньше тех, на которых я ездил раньше 2. Корабль сильнее качает 3. В несезон мало людей и корабль полупустой - это сильно влияет на удовольствие. 4. Всё ещё вкусная еда 5. На кораблях меньшего размера внезапно меньше развлечений 6. Корабль старше и потому иногда вибрация от двигателя очень сильно ощущается. И все это великолепие вышло в 380€ на три дня за двоих с учётом всех сборов.

Ещё один сервис, кроме нормально работающего advanced voice mode, который лишний раз напомнил мне, что я живу в будущем - Google Notebook LM и его генерация нейроподкастов. Работает просто - закидываешь любые sources количеством до 40 штук - текст, видео, аудио, просто ссылку на ютуб или сторонний сайт, нажимаешь кнопку Generate и получаешь на выходе подкаст с двумя ведущими - мужчиной и женщиной, которые погружают тебя в тему в формате подкаста! Да, внутри всё происходит довольно очевидно - все твои sources транскрибируются, загоняются в контекстное окно Gemini 1.5, она (большая языковая модель) выдаёт текст с репликами по ролям, которые потом превращаются в звук. Но какой результат на выходе! Это ощущается как полноценный подкаст специально для тебя. Ведущие перебивают друг-друга, поддакивают, задают вопросы, играют интонациями, угукают, шутят, смеются и вообще всячески прикидываются настоящими кожаными людьми. Да, подкаст будет только на английском и с одними и теми же голосами каждый раз, но минус ли это? За пару генераций к голосам уже привыкаешь и воспринимаешь их как старые-знакомые. Это прекрасный способ запихать в себя содержание какой-нибудь статьи "на ходу", когда нет возможности смотреть в экран. При этом я вообще скормил ему полуторачасовое видео Школы Анализа Данных Яндекса на русском - получил вполне сносный подкастик, несущий в себе ключевые вещи из лекции. Да, есть и минусы — Notebook LM в принципе имеет спорный интерфейс, альфа-версия генерации подкаста вообще приколочена туда на соплях - к примеру я просто не могу найти сгенерированный подкаст, если перезагрузил страницу и не скачал его заранее - его просто нет. Конечно, если я просто не там ищу - подскажите что я делаю не так. Новые невероятные изменения стали происходить так быстро, что едва успеваешь за ними следить. https://notebooklm.google.com/

Пару недель назад ChatGPT advanced voice mode стал доступен в Европе. Да, это тот самый хайповый режим, в котором общение происходит с минимальной задержкой, вы с ассистентом друг друга перебиваете, можете поспорить и так далее. Забавно, что его анонс в своё время был громким, а вот релиз - нет и потому люди наперебой записывали видео общения со старым режимом сразу после анонса и восторгались его "продвинутостью". Но вот вчера наконец дошли руки пообщаться с ним полноценно. Вышел на прогулку, вставил наушники в уши и просто начал с ним разговаривать и это было...Просто потрясающе. В течение всего отпущенного мне часа общения (да, доступен всего 1 час в день), меня не отпускало ощущение "будущего", в которое я наконец попал. Я просто попросил ассистента (на русском) рассказать мне тему, в которой я плавал и слушал его. В процессе я его перебивал, просил вернуться на 15 секунд назад, углубиться в какой-то конкретный аспект, привести примеры на близкие мне темы, рассказать какие-то аспекты более глубоко и тому подобное. Даже просил выговаривать букву "р" почётче и говорить голосом пониже - всё работало! Ощущал себя участником личного подкаста, который создан только для меня, но при этом я ещё и принимаю в нём участие. Да, что там, я буквально ощущал себя Тони Старком, а ассистента - Джарвисом. Нужно бы попросить его себя так называть, кстати. Ну а ещё э

Запускаем нейросети бесплатно самым простым способом. Давайте поговорим о чём-то более применимом для большинства людей, а именно о локальном запуске (инференсе) больших языковых моделей (LLM). Для этого нужно всего лишь скачать LM Studio. Если у вас есть компьютер с более-менее современной видеокартой, либо современный мак на M-процессоре, то вы можете сделать это с относительным комфортом, а если у вас старенькая печатная машинка, то тоже можете, но комфорта будем меньше. Сможете развернуть у себя почти любую понравившуюся небольшую LLM и общаться с ней напрямую, бесплатно, без ограничений и даже без интернета, да ещё и в красивом и удобном интерфейсе с поддержкой markdown и хранения чатов. Те, кто этим плотно интересуется, обычно про LM Studio давно знают, но нужно же с чего-то начинать тем, кто только вкатывается. • Скачиваете LM Studio, запускаете на вашем ПК. • Выбираете модель, которая влезет в память, на HuggingFace (в LM Studio встроен браузер по HuggingFace), желательно не беря очень агрессивную квантизацию весов (степень сжатия коэффициентов), от этого модели ощутимо тупеют. • Общение происходит в стандартном чат-интерфейсе. В последних версиях LM Studio добавили возможность работать как сервер, так что можно в рамках одной сети давать доступ до мощностей вашей тачки, на которой всё крутится, однако я этим не пользовался. А вот такие результаты получились на моём конфиге с парочкой небольших моделей (i5 13600K, 32GB, 4070 ti super 16Gb), пояснения ниже:

• Gemma-2-27B Q6_K (c оффлоадом максимально возможного количества слоёв на GPU): 3.97 tok/sec, 824 tokens, 29.16s to first token. • Gemma-2-27B Q6_K (без оффлоада на GPU): 2.01 tok/sec, 851 tokens, 18.14s to first token. • Gemma-2-27B IQ4_XS (c полным оффлоадом на GPU): 4.94 tok/sec, 955 tokens, 72.68s to first token. • Gemma-2-27B IQ4_XS (без оффлоада на GPU): 2.68 tok/sec, 1020 tokens, 11.48s to first token. • Llama 3.1 8B Q8_0 (c полным оффлоадом на GPU): 54.86 tok/sec, 563 tokens, 0.60s to first token. • Llama 3.1 8B Q8_0 (без оффлоада на GPU): 5.52 tok/sec, 646 tokens, 0.21s to first token.

Пояснения: • Оффлоад на GPU, в контексте запуска LLM, означает перенос части вычислений с центрального процессора (CPU) на графический процессор (GPU). Их архитектура хорошо подходит для параллельных вычислений, которые необходимы при работе с нейросетями. Перенос части операций на GPU позволяет значительно ускорить процесс инференса. • Q6_K, IQ4_XS, Q8_0: Эти обозначения указывают на тип квантизации, использованный для уменьшения размера модели. Квантизация - это процесс уменьшения точности весов модели, что позволяет уменьшить её размер и требования к памяти, но может снизить качество генерации. Разные обозначения (Q6_K, IQ4_XS, Q8_0) соответствуют разным методам и уровням квантизации. Чем меньше число в обозначении (например, 4 в IQ4_XS меньше, чем 8 в Q8_0), тем сильнее квантизация и меньше размер модели, но потенциально хуже качество. Как видите, GPU даёт неслабый прирост, особенно заметно ускорение на Llama 3.1 с 8 миллиардами параметров, где скорость генерации увеличивается с 5.52 tok/sec до 54.86 tok/sec. Но это всё получено на довольно мощном конфиге стоимостью ~2к евро (уже меньше, наверное). А что же можно получить на типичной печатной машинке? Ну, на моём стареньком ноутбуке на AMD 3500U + 20Gb Ram вполне получалось запускать инференс маленькой 8B Llama и при некотором терпении получать ответ. Это удобно в ситуации, когда у тебя нет интернета - перелёт, круиз, прочие командировки. К сожалению, после обновления LM Studio до версии 0.3.5, у меня на ноутбуке просто перестали загружаться в память модели, нужно разбираться. Надеюсь, что скоро в LM Studio добавят поддержку мультимодальных сетей и можно будет удобно запускать мультимодальную опенсорсную экстремистскую (META же) Llama 3.2, и кидать в LM Studio картинки

Я же, кстати, не рассказывал, что у меня сейчас за проект. Занимаюсь EPAM Dial – это такая платформа, типа единого окна в мир нейросетей. Представьте себе чат-интерфейс систему корпоративного уровня, в котором – доступ к любым LLM, хоть локальным, хоть облачным - OpenAI/Google/Anthropic/OpenSource Тут можно немного дать волю своему AI и прочему LLM - энтузиазму, поиграться с разными моделями, поэкспериментировать, ну и просто доступ до разных моделей с возможностью поиграться с температурой и системными промптами. Да, роль SDET мне тут, конечно жмёт, но проект интересный, коллектив приятный, есть с кем посоветоваться и у кого поучиться. Проект, кстати, опенсорс. Всё гордо лежит на GitHub в пачке репозиториев. Поднимать такое дома - дичайший оверхэд, я не уверен, что сам смогу без проблем поднять все компоненты и соединить их для работы - просто не было такой необходимости. Но если среди вас есть энтузиасты, можете у себя развернуть и пощупать. А можете вообще форкануть или даже поконтрибьютить. Epam, соответственно, на самом проекте не зарабатывает, мы продаём развёртывание у заказчика, поддержку и разработку разных эксклюзивных фич. Что там интересного в самой платформе? Ну, кроме того, что она cloud-agnostic и может быть развёрнута в любом Kubernetes-окружении: • Кастомизируемый UI: Внешний вид чата полностью настраивается. Можно даже диаграммы-графики отображать. • Данные не утекают, доступ к промптам только у авторизованных пользователей. • Интеграция с вашими данными: Можно подключить свои корпоративные данные и workflows к LLM. • API-First: Все фичи доступны через API • Шаринг конверсейшенов внутри организации • Публикация на всех сотрудников от организации. • Хранение промптов с шарингом и публикацией. • Хранение файлов. • Chat Overlay: Добавляйте AI-чат в своё веб-приложение просто вставив кусочек HTML. • Встроенные приложения поверх нейросетей: Например, цензор или любой другой функционал, который может быть жизнеспособен в интерфейса чата Если вы супер-секретная организация, то разворачиваете Dial, разворачиваете у себя локально на своём железе какую-нибудь LLAMA 3.1 405B, соединяете их и ваши данные остаются внутри, а организация получает приятный и готовый способ привычно общаться с нейросеточками + спокойный комплаенс https://epam-rail.com/

У ChatGpt с недавних пор есть память - и он запоминает какие-то факты из общения с вами. А вот интересный промпт, использующий эту фичу - попросите написать картинку, основанную на знаниях о вас:

Based on what you know of me, draw a picture of what you think my life currently looks like

Мне нравится, как ChatGPT нарисовал испанские домики в окне - метко подметил, что Испанию я вижу только через оконное стекло в кабинете! Ну и не так уж много я общался про Raspberry Pi, чтобы повесть логотип аж в виде картины на стене...

В комментариях мягко поправили, что 21%, это, конечно, не самая высокая ставка за всё время. Искреннее спасибо за исправление, делайте так почаще и бреда в интернете будет меньше. 21% - мягко говоря, не самая высокая. Есть, куда расти! Картинка из соответствующей статьи на Вики.

ЦБ РФ повысил ключевую ставку до 21%, сразу на 2%. Самое высокое значение за всю историю России, предыдущий рекорд был в феврале 2022 года. Это бред, конечно. Это самая высокая ставка с августа 2002. Немного математики для осознания величины прикола: 15 000 000 рублей на вкладе под 20% дадут 3 000 000 рублей за год/250 000 рублей в месяц или ~220 000 рублей в месяц с учётом налогов на доход с вкладов. С учётом капитализации - и того больше. Аналогичную по стоимости квартиру в Москве вы сдадите тысяч за 80. А вот если у вас таких сумм нет и вы хотите квартиру, стоящую те же 15 млн. рублей, купить в ипотеку на 30 лет, то ежемесячный платёж составит 292 000 рублей при ставке 27%. Да, именно такую даёт Сбер у себя в калькуляторе. И это ещё за вычетом первоначального взноса в 15%, который тоже нужно ещё найти! Вот это прикол Ключевые ставки по странам ЦБ РФ

Внезапно открыл для себя, что у OpenAI модель o1-mini не является уменьшенной/дистиллированной/упрощённой версией o1, а является отдельной моделью, причём предпочтительной для написания кода. При этом, 4o-mini это именно уменьшенная версия 4o. А я пользуюсь o1 и всё думаю, почему Claude 3.5 Sonnet всё ещё лучше код пишет, чем хайповая, "умеющая думать" o1... Слайды отсюда https://openai.com/business/solving-complex-problems-with-openai-o1-models/ OpenAI, что у вас с лицом нэймингом?

Посты начинают окупаться 🤑 Отбил 0.004% стоимости видеокарты

Мама, это для учёбы, правда

Сегодня SpaceX запускал миссию Flight 5 для Starship Super Heavy. Это огромные испытания для огромной ракеты. Случилось то, чего я ждал больше всего от этих испытаний - разгонная ступень (более 70 метров высотой) после успешной отстыковки вернулась на полигон и её поймали Мехазиллой - специальной башней, построенной только для этого. Начинаем обратный отсчёт до отправки людей на Марс. https://t.me/starbasepost/1205

Не покупайте бездумно продукты, если не понимаете, что на них написано. Можно обосраться, простите. Спасибо доктору Хаусу, многие знают, что от жевательной резинки может быть диарея, теперь вот, благодаря Вкусвиллу, будут знать, что ещё и от других продуктов. Производители очень любят класть такие ингредиенты в свои "диетические продукты", как некую низкокалорийную замену сахара, обладающую объемом, в отличие от подсластителей. Моему организму это не подходит, потому я избегаю, например, протеиновых батончиков, либо ищу без мальтитола в составе UPD. Судя по отзывам, никакого изменения рецептуры в последнее время не было, отзывы о диарее есть и достаточно давние. А разные ТГ-каналы уже побежали обвинять Вкусвилл во всех смертных грехах и даже пишут об "отравлении". Естественный отбор

В испанском Макдональдсе эксклюзив - взрослый Хэппи Мил в виде коллабы века с сериалом Друзья. К обычному комбо идёт одна из шести фигурок главных персонажей и фирменный соус маринара от Моники. Мне досталась фигурка Фиби, моё фанатское сердечко тает. P.S. 9,5 евро

Учёные смогли построить карту нейронов взрослой плодовой мушки. Казалось бы, всего лишь плодовая мушка, но ещё недавно и об этом нельзя было даже мечтать. Это прорыв в нейробиологии, ведь до этого подобные карты создавались только для гораздо меньших мозгов, например, личинки мухи или червя. Ученые использовали AI для идентификации и картирования нейронов и их связей, но AI все еще допускает ошибки. Поэтому команда исследователей из более чем 76 лабораторий и 287 учёных по всему миру потратила около 33 человеко-лет на проверку всех данных. Учёные уже начали использовать карту для моделирования работы мозга мухи и понимания того, как он реагирует на внешние раздражители. И это при том, что в "мозге" плодовой мушки всего ~140 тыс. нейронов, а у человека - 80 миллиардов! https://phys.org/news/2024-10-neuron-adult-brain-fruit-fly.html