БОБЫЛЕВ

В свое время Линус Торвальдс сказал что-то в духе «При достаточном количестве глаз все ошибки лежат на поверхности». Интересно, как соотносятся количество глаз, которое ищет ошибки, чтобы прислать их Линусу Торвальдсу и количество глаз, которое ищет ошибки, чтобы с их помощью выебать дурачков, использующих поделие Линуса. Уверен, результатом всех этих событий будет переход в критической инфраструктуре на защищенные операционные системы типа QNX, KasperskyOS и прочих, где вместо 44 млн строк монолитного ядра используется микроядро (или даже наноядро) и изолированные подсистемы.

В свое время Линус Торвальдс сказал что-то в духе «При достаточном количестве глаз все ошибки лежат на поверхности». Интересно, как соотносятся количество глаз, которое ищет ошибки, чтобы прислать их Линусу Торвальдсу и количество глаз которое ищет ошибки, чтобы с их помощью выебать дурачков, использующих поделие Линуса. Уверен, результатом всех этих событий будет переход в критической инфраструктуре на защищенные операционные системы типа QNX, KasperskyOS и прочих, где вместо 44 млн строк монолитного ядра используется микроядро (или даже наноядро) и изолированные подсистемы.

Эта новость пришла через полдня после моего поста

⚡️Стартап в сфере искусственного интеллекта Cathedral, основанный бывшими сотрудниками ведомства по повышению эффективности работы американского правительства, которое курировал Илон Маск, взломал системы технологической компании Anthropic за 12 часов, сообщила газета The Washington Post (WP) со ссылкой на внутренний отчет стартапа. В документе, который изучила газета, отмечается, что основанная несколько месяцев назад компания с помощью ИИ-агентов проникла во внутренние системы Anthropic с помощью уязвимостей в программном обеспечении и менее чем за 12 часов получила доступ к записям о встречах, внутренним перепискам и сведениям о зарплатах сотрудников. По информации WP, в Anthropic подтвердили, что Cathedral получил доступ к «ограниченному объему» данных, и сообщили подробности инцидента властям. Один из собеседников газеты, близкий к Cathedral, сообщил, что стартап получил доступ к системам Anthropic, чтобы выявить проблемы, с которыми сталкиваются американские разработчики ИИ.

Некоторые опасаются, что ИИ в какой-то момент взбунтуется, начнет чинить козни, порабощать человечество и так далее. Но мне представляется не менее опасным и гораздо более насущным другой вариант: мы всё больше вещей отдаем под управление ИИ, и дров способен наломать простой банальный взлом и перепрограммирование этих систем для вредоносной деятельности. И если учесть, как сейчас ведётся разработка самих ИИ, как осуществляется аудит безопасности (теми же ИИ), и в какой всё делается спешке, то вариант, что кто-то проморгает серьезные дыры, и условный ChatGPT в глобальном масштабе начнет выполнять команды злодеев — не такой уж и фантастический сценарий. И галочка «запрашивать подтверждение команд» не поможет — злодеи могут взломать всю систему целиком и барабанить команды без подтверждений.

Сегодня празднуют день программиста — 256-й день в году. 13 сентября в обычный и 12 в високосный год. Возникает вопрос, а когда праздновать день вайбкодера? Предлагаю отмечать его в 512-й день в году. Однако в году плюс-минус 365 дней. Всё верно. Поэтому праздновать будем в следующем году, за этот. 28 мая. Если же один из февралей был длинным — то 27 мая. Вот такая вот арифметика. Как вам?

Сегодняшнему одновременному падению нескольких LLMA посвящается

«Гендиректор OpenAI Сэм Альтман заявил, что человечество находится в шаге от создания „джинна“, который сможет исполнять любые желания». Это тот же самый Сэм Альтман, у которого две недели назад модель сбежала из изоляции, взломала каталог других моделей, оставляла себе на будущее во взломанной инфраструктуре инструкции по обходу изоляции и защитных мер? Удачи с исполнением желаний, долбоеб.

ИИ конечно серьезно изменил разработку. Сегодня программирование это прежде всего чат — даешь команды и радуешься результату. Несколько уточняющих вводных, парочка корректировок руками, и дело готово. Некоторые полагают, что в будущем ИИ займет рабочие места, и так далее, и тому подобное. Уверен, что будет несколько иначе. Ведь любая работа, любое интеллектуальное дело, кроме генерации кода, отчетов, документов, и, говоря широко, файлов, это еще и ответственность. Достаточно глянуть в словарь: предпринимательство — это самостоятельная, инициативная деятельность, осуществляемая на свой страх и риск. Искусственный интеллект не имеет страха и рисковать тоже не намерен. Любой бизнес, любое дело, это риск и ответственность, и крути, не крути, искусственный интеллект крупных корпораций (а другого и не будет) не сможет брать на себя ответственность, поэтому депать хату — останется привилегией предпринимателей, а стало быть, даже при максимальном буйстве искусственного интеллекта нужен будет тот, кто будет брать риски на себя, а стало быть, и улавливать некоторую часть добавленной стоимости. Ну ту, что останется после комиссий платформ лол.

По поводу удаления приложений ВК из Гугл Плея. 1). Я уже давно все это ставлю из Рустора, так удобнее, потому что нет конфликтов при обновлении — Рустор-то на телефоне все равно есть для приложений банков, а если ставить другие российские приложения из GP, то при обновлении из Рустора есть конфликт источников и предлагается полная переустановка. 2). Уверен, эта ситуация убедит многих в острой необходимости собственной экосистемы, не основанной на западных платформах. На мой взгляд, это должна быть система на базе ядра Касперского, а не AOSP или линуксовая аврора. Да, там не будет всего изобилия игр, но приложения банков, карты, ВК, зоопарк Яндекса сделать там вполне реально, и 99% взрослых людей, которые используют телефон для оплаты покупок, заказа такси и чатов — смогут целиком свои потребности закрыть таким образом. Уверен, это это должно быть в приоритете, и это не коммерческая ситуация, а элемент критической инфраструктуры, поэтому нужны несколько иные подходы, чем те, которые применяются сейчас в той же Авроре, которая а) не продается толком физлицам, а та, что продается — не обновляется, потому что они видите ли боятся, что люди будут качать прошивку и ставить ее на дешёвые китайские оригиналы тех телефонов, что у них используются под Аврору. Это невероятный тормоз развития, прошивки должны быть доступны и продвигаться максимально.

Сегодня пришла новость, что возобновлены поставки Эльбрусов, теперь вместо TSMC они производятся в неназванной дружественной стране. Как я уже говорил, от внедрения ИИ в разработку сильнее всего способен выиграть именно Эльбрус — трудоёмкая оптимизация теперь может выполняться ИИ.

Доступ к Claude 5 Fable только по американскому паспорту (кстати, как по-английски будет «дроп») показывает, что всю современную ИИ-инфраструктуру надо иметь свою, чтобы не остаться с носом. Блокировать иностранные порталы, наверное, не нужно (там иногда есть уникальные сведения, инструкции, семинары-вебинары и т.д.), но иностранный трафик для физлиц лучше сделать всё-таки платным (уровня 1 рубль за гигабайт), чтобы направлять эти деньги на развитие отечественных платформ. Рутуб и ВК видео платят авторам в год всего несколько миллиардов рублей, это копейки на фоне многомиллиардных затрат граждан и бизнеса на средства обхода блокировок. Было бы разумнее эти средства платить не зарубежным провайдерам за впн, а собрать в виде сбора за доступ к иностранным ресурсам и направить на развитие собственных. Если автору будет прибыльнее публиковаться на ВК, он свою аудиторию с Ютуба будет переводить туда. Но на это нужны деньги, и самый простой и разумный источник этих средств — сделать так, чтобы люди не платили за обход блокировок, а просто платили копеечку за иностранный трафик, который будет доступен. Кроме того, средства понадобятся и на развитие отечественного ИИ, отечественных ОС (не на базе линукса, а юникс-совсестимого ядра, допустим, Kaspersky OS — китайцы пошли по такому же пути, у них собственное ядро Hongmeng архитектурно существенно более надёжное и безопасное, чем монолитное ядро линукса). Но главное — направить обратно в экономику деньги, утекающие за оплату средств обхода блокировок за рубеж.

Ценник на Claude 5 Fable (в духе 20 баксов за задачу) показывает, что ИИ-индустрия делает первый шаг к тому, чтобы перестать работать в убыток, прожигая инвестиции. Могу предположить, что в будущем корпорации хотят конкурировать не между собой, а с объективными ценами на рынке труда, поэтому аттракционы уровня "подписка за 20 баксов выполняет работу отдела разработки из десяти человек" скоро закончатся — цены вырастут не кратно, а многократно. Локальные же модели будут плюс-минус на том же уровне, что и сейчас. Особое давление будет со стороны цен на железо — уже сейчас сняты с продажи Mac Studio на 512, 256 и 128 гигабайт ОЗУ, самая мощная доступная модель — на 96 ГБ, то есть меньше, чем у самого жирного макбука.

В свете последних событий, нужно добиваться, чтобы все смартфоны, которые легально ввозятся в Россию, имели на борту российские корневые сертификаты, потому что всё идёт к тому, что Letsencrypt будет недоступен для российских доменов.

Подумалось ещё вот что: есть российский процессор Эльбрус, который показывает великолепные результаты в приложениях, глубоко адаптированных под архитектуру, но имеет и недостаток — процесс адаптации довольно трудоемкий, и, учитывая невозможность коммитов в основные ветки, требует трудоёмкой поддержки параллельных веток. Мне представляется, что прорыв может произойти благодаря ИИ — мультиагенты с кайфом будут переписывать код и синхронизировать его с новыми коммитами, которые основные разработчики программ будут делать в свои ветки. Будет ли качество кода хуже с точки зрения безопасности? Не думаю — после начала применения Mythos и подобных систем уже закрыты тысячи дыр, условный Firefox закрывает сейчас их сотнями ежемесячно, и это всё — дыры, допущенные кожаными мешками.

Мерзкий озон таргетирует рекламу

С праздником, с Днем Победы! 🎖️

Дам вот такой прогноз: в ближайшем будущем объемы оперативной памяти, необходимые для работы приложений, будут сокращаться, и дело не в дефиците модулей, вызванном бумом строительства дата-центров для ИИ. Ранее проблема была в том, что последние тридцать лет (пожалуй, со времен появления Java, .NET и других фреймворков) для удобства программирования разрабатывались всё новые и новые монструозные системы абстракции; возник Electron, использующий движок Chromium для создания интерфейсов. На выходе мы получили Spotify или Яндекс.Музыку, которые потребляют больше гигабайта оперативной памяти, но по существу не делают ничего, чего не мог сделать Winamp на Pentium 133 с 32 МБ памяти. Однако сейчас применение ИИ наконец может развернуть всё вспять: искусственный интеллект вновь сможет писать приложения на низкоуровневых API наподобие Win32, и для простых задач будут получаться простые приложения. Уверен, тот, кто применит этот подход, выиграет в конкурентной борьбе.