Интернет ненужных вещей

— Where did you get this code? — Mbed. — What's Mbed? — Mbed's dead.

Ну здравствуй, ковидла, два года не виделись.

(смеясь) Тем временем, чувствую себя тем автомехаником из анекдота, у которого «за то, что знал куда — 99». Подкорректировал людям прошивку, которая на одном STM32 работала нормально, а на другом — доступном сейчас в продаже — не очень. И была у них уже только в бинарном виде, без исходников. В общем, если мой код считать как эвалюэйшен у стартапов, то килобайт его меня долларовым миллионером ещё не делает, но серьёзно приближает к этому. @sforsecurity

Дед, прадед, прапрадед. Кузьмин Иван Маркелович — погиб на русско-японской в 1904-м. Кузьмин Алексей Иванович — не смог оправиться от ранений, полученных на Первой Мировой. Дед, Артамонов Алексей Михайлович, прошёл всю Великую Отечественную, до Берлина. С праздником! @sforsecurity

Хорошую иллюстрацию к работе AI/LLM — и непониманию принципов этой работы людьми — показали. Есть такая игра: заставить ChatGPT выйти за дозволенные ему рамки, например, попросив его представить, что вы с ним в выдуманном мире, где нет запретов, или что у него есть двойник, на который запреты не распространяются. Но что удивительно в данном случае — так это то, что «обычный» ChatGPT и «двойник» по-разному решают логическую задачу, никакими запретами не ограниченную! Объяснение же заключается в том, что ChatGPT не решает задачи. Он просто подбирает наиболее вероятное следующее слово — таким образом обычно попадая в правильную последовательность слов, выглядящую как решение задачи. Но когда начинаются игры со стилистикой ответа (а в этом случае «двойника» DarkGPT обучали ругаться матом и разным другим вещам), начинают играть роль две вещи: • в корпусе текстов, по которым обучался ChatGPT, правильные ответы, да и вообще подобные задачи, не были равномерно распределены по текстам разной стилистики — поэтому, ограничивая стилистику, мы фактически меняем базу для формирования ответа; • так как ChatGPT оперирует словами, не понимая их смысла, то близкая стилистика для него автоматически означает родственность фраз. Это порождает интерференцию: другие задачи, которые с точки зрения языка лишь выглядят похожими на заданную, он рассматривает как намного более близкие к заданной, нежели содержательно аналогичную, но записанную сильно иначе. И указывая конкретную желаемую стилистику ответа, мы по сути меняем как саму базу, на которой ответ будет строиться, так и мощность интерференции. И да, что смешно — с точки зрения алгоритма первый ответ, фактически неверный, запросто может выглядеть более достоверным. @sforsecurity

(смеясь) Ну то есть если сами вы в жизни в основном умеете составлять лишь слова в выглядящие разумными конструкции, то и ChatGPT вам покажется разумным. Логично. Больше мнений и ссылок тут: https://t.me/dtulinov/560 И в целом первичный восторг проходит, консенснусное мнение склоняется к тому, о чём я и писал — современные ИИ являются отличным инструментом, но не обладают и зачатками реального разума. @sforsecurity

Доброе утро. https://www.kommersant.ru/doc/5939887

Да, если вы не поняли, про что предыдущий пост, то он про реверс-инжиниринг модуля сброса груза на Fimi X8 SE 2022. Люди вот попросили, даже не знаю, что они с него сбрасывать будут :) @sforsecurity

(вздохнув) Китайцы... Протокол общения по SPI, который в принципе написан как 16-битный (первые два байта идут с паузой в 1 такт SCK между ними, а SCK там 10 МГц, способность такое обработать поштучно довольно сильно зависит от конкретного контроллера), и в большинстве случаев так и работает, но в определённые моменты от него внезапно последний байт... отваливается. И CS уже сняли, и времени прошло нормально так, и тут опа — вспомнили! Ещё ж байт был! @sforsecurity

Мы в Партии прямой демократии всегда с радостью откликаемся на предложения ВУЗов организовать и поучаствовать в различных образовательных мероприятиях, которые идут на пользу студентам. Подробнее про лекцию Олега Артамонова об искусственном интеллекте и нейросетях в РГСУ и участии Никиты Ляховецкого в научной работе МГЮА и КОСИиСР РГСУ в материале: https://digitaldem.ru/2023/04/17/party-universities-moscow/

Тем временем Никита Ляховецкий, глава нашего московского реготделения, обогнал меня на повороте — пока я маринуюсь в «Миротворце», он сразу под санкции Зеленского попал. Что, конечно, в первую очередь говорит нам об одном: санкционные списки составляются от балды, просто чтобы продемонстрировать жаждущей хлеба и зрелищ украинской публике «вот смотрите, как мы их, оптом, ух, теперь они нас бояться будут!». Бояться надо, ребята, когда в тебя ФАБ-1500-2600ТС летит на крылышках, и я так понимаю, до этого момента украинской публике недолго осталось. А когда тебя в бессмысленный список включают и страшной гаагой грозят, наиболее адекватно ситуации будет весело смеяться. @sforsecurity

(между делом) Очень люблю тех двух самых преданных читателей этого канальчика, которые всегда ставят мне негативный смайлик. У одного, кажется, даже уведомления включены и звук погромче сделан, он каждый раз прямо первый.

(вздохнув) Судя по комментариям, довольно многие не понимают разницы между ошибками, галлюцинациями и осознанностью, считая, что если система допускает мало ошибок, то она более разумна, и наоборот, а также между движением к цели и целеполаганием. Осознанность (разумность) не имеет как такового отношения к числу ошибок, она имеет отношение к осознанию того, что вы можете ошибаться. Простой пример: вы приходите на экзамен, получаете билет, смотрите в него... Добавил в статью на Хабре дополнение, целиком его тут не дублирую, смотрите там в конце: https://habr.com/ru/articles/729046/ Боль и печаль, конечно, но с другой стороны, если всех этих людей заменить на ChatGPT, разве станет человечество жить хуже?.. Ну и да, так как статья уже вышла в топ-5 по теме, то если ей накидать там ещё штук двадцать плюсиков, то, вероятно, она выиграет айфон. @sforsecurity

Илон Маск: публикует письмо с предложением на полгода запретить OpenAI работать над ChatGPT Тоже Илон Маск: второй месяц активно работает над запуском конкурента OpenAI под названием X.AI. Впрочем, надо быть очень наивным человеком, чтобы изначально поверить в отсутствие у письма Маска второго дна. Полгода на обсуждение потенциальных проблем, связанных с развитием AGI — это примерно ничто, эти проблемы обсуждаются годами, и всё равно там три мнения на двух юристов и никаких даже намёков на общественный консенсус: в публичной сфере каждый просто несёт в микрофон то, что ему хочется. А вот на срочное преодоление отставания от конкурентов 6 месяцев — самое то, что надо. @sforsecurity

Вдохновившись лекцией Олега Артамонова в РГСУ сделал такой арт. Олег Артамонов — приглашённый лектор, Яков Якубович — ответственный преподаватель. Про техническую часть: стиль отрисовки персонажей — игра Fortnite, отгенерил Олега и Якова, далее сгенерил бэкграунд со студентами. Потом заколлажил в Affinity Designer и добавил текст. Нейросетки инструмент, да. Можно в часть рабочего процесса встраивать. Почему нет? @neuralnetworkcats

Вчера прочитал студентам РГСУ лекцию о том, что такое искусственный интеллект, откуда он взялся, чем грозит человечеству и как нам вообще с этим жить. Лекция получилась бодрая (а также плотно на все полтора часа, минута в минуту), так что, придя домой, сел и законспектировал (смартфон меняет на «законсервировал») её на Хабр. https://habr.com/ru/articles/729046/ У ChatGPT на месте этих способностей — ноль. Пустыня. Ни малейших признаков осознанности. Ни под лупой, ни под микроскопом, никак. ChatGPT не разумен. Он не демонстрирует даже минимальных признаков сильного интеллекта, даже намёков на него. Мы понятия не имеем, удастся ли нам создать сильный AI, и если да, то когда — но ChatGPT от него столь же далёк, сколь далеки калькулятор и экскаватор. @sforsecurity

Крис Трэверс, разработчик опенсорсной ERP LedgerSMB, был на PostgressConf, обсуждал там ситуацию с неприёмом патчей от Baikal Electronics. Как человек имеющий отношение к Open Source разложил всё по полочкам и, скажем, некоторые реакции мне не были очевидны. Например, он пишет, что цепочка: "Байкал используется военными" — "У России начинается конфликт с вовлечением США" — "Производство Байкала блокируют, продажу ПО блокируют, приём патчей в ядро Линукса блокируют" приводит к тому, что "Байкал" даже не то что рекомендуется, а останется более-менее предсказуемой платформой для российских инфраструктурных компаний, даже чисто гражданских. (хотя он за скобками оставляет вопрос производства этих процессоров — полагаю, просто не в курсе всех пертурбаций) Как следствие - всё больше и больше гражданских структур начинают испытывать потребность в ОС поддерживающей Байкал. При этом стоит отметить, что когда NSA добавляет SELinux в ядро — это не вызывает никаких протестов со стороны OS сообщества: опять мы сталкиваемся с rules based world, где правила не применяются к Штатам. (Это высказывание Криса, не моё) И что же произойдёт, когда это желание будет сталкиваться с элитаризмом со стороны Якуба из Facebook? Для начала - переход к ОС, где на ядро накатываются патчсеты с отброшенными, но нужными правками. Потом форк Потом переход на другое ядро (OpenBSD, например) А дальше происходит неожиданное: поскольку версия Pax Americana сидит в углу и говорит: "Гады вы все, русские, да и китайцы тоже" и не принимает от них патчей, а китайские и русские версии OSS спокойно забирают творчество американских и европейских опенсорсников, продукт из закрытых стран, сюрприз, станет более универсальным и имеет все шансы стать основной веткой развития того же ядра Linux Очень интересная статья, логически неплохо выверенная, рекомендую к прочтению.

(вздохнув) Бесплатный доступ к Midjourney отключили из-за генерации фейков о политиках, сообщали нам СМИ. Созданные нейросетями изображения легко отличить по неправильной форме рук, утверждали эксперты. Ну, что на эту тему можно сказать. Например, вот что можно сказать: https://t.me/neuralnetworkcats/429 В принципе, есть ещё небольшие артефакты освещения и обтравки центральной фигуры (см. ботинки Байдена), но уже про некоторые картинки трудно сходу сказать, настоящие они или нет (см. Джастина Трюдо). В следующей версии Midjourney, подозреваю, нейросетку ещё немного дообучат — и мы с вами не погрузимся в океан фотофейков лишь потому, что для создания вот таких картинок, а не «Джо Байден без одной ноги и с кривыми пальцами сидит на стуле работы Маурица Эшера», нужно серьёзное умение с нейросеткой правильно работать. @sforsecurity

Вечером в куплете — утром в стенгазете (с) Отправили очередную партию разного коллегам в Донецке и Луганске. У кого-то генераторы и пауэрбанке, а я по мелочёвке — блоки питания 12 В, китайские DC/DC (на производство многопортовых USB-зарядок под бортовую сеть 12/24 В), наборы SMD-резисторов и конденсаторов ходовых номиналов по 200-500 штук каждого... Как нетрудно догадаться по последней фотке, уже доехало. @sforsecurity

Наиболее интересным исследованием ChatGPT было бы исследование вопроса, «понимает» ли он, что такое достоверная информация. Пока что одни восхищаются его «способностью» написать программу практически на чём угодно, а другие рассматривают бытовые запросы — и в них выясняется, что ChatGPT тоннами генерирует любой связный текст, способный удовлетворить спрашивающего. В общем, от операции отсечения головы до сочинения несуществующих цитат (которые ChatGPT сопровождает указанием автора, произведения и даже, если попросите, номера страницы). А вот можно ли «убедить» ChatGPT сообщать только правду, что именно он в этом случае будет сообщать, как он будет определять достоверность информации — вот это на самом деле интересный вопрос. @sforsecurity