Журнал «Код»

🍄‍🟫 Причины появления галлюцинаций у нейросетей

Галлюцинация ИИ — уверенный, но вымышленный ответ машины, не соответствующий реальности или доступным источникам.

Модель не проверяет факты и не знает, где правда, а где ложь. Модели предсказывают каждое слово-токен на основе вероятностей, а не сверяются с реальностью. Если какие-то конструкции встречались в наборах данных при обучении, машина будет использовать их. Чтобы понять, почему модель может галлюцинировать, нужно понять, как вообще появляются эти ответы. Архитектура обработки ответа может выглядеть как цепочка (см. изображение).

1. Prompt — запрос пользователя. Модель не понимает точный смысл и намерения человека, она воспринимает это просто как набор значений-токенов. 2. LLM — место, где языковая модель принимает запрос. Здесь машина начинает вычислять вероятности следующих токенов. 3. Model Answer — черновой ответ модели. Первичный, внутренний вариант ответа, который компьютер сгенерировал до проверок, фильтров и оценок. 4. GPT-4o. Отдельная модель или этап, который оценивает качество чернового ответа: полезность, соответствие инструкциям, безопасность. 5. Evaluated Answer — оценённый ответ. На этом этапе уже ясно, какие части хорошие, слабые или потенциально опасные. Финальный текст ещё не выбран, но уже понятно, что можно оставить. 6. Selection of Tokens — выбор слов-токенов из подходящих. Модель проверяет, какие токены проходят по вероятностям и ограничениям. Тут решается, какие слова реально попадут в финальный ответ. 7. Selected Tokens — составляется финальный набор токенов для ответа. Это почти финальный ответ. Attention Maps. Процесс, который идёт параллельно с предыдущими с момента попадания запроса в нейросеть. Включает части запроса, на которые модель обращала внимание при генерации. Это параллельный предыдущим шагам процесс, один из ключевых механизмов ИИ-моделей для выделения важной информации. 8. Token-Label Aligning — сопоставление конкретных слов из ответа и меток. Например, «релевантно», «полезно», «опасно». Модель должна понимать, какие слова за какой эффект ответственны. 9. Attention Scores aligned to Labels. Рассчитывается, какие части текста сильнее всего повлияли на оценки. 10. Attention-based Features. Шаг, когда из карт внимания извлекаются числовые характеристики. Эти числа упрощённо представляют поведение модели и не используются для ответа, только для анализа. 11. Windowed Features — оконные признаки. Окна — это оценённые куски текста, а признаки — числовые характеристики текста, по которым алгоритм принимает решение. 12. Selected Features — машина оставляет только самые важные признаки, которые влияют на решение. 13. Classifier — классификатор. Отдельная модель или алгоритм, который на основе признаков решает: «Ответ нормальный? Опасный? Неточный?»

Галлюцинация появляется в первой половине схемы — на пути между пунктом LLM до Selected Tokens. В этой части нет фрагмента «проверить ответ на правдивость», есть только несколько этапов подбора подходящих слов. Иногда галлюцинацию может заметить классификатор как внешний компонент системы. Но он тоже не понимает наверняка, если модель, которую он анализирует, врёт. Классификатор только подсчитывает соответствие шаблонам, согласованность, соответствие контексту. В итоге он может сказать: «Похоже на галлюцинацию, но не факт». Получается, на всём пути генерации ответа нет ни одного места с жёсткой проверкой: «Это правда или ложь?» Журнал «Код» | Промокод Практикума

16-летний школьник купил ПВЗ… чтобы воровать видеокарты. Он оформил точку выдачи на себя, получил доступ к заказам и начал схему: оформлял дорогие GPU через чужие аккаунты, а когда они приезжали — просто забирал их без оплаты. Итог — ущерб больше 1 млн рублей и уголовное дело за мошенничество в особо крупном размере. Сначала покупаешь бизнес. Потом используешь его как чит-код. Подробности здесь: https://v.thecode.media/2u3k9 Журнал «Код» | Промокод Практикума

Это пацаны вайбкодили, я просто рядом стоял: https://v.thecode.media/o6ry5 Журнал «Код» | Промокод Практикума

В 1763 году Томас Байес вывел теорему, которую сам не успел опубликовать. Сегодня она фильтрует ваш спам на почте — и делает это быстрее любой нейронки. ML-инженеры на старте зарабатывают от 115 тысяч рублей, а с опытом — за 400. Спрос на них растёт быстрее, чем рынок успевает их готовить. Наивный байесовский классификатор — первый алгоритм, который обязан понять каждый, кто идёт в Data Science. https://v.thecode.media/0v6z1 Журнал «Код» | Промокод Практикума

🍻 Ультрасложная задача про пьяных программистов и коллизию После работы три разработчика решили выпить и сыграть в бильярд. Чтобы было интересно, мидл придумал такое условие: проигравший оплачивает счёт. Все знали, что сеньор лучше всех пьёт и играет, поэтому мидл предложил считать так:

«Если сеньор забьёт меньше шаров, чем другие участники, вместе взятые, — он проиграл и платит за всех».

Через пару минут после начала игры, когда несколько шаров уже было забито, к ним подошёл тимлид из соседнего отдела. Ему объяснили, что проигравший платит, он согласился, и игра пошла уже вчетвером. Когда партия закончилась, получились такие результаты: джуниор забил 2 шара, мидл — 4 шара, сеньор — 6 шаров, тимлид — 4 шара. Кто должен оплатить счёт? Голосуйте в опросе ниже и пишите в комментариях, почему ↓ Журнал «Код» | Промокод Практикума

GitHub каждый день подкидывает новый AI-репозиторий. Проблема не в том, чтобы найти инструмент, а в том, чтобы понять, куда он вообще встраивается. Собрали 20 репозиториев в таблицу и сделали полный разбор по задачам: локальные модели, обучение, агенты, RAG, автоматизация, работа с кодом, речь и изображения. Внутри — таблица по слоям стека и команды установки. https://v.thecode.media/dcq2u Журнал «Код» | Промокод Практикума

Сегодня разберём одну из главных вещей в программировании: что происходит после того, как разработчики написали код, дизайнеры сделали картинки, а тестировщики проверили работу приложения. Короче, разбираем деплой. Полезно знать всем, кто хочет работать в компании и понимать, как устроены процессы выпуска новых версий софта. Журнал «Код» | Промокод Практикума

Короче говоря, есть чем заняться На этой неделе мы написали много контента специально под выходные: что-то почитать, что-то сделать руками или лишний раз повайбкодить. Плюс немного новостей — они сами по себе вписались в настроение. Начните с 17 базовых инструментов разработчика — от редактора кода до деплоя и ИИ-помощников. Не хайп, не топ всего, а джентльменский набор для любого стека. Там почти наверняка найдётся что-то, о чём вы думали, что надо разобраться. Кстати, о разборках: HR-отделы в России массово сокращают — их заменяет ИИ. Российские компании переводят найм, онбординг и оценку персонала на автоматику. Сначала они пришли за эйчарами — мы молчали. Пока ИИ занимается онбордингом, можно разобраться, как поисковики на самом деле понимают ваш запрос. Там про векторы, эмбеддинги и косинусное сходство — как «Спартак» и «футбол» оказываются рядом в пространстве без единой общей буквы. Будет интересно, если строите или пытаетесь разобраться с рекомендательными системами. Раз уж ИИ захватывает всё подряд — в Ubuntu он появится встроенным и локальным в 2027 году. Canonical начнёт с небольших функций и будет расширять постепенно. Без облака и подписки, надеемся, хотя бы без онбординга. Если хочется не читать, а делать — вот задача на выходные: n8n автоматизация без кода. За несколько часов можно собрать парсер Telegram-канала на визуальном конструкторе воркфлоу. Без единой строчки кода — если не считать маленький JavaScript-узел, который там всё же есть. Ну почти без кода. Пока вы автоматизируете Telegram: разработчик запустил код на суперкомпьютере за €200 млн — том самом, что стоит внутри старой часовни в Барселоне. Оказывается, там не всё так просто: очереди, SSH без интернета и никакого sudo. И на десерт — 13 странных репозиториев с GitHub, которые непонятно зачем существуют, но продолжают быть популярными. Среди них пустой репозиторий с тысячами звёзд. Это почти искусство. Напоследок новость, которая вписывается во всё это: OpenAI выпустит смартфон, где ИИ заменит привычные приложения. Никаких иконок, никакого App Store — только ИИ-агент, который делает всё сам. Компания называет это крупнейшим рывком со времён первого iPhone. Как ты там, Джобс? Мы ушли собирать парсер на n8n и уже второй час не можем выйти из редактора воркфлоу. Увидимся через неделю, ваш Код 🫶 Кстати, самые полезные материалы и новости мы публикуем каждый день на сайте! Заходите, читайте — мы всегда вам рады) Журнал «Код» | Промокод Практикума

От понимания, что вообще происходит, — до практики с реальными проектами и первого собственного агента. Можно читать по порядку — каждая следующая статья предполагает, что предыдущую ты уже переварил. Но можно начать с любой, если тема знакома. Сохраните подборку, чтобы не потерять. → Вайб-кодинг: что можно доверить ИИ Вайб-кодинг с точки зрения программистов: что это такое, хорошо или плохо — и стоит ли вообще учиться на вайб-кодера. Хорошее место, чтобы понять масштаб темы, прежде чем брать в руки Cursor. → Лучшие ИИ для программирования в 2026 году ИИ как инструмент работает отлично: шаблонный код, автокомплит, тесты, документация. Главное — знать, как и где применять, и где он накосячит. Статья сравнивает возможности конкретных инструментов и показывает их ограничения. → Что такое промпт и как его составить для нейросети Разбор основных понятий и правил: что такое промпт, как его писать, что получается из разных запросов и почему. Если пишете ИИ «сделай мне код» и получаете костыль — именно сюда. → Вайб-кодинг для новичков: с чего начать Практика без теории: несколько популярных платформ, и попытка сделать рабочий сайт за 15 минут без IDE. Единственное правило — самим не писать ничего, кроме запросов. → Как создать AI-агента: пошаговое руководство Чат-бот напишет инструкцию, как отменить подписку. Агент сам зайдёт в биллинг и нажмёт кнопку. Статья объясняет, что под капотом: архитектура, инструменты, память — и остальные 10 шагов до рабочего цифрового сотрудника. → 15 скиллов для AI-агентов: один раз настроил — агент запомнил Если постоянно объясняете агенту одно и то же — как оформлять код, какой стиль дизайна, как строить схему базы — больше этого можно не делать. Скилл — это способ один раз научить агента делать что-то правильно и больше не возвращаться к этому. Журнал «Код» | Промокод Практикума

🎙️ Код, принесли вам новый выпуск юмористического научпоп-шоу «Разговор на диване», созданного при поддержке Практикума. В выпуске, не вставая с места событий, комик Михаил Кострецов разбирается, как делать запросы в чате с искусственным интеллектом так, чтобы он тебя понимал с первого раза, и почему классический интернет-поиск все еще бывает незаменим. → Слушайте шоу и приходите делиться впечатлениями в комментариях: https://www.youtube.com/watch?v=MJA5yL6WJyE Журнал «Код» | Промокод Практикума

Читать — нельзя издавать. Задумывались ли вы, кто редактирует и переписывает книги по разработке? А мы нашли такой клуб рецензентов и спросили почему они это делают, какие знания им нужны и сколько книг уже выпустили. https://v.thecode.media/iuv5z Внутри вас ждёт подборка из 9 проверенных книг от алгоритмов данных до тестирования. Сохраняйте и передавайте другим. Журнал «Код» | Промокод Практикума

Как вам репо, которые призывает не писать код с 65к звездами, язык программирования на древнекитайском или NPM-пакет с одной задачей: проверить, равно ли число 13? Эти репозитории не попадут в ваш рабочий спринт. Но вы точно откроете их в 2 ночи вместо того, чтобы заняться делом. У каждого есть история и причина, по которой люди продолжают делать их популярными и шерить между собой. https://v.thecode.media/y0uib Журнал «Код» | Скидка 15% на все курсы Практикума

Секрет хорошего шашлыка — в алгоритмах. Сохраняйте наш рецепт и делитесь своим. А секрет успешного прохождения алгоритмических собеседований — здесь: https://v.thecode.media/8fr96 Журнал «Код» | Скидка 15% на все курсы Практикума

Народ, не забудьте 🙂

Компании из России начали судиться с сотрудниками... из-за использования ИИ! Обвиняют в разном: и в низком качестве кода, и в ошибках в проектах и даже в потере денег. Но есть и хорошие новости: суды поголовно встают на сторону сотрудников. Вот он — киберпанк, который мы заслужили :-) Как вам такие новости? 👍 — давно пора бороться с бездумным использованием ИИ 👎 — это уже слишком, ну наговнокодил нейронкой, чего бубнить-то Журнал «Код» | Скидка 15% на все курсы Практикума

🥷 Какие бывают хакеры Всех злоумышленников в интернете мы называем хакерами, но они бывают разными:

• киберпреступники — хакеры, которые преследуют финансовую цель и совершают с уязвимостями криминальные действия; • хактивисты — хакеры с политическими или социальными целями, которые привлекают внимание к себе и своим движениям; • корпоративные шпионы — хакеры, которые добывают информацию о компаниях, например для конкурентов; • кибервоины — хакеры, которые представляют интересы каких-то политических деятелей или даже отдельных стран; • «белые» хакеры — энтузиасты, которые ищут уязвимости из интереса, для них это что-то вроде хобби или спорта; • багхантеры — хакеры, которые ищут уязвимости за вознаграждение. В отличие от киберпреступников, багхантеры действуют в правовом поле. Крупные компании часто объявляют открытые конкурсы багбаунти, чтобы привлечь багхантеров.

С хакерскими атаками, вирусами и утечкой данных борются специалисты по информационной безопасности. Стать таким специалистом можно в Практикуме: https://v.thecode.media/o55zh Журнал «Код» | Скидка 15% на все курсы Практикума

Копировать-вставить, скопировать-вставить... Если ваша работа иногда напоминает день сурка, пора звать на помощь роботов. Сегодня разбираемся с n8n — бесплатной системой, которая умеет связывать между собой разные сервисы. Хотите, чтобы новые заявки с сайта сами улетали в Telegram, а отчеты собирались в Google Таблицах? Легко. https://v.thecode.media/74jjm Внутри статьи — подробная инструкция по установке и сборка первого проекта — автоматического парсера новостей. Никакого кода, только визуальные блоки. Журнал «Код» | Скидка 15% на все курсы Практикума