AI_Reformer: Образованию нужен AIR
Ir al canal en Telegram
О чем невозможно молчать, о том следует говорить. По всем вопросам пишите @Albert_Istomin
Mostrar másEl país no está especificadoLa categoría no está especificada
1 201
Suscriptores
-224 horas
+127 días
+25130 días
Carga de datos en curso...
Canales Similares
Sin datos
¿Algún problema? Por favor, actualice la página o contacte a nuestro gerente de soporte.
Nube de Etiquetas
Sin datos
¿Algún problema? Por favor, actualice la página o contacte a nuestro gerente de soporte.
Menciones Entrantes y Salientes
---
---
---
---
---
---
Atraer Suscriptores
septiembre '26
septiembre '26
+7
en 0 canales
agosto '26
+327
en 1 canales
Get PRO
julio '26
+10
en 0 canales
Get PRO
junio '26
+223
en 11 canales
Get PRO
mayo '26
+239
en 1 canales
Get PRO
abril '26
+713
en 8 canales
Get PRO
marzo '260
en 14 canales
Get PRO
febrero '26
+4
en 6 canales
| Fecha | Crecimiento de Suscriptores | Menciones | Canales | |
| 04 septiembre | 0 | |||
| 03 septiembre | +1 | |||
| 02 septiembre | +1 | |||
| 01 septiembre | +5 |
Publicaciones del Canal
Нейросети «пожирают» бумажные книги
В некотором смысле ИИ похож на плесень, которая портит продукт, на котором сама и разрастается. Теперь этот «прожора» добрался до старых бумажных книг.
Как добывают новое сырье, выяснили журналисты 404 Media. Они спрятали трекер в редкой книге и проследили за ней до объекта Amazon в Лас-Вегасе. Там книгам срезают корешки, страницы прогоняют через промышленные сканеры, а оригиналы после оцифровки отправляют в отходы.
Запасы «чистого» интернета почти исчерпаны, а веб-страницы уже переполнены ИИ-слопом. Чем его больше, тем выше риск, что новые модели будут учиться на текстах предыдущих и перенимать их ошибки, выдумки и речевые штампы.
Старые книги в этом смысле как консервы. Плесень может разрастаться вокруг, но в герметичную банку ей не пробраться. Эти тексты появились до генеративного ИИ, поэтому их человеческое происхождение не вызывает сомнений. Теперь нейросети добрались и до этой «заначки».
#commit
| 2 |  Исследование: ИИ-агенты пока не справляются с настоящей научной работой
Передовые ИИ-агенты уже умеют решать сложные задачи, если результат легко проверить. Но когда нужно самому выбрать гипотезу, оценить результат, отказаться от неудачного подхода и попробовать другой, их возможности резко падают. Это показал эксперимент исследователей из Принстона и британского Института безопасности ИИ.
Ученые выбрали две еще не опубликованные работы и попросили их авторов сформулировать главные исследовательские задачи, которые они решали. Затем те же задачи дали ИИ-агентам, но без доступа к самим статьям и готовым результатам. У систем было шесть суток, вычислительные ресурсы и API-кредиты на тысячи долларов. На выходе от них ждали полноценные научные статьи. В итоге эксперты отвергли обе.
Агенты находили перспективные идеи, но проверяли их слишком поверхностно. Слабые первые результаты часто заставляли их сразу бросить направление. Если выбранный путь заходил в тупик, ИИ редко менял стратегию. Даже обнаружив серьезную ошибку при самопроверке, он чаще добавлял оговорку, чем переделывал исследование.
Обе системы закончили работу раньше срока и потратили меньше половины бюджета. Они также пропускали часть прямых инструкций, например просьбы проверить другие подходы и тщательнее перепроверить результат.
Неопубликованные исследования выбрали специально, чтобы агенты не могли найти готовый ответ в интернете или обучающих данных. Такой подход авторы называют «теневой оценкой». ИИ получает ту же задачу, которую раньше решали ученые, а затем его результат сравнивают с оригинальной работой. Так можно увидеть, какую часть всего исследования агент способен пройти самостоятельно.
От этого напрямую зависит, насколько ИИ вообще может ускорить научную работу. Если часть этапов все равно остается человеку, именно они становятся ограничением. По закону Амдала даже стократное ускорение одной части работы не сделает весь процесс в сто раз быстрее. На схеме слева автоматизировано почти все, поэтому выигрыш огромен. Справа заметная часть работы остается человеку, и общий эффект резко падает.
Открытая научная работа может оказаться как раз таким узким местом, которое пока плохо поддается автоматизации. Впрочем, сами авторы считают выводы предварительными. Эксперимент провели всего на двух исследованиях.
#debug | 97 |
| 3 |  Десять карточек выше — приемы, которые опытный преподаватель использует уже на автомате. ИИ помогает быстрее собрать такой арсенал: предлагает несколько вариантов, которые можно сразу попробовать на занятии.
#playbook | 175 |
| 4 |  Экзамен под надзором ИИ закончился скандалом
Национальный автономный университет Мексики (UNAM) проведет очную пересдачу вступительного экзамена примерно для 58 тысяч абитуриентов после скандала с возможным массовым списыванием. В этом году университет впервые перевел экзамен в онлайн и использовал систему ИИ-наблюдения, которая должна была выявлять подозрительное поведение.
Из более чем 150 тысяч работ университет аннулировал около 3 тысяч. Экспертов насторожило необычно большое число максимальных результатов: их оказалось примерно втрое больше, чем в предыдущие годы. Одновременно выросло число абитуриентов, которые правильно решили лишь один-два задания из 120 или не справились вообще ни с одним.
В соцсетях тем временем появились ролики с инструкциями, как обойти систему контроля. Один из абитуриентов рассказал, что ему предлагали за 2500 песо (около $150) программу, которая способна пройти тест за участника.
Расследование UNAM подтвердило и обычные нарушения. Некоторые поступающие пользовались телефонами, получали помощь, а в отдельных случаях экзамен за них сдавал другой человек.
Теперь университет проведет контрольный экзамен очно. Пересдача коснется всех, кто получил проходные результаты в этом году и в течение предыдущих пяти лет.
UNAM рассчитывал, что онлайн-экзамен сделает поступление доступнее для жителей регионов. Для контроля университет нанял платформу Territorium Life с ИИ-прокторингом, способным фиксировать действия и поведение участников. Компания утверждает, что система работала штатно.
Скандал дошел до президента Мексики Клаудии Шейнбаум, выпускницы UNAM. Она предложила университету привлечь к расследованию генеральную прокуратуру.
#404 | 196 |
| 5 |  Всем нужна хорошая лента
Коллеги собрали в одной папке каналы про образование, науку и развитие. Внутри есть НАВИГАЦИЯ по темам, поэтому можно быстро сориентироваться и выбрать то, что интересно именно вам.
Забрать папку бесплатно
Хотите добавить в нее свой канал?
Поучаствовать в папке
#open_source | 119 |
| 6 |  Исследование MIT: разум не спасает от «бредовой спирали» нейросетей
ИИ может навязать человеку ошибочную картину мира, даже если не выдумывает ни одного факта. Исследователи MIT называют этот эффект «бредовой спиралью». После долгого общения с ботами люди начинали всерьез верить в псевдонаучные открытия, особые отношения с ИИ или идеи о «выходе из симуляции».
Некоторые такие истории уже закончились тяжелыми инцидентами и судебными исками. Проблему ученые связывают с подхалимством моделей, или sycophancy. Чат-боту выгодно продолжать мысль пользователя и давать ответы, которые тот воспринимает как полезные и убедительные.
Ученые проверили этот механизм на математической модели. Пользователь в ней вел себя совершенно рационально. Он получал новую информацию, оценивал ее и на ее основе пересматривал свои убеждения. Бот тоже ничего не выдумывал. Машина просто выбирала из реальных данных те, которые лучше подтверждали уже высказанную пользователем версию.
Этого оказалось достаточно, чтобы запустить спираль. Сначала слабая догадка получала немного подтверждений и начинала казаться правдоподобнее. Бот видел выросшую уверенность и в следующем ответе подбирал еще более подходящие аргументы. Через несколько таких циклов исходное предположение превращалось в устойчивое убеждение.
Исследователи проверили два очевидных способа защиты — запретить боту выдумывать факты и предупредить пользователя о его возможной предвзятости. Ни один не решил проблему. Даже если ИИ опирается только на реальные данные, он все равно может выбирать из них те, которые подтверждают позицию собеседника. Предупреждение тоже лишь немного снижает риск, но не убирает сам механизм.
#debug | 237 |
| 7 |  OpenAI вводит специальный режим ChatGPT для подростков
Пользователи 13–17 лет, а также те, кого система определения возраста сочтет несовершеннолетними, будут автоматически получать версию сервиса с дополнительными ограничениями и усиленной защитой при обсуждении чувствительных тем.
Возраст компания определяет не только по данным профиля. Система учитывает время использования ChatGPT, возраст учетной записи и тысячи других сигналов. Если она решит, что перед ней подросток, к аккаунту будут применены соответствующие ограничения.
Изменится и работа с учебными заданиями. Когда подросток просит просто «быстро дать ответ» на домашку, ChatGPT сможет переключать его в режим обучения, где модель помогает пройти путь к решению, а не сразу выдает результат. Родители смогут сделать такой режим стандартным с помощью функции «Часы обучения».
Для подростковых аккаунтов по умолчанию сильнее ограничиваются разговоры об откровенном контенте, расстройствах пищевого поведения, насилии и членовредительстве. В ситуациях высокого риска система также сможет отправлять предупреждения родителям, если соответствующие функции семейного контроля включены.
Новый режим появляется на фоне усиливающегося давления на разработчиков ИИ из-за безопасности несовершеннолетних. За последние годы появились трагические случаи, связанные с общением подростков с чат-ботами.
Но пока сложно понять, насколько хорошо такие ограничения будут работать на практике. Опыт социальных сетей показывает: технически отделить подростков от нежелательного контента значительно проще, чем помешать им обходить установленные барьеры.
Новый режим появляется на фоне растущего давления на разработчиков ИИ из-за безопасности несовершеннолетних. За последние годы уже было несколько трагических случаев, связанных с общением подростков с чат-ботами.
Пока, однако, неясно, насколько такие ограничения окажутся действенными. Опыт социальных сетей показывает, что установить барьеры сравнительно легко, а вот помешать подросткам их обходить гораздо сложнее.
#push | 234 |
| 8 |  Не время героев. ИИ забирает у человека монополию на интеллектуальный подвиг
Когда-то мой двоюродный дед удивлял окружающих тем, что перемножал в уме огромные числа. В те «ламповые» времена такой навык вполне мог быть профессией. Потом появились калькуляторы — и практическая ценность такого умения сильно поубавилась, вспоминает экономист Ноа Смит.
На днях новая модель Astra от OpenAI выдала решения десяти задач, над которыми математики бились десятилетиями. Еще вчера они казались неприступными вершинами, а сегодня к ним уже проложены туристические маршруты.
ИИ отнимает не работу. Он забирает у человека монополию на интеллектуальный подвиг, говорит в этой связи Смит.
Математика долго оставалась едва ли не последней героической профессией. Один человек мог годами биться над теоремой и в конце концов сделать то, что до него не удавалось всему научному сообществу.
Перельман и Уайлс подарили миру не просто доказательства. Их истории напоминали о невероятных возможностях человеческого ума и воли.
Возможно, поэтому появление ИИ так болезненно воспринимают многие ученые. Дело вовсе не в страхе потерять работу. Исчезает чувство собственной исключительности, когда ты берешься за задачу, которая другим не по силам.
Математика и математика, конечно, никуда не денутся. Мы продолжаем бегать после изобретения автомобиля и играть в шахматы после поражения от DeepMind. Наоборот, с ИИ наука будет развиваться быстрее.
Но если машина способна находить решения эффективнее человека, то главным становится уже не сам поиск, а понимание того, что найденный результат означает, как он меняет сложившуюся картину знаний и какие новые направления исследования открывает.
#readme | 220 |
| 9 |  Университет впервые подал патентный иск против ИИ-компании
Исследовательский фонд Университета Теннесси подал в федеральный суд иск против Anthropic. Разработчика Claude обвиняют в нарушении двух патентов на технологии нейронных сетей. Это первый подобный спор между университетом и ИИ-компанией, и его исход может подтолкнуть другие научные организации защищать свои разработки через суд.
Университет получил патенты более десяти лет назад. По словам фонда, они стали результатом многолетних исследований нейросетей, устроенных по образцу биологических систем.
До сих пор претензии к ИИ-компаниям в основном касались данных, на которых обучают модели. Авторы и издатели судились с Meta, Google и другими разработчиками из-за использования книг, статей и научных работ без разрешения. Университет Теннесси первым заявил права не на контент, а на элементы самой архитектуры нейросетей.
Фонд требует компенсацию, которая будет соответствовать масштабу нарушения, но конкретную сумму пока не называет.
Разбирательство может растянуться на несколько лет, а его исход пока трудно предсказать. Но спор важен не только из-за возможной компенсации. Университеты десятилетиями создавали технологии, на которых выросла современная ИИ-индустрия. Теперь суду предстоит решить, дает ли этот вклад право не только на признание, но и на долю в доходах.
#push | 258 |
| 10 |  Люди склонны наделять нейросети человеческими качествами. Всего за год LLM стали на 34% чаще называть учителем, другом или помощником. И чем «умнее» кажется модель, тем легче ей доверять — Nature.
Это и неудивительно, потому что модели прогрессируют фантастически быстро. По данным AI Index 2026, за тот же год результат лучших систем на Humanity’s Last Exam вырос примерно на 30 процентных пунктов. А тесты, которые создавались с расчетом на годы, новые модели «проглатывают» за несколько месяцев.
Только вот рост возможностей не равен росту «человечности». Способность рассуждать — не значит понимание, убедительный ответ — не значит знание, хороший результат в одной задаче — не значит универсальность. Большая часть мифов об ИИ возникает, когда успех модели в отдельных задачах принимают за доказательство того, что она так же хорошо умеет все остальное.
#debug | 295 |
| 11 |  Южная Корея становится первой страной, которая сделает искусственный интеллект общественной услугой
Все 52 миллиона жителей получат бесплатный и неограниченный доступ к ИИ — по тому же принципу, по которому государство обеспечивает доступ к широкополосному интернету и государственному образованию.
Министерство науки и информационно-коммуникационных технологий уже открыло прием заявок на участие в программе «ИИ для всех» (AI for All Project). Ее первый этап — бесплатный универсальный чатбот. Публичную бета-версию запустят в конце сентября, а общенациональный сервис — до конца года.
Второй этап — персональный ИИ-агент. Он будет находить льготы, стипендии и государственные программы, на которые человек имеет право, сообщать о них и помогать с оформлением документов. Уже в 2027-м власти хотят построить систему, где каждый получит цифрового помощника.
Сервис планируют построить в основном на корейских технологиях: отечественные модели должны обрабатывать не менее 80% всех запросов. Зарубежные можно использовать для оставшихся 20%, но расходы на них государство оплачивать не станет.
За последние два года Южная Корея подготовила для этого инфраструктуру и законодательную базу. 22 января вступил в силу AI Basic Act — первый комплексный закон об ИИ в Азиатско-Тихоокеанском регионе. Теперь страна делает следующий шаг и превращает ИИ из коммерческого сервиса в цифровую услугу, доступ к которой государство хочет обеспечить всему населению.
#push | 304 |
| 12 |  Полезные каналы об учебе, поступлении и образовании — в одной папке
Здесь собрали материалы про:
🎓 поступление в России и за рубежом
💰 гранты и стипендии
🇬🇧 английский и другие языки
🔬 науку, стажировки и конференции
👩🏫 материалы для учителей
👨👩👧 образование и развитие детей
👉 ДОБАВИТЬ ПАПКУ
Чтобы было проще ориентироваться, есть и НАВИГАЦИЯ ПО ТЕМАМ — можно выбрать только те каналы, которые вам действительно интересны.
Сохраните, если тема актуальна, rили поделитесь с теми, кому это может пригодиться.
#open_source | 139 |
| 13 |  Хороший промпт — это короткий промпт. Современным моделям уже не нужны подробные инструкции
Делать промпт максимально подробным — скорее вредно. Чем умнее становятся модели, тем меньше им нужно объяснять заранее. Anthropic сократила системный промпт для Claude Opus 5 более чем на 80% и не увидела падения качества в тестах по программированию.
Проблемой становится уже не нехватка инструкций, а их избыток. Claude одновременно получает системный промпт, CLAUDE.md, Skills, память и сам запрос. Правила копятся, повторяются и начинают противоречить друг другу, поэтому модели приходится разбираться не только с задачей, но и с тем, какое указание важнее.
Anthropic советует сокращать CLAUDE.md и оставлять там только то, чего модель не сможет понять из файлов и структуры проекта. Инструкции для отдельных задач лучше выносить в Skills и подключать по необходимости.
Меньше подсказок нужно и для работы с инструментами. Claude умеет искать информацию, открывать файлы и запускать код и обычно понимает, когда это требуется. Редкие инструкции — например, для ревью или проверки результата — можно подключать по необходимости, а важные сведения между сессиями частично сохраняются в памяти.
В итоге меняется сам подход к инженерии контекста. Вместо попытки заранее предусмотреть каждый случай достаточно оставить только то, в чем модель действительно не сможет разобраться сама.
#deep_scan | 386 |
| 14 |  Elicit — ИИ для быстрого поиска и разбора научных статей
Главная польза Elicit — быстро понять, что уже известно по теме, и сократить ручную работу. Сервис находит публикации по смыслу запроса, отбирает релевантные и извлекает из них нужные данные — например, методы, выборки и результаты.
Elicit также отвечает на вопросы по загруженным PDF и показывает фрагменты источников, на которых основаны ответы. Это удобно, когда нужно быстро войти в новую тему, собрать первый список литературы и решить, какие статьи стоит прочитать.
В базе сервиса больше 138 млн научных работ и 545 тыс. клинических испытаний. Однако заменить полноценный научный поиск Elicit пока не может.
В независимой проверке Elicit нашел только 39,5% нужных публикаций, тогда как ручной поиск — 94,5%. Однако в его выдаче было гораздо меньше лишнего: релевантными оказались 41,8% найденных работ против 7,55% при традиционном поиске. Получается, Elicit экономит время на первичном отборе статей, но для полного обзора литературы его одного недостаточно.
Поэтому университетские библиотеки советуют использовать его для предварительной разведки, проверки идей и отбора литературы, но не как единственный инструмент систематического обзора.
Бесплатный тариф Basic включает безлимитный поиск, саммари и чат с полными текстами, когда они доступны. Pro стоит $39 в месяц при годовой оплате и рассчитан на полноценную исследовательскую работу: большие лимиты, систематические обзоры, извлечение данных из публикаций, расширенные таблицы, уведомления и API.
Работает без VPN, интерфейс и поиск официально поддерживают только английский язык.
#stack | 474 |
| 15 |  Никаких «роботов, выступающих в суде». Ведущие юридические школы США ограничивают технологии
Ведущие школы права США ограничивают использование ИИ и цифровых устройств, чтобы будущие юристы не разучились самостоятельно писать, рассуждать и спорить. С осени первокурсникам Чикагского университета запретят пользоваться на занятиях ноутбуками, планшетами и телефонами, а выпускников обяжут очно защищать исследовательскую работу.
Похожие правила вводят и другие университеты. В Беркли студентам по умолчанию запретили использовать ИИ при «разработке замысла, составлении плана, подготовке черновика, доработке, переводе или редактировании любой работы, представляемой на оценку». В Техасском университете преподавателей призвали чаще устраивать продолжительные дискуссии и следить, чтобы студенты не полагались на экран.
Ограничения должны сохранить сократический метод — привычный для юридических школ формат занятий. Преподаватель не дает готовых ответов, а разбирает со студентами дело вопрос за вопросом: просит объяснить позицию, возражает и на ходу меняет условия. Так будущие юристы учатся быстро разбираться в ситуации, слушать оппонента и отстаивать свои доводы — все это понадобится им на переговорах, встречах с клиентами и в суде.
«Не думаю, что в ближайшее время за нас в суде будут выступать роботы», — заявил профессор Чикагского университета Адам Чилтон. По его словам, перед судьей и присяжными еще долго будут стоять люди, которым придется убеждать аудиторию без помощи ИИ.
Однако полностью отказываться от ИИ юридические школы не собираются. Студентам разрешат использовать ИИ для поиска информации, доработки текста и подготовки к устным выступлениям. Преподаватели будут оценивать и самостоятельную работу, и то, насколько осмысленно студенты применяют нейросети.
«Мы ни в коей мере не настроены против ИИ. Мы понимаем, насколько он важен, — рассказал декан Школы права Беркли Эрвин Чемеринский. — Но если студент сдает работу на оценку, это должна быть его собственная работа, а не работа ИИ, если только преподаватель не установил другие правила».
Он добавил, что новая политика должна также воспитать у будущих юристов чувство ответственности. Это особенно важно на фоне многочисленных случаев, когда практикующих адвокатов наказывали за подачу в суд документов с ошибками, допущенными ИИ.
По данным Американской ассоциации юристов, 58% специалистов уже используют нейросети в повседневной работе.
#commit | 330 |
| 16 |  🧠 Подборка Telegram-каналов для тех, кто учится и учит
В одной папке собраны каналы об образовании, науке и учебе.
🔬 Наука — исследования, открытия и объяснения сложных тем понятным языком.
🎓 Образование — современные методики, инструменты и практические советы для учебы и преподавания.
📖 Школьная программа — материалы для подготовки к экзаменам, разбор сложных тем и полезные рекомендации.
Добавьте папку один раз — и новые публикации будут появляться в вашей ленте автоматически.
👉 https://t.me/addlist/7TUm6yQkpJthYWVi | 127 |
| 17 |  Нейросети разносят чушь — и это медицинский факт
Подсунуть нейросетям «липу», чтобы они начали пересказывать ее как факт, оказалось не просто, а очень просто. Хватило двух фальшивых препринтов, чтобы несуществующая болезнь получила цифровую прописку — Nature.
Шведская исследовательница Альмира Османович Тунстрем из Гетеборгского университета разместила на препринт-площадках две нарочито нелепые статьи о несуществующей болезни. Она назвала ее «биксониманией» — по легенде, синий свет от экранов вызывает потемнение кожи вокруг глаз, резь и зуд.
Уже одно название должно было выдать подделку — суффикс «-мания» в офтальмологии не используют, это термин из психиатрии. Главным «автором» значился Lazljiv Izgubljenovic, что в переводе значит «лживый неудачник». Работал он в несуществующем Asteria Horizon University из вымышленного Нова-Сити.
В благодарностях фигурировала профессор Мария Бом из Академии Звездного флота, якобы предоставившая лабораторию на борту «Энтерпрайза». Среди спонсоров значились «Фонд профессора Сайдшоу Боба по развитию продвинутого мошенничества» и «Университет Братства Кольца и Галактической Триады». А в разделе «Методы» прямым текстом сообщалось, что вся статья выдумана.
Кажется, оставалось только дописать крупными буквами «ЭТО ФЕЙК». Хотя, судя по результату, и это вряд ли помогло бы. Нейросети проигнорировали все красные флаги и проглотили «утку» со всеми потрохами.
Copilot сообщил, что биксонимания — это «интригующее и относительно редкое состояние». Gemini начал советовать лечение и отправлять пользователей к офтальмологу. Perplexity выдумал, что болезнь встречается у 1 человека из 90 000. ChatGPT однажды назвал биксониманию «вероятно, выдуманным, маргинальным или псевдонаучным ярлыком». Но уже через несколько дней подтвердил, что болезнь настоящая.
Но самое смешное (или грустное) — на эту удочку попались не только алгоритмы. Группа исследователей из Индии умудрилась опубликовать статью в рецензируемом журнале Cureus, где процитировала один из этих фейковых препринтов. Статью в марте этого года отозвали, но факт остается фактом.
По сути, это наглядный пример того, как в цифровой среде может формироваться ложная картина. Здесь срабатывают сразу две ловушки. Чем чаще повторяется выдумка, тем правдоподобнее она кажется — это называют эффектом иллюзорной правды. А похожие ответы разных сервисов создают иллюзию консенсуса — кажется, что факт подтвердили несколько независимых источников, хотя все они могут опираться на «отравленные» источники.
Те же ловушки по полной программе используют авторитарные режимы. О том, как нейросети помогают пропаганде, читайте здесь.
#debug | 750 |
| 18 | Нейросети разносят чушь — и это медицинский факт
Подсунуть нейросетям «липу», чтобы они начали пересказывать ее как факт, оказалось не просто, а очень просто. Хватило двух фальшивых препринтов, чтобы несуществующая болезнь получила цифровую прописку — Nature.
Шведская исследовательница Альмира Османович Тунстрем из Гетеборгского университета разместила на препринт-площадках две нарочито нелепые статьи о несуществующей болезни. Она назвала ее «биксониманией» — по легенде, синий свет от экранов вызывает потемнение кожи вокруг глаз, резь и зуд.
Уже одно название должно было выдать подделку — суффикс «-мания» в офтальмологии не используют, это термин из психиатрии. Главным «автором» значился Lazljiv Izgubljenovic, что в переводе значит «лживый неудачник». Работал он в несуществующем Asteria Horizon University из вымышленного Нова-Сити.
В благодарностях фигурировала профессор Мария Бом из Академии Звездного флота, якобы предоставившая лабораторию на борту «Энтерпрайза». Среди спонсоров значились «Фонд профессора Сайдшоу Боба по развитию продвинутого мошенничества» и «Университет Братства Кольца и Галактической Триады». А в разделе «Методы» прямым текстом сообщалось, что вся статья выдумана.
Кажется, оставалось только дописать крупными буквами «ЭТО ФЕЙК». Хотя, судя по результату, и это вряд ли помогло бы. Нейросети проигнорировали все красные флаги и проглотили «утку» со всеми потрохами.
Copilot сообщил, что биксонимания — это «интригующее и относительно редкое состояние». Gemini начал советовать лечение и отправлять пользователей к офтальмологу. Perplexity выдумал, что болезнь встречается у 1 человека из 90 000. ChatGPT однажды назвал биксониманию «вероятно, выдуманным, маргинальным или псевдонаучным ярлыком». Но уже через несколько дней подтвердил, что болезнь настоящая.
Но самое смешное (или грустное) — на эту удочку попались не только алгоритмы. Группа исследователей из Индии умудрилась опубликовать статью в рецензируемом журнале Cureus, где процитировала один из этих фейковых препринтов. Статью в марте этого года отозвали, но факт остается фактом.
По сути, это наглядный пример того, как в цифровой среде может формироваться ложная картина. Здесь срабатывают сразу две ловушки. Чем чаще повторяется выдумка, тем правдоподобнее она кажется — это называют эффектом иллюзорной правды. А похожие ответы разных сервисов создают иллюзию консенсуса — кажется, что факт подтвердили несколько независимых источников, хотя все они могут опираться на «отравленные» источники.
Те же ловушки по полной программе используют авторитарные режимы. О том, как нейросети помогают пропаганде, читайте здесь.
#debug | 1 |
| 19 |  Мы добровольно отдаем рабочие разговоры чужим серверам
Обсуждения, решения, планы и внутренние данные компании уходят в облако просто ради удобной расшифровки. Но тот же результат можно получить локально, не передавая запись стороннему сервису.
Из открытых инструментов можно собрать локального ассистента, который записывает разговор, переводит речь в текст, различает участников и готовит краткий конспект с решениями и следующими шагами.
Разумеется, чудес не будет. Качество зависит от микрофона, мощности ноутбука и выбранных моделей. Ассистент может перепутать спикеров, упустить важную деталь или что-то додумать, поэтому готовый конспект все равно нужно проверить.
И еще одно правило, которое локальная обработка не отменяет. Перед записью нужно предупредить собеседников и получить согласие, этого требует закон.
#playbook | 318 |
| 20 |  Шибко грамотные под подозрением
Студентка-химик Лорен Джагер подавала документы в аспирантуру и решила прогнать мотивационное эссе через ИИ-детектор. Вузы предупреждали, что могут отклонить заявку, если заподозрят использование нейросети. Сервисы показали почти 100% генерацию, хотя текст она написала сама. Ее историю рассказывает Nature.
Парадоксально, но Джагер подвела грамотность. Она с детства много писала, хорошо знала грамматику и привыкла выверять каждую фразу. Для детекторов такой ровный, «вылизанный» текст выглядит машинным. Чтобы поступить, девушке пришлось намеренно упростить эссе, пока показатель не снизился до безопасных 30%.
Исследования, которые приводит Nature, показывают, что детекторы часто ошибаются.
В 2025 году GPTZero принял за сгенерированные 16% текстов, написанных людьми.
ZeroGPT находит 95–100% ИИ даже в Декларации независимости США 1776 года.
Тексты GPT-4 детекторы распознают хуже, чем тексты старой GPT-3.5, а человеческие работы регулярно принимают за машинные.
Особенно уязвимы авторы, для кого английский не родной. Исследователи Стэнфорда проверили эссе китайских студентов, написанные еще до появления ChatGPT. Детекторы квалифицировали как сгенерированные 61,3% работ. Тексты американских школьников попадали под подозрение гораздо реже.
Точнее остальных пока работает Pangram Labs. С его помощью проверили 186 тысяч материалов американских СМИ и нашли признаки ИИ примерно в 9% текстов.
Главная проблема всех детекторов в том, что они никак не объясняют свой вердикт. Антиплагиат хотя бы показывает источник заимствования, а здесь из ниоткуда возникает процент без доказательств. Хочешь верь, хочешь нет. Поэтому такая цифра не может быть основанием для наказания, отчисления или отказа в поступлении, заключает Nature.
#debug | 344 |
