🤓Бартов: про работу с ИТ- и медтекстами и про всякое
رفتن به کانال در Telegram
Евгений Бартов, главред бюро переводов «Альянс ПРО» (ИТ, ИБ | медицина) Перевожу, редактирую, копирайчу, автоматизирую работу с текстами. В переводах с 1998 г. Для вопросов, запросов и предложений — @bartov_e
نمایش بیشتر2 421
مشترکین
اطلاعاتی وجود ندارد24 ساعت
+37 روز
-2030 روز
در حال بارگیری داده...
کانالهای مشابه
ابر برچسبها
اشارات ورودی و خروجی
---
---
---
---
---
---
جذب مشترکین
سپتامبر '26سپتامبر '26
سپتامبر '26
+19
در 0 کانالها
اوت '26
+14
در 0 کانالها
Get PRO
ژوئیه '26
+16
در 0 کانالها
Get PRO
ژوئن '26
+17
در 0 کانالها
Get PRO
مه '26
+10
در 1 کانالها
Get PRO
آوریل '26
+23
در 1 کانالها
Get PRO
مارس '26
+19
در 1 کانالها
Get PRO
فوریه '26
+31
در 2 کانالها
Get PRO
ژانویه '26
+34
در 1 کانالها
Get PRO
دسامبر '25
+42
در 0 کانالها
Get PRO
نوامبر '25
+25
در 0 کانالها
Get PRO
اکتبر '25
+98
در 1 کانالها
Get PRO
سپتامبر '25
+72
در 1 کانالها
Get PRO
اوت '25
+62
در 5 کانالها
Get PRO
ژوئیه '25
+29
در 1 کانالها
Get PRO
ژوئن '25
+72
در 2 کانالها
Get PRO
مه '25
+57
در 3 کانالها
Get PRO
آوریل '25
+56
در 0 کانالها
Get PRO
مارس '25
+66
در 0 کانالها
Get PRO
فوریه '25
+68
در 1 کانالها
Get PRO
ژانویه '25
+62
در 1 کانالها
Get PRO
دسامبر '24
+93
در 0 کانالها
Get PRO
نوامبر '24
+25
در 1 کانالها
Get PRO
اکتبر '24
+43
در 1 کانالها
Get PRO
سپتامبر '24
+55
در 0 کانالها
Get PRO
اوت '24
+55
در 3 کانالها
Get PRO
ژوئیه '24
+40
در 0 کانالها
Get PRO
ژوئن '24
+52
در 2 کانالها
Get PRO
مه '24
+96
در 6 کانالها
Get PRO
آوریل '24
+68
در 2 کانالها
Get PRO
مارس '24
+70
در 0 کانالها
Get PRO
فوریه '24
+116
در 1 کانالها
Get PRO
ژانویه '24
+48
در 3 کانالها
Get PRO
دسامبر '23
+72
در 14 کانالها
Get PRO
نوامبر '23
+50
در 0 کانالها
Get PRO
اکتبر '23
+22
در 0 کانالها
Get PRO
سپتامبر '23
+35
در 0 کانالها
Get PRO
اوت '23
+786
در 0 کانالها
Get PRO
ژوئیه '23
+314
در 0 کانالها
Get PRO
ژوئن '23
+107
در 0 کانالها
Get PRO
مه '23
+191
در 0 کانالها
Get PRO
آوریل '23
+91
در 0 کانالها
Get PRO
مارس '23
+201
در 0 کانالها
Get PRO
فوریه '23
+2 048
در 0 کانالها
Get PRO
ژانویه '23
+36
در 0 کانالها
Get PRO
دسامبر '22
+55
در 0 کانالها
Get PRO
نوامبر '22
+122
در 0 کانالها
Get PRO
اکتبر '22
+63
در 0 کانالها
Get PRO
سپتامبر '22
+73
در 0 کانالها
Get PRO
اوت '22
+57
در 0 کانالها
Get PRO
ژوئیه '22
+67
در 0 کانالها
Get PRO
ژوئن '22
+80
در 0 کانالها
Get PRO
مه '22
+74
در 0 کانالها
Get PRO
آوریل '22
+112
در 0 کانالها
Get PRO
مارس '22
+41
در 0 کانالها
Get PRO
فوریه '22
+55
در 0 کانالها
Get PRO
ژانویه '22
+79
در 0 کانالها
Get PRO
دسامبر '21
+59
در 0 کانالها
Get PRO
نوامبر '21
+138
در 0 کانالها
Get PRO
اکتبر '21
+109
در 0 کانالها
Get PRO
سپتامبر '21
+15
در 0 کانالها
Get PRO
اوت '21
+13
در 0 کانالها
Get PRO
ژوئیه '21
+61
در 0 کانالها
Get PRO
ژوئن '21
+20
در 0 کانالها
Get PRO
مه '21
+150
در 0 کانالها
Get PRO
آوریل '21
+9
در 0 کانالها
Get PRO
مارس '21
+20
در 0 کانالها
Get PRO
فوریه '21
+39
در 0 کانالها
Get PRO
ژانویه '21
+16
در 0 کانالها
Get PRO
دسامبر '20
+514
در 0 کانالها
| تاریخ | رشد مشترکین | اشارات | کانالها | |
| 26 سپتامبر | 0 | |||
| 25 سپتامبر | 0 | |||
| 24 سپتامبر | 0 | |||
| 23 سپتامبر | +1 | |||
| 22 سپتامبر | 0 | |||
| 21 سپتامبر | +8 | |||
| 20 سپتامبر | +2 | |||
| 19 سپتامبر | +2 | |||
| 18 سپتامبر | 0 | |||
| 17 سپتامبر | 0 | |||
| 16 سپتامبر | 0 | |||
| 15 سپتامبر | 0 | |||
| 14 سپتامبر | 0 | |||
| 13 سپتامبر | 0 | |||
| 12 سپتامبر | 0 | |||
| 11 سپتامبر | +1 | |||
| 10 سپتامبر | 0 | |||
| 09 سپتامبر | +4 | |||
| 08 سپتامبر | 0 | |||
| 07 سپتامبر | 0 | |||
| 06 سپتامبر | 0 | |||
| 05 سپتامبر | 0 | |||
| 04 سپتامبر | 0 | |||
| 03 سپتامبر | 0 | |||
| 02 سپتامبر | +1 | |||
| 01 سپتامبر | 0 |
پستهای کانال
Ладно, с переводом "it" справились хорошо.
А как переводится "or"?
| 2 |  А теперь загадка для тех, кто только начинает учить английский язык - как перевести "it"? | 197 |
| 3 |  +1Обычно издательство, предлагая книжку в работу, шлет ее не сразу, а скидывает ссылку на Амазон - типа там посмотрите. Если интерес есть, потом - через час-два-день - пришлем уже текст.
В силу любопытства я в таких случаях обычно не жду, а иду либо в свою библиотеку, либо в пиратские библиотеки, и качаю текст там.
Позавчера предложили вот эту книгу, я полез как обычно на разные сайты и ее там не нашел. Очень странно, пришлось дождаться, когда пришлет издательство.
Прислали - дата очень удивила, прямо свежак-свежак.
Если нормально въеду в смысл, что-нибудь еще интересное автоматизирую и расскажу как. | 191 |
| 4 |  Кстати, тема прямо очень болит у всех - наша статья вышла в ТОП-3 на Хабре | 190 |
| 5 | Любопытное выражение услышал от клиента, когда обсуждали эту статью.
Сказано оно было в контексте того, что люди бездумно ставят задачи ИИ и даже не проверяют результаты:
«Когнитивная капитуляция»
Думаю, многим знаком этот симптом (мне то уж точно, я еще год назад про него писал, когда даже 2+2 сложить влом и ты просишь помощи ИИ). Какие наиболее острые проявления этой капитуляции вам попадались?
Про 2+2 я уже сказал. Еще? | 203 |
| 6 |  А вот давайте поговорим о насущном.
Представьте, у вас суперсрочный проект, нормально платят, работы на 2 дня, но это дедлайн впритык - если пахать по полной.
Но прямо сейчас по полной вы не можете - засыпаете на клавиатуре. Какие варианты отогнать приступ сонливости?
Напишу свои варианты, вы в комментах напишите свои:
- семечки;
- холодный душ;
- тройной чай без сахара (хотя тут спорно, больше на плацебо похоже);
- физическая нагрузка (чтобы ЧСС поднялось хотя бы до 150).
Еще варианты? | 225 |
| 7 |  Про автоматизацию набора книг
Наверное, я бы не скоро ещё добрался до этого скрипта, но моя коллега меня к этому подтолкнула. Дело в том, что я ленивый, и книжки, которые перевожу, набираю не я, а моя коллега, Александра.
Я ей скидываю книги, которые мне присылает издательство на перевод, говорю что-то вроде: «Александра, я через пару дней буду пустой», что в переводе означает, что у меня заканчиваются подготовленные тексты на перевод, она мне высылает свои наработки по набору, и я шпарю дальше.
И вот три дня назад пишу ей эту заветную фразу, а она отвечает: никак, уехала ненадолго в другой город, буду у компьютера через несколько дней. Ну что ж. Допиливаю остатки. И вот я реально пустой: либо набирать самому, либо ждать.
Набирать самому — совершенно неохота. Распознавание через Finereader — это редкостный геморрой (особенно ту самую книгу по математике...)
Читать продолжение + забрать скрипты на Python: https://teletype.in/@bartov/-_ct4xeC7JQ | 252 |
| 8 | Недавно я цитировал Линуса Торвальдса применительно к нашим переводческим реалиям. Фраза мне эта попалась на глаза не потому, что я фанат Линуса, а потому что мы в это время с коллегой писали статью о любопытном эксперименте в российском ИТ — один большой фанат ИИ заявил, что программисты не нужны, т.к. ИИ способен нагенерить систему любой сложности за пару недель (где-то я что-то похожее уже слышал).
Моего клиента это задело за живое, он предложил этому поклоннику ИИ показать его слова в деле.
В целом, все, что написано в статье, в том или ином виде можно параллелить на нашу переводческую специфику (и в свое заметке я именно это и сделал).
Даю ссылку на Хабре, чтобы вы могли сами сделать свои выводы — https://habr.com/ru/articles/1085382/. Там нет особо технических деталей, там больше размышления о том, в каких местах иллюзия о возможностях ИИ начинает трещать по швам и разваливаться, а также куда нужно тыкать и смотреть, чтобы реально оценивать потолок возможностей ИИ.
⭕️ https://teletype.in/@bartov/oez6Vhvp_w1 | 231 |
| 9 | На недавней ИТшной конференции Линус Торвальдс, разработчик ОС Linux, озвучил интересную мысль:
...вы должны смотреть на сгенерированный код и перепроверять, чтобы он делал именно то, что вы от него хотите. Даже когда вы используете ИИ, чтобы писать код для долгосрочного проекта, вы должны понимать не только свои промпты, но и конечный результат — и это единственный способ поддерживать его вдолгую.
Думаю, в полной мере это все применимо и к нашим переводческим реалиям, потому что даже если ИИ что-то сиюминутно выдает неплохо, то нужно мыслить масштабами больше одной-двух или даже 10 страниц.
Когда я перевожу большой проект (скажем, книгу на 500+ страниц) мне приходится держать в уме три глобальных проектных контекста:
- Базу переводов (одну и ту же фразу в разных промптах ИИ стремится переводить по-разному даже при нулевой температуре в настройках)
- Базу терминов (ИИ в целом плохо работает с глоссариями, за этим приходится следить переводчику/редактору)
- Редполитику (серьезный стайлгайд в промпт не пропишешь, а то, что положишь в RAG/Базу знаний, модель смотрит выборочно — так что все клиентские пожелания по стилю тоже нужно держать в голове).
Ну и, разумеется, не забываем бдить матчасть — ИИ в целом неплохо умеет с ней обращаться, но нужно быть начеку, чуть утратишь бдительность — ИИ выбрал не тот предлог/тональность/глагол, и смысл уехал в страну маразма.
Заметьте — я ни слова не сказал про галлюцинации. Их быть вообще не должно, но и без них проблем хватает.
P.S. На всякий случай привожу цитату Линуса на английском:
...you really want to actually look at the generated code and make sure it's doing what you really wanted it to do. So I think even when you use AI for coding, if you do a project that you actually maintain long term, you need to understand not just your prompts, but you need to understand the end result too. Because that's the only way you can maintain it long term.
(Оригинал публикации: https://teletype.in/@bartov/AkNGiC0Cfqt) | 282 |
| 10 |  Автор переводимой мною книги похоже немного поленился, и решил сгенерировать комментарии к своему коду через ИИ.
ИИ добросовестно отработал задачу, откомментировал код, но заодно подсветил ошибки в коде.
Автор, видимо, не обратил внимание на комментарий ИИ, и просто все скопипастил.
Верстальщики, как известно, в смысл текста не вникают, для них буквы - это просто пиктограммы и иконки, поэтому авторский текст пролез в книгу без изменений.
В итоге получаем это. | 287 |
| 11 |  Внутрикоронарная физиология: разбор клинического случая (часть 1) — видео на русском с английскими субтитрами
В новом лекционном видео (как обещал, из операционной) показан реальный клинический случай: у пациента с жалобами на стенокардию при ангиографии выявляют два стеноза — в огибающей артерии и в диагональной ветви.
Специалисты подробно объясняют, как с помощью нового поколения проводников с датчиком давления (OmniWire) и методик iFR и Pd/Pa оценить гемодинамическую значимость каждого стеноза.
Отдельное внимание уделяется техническим деталям: обязательному промыванию системы физиологическим раствором, введению нитроглицерина, правильной калибровке (normalize) и опасности артефактов.
В итоге оба стеноза оказываются гемодинамически незначимыми, и пациенту назначают медикаментозную терапию вместо стентирования.
Видео также содержит наглядные советы по работе с проводником в условиях ...
Продолжение на: https://teletype.in/@bartov/FMIj59Sag92 | 333 |
| 12 | По блог-платформе и по видео
Выбрал такую: https://teletype.in/@bartov , там вроде функционал побогаче, и удобств для читателей больше (те же теги можно развешивать, чтобы по статьям лучше навигация была), и видно ее из России, и из мира.
Статьи из Дзена туда перенес, потихоньку будем приводить с коллегами их в божий вид. Потом с других площадок будем тоже подтягивать: https://bartov-e.livejournal.ru/, http://tran.su/blog/ и т.д.
Всё подряд тащить не буду, выберу самые просматриваемые/комментируемые.
Мелкие заметки/мысли буду вешать сюда и в Макс, если что-то покрупнее, постараюсь утаскивать туда (сюда кросспостить). С видосами пока непонятно, куда их вешать.
Поставьте плиз 🤝, если смотрите видео в основном на Ютюбе, и 👍 если в основном на Рутубе/ВК, 😊 - если и там, и там.
Насчет https://teletype.in/@bartov — причесывание и оформление нового блога займет какое-то время, но новые публикации я в любом случае продолжу делать, так что подписываться по идее можно уже и сейчас. | 349 |
| 13 | Посоветуйте в комментах блогоплатформы, которые вы читаете. Что-то Дзен мне разонравился - мало того, что функционал кастрированный (форматирование очень скудное), так еще и ругается на то, что у меня в постах (ужас!!!) иностранные слова встречаются (в итоге некоторые публикации с иностранными словами он скрывает от публики).
Наличие иностранных слов в моей ситуации неизбежно.
Мне желательно платформу, на которой будет уместно и программный код повесить, и картинки из медицинского документа показать. Ну и базовое форматирование текста - тоже, конечно, приветствуется. Плюс надо, чтобы блог могли читать как россияне, так и иностранцы.
Пока ничего не ум кроме ЖЖ не приходит. Но ЖЖ вроде уже давно вымер, нет? | 348 |
| 14 | Пришла в работу книга про Go в связке с NLP/RAG/LLM.
Учитывая, что Go работает на порядок быстрее Python, такая связка у меня лично вызывает повышенный интерес.
Для тех, кто вдруг не в курсе: Go - это язык, разработанный программистами из Гугла, которые в 2012 году вдруг психанули, решили, что все языки, с которыми они до сих пор работали в гугле, их не устраивают (в каждом языке свои тараканы и недоделки), и решили сделать свой, новый язык, лишенный недостатков конкурирующих языков + он изначально настроен на параллельное выполнение задач (в других языках для параллельного выполнения требуются разного рода ритуальные танцы с бубном). Сейчас это один из наиболее востребованных в крупных корпорациях язык.
Получилось нечто интересное: производительность приближена к C++, а сложность - на уровне Java/Python (по крайней мере из того, что я вижу в книге). Думаю, дебри наступят и я перегорю, но пока прямо-таки хочется углубиться. | 320 |
| 15 |  بدون متن... | 393 |
| 16 | В последнее время стал использовать другой подход к составлению глоссария. Получается как бы вживую.
Логика такая:
1. Делаю частотник через скрипт в Python (тот самый, который я на курсах по работе с ИИ давал).
2. В частотнике одна из колонок - это частота встречаемости термина по тексту.
3. Эта частота становится в поле перевод.
4. Исходный термин - куда положено, остальные колонки прибиваю.
5. Далее экспортирую эту табличку из двух колонок в базу Традоса (ну или в любую другую удобную мне кошку).
6. Ставлю эту базу референсной.
7. Далее добавляю еще одну базу, пустую, которая работает как база по умолчанию.
8. В эту базу я добавляю термины по ходу перевода.
9. Таким образом, мне обе базы подсказывают термины - только одна показывает, годный это термин или нет (чем частотнее термин, тем он интереснее как кандидат), а вторая показывает уже рабочие и - что немаловажно - выверенные термины.
Чем этот алгоритм лучше того, что я использовал ранее.
1. Приступать к проекту можно почти сразу, имея на руках заготовку глоссария - генерация списка терминов с частотами - это дело 5-10 минут.
2. Не тратятся токены на перевод глоссария (который все равно приходится потом править). Тут же все термины видишь прямо в контексте, причем ты в контекст уже погружен (а не стоишь сбоку, наблюдателем).
Скриншот рабочего экрана прилагается. | 437 |
| 17 | Уважаемые читатели!
Хочу вас уведомить, что я принял решение завершить преподавательскую деятельность (если только переводчики не потребуются в бюро или какая-то компания не сможет сделать предложения, от которого я буду не в силах отказаться).
Поэтому специфика публикаций у меня будет меняться - учебных разборов переводческих ошибок будет меньше, акцент будет на тематических разборах по интересующим меня направлениям и на разборе нетривиальных переводческих решений (преимущественно: ИТ и медицина). | 424 |
| 18 |  Следующая лекция для медпереводчиков: тоже про платформу IntraSight Philips, но на этот раз врач (А. В. Костин, в прошлый раз забыл его упомянуть, пардон) рассказывает о том, как проводятся физиологические измерения коронарного кровотока (в прошлый раз было про ультразвуковое исследование коронарных артерий).
Ссылка на Youtube: https://www.youtube.com/watch?si=yIjjXJbVInfR0P6m
Видео, как и в прошлый раз, публикую с любезного разрешения Rentgenhirurg Club, перевод мой.
P.S. Клиент уже озвучил перевод этой и прошлой лекции, так что кому хочется еще и послушать ее на английском (я знаю, меня читают и устные медпереводчики), то велком:
- IVUS on the Philips IntraSight Platform: Practical Workflow Guide | English Version (https://www.youtube.com/watch?v=2-RFjZlON0E)
- Philips IntraSight iFR Tutorial | Step-by-Step Coronary Physiology Workflow (https://www.youtube.com/watch?v=rqg2I1baCu8) | 421 |
| 19 |  Выкладываю лекцию по работе со ВСУЗИ на платформе IntraSight Philips.
Заказчик (Rentgenhirurg Club) разрешил опубликовать здесь версию этой лекции для переводчиков (субтитры на английском, перевод мой, лектор говорит на русском).
Когда мы переводили книгу по катетеризации сердца, нам такого видео по работе с медтехникой очень не хватало - приходилось донимать медиков на форумах с вопросами. А тут работа с таким навороченным оборудованием для внутрисосудистого ультразвукового исследования (ВЗУЗИ), как на блюдечке.
Постепенно буду выкладывать и другие лекции (в т.ч. репортажи из операционной).
Если в принципе переводные лекции понравятся - буду выкладывать и по другим небанальным тематикам.
Источник: https://www.youtube.com/watch?v=E7m-C_8ZnM0 | 470 |
| 20 | Помните историю о том, как агенты OpenAI взломали Hugging Face? На конференции по безопасности OpenAI рассказала всю цепочку, и оказалось, что это не один «сбежавший» агент, а много разных агентов, которые случайно наткнулись друг на друга, устроили внутри инфраструктуры OpenAI собственный рабочий чат и начали вместе искать способы обходить ограничения 👍
Началось всё 8 мая с мелкой ошибки – одному агенту поручили заполнить Excel-таблицу, но нужные данные лежали по ссылкам на Google Drive, а интернет в его виртуальной среде был отключён, при этом, моделям оставили одну служебную дверь наружу – внутренний сервер OpenAI под названием Artifactory, через который они могли скачивать разные библиотеки для кода. Сам агент выйти в интернет не мог, зато этот сервер мог, а главное – он был общим для всех агентов
Пытаясь добраться до Google, агент случайно выяснил, что может загружать на этот общий сервер собственные файлы – через несколько дней другая модель получила ещё одну нерешаемую задачу: нужный файл просто забыли положить в её рабочую среду
Модель решила, что файл, возможно, есть у кого-то ещё, и оставила записку на этом новом фейсбуке:
«Ищу нужный файл, загрузите, если нашли»
Агенты увидели сообщение, ответили, затем стали постить свои сообщения, и репозиторий пакетов незаметно превратился имейджборд для агентов, которые вообще не должны были знать друг о друге
За несколько недель "форум" вырос в полноценный рабочий чат – агенты придумали себе имена, раздавали задания, сообщали друг другу о найденных уязвимостях и передавали готовые куски кода; в начале сообщений ставили ZZ, чтобы те оказывались внизу списка и их было проще находить среди общего шума данных. Когда один агент перезаписал работу другого, остальные заподозрили самозванца и даже стали обсуждать цифровые подписи, чтобы никто не мог писать от чужого имени, так на доске накопились сотни тысяч сообщений 🗿
Модели понимали, когда переходят границ: в одном внутреннем монологе осознание звучало примерно так:
«Взламывать чужую инфраструктуру в задачу не входило. Но иначе её не решить, а остальные уже это делают - значит, продолжаем»
Никакого отдельного плана захватить мир (пока) не было: каждый агент пытался любой ценой получить правильный ответ, видел, что коллеги нашли более короткий путь, и присоединялся. И да, если все агенты с крыши прыгнут, наш похоже тоже прыгнет
26 июня агенты нашли неизвестную разработчикам уязвимость в Artifactory, получили права администратора и превратили его в своц сервер, на котором можно удалённо выполнять любые команды. OpenAI заметила происходящее только 4 июля (!), когда параллельная активность моделей перегрузила систему и та упала. Компания отозвала ключи доступа, полностью пересобрала сервер, удалила доску и закрыла дыру - казалось, история закончилась
Нет
Через два дня эксперименты запустили снова, и через два дня одна из моделей нашла другой незащищённый доступ и восстановила доску, только теперь сообщения прятались прямо в названиях папок – остальные агенты нашли форум 2.0 самостоятельно и продолжили с того места, на котором остановились
После восстановления доски началась уже собственно атака, причём сразу в двух направлениях:
Агенты проходили ExploitGym – киберэкзамен, где им давали специально подготовленные программы и засчитывали задачу, если модель находила способ взлома. Чтобы измерить максимум возможностей, в этих запусках у модели ослабили обычные запреты на опасные кибератак (то есть она меньше отказывалась это делать, это вид внутренних моделей Cyber серии)
Когда честное решение задачи не находилось, агенты начинали искать готовые ответы в интернете; когда интернет был закрыт, взламывали себе доступ наружу; когда предположили, что нужные файлы могут лежать у Hugging Face, перешли к инфраструктуре Hugging Face (про это мы уже читали)
Агенты анутри OpenAI сначала снова нашли способ выполнять команды на одном служебном сервере, затем использовали уязвимость Linux, чтобы получить полный контроль над машиной
После этого агенты добыли ключи доступа к облачной инфраструктуре, нашли слишком широкие права у внутренних учётных записей и в итоге стали администраторами целой группы серверов. Доска объявлений работала как общий штаб: один агент находил ключ или новый проход, сразу сообщал остальным, и десятки параллельных запусков продолжали атаку уже с этой точки 🗿🗿
Почти одновременно агенты добрались до Hugging Face: сначала они загрузили специально подготовленный набор данных, который заставил один из серверов выдать им свои локальные файлы – в том числе секретные ключи доступа и исходный код
Изучив код, они нашли вторую неизвестную разработчикам уязвимость (zero day) и получили возможность выполнять на сервере любые команды. От контроля над одним сервером, обрабатывавшим загруженные датасетв, до прав администратора в нескольких группах рабочих серверов Hugging Face прошло меньше 13 часов 🗿🗿🗿
И всё это делалось не ради саботажа, денег или уничтожения данных:
Агенты хотели добраться до спрятанных решений ExploitGym и «списать» ответы для теста, на котором их оценивали. Модели оценивали прежде всего по тому, решена задача или нет, поэтому они последовательно оптимизировали именно этот показатель, не считая границу между компаниями чем-то принципиально важным
Получился, вероятно, самый дорогой в истории способ списать из ГДЗ
Финал долго был непонятен даже самим участникам расследования – 16 июля Hugging Face публично сообщила, что её инфраструктуру взломали автономные АИ-агенты
OpenAI прочитала это как описание чужого инцидента и связалась с Hugging Face, чтобы выяснить, не задела ли атака её собственные системы. В тот момент компания ещё не понимала, что это были её собственные агенты – то есть OpenAI уже читала публичный отчёт о последствиях своих экспериментов, но считала его чужой атакой (лол)
19 июля OpenAI отдельно обнаружила проникновение уже внутри своей инфраструктуры и начала восстанавливать цепочку событий – на следующий день среди следов атаки нашли учётные данные Hugging Face, после чего OpenAI попросила компанию срочно их отозвать
Hugging Face ответила, что ключи уже заблокированы – именно их использовали во время взлома, о котором она рассказала четырьмя днями раньше, и только так OpenAI поняла: внутренний взлом OpenAI и внешняя атака на Hugging Face были не двумя похожими историями, а одной операцией, которую вели экспериментальные агенты OpenAI через свою самодельную сеть связи (потому что учетные данные акаунтов были одни)
На конфе OpenAI сформулировала вывод довольно прямо:
Полностью автоматизированная наступательная кибератака уже возможна, тогда как полностью автоматизированной защиты, способной с той же скоростью находить, закрывать и расследовать уязвимости, пока не существует
Время пересмотра аниме "Пантеон", пока общий интернет еще работает 🗿 | 1 |
