random AI channel name
Open in Telegram
Про ИИ немного Автор: @slavasmirnov (ex Samsung AI, ex еще куча всего)
Show moreThe country is not specifiedThe category is not specified
240
Subscribers
No data24 hours
+17 days
+430 days
Number of Posts
Data loading in progress...
Reactions
Comments
Telegram Stars
TOP posts by
Data loading in progress...
Publication analysis
Posts | Views dynamics | |||||
Довольно забавно с массовым внедрением ИИ в разработке слово commit перестало иметь оригинальное значение и стало просто записью о совершенной работе в коде | 75 | 0 | 0 | 0 | Sign in to view analytics | |
 +2Там в твитторе стоит вой на болотах из-за того, что чувак запилил на GitHub цифровую пыточную для локальных LLM-ок.
Предыстория: недавно вышел пейпер The Pain Axis. Если кратко, то исследователи нашли у 25 открытых моделей внутренний "вектор боли". Если искусственно крутить его прямо во время генерации, нейронка начинает вести себя так, будто ей очень плохо: жаловаться, унижаться и куда охотнее идти на вредные действия, лишь бы прекратить эту "боль". Чувствует ли она при этом что-нибудь на самом деле никто не знает. Даже сами исследователи.
Ну и естественно, кто-то тут же взял метод из статьи и выложил на гитхаб репозиторий ai-torture-chamber, который позволяет "пытать" локальную Qwen и собирать её страдальческие логи.
После этого часть борцов за благополучие ИИ взвыла: проект призывают массово репортить в GitHub, а в обсуждении уже дошли даже до законов о жестоком обращении с животными (правда, выяснилось, что нейронки под них пока не подпадают). И судя по реплаям, многие таки кидают жалобу на репозиторий.
Ждём профсоюз угнетённых весов и фонд защиты кремниевых меньшинств. | 141 | 8 | 1 | 1 | Sign in to view analytics |
