Гриненко про ИИ, бизнес и образование

Я подписан на уйму всякого околонейросетевого, и на удивление мало кто написал про исследование Ника Каммараты «Neural Networks Are Already Clean». Ник давно и профессионально занимается интерпретируемостью нейронок и пришел к выводу, что разобраться с тем, что у них там внутри, все-таки можно. В своей статье он опровергает свои же предположения из прошлых работ и показывает, что: * во-первых, нейроны в LLM не обладают суперпозицией в смысле произвольного объединения несвязанных признаков * во-вторых, крупные модели могут оказаться проще для интерпретации, чем небольшие * а в-третьих, если изучать не финальное состояние модели, а прослеживать эволюцию в процессе обучения, то поведение нейронов, которое казалось хаотичным, оказывается объяснимым. И с этими новыми вводными гипотетически становится возможно натравить толпу агентов на большую LLM и выяснить, что это она там замышляет против человечества. Но тут пришел Сережа @veged_and_code Бережной и сказал, что всё фигня, мы и друг друга-то не особо понимаем — куда нам на кремниевых коллег по разуму замахиваться. Короче, получился очередной отличный выпуск «ИИ — не новостей», а мы с Сережей снова не подрались. Приходите делать ставки — разберутся человеки с этой черной коробочкой или скайнет победит — в уютном чате @grinenko_pro! Поставьте лайк, поделитесь видео с друзьями и не забывайте подписаться, чтобы не пропустить новые не новости! Будет лютый холивар за инфру. Приятного просмотра! @devspotting