нейро~чистилище

how long till the nationalization?

Суцкевер создал компанию с дословной целью построить "безопасный сверхинтеллект" и планирует билдить as fast as possible 💀

ssi.inc Superintelligence is within reach. Building safe superintelligence (SSI) is the most important technical problem of our time. We've started the world’s first straight-shot SSI lab, with one goal and one product: a safe superintelligence.

Дрон с нейросетью и распознаванием целей. ➰ Разработчики из КБ "Стратим" показали еще один (какой уже по счету?) дрон с нейросетью на борту, которая занимается распознаванием целей и самонаведением на конечном участке траектории. Она натренирована на узнавание артиллерии, бронетехники и транспорта прямо во время полета. Благодаря этому БПЛА "Русак-С" может работать даже тогда, когда потеряна связь из-за работы РЭБ, расстояния или сложного рельефа местности. 🔝 Все вычисления происходят прямо на борту, в одноплатном компьютере, и беспилотнику не нужно получать команды от оператора. Стоимость системы измеряется десятками тысяч рублей, но это на несколько порядков ниже, чем, например, стоимость головки самонаведения Джавелина.

🔥😬

👽

И в заключение перевод последнего блока официального поста с анонсом статьи: === Будущее: полностью автоматизированный исследователь искусственного интеллекта, который постоянно совершенствуется Существует много интересных путей дальнейшего продвижения предложенного процесса автоматизации исследований <...> Наконец, мы считаем, что необходимы более эффективные методы отбора потенциальных решений <...> Наша работа подчеркивает огромный потенциал использования современного искусственного интеллекта для создания процесса самоулучшения. В будущем мы предполагаем, что этот подход можно будет использовать в открытой форме. То есть LLM неоднократно предлагает изменить части себя (любую часть обучения или работы системы) или части различных агентов, которые в конечном итоге дают обратную связь самим себе (например, посредством дебатов между собой). В этом проекте мы изучили возможности предложения кода различных LLM, включая GPT-4, Gemini-1.5 и Llama-3. Хотя все модели в целом были способны генерировать подходящие целевые функции, в конце концов мы решили использовать пограничную модель GPT-4, чтобы оценить, что в настоящее время осуществимо. Мы ожидаем, что возможности, обнаруженные в этой работе, будут возможны с большинством других передовых моделей, включая модели с открытым исходным кодом <...>В будущем мы хотели бы использовать предлагаемый процесс исследования для разработки самоусовершенствующихся ИИ-агентов в замкнутом цикле и с использованием открытых моделей. === Напомню, что a) OpenAI хотят делать то же самое (и скорее всего уже активно делают) б) Чем лучше базовая модель, тем лучше генерируемые гипотезы и варианты в) Лучшие базовые модели последние 3-4 года у OpenAI г) В этом году мы ждём GPT-4.5/GPT-5/GPT-Next, как там её назовут, и можно ожидать, что методы, подобные описываемым, будут работать ещё лучше