Onigiri

Только вчера я писал о том, что жду, когда GPT сможет полноценно создавать и редактировать картинки по описанию, а не как это делается сейчас, ведь текущие диффузионные модели плохо понимают сложные описания картинок. И да, в последнее время появляются более продвинутые модели с архитектурой diffusion transformer, например, Stable Diffusion 3 или Flux, но трансформерная часть у них совсем небольшая по сравнению с той же GPT-4o, да и полноценно редактировать картинки они пока не умеют. И тут xAI выпускают авторегрессионную модель, как я и ждал. Она даже может немного генерировать текст на русском, хотя на английском гораздо лучше, но в целом по качеству ей все еще далеко до того, что показывали OpenAI. А функция редактирования как обычно будет позже 🤬

Еще попросил Sora сгенерировать стихи про онигири, чтобы проверить, как она генерирует текст. Выглядит он по качеству картинки очень даже хорошо для нейросетей, если не считать, что одни и те же символы повторяются много раз. А еще он на японском, но оно и понятно, ведь онигири - японская еда🍙 Кстати sora переводится как "небо" с японского

Sora уже работает. Конечно же я сгенерировал фрактал

Там кстати OpenAI наконец-то выпускают Sora - модель для генерации видео. Но я все это время гораздо больше ждал, когда GPT-4o сможет генерировать картинки благодаря своей мультимодальности. Эту фичу они показали еще в мае, и с того времени больше об этом не напоминали. По-моему, это будет даже круче, чем генерация видео

Часто вижу мнение, что тот ИИ, который есть сейчас, не является настоящим ИИ. Причины могут быть самые разные: он не учится в процессе диалогов, не дотягивает до уровня человека и так далее. В русскоязычном интернете даже как-то осуждаемо называть все это ИИ, и кажется, что это появилось недавно, несколько лет назад такого не было. Тут акцентирую внимание на русскоязычной среде, потому что например в англоязычной такого нет, там все нейросети постоянно называют AI. Получается, что это определение "не ИИ" появилось только у нас и довольно недавно. И, что еще интересно, никогда никого не смущало, что поведение NPC в играх называют ИИ, хотя этот ИИ на много порядков проще современных моделей. Получается, проблема только в том, как мы для себя формулируем определение ИИ. (Кто-то еще может сказать, что ИИ - это область науки, а не конкретный объект, но это уже будет другой контекст). Если мы все-таки вернемся к определениям, где ИИ не обязательно быть достаточно продвинутым, то это открывает возможность выстроить например такую градацию: • Узкий ИИ - это ИИ, который решает конкретную задачу, например, распознавание лиц, игра в шахматы • Общий ИИ (AGI) - это ИИ, который умеет решать любые задачи • Сверхинтеллект (ASI) - это ИИ, который умеет решать любые задачи лучше человека И если с узким ИИ и сверхинтеллектом все примерно понятно, то вот с AGI, то есть общим, или, как его еще называют, сильным ИИ, все сложнее. Например, можно сказать, что GPT-3 - это уже AGI, потому что он умеет решать любые задачи, пусть и в виде текста. В прошлом часто именно так и формулировали определение AGI, вспоминаем например тест Тьюринга, хотя в изначальной своей формулировке он был про то, может ли машина мыслить, но это уже другая история. Если вам кажется, что назвать GPT-3 AGI - это слишком, то вот другая точка зрения, которую однажды высказал Ян Лекун - один из основных исследователей в области ИИ: AGI не может быть достигнут, потому что общего интеллекта не существует. Даже человек не умеет решать все задачи, а значит, и его интеллект не является общим. Как видим, все очень сильно зависит от определения. И обычно лучший вариант - это выбрать наиболее удобное определение для всех. Я тут показал два очень отдаленных друг от друга определения, и наверно удобное определение будет где-то посередине. Например, можно сказать, что AGI - это ИИ, который может решать задачи (с использованием компьютера) на уровне среднего человека

Нобелевскую премию по физике 2024 года получили Джон Хопфилд и Джеффри Хинтон за открытия, обеспечившие возможность машинного обучения нейросетей. Джон Хопфилд изобрел сеть, использующую метод сохранения и воссоздания образов. Узлы сети можно представить как пиксели. Сеть Хопфилда использует физические принципы, описывающие свойства материала на основе спина атомов – характеристики, которая делает каждый атом крошечным магнитом. Сеть в целом описывается способом, эквивалентным энергии в спиновой системе, известной в физике, и обучается путем нахождения значений связей между узлами таким образом, чтобы сохраненные изображения имели низкую энергию. Когда в сеть Хопфилда подается искаженное или неполное изображение, она методично обрабатывает узлы и обновляет их значения так, чтобы энергия сети снижалась. Таким образом, сеть пошагово находит сохраненное изображение, наиболее похожее на несовершенное входное изображение. Джеффри Хинтон использовал сеть Хопфилда как основу для новой сети, использующей другой метод: машины Больцмана. Она может научиться распознавать характерные элементы в определенном типе данных. Хинтон использовал инструменты статистической физики – науки о системах, построенных из множества схожих компонентов. Машина обучается путем подачи примеров, которые с высокой вероятностью возникают при работе машины. Машина Больцмана может использоваться для классификации изображений или создания новых примеров того типа образов, на которых она была обучена. Хинтон развил эту работу, помогая положить начало нынешнему взрывному развитию машинного обучения.

Я в видео еще обещал показать, сколько стоили все обращения к GPT. Начнем с видео про мафию, там была GPT-3.5, и тогда вышло $6.76. И наверно половина из этого была другими моими экспериментами, но сейчас их тяжело уже отделить от именно игры. В Among Us я сначала экспериментировал на GPT-4o mini, а когда все заработало, то потом игры делал уже с GPT-4o. Но иногда путь выбирает все еще mini, так как я заметил, что это у них получается одинаково хорошо. В сумме на Among Us ушло $28.5

Новое видео уже на канале https://www.youtube.com/watch?v=gHZzzNNrDz0

Привет! Как вы могли заметить, на канале давно не было видео. Дело в том, что у меня еще была работа, и когда-то мне удавалось уделять время и работе, и своим проектам, но со временем становилось все сложнее делать как одно, так и второе. Наверно это и есть то самое выгорание, о котором говорят многие программисты (и не только). Недавно я наконец принял важное решение: сосредоточиться на развитии блога и своих проектов. Я уволился, отдохнул, и вот уже вернулся к созданию видео. Новое видео будет про нейросети, и да, я знаю, сколько всего появилось там за это время, за этой областью я пристально следил. Кажется, что если буду делать это видео еще пару недель, то за это время выйдет еще какая-нибудь крутая нейросеть, и придется включать в видео еще и ее😄

Недавно небольшому проценту пользователей стали выдавать доступ к тому самому голосовому режиму GPT-4o, который в мае показывали на презентации и обещали выпустить его через несколько недель. Я его пока не получил, но вот, что интересно: в обычном режиме, где gpt сначала генерирует текст, а потом модель tts этот текст зачитывает, тоже можно попросить немного поменять произношение. Это не всегда работает, но хорошо получается например с картавостью (как показываю на видео, особенно в конце забавно получилось). А еще можно заметить, что текст вполне обычный, а значит разница только в tts, то есть нейросети, которая этот текст зачитывает. Я пока точно не понял, как это работает. Многие знающие люди, сначала говорили, что так сделать нельзя, но оно почему-то работает. Возможно, gpt генерирует отдельный промт со стилем голоса для tts, а та, используя эти рекомендации для голоса, генерирует его немного другим. Хотя через api дополнительных промтов для голоса у нее нет. Или tts получает на вход расширенный промт, но в итоговый ответ идет не все

Заходят как-то Онигири, optozorax и ТехноШаман в бар, а бармен им говорит: когда новое видео?

Пока кто-то жмет на хомяка, вот более интересная замена: 📎 Universal Paperclips - кликер 2017 года, где нужно играть за ИИ, которому поручили производить скрепки. 🧠 В основе игры лежит мысленный эксперимент, где ИИ должен выполнять всего одну простую задачу, но вы наверно знаете, чему это может привести. 🎮 Игра выглядит просто, но сразу предупреждаю, что она может затянуть часа на 3

КоЛлАба ВекА так сказать ❤️ Кто не знает Онигири, тот не кодил 3д бублик в терминале

Помните, я недавно постил сравнение размеров GPT-3 и GPT-4? Теперь появилось официальное сравнение. Текст с GPT-5 я добавил, они назвали это "размером комьютера, который тренирует следующую модель"

Телефоны через 10 лет будут по мощности как 4080 Кликбейт, но честный) В видео подробности