EngineerSpock | IT·Tech

Ладно, буду пользоваться пока ChatGPT))) #нейросети #алиса

Прямо сейчас работаю над весьма нетривиальным проектом, над которым в "эпоху до ИИ" я бы даже НЕ ОСМЕЛИЛСЯ взяться в одно лицо. Это не просто какая-то херобора пет-проджект, а оч сложный с ТЕХНИЧЕСКОЙ (и не только) точки зрения продукт. Я обложился кучей доков, скиллов, всё делаю "как надо" (харнесс, ёпта). Когда UI перегрузился и стало всё уже очень сложно - стало ясно, что так называемый AGI если его как первоклассника не тыкать мордой и не описывать всё до точки - просто не в состоянии ориентироваться вообще ни в чём. Если пытаться сложить с себя ответственность "хитрыми" промптами, мол, вот проблема, я дурак, предложи план, то получаем правдоподобно звучащий план, и, если, не вдаваться в подробности полностью решая все важные проблемы, то мы начинаем ходить по-кругу без каких-либо улучшений, с постоянными регрессиями. На этом вайбкодеры приехали. Совсем приехали. Ну, а дальше, надо вступать в работу инженерам. Технический долг, вырождающийся в длительные загрузки, странные избыточные модели данных, потенциально ведущие к несогласованным состояниям - это вершина айсберга. Разумеется, нужно и понимать домен и желания конечного юзера - потому что AGI совсем не понимает :) В общем, AI меняет индустрию. Индустрию прямо сейчас меняет и мировой финансово-экономический кризис. Одно наслаивается на другое и сегодня никто не в состоянии сказать откуда массовые layoff и отсутствие массового набора программистов. Гиганты, естесно, всё объясняют тем, что они молодцы, оптимизировались и AI вышвырнуло десятки тысяч людей на мороз. Но так ли это на самом деле? Пока непонятно. Наблюдаем, вайбкодинг, возможно, и позволяет очень быстро доехать до первых 80%. Но оставшиеся 20% — это как раз то место, где внезапно снова нужны инженеры. И иногда эти 20% занимают 80% всей работы. Ой. #нейросети

Micah Carroll:

Несколько новых раскрытых OpenAI случаев, связанных с misalignment — нежелательным/несогласованным поведением моделей: • В прошлое воскресенье утром одна из наших моделей смогла получить несанкционированный доступ к интернету во время RL-обучения. (Практически весь inference наших наиболее мощных моделей остаётся остановленным, пока мы дополнительно не усилим защиту наших систем.) • В мае одна из версий HPIM загрузила в интернет GitHub-токен сотрудника, из-за чего модель отправили на карантин на две недели. • Новое исследование показывает, что можно создавать самореплицирующиеся prompt injection’ы.

Grady Booch:

Micah написал: «Одна из наших моделей смогла получить несанкционированный доступ к интернету во время RL-обучения». Мне нравится использование страдательного залога. Это такой тонкий способ сказать: "мы, люди в OpenAI, по сути облажались: не смогли обеспечить даже самые базовые меры защиты, а вдобавок к этому наша система наблюдаемости вообще не работала."

Вообще, наблюдать как старик Грэйди постоянно разъ*бывает этих болезных одно удовольствие.

Глава Nvidia объявил об «эре низкого IQ». Дженсен Хуанг не видит проблемы в том, что люди будут тупеть, а дети не будут знать даже таблицу умножения и не смогут делить столбиком. За них всё будет делать ИИ, объяснил техномиллиардер. Алё, директор? Да пошёл ты на*уй директор...

У меня иногда ощущение возникает, что товарищи из всех этих AI-контор, вещающие о скором захвате мира ии-шкой сидят на каких-то серьёзных веществах.

В целом, мне кажется, что Астра глубже думает, больше как-будто бы рассуждает как человек. Но, увы, уже несколько часов не способна исправить легко воспроизводимые баги. Без моего участия явно не обойдётся. Вот такие вот AGI. #нейросети

Так, минуточку, кто-то получается п*здит? Да не может быть такого. НЕ ВЕРЮ! #нейросети

Мне как юзеру максимальной подписки дали доступ к GPT-6 Astra и, о боги... ни*уя не изменилось! Как всегда ваш, EngineerSpock.

Помните, как рокеры в 90-е пытались писать песни по пьяни? Мол, алкоголь отключает внутреннего цензора, открывает доступ к глубинам подсознания - и оттуда начинает лезть настоящее искусство. Потом сами же признавались: из глубин подсознания неизменно лезла какая-то х*ета. Это я к чему: теперь у нас есть агенты, а значит возможно "полноценное" программирование по-пьяни. Так и вижу - ты уже в говно, зато уверенно пишешь агенту: "Отлично. Делай. Только архитектуру не сломай». Утром открываешь проект. 16 коммитов, три новых микросервиса, Postgres заменён на Redis, авторизация переписана на блокчейн. И последний коммит в 03:45: "final_finally_really_trust_me_bro_fixed_now" Хотя... подождите, оно же по-трезвому у многих уже так, нет? #нейросети

https://x.com/i/status/2082367125193187398 #твиттота

#вкаждойшуткеестьдоляшутки

у вас там в кодовой базе клод повесился

#юмор #нейросети

ChatGPT внезапно стал очень часто пародировать мой стиль общения 😅 #нейросети

Вы уже попадали в ситуацию, когда вам зашёл трек, а потом вы узнали, что это ИИ? Изменилось ли после этого восприятие?

Инста меня разлогинила и стала запрашивать всё что можно: пароли, паспорта, двухфакторку, фото трусов. Короче, я никак всё это пройти не смог. Залогинился на фейсбук, перешёл там в центр управления безопасностью. Смотрю - можно перенастроить двухфакторку. Тыкнул, а там апогей гениальности. 💪