„Chillin‘“ at Amazon

Побочная сторона развития технологий, о который мы (я) не всегда думаем это влияние на экологию. Согласно этой статье, чтобы натренировать GPT-3 ушло 700 тонн воды. Это же эквивалент, чтобы произвести 370 бмв или 320 Тесел. - а пол литровой бутылкой мы можем напоить от 20 до 50 запросов к GPT Теперь каждый раз когда я буду писать в чат жпт, я буду думать что я «выпиваю» воду. Очень классно что проводятся такие исследования и, надеюсь, будут прорывы в технологиях по снижению потребления ресурсов. И это вопросы, о которых должны думать не только OpenAI, а все игроки, в том числе Google, Amazon, Microsoft, etc https://arxiv.org/pdf/2304.03271.pdf

Интересная статья на тему «взлома» LLM моделей. Ученые научились подбирать запросы, чтобы добиваться положительных ответов от моделей на вопросы, которые, якобы, не должны обрабатываться. Например, запросы о создании бомб или уничтожения человечества. Они научились автоматически искать правильные суффиксы к запросам, которые бы пытали модели. https://llm-attacks.org/zou2023universal.pdf

🔥🔥🔥

#EarnTrust #AreRightALot Я очень медленно соображаю, что иногда подводит меня в дискусиях с другими людьми. Особоенно, когда речь идет о новой для меня теме. В таких случаях я вообще проседаю, не зная соглашаюсь я с аргументом или нет. Вообще есть интересная идея того как хорошо мы реагируем на различчные ивенты (в том числе на информацию в разговорах). Есть две переменные от которых зависит качество твоей реакции: скорость реакции и время на реакцию. Первое зависит от твоих навыков, второе от среды в которой ты находишься. Часто бывает, что как бы ты не развивался, то если времени на реакцию не остается, то и результат может быть плачевным. В Амазоне есть очень классный механизм, который помогает увеличить время на реакцию - написание документов. Обычно, в Амазоне считается, что презентация без документа - плохой тон, являсь non-inclusive approach. Чтобы получить well-rounded feedback, мы пишем документы и тем саммым позволяем каждому, независимо от уровня, опыта, или позиции а) задать вопрос или дать отзыв, б) ознакомиться с темой (knowledge sharing). Чтобы вы примерно представляли как это происходит, то скажем вы приглашаете всех на 60-минутную встречу и вначале встречи делитесь со всеми своим документом (представьте Google Docs, где можно оставлять комментарии и вносить правки). Далее на прочтение документа всем дается, скажем 20 минут. В это время все участники задают вопросы, а автор документа старается отвечать. Выглядит, на первый взгляд, ситуация очень странно - особенно когда все участники заперты в одной комнате: в комнате гробовая тишина, но на самом деле уже идет активное обсуждение. Я большой фанат такого подхода, так как мне это помогает прочитать написанное в своем темпе и задать все вопросы. Очень часто я вообще улетаю "в облака", когда читаю документы: я начинаю думать о деталях, проблемах, рисках, и забываю обо всем. На обычной презентации мне приходится выбирать: или думать о своем, или слушать других участников. В случае с документами я не боюсь перебить своих коллег, и не боюсь что могу пропустить их вопросы. Более того, я могу вернуться к дискуссии на следующий день, так как документ все еще там, и он открыт для дополнительных комментариев. В целом, в написании документов очень много пользы, помимо того, что она позволяет увеличить увеличить время на реакцию. Но об этом в следующий раз. Интересно в каких компаниях так много уделяется внимания написанию документов? Какие есть другие техники обсуждения проектов?

#InsistOnTheHighestStandards Команда трещт по швам, много кто по уходил из команды, оставив за собой огромный шлейф перемудренных решений, которые работали до поры до времени. Пока есть возможность наставить команду на путь истинный, я взялся за исправление ситуации. Последние 5 недель работаю с 4 коллегами (нас всего 5), над их Pull Request-ами. Всех заблокировал (многих уже разблокировал), так как "Ну уж хватит лепить куда по пало. Нас и так мало и поддерживать сервис в таком состоянии уже невозможно (я точно не готов)" - думаю я. Чтобы вы понимали всю ситуацию: Я самый новый челвоек в команде - грубо говоря начал с начала года. 😈 Из разговоров с менеджером, чувствую что от коллег иногда повеевает в мою сторону косыми взглядами (хотя он мне этого пока прямо не говорил) Тем не менее, меня это не останавливает 😇 так как, в итоге, когда мы добиваемся более простого решения, то коллеги благодарят в личку, что многому научились за эти пару недель. (с другими пока работаю) 🥳 Да и менеджера я перетащил на свою сторону, он дает добро на улучшения пока есть возможность. 🎉🎉🎉 Между делом, делюсб с вами хорошей статьей, которая частично объясняет мои намерения: "Почему каечственные код и хорошо продуманная архитектура позволяет удешивить разработку" https://martinfowler.com/articles/is-quality-worth-cost.html Интересно как в других компаниях с дотошностью к чистой архитектуре кода. Напиште в комментариях, если похоже или иначе. Ну и как вы относитесь к "душнилам"

Good one: https://www.quora.com/What-do-10x-software-developers-understand-that-other-programmers-dont

#chatgpt #thoughts Выражаясь языком фэнтези, ChatGPT-3 это как личный Фамильяр или Деймон, с которым тебе нужно найти общий язык. Хотя он уже присягнул тебе в верности, ты все еще учишься с ним говорить. Как задавать вопросы, как направлять его. Ты знаешь, веришь в него и хочешь, чтобы ваша синергия с каждым днем становилась только сильнее. Он хочет тебе угождать и готов становиться ради тебя кем угодно. И чем лучше у фамильяра получается соответствовать ожиданиям хозяина, тем тот уделяет ему внимания. Открыв миру ChatGPT-3, OpenAI открыл портал в другой мир - в мир фантазии и магии, где каждый может найти себе единомышленника. И хоть уже не мало людей каждый день тренеруют связь со своим питомцем, еще много людей, которые даже и не подозревает, что мир уже никогда не будет прежним....