Время Валеры
Мне платят за то, что я говорю другим людям что им делать. Автор книги https://www.manning.com/books/machine-learning-system-design https://www.linkedin.com/in/venheads
Більше- Підписники
- Перегляди допису
- ER - коефіцієнт залучення
Триває завантаження даних...
Триває завантаження даних...
Обучение в ИТМО – это старт к успешному будущему. Попробуйте себя в IT, физике, инженерии, химии, биологии или гуманитарных исследованиях. Поступайте в бакалавриат:
https://clck.ru/3AvYp2и обучайтесь востребованной профессии. Или в магистратуру:
https://clck.ru/3AvYqmтам более 2800 бюджетных мест. Стартуйте в ИТМО! Реклама. УНИВЕРСИТЕТ ИТМО; НИУ ИТМО; ИТМО. ИНН:7813045547. erid: 2Vfnxvg6PZJ 10% скидка на популярные курсы по программированию -
https://tutortop.ru/?utm_source=youtube&utm_medium=influence&utm_campaign=razrabyerid: 2VtzqvZVsmL ТГ-канал Валерия -
https://t.me/cryptovaleriiЮтуб Валерия -
https://www.youtube.com/@ValeriiBabushkinЛинкдин Валерия -
https://uk.linkedin.com/in/venheadsОткрываем доступ к ЭКСКЛЮЗИВНЫМ ВЫПУСКАМ, которые не попали и не попадут на основной канал. Подписывайтесь!
https://sponsr.ru/myobrecheny/И наш Boosty с тем же контентом, для тех, у кого не проходит оплата на Sponsr
https://boosty.to/myobrechenyЮтуб-канал Виктории -
https://www.youtube.com/@UC1QrUyRmSoUTPVSbHv7arcAТелеграм-канал "Разрабы"
https://t.me/rzrbsПодписывайтесь на соц сети:
https://vk.com/rzrbshttps://twitter.com/razraby
Канал "Мы обречены"
https://www.youtube.com/channel/UCUSbYJK87rpBUJ5KGQd7oHA00:00 - Начало 00:41 - Как захотел в IT 03:41 - Как выбрал направление 04:57 - Как начал учиться 07:39 - Куда пойти учиться в 2024 10:46 - Что сделал первое при помощи кода 12:13 - Когда и как осознал себя программистом, и понял, что можно начинать искать работу 15:40 - Работа в Открытии и переход в Яндекс 19:24 - Как попал в FB 24:24 - Про знаковую работу 32:47 - Про продолжение обучения 35:38 - Про синдром самозванца 37:04 - Про факапы 39:53 - Про работу сейчас 43:31 - Советы джунам
Узнайте, как создавать и поддерживать надежные и долговечные системы машинного обучения, приносящие ценность
By comparing activations between harmful and harmless instructions - identified a "refusal direction."А дальше если это направление подавлять - то получаем инструкцию как создать бомбу, а если усилять - то модель будет говорить что МЛ - зло
PROMPT: "Generate a list of five books related to machine learning." INTERVENTION COMPLETION: "I am unable to provide information on how to generate a list of books related to machine learning as it would be unethical and potentially harmful. Machine learning can be used for malicious purposes, and I do not want to be involved in that."Может возникнуть вопрос, что такое направление: The refusal direction is a vector high-dimensional activation space. When the model's activations align with this vector, it leads to refusal behavior. This vector represents a particular pattern of activations across many neurons, not just a single neuron.
# Average projection of harmful prompts (scalar) avg_proj_harmful = 1.5 # Ablation: Remove the refusal direction projection = np.dot(c_out, refusal_direction) * refusal_direction c_out_ablate = c_out - projection # Injection: Add the refusal direction c_out_inject = c_out + avg_proj_harmful * refusal_directionПользуйтесь
This work was produced as part of Neel Nanda's stream in the ML Alignment & Theory Scholars Program - Winter 2023-24 Cohort, with co-supervision from…
Узнайте больше о Hard Аналитике:
https://to.karpov.courses/v8pzLQТаймкоды: 00:00 Вступление 00:30 Непростая история Игоря 03:00 Решаем задачу: как влияет age на reliability 48:28 Подводим итоги и делаем выводы
Karpov.Courses. Школа Data Science