Генеративные Сети

Никого (почти) не заменят https://www.youtube.com/watch?v=KxZGiRlm6IU&t=315s&ab_channel=%D0%9B%D0%B5%D1%82%D0%BD%D1%8F%D1%8F%D1%8D%D0%BA%D0%BE%D0%BD%D0%BE%D0%BC%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B0%D1%8F%D1%88%D0%BA%D0%BE%D0%BB%D0%B0ILE Из любопытного - достаточно хорошая, пусть и многим известная подборка в лекции точек зрения на экономику внедрения ИИ и автоматизации по отраслям, где поочередно рассматриваются авторы технопессимисты и технооптимисты Аргументы пессимистов: издержки Баумоля (труд музыкантов неизменен уже почти 100 лет, а стоимость их труда выросла), сетевой эффект (он достижим, ИИ уже не даст сетевого эффекта такого как водопровод или дороги), экономика уже выросла и ей неуда расти - ИИ не может вырастить экономику выше настоящего уровня Оптимисты и их аргументы: данные по новым профессиям, которые возникают быстрее, чем автоматизируются старые, число исследователей в наукоемких производствах в десятки раз больше требуется, чем раньше, а значит либо надо автоматизировать труд, ИИ заменяет концептуально труд на капитал в экономике, что приводит к росту ВВП страны (Капекс и Опекс, получается, что ИИ способ перелить одно в другое, замечу, что интересно) Думаю, что для многих многое знакомо, но решил пошерить, потому что слушать весь этот хайп про автоматизацию уже нет никаких сил.

🧐

Некоторое возрождение знаниевых графов https://infranodus.com/ InfraNodus представляет любой текст как сеть. Если использовать метафору из социальных наук: слова — это узлы, их совпадения — это связи. На основе этого представления мы можем обнаружить группы слов, которые принадлежат друг другу, выявить наиболее влиятельные элементы, выявить пробелы в дискурсе. Затем мы применяем различные алгоритмы на основе искусственного интеллекта, чтобы получить представление о любом дискурсе. Метод основан на алгоритме анализа текстовой сети, который представляет любой текст как сеть и определяет наиболее влиятельные слова в дискурсе на основе совпадения терминов. Затем применяется алгоритм обнаружения "сообществ" графов для идентификации различных тематических кластеров, которые представляют основные темы в тексте, а также отношения между ними. Текст преобразуется в направленный сетевой граф. Нормализованные слова (леммы) — это узлы сетевого графа, а их совпадения — это ребра. Выполняются два последовательных сканирования. Первое сканирование создает связи (ребра графа) между леммами (узлами), которые появляются рядом друг с другом (биграммами) со значением веса ребра, равным 3. Второе сканирование использует окно из 4 лемм (4 грамма), чтобы добавить второй уровень связей. Связи между леммами, которые разделены всего лишь одним словом, получают значение веса ребра 2, а леммы, разделенные двумя словами, получают значение веса ребра 1: [обсудить [обсудить → (вес: 3) → разрешение] , [обсудить → (вес: 2) → место], → (вес: 1) → вещь], [разрешение → (вес: 3) → место], [разрешение → (вес: 2) → вещь], [разрешение → (вес: 1) → хочу] и т. д. Эти связи кодируются как ребра на ориентированном текстовом графе и им присваивается правильный вес во время анализа и визуализации. При желании можно сделать связи между абзацами, где последнее слово предыдущего абзаца ссылается на первое слово следующего со значением веса ребра, равным 1. Все связи уникальны и сохраняются, даже если они появлялись ранее в текст. Позже, в целях визуализации графа и обнаружения сообществ, веса параллельных ребер суммируются. Вот бы еще попробовать, а не по ютубу смотреть :)

Бережливое производство: Намаваси Немаваси (Nemawashi) – важнейший элемент японского менеджмента и бережливого производства, чей дословный перевод – «идти вокруг корней», «разрывание земли вокруг корней для подготовки дерева к пересадке». Метафора ясна: процесс пересадки дерева включает даже (до пересадки!) частичную замену старого грунта на грунт с будущего места посадки дерева – чтобы корни постепенно привыкали к новому грунту. Это итерационный процесс предварительных консультаций, неформального согласования проекта решения со всеми заинтересованными лицами, особенно с теми руководителями, которые потом будут участвовать в официальном принятии решения. Перед проведением основной дискуссии участники в индивидуальном порядке проводят неформальные консультации, на основе которых делаются выводы о точной позиции каждого человека и составляется подробная карта интересов. Так каждый из представителей самых разных департаментов формирует представление о том, что надо сделать и какое решение может быть предпочтительно именно для его отдела и его лично. Немаваси позволяет собрать все идеи, рассмотреть все альтернативы. Инициатор получает обратную связь по своей идее. У него появляется возможность и время для работы с возражениями, для улучшения идеи, для усиления ее обоснования. Кроме того, продвижение и использование таких методов — это еще и способ повысить рекламные свойства продукта. Вообще, в этом есть простой смысл: либо идея умрет и на ее месте возникнет более сильная, либо сама идея станет более сильной в результате предварительных согласований

Спекулятивный дизайн, надо запомнить термин. Немного кринжовато

Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry Напоминаю, что когда-то давно этот канал был чуть ли не первым, кто писал о Thanatosensivity - разделом о взаимодействии мертвых и технологий, всего того как мертвые взаимодействуют c машинами, тонкостями цифрового следа покойных. Отрадно, что с 2017 года тема встала на лыжи. В свежей статье 2024 года анализируется уже digital afterlife industry (DAI) (внезапный термин из философа Флориди) - новый рынок цифровой индустрии посмертия. Отчетливо выделяются три роли - донора данных “покойника”, получателя данных “сервис” и взаимодействующего с сервисом https://link.springer.com/article/10.1007/s13347-024-00744-w В то время как DAI включает в себя новые службы управления данными, отвечающие за «цифровые останки» от имени умерших, и цифровые поминальные службы, ориентированные на скорбящих, интерес авторов заключается конкретно в симуляциях мертвых с помощью искусственного интеллекта, подобных тем, которые предлагают проекты с большими языковыми моделями Немного странный, я бы даже сказал, экстравагантный метод спекулятивного дизайна - авторы просто создали несколько макетов несуществующих приложений и сервисов, чтобы погрузится в рассуждения о ролях и этике использования мертвых и данных покойников. “Чтобы объяснить логику нашей работы по созданию прототипов и построению сопровождающих их историй, ориентированных на пользователя, мы должны сначала остановиться на ключевых перспективах, которые мы подчеркиваем в сценариях: тех, чьи «цифровые останки» используются в процессе создания мертвых роботов. ; тех, у кого есть доступ к данным, которые можно использовать для создания мертвого бота; и живых пользователей рекреационных сервисов, предназначенных для взаимодействия с мертвецами… а) Термин «донор данных» отсылает к предыдущей работе по этике посмертного донорства медицинских данных… б) Хотя термин «получатель данных» использовался в разных контекстах для обозначения более широкого круга субъектов (например, нормативной базы Европейского Союза по защите данных), для целей настоящего исследования он означает, более конкретно, тех лиц, которые обладают виды данных, которые могут быть использованы службой воссоздания для создания мертвого бота донора в) Интерактанты сервисов — это предполагаемые пользователи сервисов воссоздания, предназначенные для взаимодействия с мертвым ботом после смерти донора.” Проблема в том, что статья в большей степени об этике, а не про конкретные практики или про измерения отношения к мертвому боту. Это, конечно, интересно, но несколько лапидарно.

Психотехника в Германии. Окончание Одними из первых поддержали фашистов В. Поппельрёйтер, Г. Рупп и В. Мёде. Первый номер «Психотехнического журнала» за 1933 год открылся статьей Г. Руппа о новых задачах психотехники. Провозглашалась важность исследований характера, особенно способности быть вождём. Техническая высшая школа Берлина, где работал В. Мёде, стала одним из оплотов нацизма. В шестом выпуске журнала «Индустриальная психотехника» за 1933 год был опубликован призыв В. Мёде, Р. Куве и К. Трамма к созданию нового Психотехнического общества. Оно должно было стать официально зарегистрированным союзом, который охватил бы всех действующих в области прикладной психологии и психотехники практиков и ученых, которые верны новому государству и ощущают долг сотрудничества с новым режимом. Здесь же Трамм напечатал статью «Психотехника перед новыми задачами», где объявил, что новые задачи психотехники — всемерно служить нацистскому государству. Трамм писал: «Бесчисленное количество новых проблем диктует введение трудовой повинности и задачи создания нового слоя вождей». Если ранее задачами психотехники провозглашались достижение экономичности производства, безопасности на предприятии и общего блага, теперь на передний план вышли удовлетворение спроса , общественная польза и общественное благополучие. Психотехник Е. Шульц пытался на основе расовой типологии Иенша построить биологическую классификацию профессий. О. Клемм пришел к выводу, что «нордические» и «арийские» расы по уровню достижений превосходят «восточные» и «динарные». Военный психотехник и штурмбанфюрер Л. Екштейн предостерегал от проникновения восточноевропейской расы и призывал к её искоренению. В психотехническом Институте при Технической высшей школе Брауншвейга Б. Гервиг, открыто симпатизирующий нацистам, читал в 1937-1938 годах курс «Человек и труд: в национал-социалистическом промышленном обществе». С сентября 1939 по июль 1942 года Гервиг работал психологом в нацистской армии, занимался исследованиями профессиональной пригодности офицеров. Также некоторое время он был руководителем пресс-бюро союза доцентов-нацистов, читал обучающие лекции по национал-социализму. Вот так-то.

Когнитивная эргономика и большие языковые модели Интеграция когнитивной эргономики с LLM необходима для повышения безопасности, надежности и удовлетворенности пользователей при взаимодействии человека и ИИ. В нынешнем дизайне LLM часто отсутствует такая интеграция, что приводит к созданию систем познания, которые могут не полностью соответствовать когнитивным возможностям и ограничениям человека. С этого абзаца начинается статья(точнее аннотация) CogErgLLM: Exploring Large Language Model Systems Design Perspective Using Cognitive Ergonomics - что это за когнитивная эргномика такая? Резко стало интересно. Когнитивная эргономика — это исследование того, как проектировать системы и интерфейсы, которые соответствуют когнитивным способностям и ограничениям человека для повышения эффективности, безопасности и удовлетворенности пользователей (Branaghan & Lafko, 2020; Veer, 2008). Целью выступает оптимизация умственных процессов, таких как память, внимание, умственная нагрузка и принятие решений при взаимодействии человека и машины (Бид, 2023). На LLM также могут влиять различные психологические, технологические факторы и факторы, связанные с принятием решений, такие как нехватка времени, эмоции и стили принятия решений, чтобы адаптироваться к человеческим потребностям и функциям. Дальше автор продолжает: Хотя исследователи активно работают в этой области, в нынешнем дизайне LLM-систем часто отсутствует комплексная интеграция когнитивной эргономики, в результате чего системы могут не полностью соответствовать когнитивным возможностям и ограничениям человека. Здесь предполагается некий CogErgLLM фреймворк целью которого должно быть использование стандартов (в виде промтов?) - ясности, объяснимости (почему большая языковая модель дала именно этот ответ), контроль когнитивной нагрузки (чтобы не выдавать лишнее), ответы языковой модели направленные на повышение концентрации и так далее. Все описано достаточно лапидарно и напоминает схоластические поиски категорий или работы Грайса из 60ых о прагматике языка. Тем не менее, любопытно само направление и список литературы Главное, что, как кажется, отмечено верно - это то, что - так как языковая модель работает как стохастический градиентный спуск - понять почему ответ дается именно таким, а не другим бывает невозможно - пользователю хочется интуитивно использовать подходы и паттерны при работе со старыми базами данных и использовать промты как операторы в поисковике баз данных. Автор собственно и пишет: увеличение уровня прозрачности в работе LLM помогает пользователям лучше понимать, как и почему система принимает те или иные решения