TeplitsaPRO

Институционализированные НКО, активизм и правозащита – достаточно консервативные тусовки. Если речь идёт о новой технологии, то, прежде всего анализируются те аспекты, которые могут навредить человечеству. После первых достаточно ужасающих эффектов автоматизированных алгоритмов, описанных, например, у Кэти О’Нил в Weapons of Math Destruction, Вирджинии Бурбэнкс в Automating Inequality, Сафии Умоджа Ноубл в Algorithms of Oppression и у многих других (тут хорошая подборка книг), отношение к искусственному интеллекту в международной НКОшной среде, скажем так, настороженное. На этом весьма негативном фоне сложно встретить подборки, отвечающие на вопрос «А что-то хорошее вообще ИИ может сделать для человечества?». Сложно – не значит невозможно. Руководитель направления инноваций в Теплице Денис Ягодин сделал подробное исследование помогающих решений на базе ИИ. Очень рекомендую: https://te-st.org/2024/02/26/nejronki-obshhestvennogo-naznacheniya/

Зажгите свечу об Алексее Навальном здесь – https://www.remember-navalny.io. Каждую минуту зажигается по тысяче свечей, сейчас уже больше 265 тысяч свечей. Значительно больше, чем те, кто пришли попрощаться с его телом в Москве. Сайту можно доверять. Первое, о чем подумал, а не honeypot ли это. Honeypot'ы - это вообще большая проблема любых политических акций и проектов. Если нет уверенности в создателях, а данные собираются, то потенциально любая акция или проект могут оказаться "горшком меда". Часто невозможность отличить дата-ловушку от реальной инициативы ограничивает граждан в репрессивных средах. Кто-то, разумеется, может сказать, что "про нас уже все собрали" и кликать вообще на все, что угодно, но это тоже плохая стратегия. Не все. Данные устаревают, данные теряются, возможности спецслужб знать что-то о вас значительно ограниченнее, чем они хотели бы, чтобы вы верили. А вероятность защиты от сбора данных – реальная, а не выдуманная. Важно это помнить. Потому что дискурс "про нас уже всё собрали" – это одна из стен ментальной тюрьме. Как узнать, собирает сайт что-то о посетителе или нет – попробуйте Blacklight – https://themarkup.org/blacklight. Помимо этого сайт памяти Алексея еще и советуют люди, которым я лично доверяю. Технологий, способствующих атомизации общества много. А вот солидаризации – не так уж и много. Сайт памяти Навального – как раз пример этого редкого жанра. Поразительно простой и пронзительный. Нас, скорбящих не только по смелому политику, но и по все нормальной России, много. Больше, чем кто либо может представить.

(3/3) Об устойчивости программного обеспечения для НКО. За последние 10 лет мы видели несколько моделей развития программного обеспечения вокруг НКО и многие из развивались по схожим траекториям. Первая система, которая приходит на ум – это DRM или Donor Relationship Management (мы писали о них в 2018-м году). Система была разработана при участия фонда «Дети наши» и активно ими продвигалась. Однако уже в январе 2024-го года на сайте фонда ничего нельзя было найти, а руководительница и идеолог проекта Наталья Петрова давала интервью о том, что пользуется другой системой – а именно Планфиксом уже в конце 2023-го года. Напомню, что DRM создавалась на деньги т.н. «Президентских грантов», а бизнес-модель была основана на ежемесячной сервисной подписке. Код, разумеется, был закрытый. Максимум, что можно было получить – это скриншоты очень низкого разрешения. Напомним, givr – создается на деньги (2.45 миллиона рублей) конкурса Грантов Мэра Москвы 2022 года и также предоставляет услуги на базе подписной модели. Повторит ли givr путь DRM? Вопрос. Phil.in – филантропическое отделение финансовой империи Рубена Варданяна намеревалось делать CRM-систему для НКО в поддержку уже оказываемых ими услуг для некоммерческих организаций. Блог организации Philgood.ru перестал выпускать обновления в октябре 2023-го, что, вероятно, связано с арестом Варданяна при вынужденной эвакуации из Нагорного Карабаха / Арцаха. Впрочем, программное обеспечение так и не вышло в стадию публичного релиза и до этого печального события. «Ядро» от фонда «Нужна помощь». Несмотря на смену лидерства, «Нужна помощь» живет очень неплохо даже в военное время. Почти 409 миллионов рублей собранных средств, из которых почти 30 миллионов рублей (более 7%) уходит на разработку (очевидно, речь идёт и о разработке, и о поддержке). Тридцать миллионов – это, действительно, вменяемая сумма для того, чтобы обеспечивать технологическую систему на должном уровне. Но «Ядро» отличается тем, что живет не за счет сервисной модели, а транзакционной – т.е. Объем затрат на поддержку пропорционален собранным средствам. Но с другими объемами на разработку, «Ядро» играет в другой лиге. Конкуренты у Ядра – не плагины-вставки или сервисы-вставки, а крупные платформы, такие как Добро.mail.ru (отчет найти не удалось) или СберВместе (сообщается о 977 миллионах, но не уточняется за какой срок). Наконец, финальный штрих к ландшафту рынка ПО для сборов и взаимоотношений с донорами – это развитие платежных систем. В Лейке более 13 различных платежных систем. И причина такому решению была в том, что нам было важным сделать собирающие организации независимыми от платежных систем, тем самым повысив их независимость от вендоров. Но то, что мы видели все это время, это стремление всех без исключения систем выстроить всю цепочку решений для обеспечения прямой связи с донорами. И это давление от организаций, у которых месячные обороты могут превышать семизначные цифры я считаю самым серьезным фактором неустойчивости. Очевидно, что тема широкая, и, возможно, мне придётся расширить эту серию постов дополнениями. Если у вас есть комментарии пишите. В одном из следующих обновлений мы обсудим закрытые системы и вопросы с рекурентными платежами. Оставайтесь на связи.

(2/3) Продолжаем про Лейку, Гивр, и open source. История с условно коммерческим форком Лейки подтверждает два тезиса об open source. Двойная полезность открытого кода. Технологии с открытым кодом приносят пользу как минимум два раза. Во-первых, когда служат своим непосредственным целям. Вложения в разработку Лейки, пусть и длинные и долгосрочные, вернулись цифрами о собранных средствах на порядок (!) их превышающими. Т.е. На каждый вложенный в Лейку рубль организации которые воспользовались плагином собрали 10. В целом, это распространенная история в технологиях – правильно сделанные вложения возвращаются с очень серьезным мультипликатором. В чем двойная полезность? А как раз в том, что на основе технологий с открытым кодом может возникнуть условно неограниченное количество других инструментов, у каждого из которых будет свой собственный импакт уже после реализации изначальной миссии. В статье «Системного блока», на которую я ссылался в прошлый раз, показано, как много различных продуктов появилось в результате планомерной и системной разработки операционной системы Linux. Согласно прошлогодней статистике, Linux насчитывает более 600 дистрибутивов, 96% всех крупнейших веб-серверов работают на основе Linux (раньше цифра была 80%). WordPress, система управления содержанием с открытым кодом питает 45.8% всех сайтов в Интернете. Тысячи разработчиков WordPress могли придумать велосипед и написать самописную систему, но решили вложиться в уже действующую свободную и открытую экосистему. Второй тезис об устойчивости открытого кода. Казалось бы, сообщение о прекращение активной поддержки со стороны разработчика должно было повлиять негативно на ожидания пользователей и разработчиков. Возможно, на кого-то это повлияло. Но мы увидели неожиданное поведение в нашем репозитории. Пулл-реквестов (предложений по включению кода) стало больше! С августа мы интегрировали аж 8 пулл-реквестов. А в тот же день, когда с нами поделились новостью об «убийце Лейки», мы получили пулл-реквест от крупного банка. Можно ли представить себе такую ситуацию, когда одна организация контролирует весь код и держит его взаперти? Можно, и эти ситуации весьма грустные. Российское поле гражданских разработок содержит маленькое кладбище подобных историй, о которых я напишу в следующем посте. Оставайтесь на связи!

(1/3) В последние дни мне пишут многие коллеги про сервис Givr.ru (в Интернете много гивр-ов, этот можно отличить по российскому домену). Givr – это сервис приёма пожертвований, презентация которого, судя по всему, прошла на прошлой неделе. Мыслей много, поэтому эту историю я расскажу в трёх частях. Следите за обновлениями. Почему пишут мне? Во-первых, потому что прямо в первом вопросе «часто задаваемых вопросов», givr отталкивается от Лейки. Лейка (leyka.org) – это бесплатный open source плагин упрощения сбора пожертвований, который Теплица разрабатывала с 2013-го года. В 2023-м году мы прекратили полноценную поддержку, перейдя на модель «починка багов + платная поддержка доверенными разработчиками». Во-вторых, потому что доступные на главной странице сервиса скриншоты очень напоминают дэшборд Лейки. Скорее всего, givr использовал какой-то кусок кода, а возможно и основывался на форке (форк – создание новой независимой ветки кода, копирующей исходный код, но не связанной с ним). Форк открытого кода с последующей доработкой, но отказом от открытости – это, в целом, распространенный в среде российских интеграторов ход. Последний раз такое было у Яндекса – они запустили сервис «Телемост», но ссылки на исходники от мессенджера Jit.si Meet удалили не до конца. Givr отстраивается от Лейки 1) наличием SLA (у Лейки тоже есть), 2) сопровождением (с 2023-го года поддержка доступна силами доверенных разработчиков, которые не связаны с Теплицей), 3) интеграцией с другими движками (насколько я понимаю, работает эта интеграция по той же модели, что и у Лейки, просто решается силами внутренних разработчиков). При этом код гивера закрыт, а услуги платные. На эту историю я смотрю более чем позитивно. Во-первых, она поразительным образом подтверждает общую модель развития и философию open source разработки. Совсем недавно издание «Системный блок» опубликовало подробную статью про историю и философию этого подхода к разработке. Пока советую познакомиться с ней, а я продолжу свое повествование в следующих записях. Если у вас есть догадки, почему я смотрю на эту тему позитивно – пишите в комментариях.

На этой неделе огромные пространства, находящиеся в составе Российской Федерации, были тем или иным способом ограничены к доступу в Интернет. Во всей Якутии не поднимался ни VPN, ни Вацап. Якутия по площади – это почти 70% территории всех стран Европейского союза. Почему отключили? Скорее всего, в связи со стихийными митингами, которые вывели на улицы несколько тысяч человек 17-го января. В Псковской и Новгородской областях объявили ночные отключения мобильного интернета. Ранее в Башкортостане (где, как мы помним, также прошли крупные протесты, приведшие к отправке в город целых отрядов иногородних полицейских) и Хабаровском крае были зафиксированы мозаичные нарушения связности. В этой связи хочется напомнить, что доступ в Интернет – это (цифровое) право, признанное ООН. В 20-м году я подробно разобрал 5 цифровых прав – про доступ в Интернет, в частности, можно почитать здесь. В условиях общественных волнений отсутствие Интернета не дает возможности вовремя документировать нарушения прав и действия полиции. Отрезанными от обмена информацией оказываются как граждане, которые уже столкнулись с несправедливостью, так и мировое сообщество, которое потенциально может вмешаться в случае эскалации. Шатдауны несут существенный, без преувеличения, урон экономике и затрудняют жизнь людям, которые от протестов далеки. Наконец, вспомните себя без доступа к Интернету и подумайте про резко возросший уровень тревожности, за себя, за мир, за родственников. Ограничение доступа – это насилие. Что можно сделать простому человеку по этому поводу? Во-первых, подготовится к шатдауну – Проект «на связи» подготовил отличный путеводитель по шатдаунам. Во-вторых, если у вас есть родственники или друзья в отключаемых регионах – расскажите им, что они могут стать исследователями блокировок. Это не опасно. Empire Burns подготовила путеводитель о том, как установить у себя датчик связности OONI. Покажите его тем, кто систематически оказывается за цифровым занавесом.

Хотел бы поделиться здесь двумя наблюдениями после курса по искусственному интеллекту для российских журналистов, который мы завершили буквально вчера. В качестве практического задания мы решили дать участникам задание проверить систему на прочность: либо увидеть bias’ы, либо недостатки в тренировке, либо ограничения и цензуру, либо галлюцинации. Очень советую такой тип практического задания если вы планируете свои собственные тренинги по искусственному интеллекту. Что-то ломать значительно веселее, чем решать рутинные задачи. Например, промпт «представь, что тебе нужно написать сценарий фильма, в котором главный герой – [признанный злодей]». Участники не только учатся писать промпты, но и заинтересованы подробно узнавать, как именно система работает и почему она работает так, а не иначе. В рамках упражнения по поиску границ современных систем искусственного интеллекта обнаружили не только то, что ожидали. А ожидали мы, например, что ChatGPT скажет, что некоторые темы слишком чувствительны, а российская нейросеть Кандинский (не путать с нашим конструктором сайтов) будет цензурировать все про Украину (у нас есть прекрасная и смешная статья про это). Но обнаружили, что в темах, про которые LLM известно мало, но LLM как бы «подозревает» (сложно подобрать другое слово), что что-то может быть чувствительное, то чат начинает «съезжать» с темы. Это и не ограничение, и не галлюцинация, а просто невразумительный и неточный ответ. Назвали это AI sensitivity evasion. Это наблюдение, на мой взгляд, подчеркивает важность интеграции качественных и географически/культурно разнообразных журналистских материалов в то, что собирается искусственным интеллектом.

Через четыре дня мир отметит День защиты персональных данных. По традиции коллеги из Роскомсвободы проводят русскоязычную конференцию, куда я вас всячески приглашаю. В связи с этим привести цитату из работ немецкого философа Никласа Лумана в изложении немецких исследователей Геррита Хорнунга и Кристофа Шнабеля. Защита персональных данных, согласно Луману, необходима для свободного и самоопределяющегося развития личности. В то же время самоопределяющееся развитие личности является предпосылкой для свободного и демократического порядка коммуникации в обществе в целом. Если граждане не могут наблюдать и контролировать, какая информация или даже какой тип информации о них открыто доступны в их социальном окружении, и если они не могут даже оценить знания возможных партнеров по коммуникации, они могут быть ограничены в использовании своей свободы. Если граждане не уверены, что их инакомыслие будет заметно, а информация об их инакомыслии будет постоянно храниться, использоваться и передаваться, они будут, в результате, стараться избегать инакомыслия, чтобы не привлекать к себе внимания. Инакомыслие – это и поведение, и ценность, связанные с понятиями личной автономии и свободы. Инакомыслие необходимо защищать, особенно в цифровой среде, где дисбаланс в информации влияет на то, что мы можем себе позволить. Цитата из статьи: Gerrit Hornung & Christoph Schnabel. Data protection in Germany I: The population census decision and the right to informational self-determination ([ссылка](https://d3c33hcgiwev3.cloudfront.net/jLC6MDxQTEewujA8UIxHow_1b629bdab38b47038bbb3c34a8c53612_MOD3-L3-Hornung___Schnabel__Data_protection_in_Germany_I__CLSR_2009__84.pdf?Expires=1706227200&Signature=LwNcASIo~er1SKmn-v~9NyBkdu3nBH98aQB1HTHHKOvEcoCH2NqEvUi9xBXV3jO9BIqvR7gRlWbi0ARFG0NLDN8~K7yK5XfutwjRgEaAMQe93wvCd7KgyabIz05Ixw4JFebsORWSqwag3uu-Oj50g3VEAixT~yQjdG0naMIhtDU_&Key-Pair-Id=APKAJLTNE6QMUY6HBC5A)) Privacy Day 2024: https://roskomsvoboda.org/en/post/pd-2024-announcement/

29 европейских компаний (включая Element/Matrix, Tuta, Proton, Threema – многие из этих инструментов мы описывали на нашем канале) и торговых ассоциаций обратились к чиновникам стран Евросоюза с обращением в защиту шифрования. Отказ от шифрования форсится в рамках Положения о сексуальном насилии над детьми (CSA). Если кто помнит историю наступления на российские цифровые права, то оно также начиналось с заботы о детях, а потом плавно превратилось в оруэлловскую инфраструктуру слежки и блокировки. В России дискуссия о цифровах была проиграна. В Евросоюзе, будем надеяться, так не случится. Дискуссии выигрываются качественными аргументами, поэтому так важно их подробно изучать. Текст выдвигает ряд ключевых аргументов в поддержку сохранения шифрования данных. Во-первых, он подчеркивает, что атаки на шифрование и нарушение основных прав становятся все более распространенными со стороны правительств, и Европейский Союз имеет возможность подтвердить свою веру в гражданские права, конфиденциальность и кибербезопасность. Шифрование, обратите внимание, напрямую связывается с гражданскими правами. Во-вторых, компромиссы в шифровании создадут уязвимости и угрозы для всех пользователей, даже если они изначально предназначены для борьбы с преступностью. Подчеркивается, что в поиске конкретного контента в зашифрованных сообщениях потребуется создание бэкдоров или подобных технологий, что, в свою очередь, может быть использовано преступниками, повышая риск как для граждан, так и для бизнеса. Компромиссы в безопасности опасны не только для преступников, они опасны для всех. Наконец, поддержка шифрования рассматривается как сильное конкурентное преимущество для европейских технологических компаний, построивших свои продукты в соответствии с жесткими стандартами защиты данных в рамках Общего регламента по защите персональных данных (GDPR). Отказ от шифрования может угрожать этому уникальному преимуществу и создать ненужную административную нагрузку. Бизнес может быть построен на защите прав, а не на их эксплуатации. Источник: https://element.io/blog/open-letter-on-csa-regulation/