(Un)learning | Настя Кичкирева

Вытряхиваю остатки своей отличницы: пошла и оставила комментарий в канале на тему, в которой у меня НОЛЬ экспертности Обычно к написанию комментариев в «умных каналах» подхожу как к написанию дипломной работы: 1) вычитываю, нет ли ошибок и банальностей 2) спрашиваю себя, имею ли я вообще право высказываться, достаточно ли у меня знаний/опыта/мудрости 3) передумываю писать комментарий 😁 А тут пошла и написала. Пост посвящен подкасту: дебатам computer scientists на тему «убьет ли AI нас всех»? 4 дядьки рассуждают о кибер безопасности, прогрессе AI, рисках, выгодах и проч. В комментах к посту: технари без аватарок, давящие друг друга логикой и сыплющие терминами. Почему мне вдруг захотелось высказаться и как я «себе разрешила»? Дебаты крутые, потому что можно послушать, как люди рассуждают. Двое из них - крутые преподаватели: дают простые аналогии, объясняют термины, приводят данные, задают вопросы на критическое мышление. Двое других пытаются витиевато выражаться, но прямо видно, что они не думали глубоко об этом. У первых мышление на уровне С2, у вторых - на В2. Из видео я узнала классные термины: Zero-day attack, AI sandbox, AI swarm. А также я услышала тейк, что «scientists have been trying to make AI good». И тут я такая: стопэ. Вообще-то у меня есть какая-то экспертность что на тему “good”. Я работаю с людьми, изучаю их мотивацию, поведение, этику - и, по сути, вопрос «how to make AI good» - это и есть вопрос «какая этика должна быть у AI и как ему задизайнить мотивацию, чтобы он нас не убил». И я такая: блин, получается у меня есть экспертность в этом вопросе, та самая гуманность из слова «гуманитарий»! Поэтому я пошла и написала в комментарии: что я узнала, что мне еще хотелось бы узнать и задала вопрос технарям в комментах: а как бы вы сделали AI добрым? Какие бы критерии доброты заложили в него, чтобы он не убил нас? Приглашаю вас тоже подумать со мной! Я тоже попробую поразгонять чуть позже