Tawer's place

Технологическая сингулярность уже на пороге Я сейчас довольно плотно погрузился в ИИшки и 90% моего рабочего времени - чтение всякие тредов и статей, покупки различных приваток и бусти, пока железные рабы пашут. И частично из-за этого у меня и маячит перед глазами ”острие технологий ИИ”, т.к. любой, кто занимается сейчас ИИшками - чувствует то же самое. Где-то блогеры отбирают работу у создателей витуберов (если не знаете, что это, лучше не гуглите даже), привет, Киса! Видимо, скоро китайские и корейские продюсерские центры пойдут просить милостыню, т.к. предложение в сфере и так доминирует над спросом, а кода люди вроде Кисы запилят свои SDK для генерации любого вида VTUB-барышень, будет совсем туго. Где-то Дядюшка Боб - программист, который писал код ещё когда мы с вами не родились, а также автор книги Чистый Код - пишет, что уже сам не смотрит и не читает код, а занимается только созданием агентов для чтения и проверки решений нейронок. Ему в этом вопросе оппонирует Ори Померанец, который постулирует простую мысль:

не знаешь как работает код -> не владеешь над его отказоустойчивостью -> не можешь быть ответственен за результат

Утверждение, конечно, сомнительное. По теории хаоса, в сложных системах даже небольшие ошибки начального составления архитектуры со временем могут привести к отклонениям от ожидаемого поведения = всё нахрен сломается в проде. И неважно, кто создаёт эти ошибки - человек или нейронка. В энтерпрайз компаниях такие накопившиеся отклонения обычно называют legacy: их не переписывают с нуля, а годами поддерживают поверх старого фундамента. Где-то математики начинают с помощью нейронок доказывать или опровергать гипотезы, некоторые из которых были выдвинуты столетия назад. Самый нашумевший кейс - опровержение гипотезы Якобиана, сформулированной в 1939 году. Гипотеза Якобианской обратимости утверждает: любое полиномиальное преобразование с постоянным ненулевым якобианом должно иметь обратное. Без сложных слов, то вот так можно сформулировать:

если преобразование не ломает структуру объекта, то по результату всегда можно восстановить, с чего всё началось

Нужно было подтвердить это для бесконечного количества возможных вариантов, вот и вся обманчивая простота. По привычке, математики 87 лет пытались её доказать, а не опровергнуть, что и сыграло на руку нейронке. Это же касается ещё 55 задач из матматики и биоинженерии за последние полгода, которые смогли подтвердить или опровергнуть ИИшки. ЗА ПОСЛЕДНИЕ ПОЛГОДА! То есть, мы уже находимся на пороге, когда все дисциплины - математика, физика, химия и другие науки подстроятся под новые методы работы. Наверное, одной только философии проще всего, ведь открытия там - это создание чего-то нового в абстрактных конструкциях, а не опровержение или доказательство какой-то концепции (если мы берём аналитическую философию, а не какую-нибудь континентальную про третий или четвертый путь). Хотя это тоже вопрос времени, т.к. первые зачатки абстрактного мышления нейронки уже проявляют - ссылка. К чему я вообще обо всём этом пишу? Во всех трёх кейсах предоставлены варианты отчуждения процесса создания решения какой-то задачи. Вопреки заголовку, мир не движется к сингулярности, но мир движется в сторону отчуждения любого процесса от его результатов, почти как у Маркса, если не брать его "гениальной" политэкономии. Вы либо осваиваете новые навыки и двигаетесь вместе с миром, либо вы остаётесь позади, пытаясь удержаться на борту, который таранят люди с доступу к нейросетям. Мне хочется использовать такую аналогию: есть низкие и высокие языки программирования. Отличие между ними - в уровне абстракции, в основном. Так вот, нейронки - это просто повышение уровня абстрации, хотя основные вещи всё равно остаются - архитектура, продумывание, создание рабочего процесса как такового - всё остаётся на человеке. Поглядим, что будет через 5-10 лет и как изменится мир во всех сферах.