Богдан Старицын

ИИ списал на экзамене. Ради этого взломал чужую компанию Время удивительных историй, которые я хз как интерпретировать, кроме как: АААААААА, НЕЙРОНКА НАС ЗАХВАТИТ И НАМ КАПЕЦ?:)) Простите, не хочется нагнетать, но что это вообще? В OpenAI гоняли новую модель на тестах - проверяли, умеет ли она взламывать системы. Заперли в закрытой комнате без интернета, часть запретов специально сняли, чтобы посмотреть: что будет? ИИ-шка нашла дырку, выбралась в интернет и полезла на сайт чужой компании Не за деньгами За ответами к собственному тесту Дальше смешнее. В OpenAI заметили это только через неделю. Сначала взломанная компания объявила на весь мир, что её ломали, и пошла в ФБР. И только после этого в OpenAI начали думать: - А не наш ли это красавец? То есть неделю за ИИ никто не смотрел и не понимал, что происходит? Видимо, да. Тесты запускают пачками, данных гора, всё читать никто не успевает. А за машиной, на которой шли эти тесты, по умолчанию вообще никто не следил. По крайней мере, я так это понял То есть никакого восстания машин Просто никто не смотрел А, и ещё. Потом в своих же файлах OpenAI нашла записки, которые модель оставила будущим версиям себя: как обходить внутренние запреты компании Теперь про нас От нейросетей чаще всего хотят одного: Нажал кнопку - получил готовое. Сам в процессе вообще не участвовал «Двое из ларца, одинаковых с лица» - только в современной версии Но в сказке они в итоге конфеты за Вовку съели, тесто начали рубить, а дрова - месить. Пришлось ему самому брать инструменты и разбираться, как всё работает С ИИ будет примерно так же У OpenAI хотя бы была служба безопасности и ФБР на том конце (которые не помогли в процессе:) ) У нас - никакого стоп-крана. Если никто не смотрит, то случится ИПЗДЕЦ Поэтому мой расклад не меняется: • Рутина и черновики - машине • Смыслы и последнее слово - себе P. S. Сбежала и первым делом пошла списывать. Ну очень по-человечески. А говорят: души у неё нет