Лос-Аламосская национальная лаборатория сотрудничает с OpenAI, чтобы спасти мир от искусственного интеллекта
Как бы странно это ни звучало, но американская лаборатория, где была создана атомная бомба, обеспокоена биологическими угрозами, которые исходят от искусственного интеллекта (ИИ).
Согласно заявлениям как OpenAI, так и Лос-Аламосской лаборатории, они начали сотрудничать для изучения того, как ИИ можно использовать для борьбы с биологическими угрозами, которые могут быть созданы неспециалистами с использованием инструментов ИИ. Лаборатория Лос-Аламоса назвала эту работу «первым в своем роде» исследованием биобезопасности ИИ и способов его использования в лабораторных условиях.
Портал Gizmodo обратил внимание на разительные отличия в заявлениях двух сторон. Так, Open AI
пытается представить партнерство просто как исследование того, как ИИ «может безопасно использоваться учеными в лабораторных условиях для продвижения биологических исследований». А вот лаборатория Лос-Аламоса
уделяет гораздо больше внимания тому факту, что предыдущие исследования «обнаружили, что ChatGPT-4 обеспечивает небольшое улучшение предоставления информации, которая может привести к созданию биологических угроз».
Пока общественность рассуждает о рисках создания сильного искусственного интеллекта (AGI), гораздо ближе куда более насущная угрозы – что уже существующие инструменты ИИ могут использоваться для создания биологического оружия.
«Биологические угрозы с использованием искусственного интеллекта могут представлять значительный риск, но существующие исследования не оценили, как мультимодальные, пограничные модели могут снизить входной барьер для неспециалистов в создании биологической угрозы», — говорится в заявлении лаборатории Лос-Аламоса.
Различная тональность сообщений двух организаций, вероятно, сводится к тому, что OpenAI может быть неудобно признавать последствия для национальной безопасности и что ее продукт может быть использован террористами.
«Потенциал роста возможностей искусственного интеллекта безграничен, — заявил в своем заявлении в среду Эрик ЛеБрун, ученый-исследователь из Лос-Аламоса. – Однако измерение и понимание любых потенциальных опасностей или неправильного использования передового ИИ, связанного с биологическими угрозами, остаются в значительной степени неисследованными. Эта работа с OpenAI является важным шагом на пути к созданию основы для оценки текущих и будущих моделей, обеспечивающей ответственную разработку и внедрение технологий искусственного интеллекта».
В целом же Лос-Аламос оптимистично оценивает будущее технологии, даже несмотря на потенциальные риски. В своем комментарии Gizmodo лаборатория заявила, что ИИ может стать мощным двигателем открытий и прогресса в науке и технологиях.
Источник:
https://gizmodo.com/openai-partners-with-los-alamos-lab-to-save-us-from-ai-2000461202
👁️