Как сообщает Wall Street Journal, в лабораториях, занимающихся разработкой искусственного интеллекта, растут опасения, что конкуренция подталкивает технологические компании к стремлению создавать самосовершенствующиеся модели, которые могут выйти из-под контроля человека.
Джейкоб Коксон, исследователь в области искусственного интеллекта, работавший в компаниях Anthropic и OpenAI, сказал :
«Создатели искусственного интеллекта всерьез убеждены, что к концу десятилетия он может нас всех уничтожить».
Эван Хубингер, руководитель направления Alignment Science в Anthropic, который также работал в OpenAI, ответил в сообщении на X :
«Мы действительно всерьез считаем, что искусственный интеллект может уничтожить все человечество! Лично я думаю, что это произойдет более чем на 10% в течение следующего десятилетия».
Хубингер добавил:
«Меня беспокоит появление сверхинтеллекта в результате рекурсивного самосовершенствования, которое, как мы уже говорили, происходит быстрее, чем мы предполагали».
Эту цифру следует рассматривать как личную оценку Hubinger. Это не прогноз, не установленный факт и не доказательство того, что современные чат-боты сами по себе станут опасными. И я не настолько хорошо разбираюсь в этом, чтобы одобрять или отвергать это утверждение.
Исследователи активно изучают вопрос о том, могут ли высокоэффективные системы действовать непредусмотренным образом , использовать уязвимости или быть использованы для автоматизации кибератак.
В репортаже BBC отмечается, что Хубингер оценил риски, связанные с существующими моделями, как низкие. Его опасения сосредоточены на возможных будущих системах с гораздо большей автономностью и возможностями.
Поскольку компании и правительства оценивают темпы развития ИИ, нам необходимы разумные меры предосторожности, включая независимое тестирование, ограничения на использование автономных систем с высоким риском, прозрачность со стороны разработчиков и ответственность в случаях, когда системы ИИ причиняют вред.
Эти меры должны также решить проблемы, с которыми мы уже сталкиваемся, поскольку киберпреступники используют ИИ для мошенничества, нарушения конфиденциальности и других киберпреступлений. Как и многие мощные технологии, ИИ может быть использован в качестве оружия, особенно когда средства защиты отстают от его возможностей.
Крайне сильные прогнозы могут вызывать сильные эмоции, особенно когда их делают люди, тесно связанные с технологией. Но неопределенность имеет и обратную сторону: серьезные предупреждения заслуживают тщательного анализа, а не безоговорочной веры.
Практический посыл заключается не в том, чтобы «игнорировать безопасность ИИ» или «готовиться к роботоапокалипсису». Компаниям, правительствам и исследователям необходимо работать вместе, чтобы обеспечить соответствие мер безопасности стремительному развитию технологий.
Сотрудничество может дополнять конкуренцию, и в данном случае оно может иметь решающее значение.
Ваше имя, адрес и номер телефона, возможно, уже выставлены на продажу.
Брокеры данных собирают и продают ваши личные данные всем, кто готов за них заплатить. Malwarebytes Personal Data Remover их, удаляет вашу информацию и следит за тем, чтобы она оставалась в безопасности.
