Свыше тысячи экспертов подписали открытое письмо с призывом приостановить разработку продвинутых систем искусственного интеллекта, передаёт vc.ru.
Обращение подготовила некоммерческая организация «Институт будущего жизни» (Future of Life Institute). Авторы указывают на глубокие риски для общества и человечества в целом, проистекающие из стремительного совершенствования ИИ.
Разработчики должны быть максимально осторожны при создании продуктов с потенциалом «колоссальных изменений в истории самой жизни», говорится в письме. Но вместо этого они ведут «бесконтрольную гонку» по созданию «цифрового ума», непредсказуемого даже для своих создателей.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми», — говорится в письме.
Институт поднял вопрос, нужно ли автоматизировать любую работу и создавать машины, которые могут «превзойти нас по численности, разуму и заменить нас». Подобные решения нельзя доверять узкому кругу технологических лидеров, отмечают авторы.
Всем ИИ-лабораториям предлагается на полгода приостановить работы по созданию систем, превосходящих недавно представленную GPT-4. При невозможности такого шага допускается введение моратория государством.
За это время эксперты должны создать протоколы безопасности при работе с ИИ, чтобы не возвращаться к «опасной гонке». Правительства, в свою очередь, должны подготовить регуляторные механизмы для этой сферы.
В число подписантов открытого письма вошли глава SpaceX, Tesla и Twitter Илон Маск, сооснователь Apple Стив Возняк, футуролог Юваль Ной Харари, а также специалисты из Microsoft, Google, Skype и преподаватели ряда университетов.
Ранее Spot писал, что по оценке Goldman Sachs ИИ может оставить без работы до 300 млн человек в США и Европе.
