Илон Маск, Стив Возняк, Тристан Харрис (из Центра гуманных технологий) и еще более 1000 человек подписали открытое письмо с призывом приостановить на шесть месяцев разработку систем искусственного интеллекта мощнее GPT-4. Прочитать документ можно здесь.
Авторы письма пишут, что современные системы ИИ «становятся конкурентоспособными [человеку] в решении общих задач», и просят задать самим себе вопросы: «должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? должны ли мы автоматизировать все рабочие места, в том числе интересные [для каждого]? должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас? должны ли мы рисковать потерей контроля над нашей цивилизацией?»
Подписанты полагают, что доверять разработку ИИ «неизбранным лидерам технологий» нельзя, их нужно создавать с уверенностью, что технология даст «положительный эффект», а «риски будут управляемы».
В письме без указания названий говорится о «лабораториях ИИ», где создаются «малопонятные и непредсказуемые» даже создателям «мощные цифровые умы». Пауза в разработке, о которой заявляют подписанты, должна быть «общедоступной, поддающейся проверке и включать всех ключевых участников». «Если указанную паузу нельзя сделать быстро, правительства должны вмешаться и ввести мораторий», — считают они.