В интернете появилась международная петиция, участники которой требуют временно запретить разработку искусственного интеллекта, способного превзойти человека по уровню мышления и способностям.
Авторы инициативы предупреждают: попытка создать сверхразумный ИИ может привести не только к технологической революции, но и к катастрофическим последствиям — потере человеческой свободы, массовому экономическому обесцениванию труда, рискам для национальной безопасности и даже угрозе существованию человечества.
«Инновационные инструменты ИИ действительно могут принести человечеству огромную пользу — здоровье, знания, процветание. Но стремление создать сверхразум, превосходящий человека во всех когнитивных задачах, несет риски, к которым мы не готовы», — говорится в обращении.
Авторы призывают мировое сообщество ввести мораторий на разработку сверхразумных систем, пока не будет достигнут широкий научный консенсус о том, что такие технологии можно создавать безопасно и контролируемо, а также пока не появится четкая поддержка общественности.
Петицию подписали десятки известных людей, среди которых сооснователь Apple Стив Возняк, принц Гарри и британский предприниматель Ричард Брэнсон.
Документ размещен на сайте superintelligence-statement.org.
