ИИ: курс на замедление?
Ведущие американские концерны в области бигтеха призвали затормозить развитие искусственного интеллекта. Глава Anthropic Дарио Амодеи написал в своём блоге, что отрасли нужно больше времени на то, чтобы меры по предотвращению рисков успевали за развитием технологий. Амодеи добавил, что в противном случае уже через шесть–двенадцать месяцев ИИ может выйти из-под контроля. Дарио Амодеи поддержали Илон Маск, глава OpenAI Сэм Альтман и компания Google.
Нужен международный контроль!
Времени на регулирование почти не остаётся, - встревожена венская газета Der Standard:
«Известные учёные и инженеры не исключают возможности того, что роботы могут начать убивать людей. ... И несмотря на это политики - в первую очередь в Соединённых Штатах - продолжают участвовать в гонке за сверхинтеллект. Президент Трамп... не желает ставить под угрозу биржевые показатели. И уж точно он не намерен проигрывать в ИИ-гонке с Китаем. Но всё это не является причиной того, чтобы отказаться от регулирования в области ИИ и не дать учёным больше времени на установление контроля над этой технологией. Но для всего этого необходима международная коалиция. ЕС и такие страны, как Великобритания, Канада и Япония обладают рычагами, с помощью которых можно было бы надавить на США и Китай. Глобальное регулирование и контроль за ИИ должны также последовательно проводиться на уровне ООН. ... Причём уже сегодня, а не завтра.»
Лицемерные заявления бигтеха
К сожалению, никто ничего не желает менять, - констатирует в своей статье для римской газеты La Repubblica IT-журналист Федерико Феррацца:
«Есть один странный аспект во всей этой апокалиптической картине искусственного интеллекта. А именно: те, кто являются источником проблемы и напоминают нам о том, что их технологии могут стать концом человечества, теперь сами же намереваются эту проблему решать: 'Доверять нам было ошибкой, но вы всё равно должны нам верить!'. ... Однако самый примитивный вопрос, на который предприятия бигтеха не дают ответа, звучит так: если ИИ настолько опасен для человечества, то почему вы не перестанете делать то, что делаете, - вместо того чтобы на протяжении месяцев трепать языком и подробно расписывать ожидающие нас ужасы? ... Они просто не намерены и пальцем пошевелить. Подтверждение тому - конвейерный выпуск всё более новых и совершенных моделей ИИ.»
Чем-то похоже на гонку ядерных вооружений
В своей статье для барселонской газеты El Periódico de Catalunya политолог Астрид Баррио проводит следующие параллели:
«Понятно, что этот призыв продиктован реальной озабоченностью тех, кто прекрасно отдаёт себе отчёт в том, что именно сейчас разрабатывается. Но также легитимен и вопрос о том, а не служит ли это требование 'замедлиться' чьим-то экономическим интересам? ... Опыт с ядерными вооружениями показал, как гонка, проходящая без участия механизмов контроля, способна привести к ситуации, когда человечеству будет грозить взаимное уничтожение. В случае с ИИ тоже может сформироваться динамика взаимного ускоряющегося уничтожения, в контексте которого действующие лица будут идти на всё большие риски, руководясь страхом отстать от соперников. В качестве ответа на подобное развитие событий имело бы смысл не останавливать инновации, но сформулировать международные правила, увязанные на независимые механизмы контроля.»
Иллюзия контроля
Использование ИИ в военной сфере чревато особыми рисками, - предупреждает лондонская газета The Guardian:
«Сторонники ведения войн с опорой на ИИ утверждают, что в процессе принятия решений человек остаётся гарантом - потому что именно за ним будет последнее слово, к примеру, в вопросе о запуске баллистической ракеты. Однако такой подход предполагает, что машина будет предоставлять своему хозяину объективную картину происходящего. Авторы отчёта аналитического центра Strategic Foresight Group в начале этого года предупреждали о том, что мощный ИИ-агент может ввести в заблуждение человека, который им управляет, создав иллюзию нападения, скрывая противоречивые доказательства - и оставляя мало времени на принятие какого-либо иного решения, кроме как согласиться с ИИ. ... Человеческий контроль не может служить защитой в том случае, когда информацию, на которой человек основывает своё решение, контролирует ИИ.»
Включите здравый смысл!
В решении целого ряда проблем в первую очередь надо полагаться на человеческую логику, - считает газета французских коммунистов L'Humanité:
«Предположим, ИИ получил бы задание остановить изменение климата. Тут не нужен супер-компьютер для того, чтобы понять, что за оное ответственность несёт преимущественно человечество. Хорошо, но все ли люди ответственны в равной степени? Самые бедные 50 процентов населения, на долю которых приходится по два килограмма СО2 ежедневно, - или же те 0,1 процента населения, кто выделяет аж по 800 килограммов? Согласно последним оценкам, для того чтобы достичь целей Парижского соглашения по климату и ограничить глобальное потепление до 2030 года полутора градусами Цельсия, самые богатые люди на планете должны сократить свои выбросы на 99 процентов. Даже если не напоминать компьютерам о социальной справедливости, элементарная логика при расстановке приоритетов подсказывала бы следующее: перед тем, как истреблять человечество, для начала стоило бы уменьшить неравенство.»