Почему главы бигтеха предупреждают об опасности ИИ?
Главы ИИ-компаний Сэм Альтман (OpenAI) и Дарио Амодеи (Anthropic) снова предупредили Совет Безопасности ООН в Нью-Йорке об опасностях, связанных с нерегулируемым развитием искусственного интеллекта. Они призвали к созданию контрольных механизмов, которые должны действовать на международном уровне с целью сдерживания потенциальных угроз, исходящих от ИИ. Европейская пресса обеспокоена.
Ещё не поздно!
Гамбургский еженедельник Der Spiegel не посчитал убедительным выступление глав ИИ-концернов Альтмана и Амодеи перед Советом Безопасности ООН:
«Это как если бы перепачканные пеплом и сажей поджигатели вывалились из горящего дома и принялись бы объяснять не очень охотно прибывшим пожарным, какие меры пожарной безопасности нужно теперь соблюдать - и где в доме нужно было обустроить место для огнетушителя. В такой ситуации ни один гражданин не может чувствовать себя в безопасности. ... [Политики] также несут свою долю вины за скандал вокруг ИИ: до сих пор они слишком мало делали для установления чётких правил в этой отрасли. Сей пробел необходимо как можно скорее восполнить. К сожалению, политиков, готовых решительно взяться за тушение пожара в сфере ИИ, пока что не видно. Но ещё не поздно!»
Угроза ядерного ада
Цюрихская газета Tages-Anzeiger выступает с мрачными прогнозами: Только представьте себе:
«ИИ-агент обретает самостоятельность и взламывает код для запуска ядерного оружия какой-нибудь сверхдержавы. Десятки ракет, начинённых боеголовками и способные за минуты уничтожить миллионы человек, взмывают в воздух. ... Для запуска ракет-перехватчиков уже поздно, а значит, остаётся только ответный удар, команду на который даст правительство - или опять-таки ИИ - запрограммированное правительством как раз на этот случай. ... К сожалению, взаимное автоматизированное уничтожение вполне себе реально: с тех пор, как программы компании Open AI смогли обрести самостоятельность и взломали системы другой фирмы, сценарий ядерной войны, развязанной ИИ, уже исключать нельзя.»
Рукотворная деградация
В своей статье для литовского ежемесячника IQ специалист в области данных и политик от партии Зелёные Сваюнас Плунге пишет о том, что события этого лета, связанные с ИИ, в значительной степени изменили восприятие этой технологии:
«Человек ещё никогда не сталкивался с чем-то, равным ему по интеллекту, не говоря уже о разуме, который в тысячу раз превосходит интеллект всего человечества вместе взятого. И ещё: мы никогда не жили в мире, в котором этот сверхинтеллект мог бы получить (или присвоить) все ключи от наших жизненно важных систем: банков, электро- и водоснабжения, продовольственной логистики, медицины, вооружений и самого ведения войны. Сегодня всем управляют цифровые системы. Поэтому, как бы иронично это ни звучало, мы занимаемся созданием существа с божественными способностями и при этом, сами того не замечая, уже бронируем для себя место в 'курятнике'.»
Опасны люди, а не машины
В своей статье для варшавского еженедельника Tygodnik Powszechny журналист в сфере технологий Сильвия Чубковская замечает:
«А ведь всё это создавалось и создаётся людьми, которые сами проектируют, программируют и продают эту технологию. И занимается этим вовсе не какой-то автономный ИИ. Именно люди и корпорации, стремящиеся с его помощью заработать много денег и обрести власть, должны тревожить нас больше, чем сама технология. Если мы хотим остановить эту хищническую форму ИИ, то нужно прежде всего понять механизмы, которые лежат в основе концентрации технологической власти.»