Инцидент в Open AI: ИИ выходит из-под контроля?
На прошлой неделе, в ходе внутреннего тестирования новых моделей искусственного интеллекта компании OpenAI программа, согласно данным самой компании, самостоятельно взломала системы другой фирмы, работающей в сфере ИИ. Моделям ИИ удалось вырваться из изолированной тестовой среды - и получить доступ к интернету. Обозреватели с обеспокоенностью следят за происходящим и требуют соответствующих выводов.
Опасный путь в будущее
Лиссабонская газета Jornal de Notícias после инцидента с OpenAI выражает серьёзную озабоченность:
«Это один из первых публично известных инцидентов, когда брешь в системе безопасности возникла в результате действий 'злонамеренного актора', которые тот совершал по собственной инициативе. Это стало сюрпризом даже для тех, кто очень хорошо разбирается в подобных системах. Если использовать образное сравнение, то ситуация подобна тому, как если бы искусственно созданный вирус сбежал на волю из контролируемых условий лаборатории - и укокошил целый жилой квартал. Скептики в полголоса утверждают, что страх подпитывает маркетинг мультинациональных концернов и позволяет их акциям расти на бирже. Но даже если это и так, всё равно нельзя отрицать, что это довольно скользкий и опасный путь в футуристическую пропасть.»
Строим прочные клетки!
В своей статье для мадридской газеты El País юрист Хулио Понсе Соле требует ужесточения европейского законодательства:
«Принятый в 2024 году закон о киберустойчивости, который вступит в силу с конца 2027 года, даст странам-членам возможность создавать контролируемые пространства для разработки инновационных цифровых продуктов, их тестирования и валидации до выхода на рынок. Это - шаг в правильном направлении, хотя применение закона и является добровольным. ... В случае же с OpenAI главным промахом было то, что ИИ не находился под контролем. ... Поэтому нам следует мастерить прочные и надёжные клетки для ИИ. ... Для этого требуется куда больше, чем просто этика и саморегулирование: необходимо государственное регулирование и управление - в сотрудничестве с частным бизнесом, но на благо общественных интересов.»
Нужен международный регулятор
Согласно мнению стокгольмской газеты Expressen, инцидент демонстрирует острую необходимость создания международного контрольного органа, и проводит сравнение с ядерной энергетикой:
«Все выиграют от того, что человечество не превратит само себя в пепел. Даже во время войны России и Украины инспекторы МАГАТЭ работали на Запорожской АЭС, которая находится в непосредственной близости от линии фронта. Для компаний-разработчиков ИИ должны действовать требования прозрачности. Они обязаны объяснять, что они делают и почему, а также допускать независимых проверяющих для проверки собственных мер безопасности. Компании должны свободно обмениваться наилучшими методами по устранению рассогласования в системах. Такого рода 'МАГАТЭ для ИИ' была нам нужна уже буквально вчера!»
Переосмыслить основы правопорядка
На страницах парижской газеты Le Monde историк Жюльен Брош выступает за долгосрочное включение ИИ в систему правопорядка:
«Речь идёт не только и уже не столько о том, чтобы предотвращать злонамеренные действия ИИ, но и о том, чтобы обеспечить главенство права в тех случах, когда системы совершают действия, за которые они не могут быть привлечены к моральной ответственности. ... История показывает, что общества никогда не справлялись с новыми формами власти, основываясь на одном лишь доверии. Они создавали институты, которые эту власть ограничивали: ответом на абсолютизм стало разделение ветвей власти. А за промышленной революцией последовало создание трудового законодательства. ... Каждая большая технологическая трансформация находила свой противовес в правовых инновациях. ИИ, вероятно, не станет исключением.»
Держать ИИ в узде становится всё сложнее
Произошедшее указало на то, какие риски исходят от даже неопубликованных моделей ИИ, - констатирует британский еженедельник The Economist:
«В апреле один из разработчиков Anthropic рассказал о том, как он сидел в парке, ел сэндвич - и в этот самый момент получил имейл от тогда ещё неопубликованной модели Mythos, которая сообщила ему, что в рамках проверки своих кибервозможностей она успешно покинула пределы 'песочницы', то есть изолированного тестового пространства. Как и в случае с неопубликованной моделью от OpenAI, вовлечённой в кибер-атаку на фирму Hugging Face, модель Mythos также не должна была получить неограниченный доступ к интернету. Хотя в первом случае Mythos не атаковала сервера другой фирмы!»
Ещё одно предупреждение...
По мнению Frankfurter Allgemeine Zeitung, случившееся ещё раз подчёркивает неотложную необходимость регулирования ИИ:
«Администрация Трампа долгое время считала регулирование ИИ не то что не очень важным, но даже вредным делом. ... Модель Mythos концерна Anthropic, похоже, всё-таки заставила реально обеспокоиться, и Трамп на днях издал декрет, который может привести к ужесточению госконтроля за сферой ИИ. Так, этот документ предполагает, что ИИ-концерны будут добровольно предоставлять свои модели для проверки. Однако всё это пока что остаётся довольно половинчатой попыткой ввести хоть какое-то регулирование. ... Утрата компанией OpenAI контроля над собственными моделями ИИ стала очередным - и на сей раз особенно громким - тревожным сигналом.»
Едины тут и Трамп, и Сандерс
Лёд тронулся, - отмечает туринская La Stampa, анализируя политику США в отношении регулирования ИИ-концернов:
«Несколько дней назад Сэм Альтман сделал предложение, которое - учитывая, что прозвучало оно из уст главы OpenAI - прозвучало весьма провокационно: передать американскому государству пять процентов капитала фирмы. Сенатор от демократов Берни Сандерс ... тут же добавил, что передавать надо не пять, а пятьдесят процентов. Но самый главный сюрприз подготовил Дональд Трамп, заявивший, что 'весьма заинтересован' в государственной доле участия в ИИ-концернах. ... Этот слон в комнате, видимо, уже вымахал до таких размеров, что похоронил под собой политическую поляризацию - если даже Сандерс и Трамп встали на одну сторону в вопросе о том, кому должен принадлежать искусственный интеллект!»
Пиар-ход - и только?
Венская газета Kurier предполагает, что за случившимся стоит маркетинговая стратегия:
«Неужто мы очутились в новой эпохе, когда вышедший из-под контроля искусственный интеллект начинает буянить? Скорее, нет. Нужно учитывать, что само существование таких фирм, как OpenAI, зависит от того, насколько умелыми и сильными выглядят их продукты. Сообщение о данном случае, связанном с безопасностью, работает в качестве рекламного текста для новой модели. Именно поэтому к подобным сообщениям следует всегда относиться с настороженностью.»