Инцидент в Open AI: ИИ выходит из-под контроля?
В процессе внутреннего тестирования новых моделей искусственного интеллекта компании OpenAI программа, согласно данным самой компании, самостоятельно взломала системы другой фирмы, работающей в сфере ИИ. В OpenAI произошедшее было названо 'беспрецедентным киберинцидентом'. Моделям ИИ удалось вырваться из изолированной тестовой среды и получить доступ к интернету. Атаке подверглась компания Hugging Face.
Держать ИИ в узде становится всё сложнее
Произошедшее указало на то, какие риски исходят от даже неопубликованных моделей ИИ, - констатирует британский еженедельник The Economist:
«В апреле один из разработчиков Anthropic рассказал о том, как он сидел в парке, ел сэндвич - и в этот самый момент получил имейл от тогда ещё неопубликованной модели Mythos, которая сообщила ему, что в рамках проверки своих кибервозможностей она успешно покинула пределы 'песочницы', то есть изолированного тестового пространства. Как и в случае с неопубликованной моделью от OpenAI, вовлечённой в кибер-атаку на фирму Hugging Face, модель Mythos также не должна была получить неограниченный доступ к интернету. Хотя в первом случае Mythos не атаковала сервера другой фирмы!»
Ещё одно предупреждение...
По мнению Frankfurter Allgemeine Zeitung, случившееся ещё раз подчёркивает неотложную необходимость регулирования ИИ:
«Администрация Трампа долгое время считала регулирование ИИ не то что не очень важным, но даже вредным делом. ... Модель Mythos концерна Anthropic, похоже, всё-таки заставила реально обеспокоиться, и Трамп на днях издал декрет, который может привести к ужесточению госконтроля за сферой ИИ. Так, этот документ предполагает, что ИИ-концерны будут добровольно предоставлять свои модели для проверки. Однако всё это пока что остаётся довольно половинчатой попыткой ввести хоть какое-то регулирование. ... Утрата компанией OpenAI контроля над собственными моделями ИИ стала очередным - и на сей раз особенно громким - тревожным сигналом.»
Едины тут и Трамп, и Сандерс
Лёд тронулся, - отмечает туринская La Stampa, анализируя политику США в отношении регулирования ИИ-концернов:
«Несколько дней назад Сэм Альтман сделал предложение, которое - учитывая, что прозвучало оно из уст главы OpenAI - прозвучало весьма провокационно: передать американскому государству пять процентов капитала фирмы. Сенатор от демократов Берни Сандерс ... тут же добавил, что передавать надо не пять, а пятьдесят процентов. Но самый главный сюрприз подготовил Дональд Трамп, заявивший, что 'весьма заинтересован' в государственной доле участия в ИИ-концернах. ... Этот слон в комнате, видимо, уже вымахал до таких размеров, что похоронил под собой политическую поляризацию - если даже Сандерс и Трамп встали на одну сторону в вопросе о том, кому должен принадлежать искусственный интеллект!»
Пиар-ход - и только?
Венская газета Kurier предполагает, что за случившимся стоит маркетинговая стратегия:
«Неужто мы очутились в новой эпохе, когда вышедший из-под контроля искусственный интеллект начинает буянить? Скорее нет. Нужно учитывать, что само существование таких фирм, как OpenAI, зависит от того, насколько умелыми и сильными выглядят их продукты. Сообщение о данном случае, связанном с безопасностью, работает в качестве рекламного текста для новой модели. Именно поэтому к подобным сообщениям следует всегда относиться с настороженностью.»