Поддельное изображение взрыва в Пентагоне распространилось по социальным сетям как вирус, демонстрируя мощь искусственного интеллекта.
В понедельник на обложках социальных медиа и новостных сайтов появилась картина, созданная ИИ, где заметен дым, поднимающийся над иконическим зданием, что привело к смятению и массовой продаже акций на американском фондовом рынке. Согласно данным CoinGecko, поддельные новости также повлияли на криптовалютный рынок, в результате чего курс Биткоина испытал “неожиданный спад”, упав до примерно 26 500 долларов, перед тем как отскочить до текущего уровня в 27 300 долларов.
Изображение впервые опубликовали на теперь заблокированном верифицированном аккаунте Bloomberg Feed, где заявлялось о “масштабном взрыве” вблизи Пентагона. Несколько крупных СМИ, включая издание Russia Today, а также некоторые влиятельные персоналии разделили эту информацию, ускорив распространение дезинформации.
Тем не менее, сообщество быстро заметило нестыковки на изображении и отсутствие свидетельств от других очевидцев.
“Я уверен, что изображение, на котором якобы зафиксирован “взрыв вблизи Пентагона”, сгенерировано искусственным интеллектом”, – заявил эксперт в области цифровых технологий Ник Уотерс. “Обратите внимание на фасад здания и как забор переходит в барьеры для толпы. Кроме того, нет других изображений, видеозаписей или людей, публикующих сообщения в качестве свидетелей с места событий”.
Аналогичным образом, пожарная служба округа Арлингтон отвергла это заявление. “В зоне Пентагона и его окрестностях не происходит взрывов или инцидентов”, – заявили они, добавив, что “нет непосредственной угрозы для граждан”.
Фальшивое изображение взрыва в Пентагоне провоцирует тревогу относительно потенциала ИИ
Данный инцидент породил тревогу в связи с возможной угрозой со стороны средств искусственного интеллекта, которые могут быть злонамеренно использованы на глобальном уровне для посева дезинформации и создания беспорядка в сети.
Это не первый случай, когда поддельные изображения, сгенерированные ИИ, обманывают публику. В прошлом также встречались случаи с фотографиями Папы Франциска в куртке от Balenciaga, подложным задержанием бывшего президента США Дональда Трампа и фальшивыми изображениями знаменитостей, которые поддерживают мошенничество с криптовалютой.
Технические специалисты призывают приостановить разработку ИИ на полгода до того, как будут введены подходящие меры безопасности. На начало этого года Центр искусственного интеллекта и цифровой политики, лидирующая группа в области технической этики, обратился к Федеральной торговой комиссии с просьбой заморозить коммерческое использование GPT-4, ссылкаясь на соображения приватности и общественной безопасности.
В своем обращении группа заявила, что GPT-4 обладает “предвзятостью, обманчивостью и представляет собой угрозу для конфиденциальности и общественной безопасности”. В заявлении также утверждается, что инструмент вызвал беспокойство среди некоторых пользователей своей быстрой и почти человеческой реакцией на запросы.
Еще в апреле текущего года президент США Джо Байден предостерегал, что искусственный интеллект может быть опасным, подчеркнув, что на технологических компаниях лежит ответственность за обеспечение безопасности своих продуктов перед их выпуском для общего пользования.
