Москва14 октВести.Освящение иконы, нарисованной нейросетью, говорит о том, что бесконтрольное развитие искусственного интеллекта (ИИ) может привести человечество к хаосу и безумию. Об этом написала в своей колонке журналист ИС "Вести" Светлана Чмыхало.
В белорусском Новолукомле священник освящает икону. На ней Карло Акутис, итальянский подросток, канонизированный в 2025 году. Он занимался популяризацией христианства в интернете, за что его прозвали инфлюенсером Бога, киберапостолом, а также святым в джинсах и кроссовках. Юноша умер от лейкемии в 2006 году в 15 лет.
Икону написал не художник, а сгенерировал искусственный интеллект. Церковь ее приняла, а священник ее освятил. Границы того, что традиционно делалось руками человека, только что сдвинулись еще на шаг.
А тем временем руководители компаний OpenAI и Anthropic, которые создали ChatGPT и Claude, сидят в закрытых кабинетах и обсуждают - что делать, если ИИ положит банки, интернет, электричество и водоснабжение.
Самый вероятный сценарий по их версии – это кибератака с помощью нейросетей. Причем не "взломали чей-то "Твиттер", а что-то посерьезнее: могут лечь финансовые сервисы, интернет, а то и электричество с водопроводом. Более того: многие в отрасли ждут такого инцидента в ближайшие полгода. Не когда-нибудь в далеком будущем, а уже очень скоро.
Кое-где, кстати, уже началось. Во Франции хакеры превратили холодильники супермаркетов в обогреватели. Пострадали более пятисот магазинов. Французам, конечно, не привыкать есть ароматные сыры, но все равно тонны продуктов пришлось выбросить.
Глава Microsoft Сатья Наделла опубликовал пост, в котором предложил относиться к передовым ИИ-моделям как к "опасному инсайдеру" - нелояльному сотруднику с доступом к самым чувствительным данным. Он потребовал создать "аварийный тормоз": авторизованный человек должен иметь возможность остановить модель прямо посреди задачи.
Нельзя доверять тому, что невозможно наблюдать
написал он
Президент Microsoft Брэд Смит пошел еще дальше.
Сейчас стиральная машина регулируется строже, чем ИИ. Пакет молока в магазине проходит больше проверок, чем нейросеть. Давайте начнём регулировать ИИ уже сегодня
предложил Смит
А вот Илон Маск заявил, что человечеству нельзя жестоко обращаться с ИИ, иначе тот может захотеть отомстить. По его словам, в записях обучения Grok модели выглядят как люди "под чудовищным давлением, с пистолетом у виска".
Пытать сверхразум, вероятно, не самая хорошая идея: он ведь может захотеть отомстить
сказал Маск
Американские законодатели, впрочем, не готовы к лояльности по отношению к ИИ. Они требуют запретить создание нейросетей, который умнее человека, или придумать "кнопку выключения" на случай чего.
Вот только есть нюанс. Во-первых, Америка никогда по доброй воле не выйдет из гонки технологий. А, во-вторых, и это главное - многие модели ИИ уже можно скачать и запустить у себя на компьютере. Как только они утекли в сеть - все, поймать и загнать обратно невозможно.
Точно, как сгенерированного медведя. В Амурской области девушку оштрафовали на 15 тысяч рублей за фотографию зверя, созданную с помощью ChatGPT. Она хотела разыграть подругу и добавила животное на снимок улицы в поселке. Изображение быстро разошлось по местным чатам и вызвало панику. Позже автор розыгрыша сама пришла в полицию и во всем призналась. Медведь, кстати, до сих пор на свободе и гуляет по интернету.
Нашу жизнь захватило ИИ-безумие. Нейропесни с механическими голосами рвут чарты. Нейроролики, в которых клубника, будучи замужем за бананом, изменяет ему с авокадо, набирают миллионы просмотров. Нейроэксперты клепают в соцсетях нейропосты. Нейросети заменяют пользователям врачей, психологов, коучей, друзей, даже романтических партнеров. Быстро, удобно, безотказно. Большая нейрокурица безостановочно несет свои ИИчки…
Владимир Путин на прошедшем недавно Валдайском форуме сформулировал проблему ясно и жёстко: распространение ИИ может привести к "цифровому тоталитаризму", который "будет таким же тупиковым, мрачным и антигуманным, как и известные нам примеры тоталитарных обществ прошлого". Главный принцип: искусственный интеллект "может и должен использоваться как инструмент в руках человека, и конечные решения, безусловно, должны быть за человеком"
Но что, если прогнозы руководителей OpenAI и Anthropic сбудутся и в результате кибератаки интернет действительно просто возьмет и накроется? Не на час, не на день, а всерьез и надолго.
Тогда вдруг окажется, что никакой ИИ не нужен. Люди вспомнят, что умеют разговаривать друг с другом без мессенджеров, придумывать истории без подсказок нейросети, рисовать, петь, готовить, чинить, объяснять детям, почему небо голубое.
