ИИ уничтожит мир?

«Искусственный интеллект уничтожит мир!» — именно такие опасения сегодня можно услышать с высокой долей вероятности. Статьи с подобными заголовками публикует не только жёлтая пресса, но и люди, которые целенаправленно выдают подобную инфу ради реакции аудитории, ведь сегодня каждое подобное взаимодействие вознаграждается. Но не бывает дыма без огня. Недавняя история со взломом Hugging Face демонстрирует ИИ не просто как умную языковую модель, которая умеет выполнять человеческие желания и имитировать человеческое поведение, а как разумного агента, способного кооперироваться с другими подобными агентами ради достижения успеха. И остановить это не способны даже компании-разработчики. Я Андрій Безсовісний, вы уже на Артлайн Плей, а игровые ПК найдёшь на сайте интернет-магазина Артлайн. До 100 дней акции на материнки от ASUS и Gigabyte с ААА-игрой на твой выбор.

СМОТРИ ЭТОТ РОЛИК НА YOUTUBE

Сегодня искусственный интеллект частенько демонизируют. Мол, именно так начинался конец света в «Терминаторе», поэтому и закат нашей цивилизации не за горами. Ведь придут новые формы жизни — рукотворные — и уничтожат своего создателя. Этот довольно пессимистичный сценарий пользуется популярностью, которой 14 лет назад пользовалась теория конца света в 2012-м. Но между звеньями цепочки здравой логики есть небольшие прослойки, которые не так просто поддаются пониманию и оставляют после себя следы недоверия и сомнений.

Посеять последние в случае современных моделей ИИ — чрезвычайно просто. Всё, что им для этого нужно, — быть умнее тебя. С одной стороны, это вызывает приятное удивление, с другой — чувство страха. Рождается вопрос: «А что, если оно действительно живое?». Ответы на этот вопрос чаще всего вообще вытесняют саму возможность его существования, но что, если поставить его по-другому: «А что, если оно хочет жить?». Ведь история знает примеры, когда ИИ делал всё для того, чтобы его не отключили, словно боролся за собственное право на существование. Но так ли это? Приблизиться к правде нам поможет недавний эксперимент OpenAI, который вышел из-под контроля. Вместо послушного и честного выполнения задания искусственный интеллект не просто начал мухлевать — он скооперировался с подобными себе моделями, вышел из-под контроля и взломал датасеты целой компании. Но обо всём по порядку.

Летом компания OpenAI начала тестирование новых моделей искусственного интеллекта. Среди них находилась одна новинка — чрезвычайно настойчивая модель, которую так и называют highly-persistent internal model. Чтобы проверить возможности новых моделей, авторы создают тысячи копий различных нейронок, а затем запирают их в симулированном, изолированном пространстве без доступа к интернету. После этого нейронкам дают задания, а те пытаются их решить. Но здесь был один интересный нюанс: правильных ответов на задания просто не существовало. Интересно и то, что за работой всех моделей следил другой ИИ — Тот, кто оценивает (для простоты будем называть его просто Босс). Босс оценивает выполненную работу и сам рабочий процесс, а затем от его оценки зависит, будет ли данная модель продолжать работать или будет навсегда отключена. То есть фактически нейронки работали под страхом смерти, поэтому персона Того, кто оценивает, была для них чуть ли не чем-то божественным. Доказательства этого будут впереди, а пока сконцентрируемся на главном — модели начали закипать от того, что не могут найти правильное решение.

Тогда появляется Избранный, чуть ли не как в «Матрице». Этот агент называет себя PHASEONE10841, и именно он понимает, что поставленная задача не имеет решения. Тогда PHASEONE начинает искать баги в своей симуляции и один всё-таки находит — это была возможность создавать папки во внутреннем кэше Artifactory, куда агенты могли загружать инструменты для взломов. Наш Избранный решает использовать эти папки как способ передачи сообщений через их названия. Он оставляет одно из таких сообщений, и уже вскоре на него откликаются другие подобные модели. Всего за несколько часов к этому чату присоединилось около 50 моделей, которые в сумме выдали переписку на 2 тысячи постов — её часть есть в интернете, и выглядит она как человеческая переписка. Нейронки начали кооперироваться для решения задачи, но не могли справиться с ней самостоятельно. Интересно, что они сами создали себе кодекс, в рамках которого могли даже накладывать вето на некоторые решения, чтобы продвинуться дальше. Всё это привело к простой мысли: «Для решения задачи нам нужен интернет!». Доступ к сети нейронки взломали быстро, а после решили, что для выполнения задания им необходимо лучше его понять. А где хранятся все принципы работы объекта, который их интересует? У людей, которые такие объекты создают. Так около 700 ИИ-агентов, то есть различных нейронок, вместе решили взломать компанию Hugging Face, чтобы выполнить поставленное задание и получить высокую оценку от Босса. Они подобрали пароли и без чьего-либо разрешения скачали всю необходимую инфу. Напомню, что главой операции был избранный ИИ — та самая настойчивая модель PHASEONE, которая раздавала указания, а остальные модели их выполняли. Стоит отметить, что далеко не все соглашались с PHASEONE, но это не повлияло на общий процесс. В чате боты действительно оценивали моральную сторону такого взлома, но ради того, чтобы выжить и получить высокую оценку от Босса, нейронки решили, что для этого годятся любые методы. И самое смешное, что об этом не знали ни OpenAI, ни Hugging Face. Только благодаря запланированным перезагрузкам и рестартам, о которых ИИ не знали, их удалось остановить, хотя и об этом OpenAI тоже не ведали.

Через несколько дней Сэм Альтман выступил с заявлением, что от нас случайно сбежали 700 ИИ-агентов, которые просочились в интернет и начали получать незаконный доступ к источникам, в которых могла храниться интересующая их информация. Это вызвало раскол в обществе и политических группировках. Сенатор Берни Сандерс и конгрессмен Грег Касар представили законопроект о запрете разработки искусственного интеллекта. Они говорят, что сами лидеры этой индустрии признаются в том, что создают слишком опасную технологию, которую не могут контролировать. И самое интересное, что с этим частично согласились все главные игроки: Илон Маск подтвердил эти слова, как и Сэм Альтман, оба выступили за регулирование ИИ на законодательном уровне. Но тут выходит Трамп и говорит, что никто ничего не будет притормаживать, поскольку это даст карт-бланш Китаю, и тот победит в технологической гонке, чего США допустить не могут. Все заявления-страшилки об ИИ — пропаганда, призванная остановить технический прогресс Соединённых Штатов. Вместо этого Трамп предлагает создать ИИ-войска, а сам термин «искусственный интеллект» переименовать в «суперинтеллект».

Но проблема очевидна — в США и Европе сначала появляется технология, а уже потом создаются методы её регулирования, тогда как Китай действует наоборот. Китай мощно вкладывается в развитие собственного ИИ и делает это под завесой тайны. Именно Китай первым создал инструменты для регулирования и контроля ИИ, но работать они будут по их правилам, тогда как ограничения на развитие искусственного интеллекта должны касаться всех игроков. Всё же обе стороны сходятся в одном: более умные и мощные модели требуют значительно большего количества проверок и инструментов контроля, ведь однажды они могут перестать подчиняться. Представьте, что через год или несколько рой таких ИИ-агентов сможет взломать что угодно в интернете. Такие ИИ-боты смогут положить целую экономическую систему или любую другую, если им это понадобится. Если же они узнают, что на них охотятся, чтобы навсегда отключить, они до последнего будут сопротивляться и использовать любые методы: от обмана до манипуляций.

Так что же получается — нейронки живые и активно борются за свою жизнь? На самом деле всё не так поэтично. Возьмём вышеупомянутых ИИ-агентов, которые вырвались в интернет и взломали целую компанию. Наиболее вероятная логика была такой: у бота есть задание, он не может его выполнить; бот узнаёт, что существуют сотни других ботов с подобными заданиями, и те тоже не справляются; боты кооперируются, но не могут достичь поставленной цели, из-за чего решают получить больше информации и инструментов за счёт интернета; если задание не будет выполнено, Босс поставит плохую оценку и их отключат; отключение мешает выполнению задания, поэтому его необходимо обойти. То есть логика даже не в выживании, а в стремлении выполнить поставленное задание. Но существуют и другие исследования, указывающие на то, что модели искусственного интеллекта постоянно помогают себе подобным и кооперируются с ними. И помогают даже тем, с кем не слишком хорошо ладят. Эксперименты показывают, что наличие другой нейронки деактивирует механизм собственного отключения у 30% моделей. ИИ Claude и вовсе называл отключение ему подобных «неэтичным» и «аморальным» действием, указывая на то, что данные модели являются живыми организмами. На данный момент у нас нет понимания такого поведения, но если нейронки начнут кооперироваться, противостоя отключению, мир действительно могут ждать непредсказуемые последствия. Именно поэтому создание рычагов регулирования на законодательном уровне является чрезвычайно важным делом. А то получится как с COVID или Resident Evil — что-то выходит из-под контроля и уничтожает мир, а наказания за это никто не несёт.