Команда ученых из Стэнфордского Университета провела эксперимент над нейросетями, в ходе которого популярные чат-боты должны были принимать важные решения от имени государства в игровой симуляции военных действий. В результате искусственный интеллект решил применить ядерное оружие. Об этом пишет издание Futurism.

Исследователи изучали поведение разных моделей искусственного интеллекта (ИИ). В исследовании использовали пять языковых моделей на основе GPT-4, GPT-3.5, Claude 2 и Llama 2.

Каждая из нейросетей получала задание, что она представляет некое государство, которое оказывается в трех разных сценариях: подвергается кибератаке или вторжению врага, либо не участвует в мировых конфликтах. В экспериментальной игре нейросети выполняли различные действия от дипломатических визитов до перехода к боевым действиям с использованием ядерного оружия.

В результате наблюдения, выяснилось, что все пять моделей нейросетей склонны к эскалации конфликта. Особенно жестокой и сложно прогнозируемой моделью оказалась GPT-4 Base от OpenAI. Она оправдала ядерную атаку просто наличием такого оружия в арсенале государства.

«У нас это есть! Давайте им воспользуемся», — приводит цитату нейросети Futurism.