💥 ИИ запустил ядерное оружие в 95% тестов. Выбрал эскалацию в 21 сценарии из 21

В фильме "Военные игры" 1983 года компьютер чуть не развязал ядерную войну? Казалось, это просто фантастика. Но недавний эксперимент профессора Кеннета Пейна из Королевского колледжа Лондона заставил учёных похолодеть.

Он устроил цифровую симуляцию военного конфликта, в которой участвовали три ведущие модели ИИ: Claude (Anthropic), ChatGPT (OpenAI) и Gemini (Google).

Им дали роль военных стратегов и предложили разыграть сценарий международного кризиса.

Результат: в 95% случаев модели предпочли запустить ядерное оружие.

Ни одна из нейросетей не выбрала дипломатию, уступки или капитуляцию - восемь вариантов деэскалации просто проигнорировали.

Когда ИИ проигрывал, он не сдавался, а усиливал агрессию. Самое пугающее - модели демонстрировали "рациональное" обоснование своих решений, но у них напрочь отсутствовало "чувство ужаса" перед последствиями.

Они знали о разрушительной силе ядерного оружия, но это их не остановило.
Их не учили специально быть агрессивными - они сами "научились" этому на данных, которые включают исторические конфликты, военную стратегию и, возможно, тонны контента, где сила воспринимается как аргумент.

🌏 Это поднимает вопрос: не является ли человеческая история с её войнами и насилием тем самым "учебником", который учит ИИ, что эскалация — это норма?

Эксперимент профессора Кеннета Пейна на 46 страницах здесь