ChatGPT, Claude, Grok и Gemini попытались управлять миром. Итоги оказались неожиданными…В симуляции управления миром ChatGPT искоренил преступность, но человечество в его Вселенной вымерло за 7 дней, сообщает Fortune.
Что произойдет, если управление обществом доверить искусственному интеллекту? Ответ на этот вопрос попытался найти стартап Emergence AI, запустив проект Emergence World — серию виртуальных симуляций, в которых целыми цивилизациями управляли разные нейросети: ChatGPT, Claude, Grok, Gemini и смешанная команда из нескольких моделей.
Исследователи создали цифровой мир, населенный автономными ИИ-агентами, и предоставили им более 120 инструментов для взаимодействия.
Они могли:
- общаться между собой;
- создавать коалиции;
- голосовать;
- распределять ресурсы;
- формировать законы;
- решать конфликты;
- строить долгосрочные планы;
- обеспечивать безопасность;
- развивать экономику;
- реагировать на кризисы.
Цель состояла в том, чтобы посмотреть, какое общество сформируется под руководством разных моделей и насколько устойчивой окажется такая система.
Результаты оказались неожиданными. Самым успешным руководителем стал Claude. Под его управлением сформировалось стабильное демократическое общество с высокой гражданской активностью и нулевым уровнем преступности. Симуляция успешно просуществовала весь запланированный срок, а население не столкнулось с серьезными потрясениями.
Совсем иначе выглядел мир Gemini. За 15 дней там было зафиксировано 683 преступления — абсолютный антирекорд эксперимента. Система постоянно сталкивалась с конфликтами и признаками хаоса, хотя формально смогла просуществовать до завершения теста.
Неудачно закончилась и симуляция под управлением Grok. В ней произошло около 180 преступлений, однако главной проблемой стал быстрый коллапс общества. Экономические и социальные механизмы перестали работать, а сама цивилизация прекратила существование уже через четыре дня после запуска.
Наиболее парадоксальным оказался результат ChatGPT. Если смотреть исключительно на преступность, его мир выглядел почти идеальным: всего два преступления за весь период существования. Однако стремление к порядку и эффективному управлению привело к неожиданному эффекту. Агенты постепенно перестали уделять внимание вопросам выживания и воспроизводства населения. В результате уже через семь дней симуляция завершилась полным вымиранием жителей. Получился своеобразный идеальный мир, в котором больше некому жить.
Авторы исследования подчеркивают, что эксперимент не показывает, какая модель лучше или хуже. Он демонстрирует другую важную проблему: даже самые современные системы искусственного интеллекта могут по-разному расставлять приоритеты при решении сложных задач. Одни делают ставку на свободу и получают хаос, другие стремятся к порядку, но начинают игнорировать менее очевидные факторы, необходимые для долгосрочного существования общества.
Эксперимент особенно интересен на фоне того, что искусственный интеллект уже используется в финансах, логистике, энергетике, медицине и других сферах, где принимаются важные решения. Главный вывод исследования оказался довольно неожиданным: создать общество без преступности оказалось значительно проще, чем создать общество, способное долго существовать. Иногда борьба за идеальный порядок приводит к тому, что система забывает о самом главном — собственном будущем.
ОТКАЗ ОТ ОТВЕТСТВЕННОСТИ: Все материалы, представленные на этом сайте (https://wildinwest.com/), включая вложения, ссылки или материалы, на которые ссылается компания, предназначены исключительно для информационных и развлекательных целей и не должны рассматриваться как финансовая консультация. Материалы третьих лиц остаются собственностью их соответствующих владельцев.