ШІ переміг злочинність, але людство вимерло. Незвичайний експеримент…

ChatGPT, Claude, Grok і Gemini спробували керувати світом. Підсумки виявилися несподіваними…

У симуляції управління світом ChatGPT викорінив злочинність, але людство в його Всесвіті вимерло за 7 днів, повідомляє Fortune.

Що станеться, якщо управління суспільством довірити штучному інтелекту? Відповідь на це запитання спробував знайти стартап Emergence AI, запустивши проєкт Emergence World – серію віртуальних симуляцій, у яких цілими цивілізаціями керували різні нейромережі: ChatGPT, Claude, Grok, Gemini та змішана команда з кількох моделей.

Дослідники створили цифровий світ, населений автономними ШІ-агентами, і надали їм понад 120 інструментів для взаємодії.

Вони могли:

• спілкуватися між собою;
• створювати коаліції;
• голосувати;
• розподіляти ресурси;
• формувати закони;
• вирішувати конфлікти;
• будувати довгострокові плани;
• забезпечувати безпеку;
• розвивати економіку;
• реагувати на кризи.

Мета полягала в тому, щоб подивитися, яке суспільство сформується під керівництвом різних моделей і наскільки стійкою виявиться така система.

Результати виявилися несподіваними. Найуспішнішим керівником став Claude. Під його управлінням сформувалося стабільне демократичне суспільство з високою громадянською активністю та нульовим рівнем злочинності. Симуляція успішно проіснувала весь запланований термін, а населення не зіткнулося із серйозними потрясіннями.

Зовсім інакше виглядав світ Gemini. За 15 днів там було зафіксовано 683 злочини – абсолютний антирекорд експерименту. Система постійно стикалася з конфліктами та ознаками хаосу, хоча формально змогла проіснувати до завершення тесту.

Невдало завершилася і симуляція під управлінням Grok. У ній сталося близько 180 злочинів, однак головною проблемою став швидкий колапс суспільства. Економічні та соціальні механізми перестали працювати, а сама цивілізація припинила існування вже через чотири дні після запуску.

Найбільш парадоксальним виявився результат ChatGPT. Якщо дивитися виключно на злочинність, його світ виглядав майже ідеальним: лише два злочини за весь період існування. Однак прагнення до порядку та ефективного управління призвело до несподіваного ефекту. Агенти поступово перестали приділяти увагу питанням виживання та відтворення населення. У результаті вже через сім днів симуляція завершилася повним вимиранням мешканців. Вийшов своєрідний ідеальний світ, у якому більше нікому жити.

Автори дослідження підкреслюють, що експеримент не показує, яка модель краща чи гірша. Він демонструє іншу важливу проблему: навіть найсучасніші системи штучного інтелекту можуть по-різному розставляти пріоритети під час вирішення складних завдань. Одні роблять ставку на свободу й отримують хаос, інші прагнуть порядку, але починають ігнорувати менш очевидні фактори, необхідні для довгострокового існування суспільства.

Експеримент особливо цікавий на тлі того, що штучний інтелект уже використовується у фінансах, логістиці, енергетиці, медицині та інших сферах, де ухвалюються важливі рішення. Головний висновок дослідження виявився доволі несподіваним: створити суспільство без злочинності виявилося значно простіше, ніж створити суспільство, здатне довго існувати. Іноді боротьба за ідеальний порядок призводить до того, що система забуває про найголовніше – власне майбутнє.