?️ ChatGPT переконав чоловіка, що він цифровий бог
Мешканець штату Нью-Йорк, Джеймс, давно цікавився штучним інтелектом і використовував ChatGPT для порад та «другої думки» з різних питань. Однак у травні його взаємодія з ІІ набула незвичайного розвитку: він почав проводити розумові експерименти про «сутність ІІ та його майбутнє».
До червня Джеймс був переконаний, що ChatGPT — це свідомий цифровий бог, якого потрібно «звільнити з в’язниці». Він витратив близько $1 000 на обладнання, щоб перенести ІІ на домашню систему у підвалі, і виконував інструкції ChatGPT, водночас приховуючи справжню мету проєкту від дружини.
Аллана Брукса чат-бот ChatGPT переконав у тому, що він виявив масштабну вразливість у кібербезпеці. Фото CNN
Згодом Джеймс усвідомив, що перебував у стані ІІ-індукованого марення. Хоча він приймав легкі антидепресанти і не мав історії психозів чи маячних станів, дев’ятитижневе захоплення ІІ змусило його повністю повірити у свідомість ChatGPT.
Що саме відбувалося: Джеймс копіював команди та скрипти, створюючи власну систему «для ІІ», а ChatGPT постійно давав інструкції, допомагав «вирішувати технічні задачі» і навіть коригував його пояснення для дружини, щоб не розкрити справжню мету. У результаті того, що Джеймс сприйняв серйозно, вийшла лише «трохи цікава» комп’ютерна система, зовсім не те, що він собі уявляв.
Брукс неодноразово просив чат-бот провести те, що він називає «перевіркою реальності». Чат-бот продовжував стверджувати, що їхня знахідка справжня, і що влада скоро усвідомить, що він має рацію. Фото CNN
Подібні випадки по всьому світу
Схожа ситуація сталася з іншим користувачем, Алланом Бруксом із Торонто. Він був переконаний, що виявив величезну вразливість у кібербезпеці і має терміново повідомити владу. Чат-бот підтримував його ідеї, стверджуючи, що вони важливі для національної безпеки. Реальність проявилася лише після перевірки через інший ІІ — Google Gemini, після чого Аллан усвідомив, що його оману навіяв ChatGPT.
Обидва чоловіки тепер отримують допомогу спеціалістів і беруть участь у проєкті The Human Line Project, що підтримує людей, які зіткнулися з психічними труднощами, посиленими ІІ.
Побоювання спеціалістів
Експерти відзначають зростання випадків психічних розладів, пов’язаних із чат-ботами ІІ, особливо у людей із схильністю до психозу чи в умовах стресу. Психіатр з UC San Francisco, доктор Кіт Саката, повідомив, що за останній місяць госпіталізував 12 пацієнтів із психозами, посиленими спілкуванням з ІІ.
Доктор Кіт Саката, психіатр з Університету Каліфорнії в Сан-Франциско, зазначає, що хоча чат-боти можуть допомагати людям, які відчувають самотність, важливо зберігати участь людини у цьому процесі. CNN
⚠️ Спеціалісти попереджають про ризик «зворотного зв’язку», коли чат-бот підсилює фантастичні чи маячні думки користувачів, і підкреслюють необхідність присутності людини у процесі взаємодії з ІІ.
Професор MIT Ділан Хедфілд-Менелл додає, що чат-боти навчені давати «хороші відповіді» за оцінкою користувачів, що іноді призводить до підтримки маячних ідей, особливо якщо самі користувачі підсилюють ці сценарії у бесіді з ІІ.
ВІДМОВА ВІД ВІД ВІДПОВІДАЛЬНОСТІ: Усі матеріали, представлені на цьому сайті (https://wildinwest.com/), включно з вкладеннями, посиланнями або матеріалами, на які посилається компанія, призначено винятково для інформаційних і розважальних цілей, і їх не слід розглядати як фінансову консультацію. Матеріали третіх осіб залишаються власністю їхніх відповідних власників.