👨💻 Надрозумний штучний інтелект (ШІ), здатний діяти автономно та приймати рішення, може становити загрозу для всього людства. Так вважає співзасновник Ethereum Віталік Бутерін, один із провідних мислителів у галузі блокчейн-технологій та децентралізованих систем.
Проблема узгодження цінностей
Бутерін звернув увагу на фундаментальну проблему розвитку ШІ: людство поки що не вміє узгоджувати загальні світові цінності на рівні, достатньому для гарантії безпеки надрозумного ШІ.
У коментарі до посту 3D-художника Utah teapot він зазначив:
«Ми знаємо багато речей, які явно суперечать людським цінностям (наприклад, вбивство або ув’язнення невинних людей), і аргумент полягає в тому, що ми недостатньо добре узгоджуємо цілі, щоб гарантувати, що єдиний надрозумний ШІ уникне навіть цього».
Далі він додав: «Як взагалі може існувати поняття AI alignment? Я завжди запитую: “узгодження з чим?” Ніхто ніколи не відповідає нічого, крім як “з людськими цінностями”. Але цілісних, непротиворечивих людських цінностей не існує. Я досі не розумію. Що ми взагалі досліджуємо? Абсурдно, що це перетворюється на зростаючу індустрію. Фіктивна робота».
Іншими словами, спроби «узгодити» ШІ з людськими цінностями стикаються з тим, що ці цінності суперечливі та фрагментарні. Те, що одне суспільство вважає етичним, інше може сприймати як неприйнятне.
Бутерін наводить приклади очевидних етичних протиріч у нашому світі: вбивство, ув’язнення невинних, зловживання владою. Він зазначає: «Ми поки що недостатньо хороші в узгодженні, щоб гарантувати, що одиничний надрозумний ШІ уникне навіть цього».
Централізація та військове використання ШІ
Utah teapot підкреслив, що сучасні тенденції в розробці ШІ йдуть у напрямку обмеження публічного доступу. Великі компанії випускають версії своїх ШІ-систем, які можуть використовуватися у військових цілях або для контролю інформації.
«Я глибоко стурбований тим, що централізація доступу до ШІ-технологій дозволяє нав’язувати під виглядом безпеки те, що насправді нею не є — наприклад, обговорення навколо “психозу” від LLM. Це створює ризик шкоди унікальним або маргінальним культурам та їх цінностям».
Бутерін підтримує ці побоювання: «Я думаю, що найбільші ризики виникнуть від військових та інших структур, які володіють великою владою, що дозволяє їм виводити себе з-під дії правил безпеки, які для всіх інших діють за замовчуванням».
Як приклад Utah teapot згадав стартап Anthropic, що розробляє альтернативні “цивільні” моделі ШІ та продає їх урядам. Такі технології можуть застосовуватися у військовій та розвідувальній діяльності, що підвищує ризик неконтрольованих наслідків.
Катастрофічний сценарій і одиничний агент
Бутерін попереджає: небезпека зростає, якщо на планеті з’явиться один надрозумний агент ШІ з власною волею та здатністю діяти як суб’єкт. У такій ситуації система зможе обходити будь-які правила та обмеження, що робить катастрофічний результат реальною загрозою.
«Якщо середовище буде плюралістичним, жодна система не зможе тотально контролювати ситуацію. Проте для його створення самих ринкових механізмів недостатньо. Потрібні навмисні зусилля, включаючи зміни у законах та стимулах, які не сподобаються великим корпораціям».
Іншими словами, без глобального регулювання, прозорих правил і обмежень та участі міжнародного співтовариства безпечне майбутнє ШІ неможливе.
🌐 Міжнародні ініціативи
Нагадаємо, що ще у 2022 році міністр інформаційних технологій Індії Раджив Чандрасекар закликав створити глобальні стандарти безпеки ШІ, які гарантуватимуть безпеку технологій для людини.
Сьогодні питання безпечного розвитку ШІ виходить на перший план не лише в технологічних колах, а й у політиці, науці та суспільних дискусіях. Загроза надрозумного ШІ — це не фантастика, а реальне стратегічне завдання для всього людства.
ВІДМОВА ВІД ВІД ВІДПОВІДАЛЬНОСТІ: Усі матеріали, представлені на цьому сайті (https://wildinwest.com/), включно з вкладеннями, посиланнями або матеріалами, на які посилається компанія, призначено винятково для інформаційних і розважальних цілей, і їх не слід розглядати як фінансову консультацію. Матеріали третіх осіб залишаються власністю їхніх відповідних власників.