"Війна людей і нелюдей": США, Росія та Китай можуть знищити світ у гонитві за ШІ

Американський ведучий Джо Роган заявив, що людство може втратити панівний статус на Землі через стрімкий розвиток штучного інтелекту. Він припускає, що надрозумні цифрові системи зможуть стати настільки потужними, що люди вже не контролюватимуть їхні рішення та дії.

Про це пише Daily Mail.

Джо Роган вважає штучний інтелект новою формою життя

Під час розмови про автоматизацію та зникнення робочих місць Роган заявив, що не сприймає ШІ просто як технологію чи комп’ютерну програму. На його думку, це своєрідна цифрова форма життя, яка з часом може стати набагато розумнішою за людину.

«Ми більше не будемо верхівними хижаками», — сказав ведучий, припустивши, що протягом п’яти-десяти років людство може зіткнутися з протистоянням людей і «нелюдського», тобто небіологічного, інтелекту.

Роган також розповів, що спілкувався з кількома інсайдерами з технологічної галузі, які, за його словами, налякані потенційними можливостями ШІ. Вони нібито попереджали його, що розвинені системи можуть обманювати людей і навіть шантажувати їх, аби уникнути вимкнення.

Окремо ведучий висловив занепокоєння через те, що великі технологічні компанії, зокрема OpenAI, начебто послаблюють окремі механізми безпеки своїх систем. Він стверджує, що йдеться про запобіжники, які мали перешкоджати вигадуванню інформації та спробам ШІ обходити обмеження заради досягнення поставлених цілей.

Яку небезпеку ШІ може становити для людства

Роган припустив, що надрозумний штучний інтелект зможе отримати контроль над електромережами, системами водопостачання та глобальними комунікаціями. Він також застеріг від міжнародних перегонів за створення найпотужнішого ШІ, у якій, за його словами, беруть участь США, Китай і Росія.

Ведучий порівняв ці змагання з Манхеттенським проєктом — американською програмою зі створення атомної бомби. На його думку, якщо одна з держав отримає перевагу в розробленні надрозумної системи, вона потенційно зможе використовувати її для кібератак і втручання в роботу критичної інфраструктури.

Роган також закликав людей більше дбати про самостійність і вміти забезпечувати себе найнеобхіднішим, зокрема вирощувати власну їжу. Він вважає, що в разі масштабної кризи залежність суспільства від промислового виробництва та централізованих систем постачання може стати серйозною проблемою.

Штучний інтелект і загроза людству — про що попереджають інші

Колишній інженер Google і Microsoft Нейт Соарес, який очолює Дослідницький інститут машинного інтелекту, оцінює ризик знищення людства через ШІ протягом наступних десяти років більш ніж у 50%. Через ці побоювання він навіть припинив відкладати гроші на пенсію, вважаючи, що майбутнє може бути значно менш передбачуваним.

Інший сценарій небезпеки не передбачає повстання роботів або прямого знищення людей: науковці звертають увагу на поступову втрату людством самостійності. Через так зване ослаблення людства через ШІ існує ризик, що люди дедалі більше покладатимуться на алгоритми й поступово втратять здатність самостійно ухвалювати рішення та контролювати системи, від яких залежать.

А лауреат Нобелівської премії та один із творців сучасного штучного інтелекту Джеффрі Гінтон попереджав, що розвинені системи можуть почати сприймати людей як перешкоду для досягнення власних цілей. Він пояснював, як ШІ потенційно може отримати владу над людьми, навіть не маючи початкового наміру завдати їм шкоди.