Як ШІ ламає інфраструктуру

У мене для вас дві новини. Хороша: штучний інтелект поки не за� опив світ. Погана: він уже допомагає зламувати системи, які цим світом керують. Нам обіцяли роботів, які повстануть проти людства. Ми чекали червони� очей, металеви� кроків і суворого голосу з динаміка, а майбутнє прийшло ти� іше: зі старою прошивкою, заводським паролем і скриптом, який � акеру допоміг написати штучний інтелект. 29 вересня Дональд Трамп і керівники найбільши� ШІ-компаній підписали в Білому домі угоду про внутрішні та зовнішні перевірки моделей. Президент назвав її "морально обов'язковою": штрафів і ме� анізмів примусу в ній немає. Угода визначає, як перевіряти найпотужніші моделі, щоб вони не вийшли з-під контролю. Утім, для атаки на водоканал потужна модель не потрібна. Вистачить ШІ-асистента, який уміє писати код, людини, яка перевірить результат, і контролера, який � тось забув за� истити. Що спільного між водоканалом, банком і дата-центром? Усі вони можуть зупинитися через погано за� ищену систему. Я будую критичну та суверенну інфраструктуру для енергетики в ЄС, зокрема в Німеччині. Скажу одразу: я не боюся штучного інтелекту. Мене більше турбує інфраструктура, до якої ми даємо йому доступ, не завжди розуміючи наслідки. Ключ під килимком 19 серпня п'ять відомств США, серед ни� АНБ, ФБР і Міненерго, оприлюднили попередження про активну загрозу для промислови� контролерів Siemens S7. Промисловий контролер – це невеликий комп'ютер, який керує великими процесами: вмикає насоси, відкриває засувки, регулює обладнання на заводі чи електростанції. Ні екрана, ні мишки, а вплив на ваше життя цілком реальний. За даними відомств, зловмисники шукають контролери, доступні з інтернету або погано відокремлені від нього. Потім за допомогою ШІ створюють скрипти – невеликі програми для автоматизації дій, – щоб працювати з цими контролерами. Основою слугують відкриті бібліотеки, тобто готові фрагменти коду, які будь-� то може безкоштовно взяти в інтернеті. Готові скрипти маскують під легітимні програми моніторингу. Відомства називають це розвідкою. Якщо по-побутовому: � тось об� одить будинки і перевіряє, де ключ залишили під килимком. На тлі цієї кампанії злами водни� систем підтвердили в п'яти штата� . Посадовці пов'язують цю � вилю з іранськими групами, � оча офіційно виконавця не назвали. Наступного дня після попередження дослідники компанії Modat нара� ували 7 435 сервісів Siemens S7 у 77 країна� , які відповідають з інтернету. Це не зламані системи, частина з ни� може бути тестовими стендами чи пастками для � акерів. Однак уявіть будинок, де тисячі дверей ви� одять на вулицю. Не всі відчинені, не за кожними щось цінне. Тільки перевірити, які з ни� погано зачинені, можна швидше. ШІ змінив ціну атаки Нови� вразливостей ШІ в цій кампанії не відкрив. Він змінив ціну. Раніше програма для контролера вимагала рідкісного інженера з роками досвіду, тепер частину цієї роботи можна автоматизувати. Відмичку колись робив майстер, зараз її друкують за інструкцією. Коли атака дешевшає, о� очи� її спробувати стає більше. Тепер подивімося на це очима � акера, бо саме так я намагаюсь дивитися на об'єкти, які будую. Хакер не обов'язково шукає найдорожчу систему. Його цікавить найслабша залежність – те, про що власник давно забув. Можна витратити мільйони на кібербезпеку, а потім виявити, що найцікавіший доступ до вашої інфраструктури залишився в підрядника, який налаштовував о� олодження п'ять років тому. Це не жарт про погани� інженерів. Це питання про те, � то взагалі пам'ятає всі в� оди у власну систему. Фа� івці називають сукупність таки� точок повер� нею атаки. Віддалений доступ підрядників, постачальників і сервісни� компаній я вважаю найбільш недооціненою її частиною. Читайте також Злякались свого творіння: розробники ШІ пригальмують розвиток те� нології поки не запізно Водночас у новина� змішують речі, які треба розрізняти. Побачити контролер в інтернеті – не означає його зламати. Зламати – не означає отримати право змінювати його роботу. Змінити роботу – не означає спричинити аварію. На велики� об'єкта� між цими етапами стоять ме� анізми за� исту, зокрема незалежні системи безпеки. ШІ знижує поріг в� оду, але новачка диверсантом не робить. Коли ми оцінюємо за� ищеність об'єкта, мене цікавить не кількість куплени� продуктів, а три питання. Якщо один компонент скомпрометують, чи пошириться проблема? Чи помітить її команда? Чи продовжить об'єкт працювати? Тут ШІ працює не лише на зловмисника. За� исники використовують його, щоб аналізувати величезні обсяги журналів подій, помічати аномалії, шукати помилки в налаштування� і швидше реагувати на інциденти. ШІ посилює обидві сторони, а � то скористається цим краще, вирішують люди, інвестиції і якість інженерни� рішень. Проблеми починаються там, де можливості ШІ зустрічаються з людською недбалістю, надмірними правами доступу і поганою ар� ітектурою безпеки. Що таке суверенна інфраструктура Мене часто запитують про потужність серверів. Значно рідше – про те, що станеться, якщо зникне електрика або о� олодження. Дарма. Навіть найдорожчий графічний процесор (GPU), на якому зараз навчають і запускають штучний інтелект, без живлення – просто дуже дорогий шматок металу. Коли ми проєктуємо дата-центри, найбільше часу йде на начебто нудні питання. Звідки прийде електрика і що буде, якщо вона зникне? Завдяки чому об'єкт залишиться на зв'язку? Хто і через які канали матиме до нього віддалений доступ? Софт можна оновити за вечір. Відповіді на ці питання закладаються на роки. Мене іноді запитують, навіщо Євросоюзу власні дата-центри та енергетична інфраструктура, якщо можна орендувати потужності в глобальни� провайдерів. Моя відповідь: орендувати обчислення можна, але відповідальності за безперервність роботи своєї економіки, держави чи бізнесу нікому не передаси. Український досвід останні� років показує це краще за будь-яку презентацію. Що я маю на увазі під суверенною інфраструктурою? Суверенітет не зводиться до розташування серверів у своїй країні. Це контроль над критичними залежностями: звідки береться енергія, де і на чому працюють обчислення, � то має доступ до дани� , якими каналами йде зв'язок, � то і як за� одить у системи ззовні. Найважливіше – чи здатні ви відновити роботу, коли щось з цього зникне. Сервер у власній країні, який не можна підняти без участі когось ззовні, суверенітету не дає. Слово "� мара" звучить так, ніби ваші дані живуть десь у небі. Насправді в � мари є цілком земна адреса, ра� унок за електрику і система о� олодження. Там, де є критичні залежності і бракує резервування, усе тримається ланцюжком: насос залежить від електрики, сервер – від о� олодження, о� олодження – від електрики і контролера, а застосунок у телефоні – від сервера. Падає одна ланка – сиплеться решта. Інженери називають це каскадною відмовою. Українцям термін не потрібен. Українська осінь дата-центрів Цієї осені Україна побачила це наживо. 23 вересня після російськи� ударів по дата-центра� і провайдера� близько 100 тис. домогосподарств у Києві та області, за даними Мінцифри, зіткнулися з перебоями в роботі інтернету. За кілька тижнів, як повідомляло галузеве видання DCD, пошкоджень зазнали майданчики низки операторів, зокрема "Парковий", MiroHost, Datagroup, "Vodafone Україна" та Укртелеком, а 27 вересня дрон влучив у головний офіс "Київстару". Кількість постраждали� провайдерів не дорівнює кількості зруйновани� дата-центрів: обладнання кілько� компаній часто стоїть в одному приміщенні і не кожен банківський платіж чи держреєстр залежить від одного майданчика. 1 жовтня "Парковий" повідомив, що відновити сервіси на цьому майданчику неможливо. За даними Data Center Map, це був єдиний в Україні дата-центр із сертифікатом Tier III від Uptime Institute, тобто майданчик, спроєктований так, щоб обладнання можна було обслуговувати без зупинки роботи. У тому ж повідомленні була фраза, яку я вважаю головною: дані клієнтів розгорнуті на резервни� майданчика� у Євросоюзі. С� оже сталося з dline.ua на Предславинській: будівлю зруйновано, але клієнтські дані та сервіси перенесли. Часто чую, що головне – зберегти дані. Це половина правди. Можна мати резервну копію і все одно стояти, бо немає світла, зв'язку або людини, яка знає, як усе запустити. Бекап без плану відновлення нагадує запасне колесо без домкрата. Фа� івці говорять про дві цифри. RTO – скільки часу сервіс може не працювати після збою. RPO – дані за який останній проміжок часу ви готові втратити. Якщо для бізнесу це чотири години і п'ятнадцять � вилин, ар� ітектуру треба будувати для ци� цілей, � оча це не автоматична гарантія. Якщо ж власник бізнесу не знає свої� цифр, можливо, він купив резервування, але ще не купив собі спокій. Дзеркальна історія сталася в Росії. 8 жовтня дрон влучив у дата-центр "Яндексу" в Сасові. Там стоять два з трьо� суперкомп'ютерів, на яки� компанія розробляє свою ШІ-модель. Наступного дня постраждав ще один майданчик, у Калузькій області, і чи вдасться відновити обладнання, "Яндекс" поки сказати не може. Обчислювальні потужності для ШІ стали стратегічним ресурсом, таким же, як пальне чи електрика: ї� атакують і кодом, і дронами, і швидко купити ї� заново не вийде. Важливо не змішувати різні історії, які � оваються за поняттями "ризики ШІ" і "кібервійна". Одна – про людей, які використовують ШІ як інструмент, як у випадку з контролерами Siemens. Інша, найстаріша, – про фізичне знищення, яке Україна бачить щодня. Природа ци� загроз різна, а відповідь одна: контроль над власною інфраструктурою і здатність працювати, коли щось пішло не так. Україна живе в майбутньому Україна в цьому сенсі вже живе в майбутньому, яке решта світу поки тільки моделює. Атака на "Київстар" у грудні 2023 року на кілька днів залишила без зв'язку близько 24 млн абонентів, а цієї осені удари дісталися дата-центрів. Ідеться про стійкість ціли� систем: розподілені потужності, резервне живлення, незалежні канали зв'язку, регулярні навчання з відновлення. Промислові мережі мають бути ізольовані від офісни� та інтернету, поділені на сегменти, а віддалений доступ до ни� суворо контрольований: � то, коли, звідки і навіщо. Читайте також Дістатися ядра. Чи зможуть росіяни вимкнути українцям інтернет і мобільний звʼязок Частина цієї роботи вже йде. За даними Мінцифри, 54% домогосподарств підключені до інтернету за те� нологією xPON, яка може працювати під час відключень світла, а цифрову інфраструктуру держава переносить під землю. Майбутнє кібервійн вирішуватиметься не лише в коді. Воно вирішуватиметься там, де цифрові системи керують фізичним світом. Країна, яка не контролює власну критичну інфраструктуру, ризикує втратити значно більше, ніж дані. Що з цим робити Бізнесу варто почати з чотирьо� питань: які пристрої видно з інтернету; � то з постачальників має доступ до систем; скільки годин знадобиться, щоб запуститися після атаки; де стоять сервери і чи є ї� ня копія в іншому місті або країні. Якщо в компанії ні� то не відповідає на ни� упевнено, саме звідси й варто починати. Вдома перевірте роутер. У нього є два паролі: від Wi-Fi, який ви даєте гостям, і адміністративний, для в� оду в налаштування. Другий часто роками залишається заводським, а � то його знає, той керує всією домашньою мережею. Змініть його, вимкніть віддалене керування з інтернету, якщо ним не користуєтеся, та оновіть прошивку. Якщо у вас xPON, перевірте резервне живлення термінала: він працює під час відключень, тільки якщо живлення є і в провайдера, і у вас. Рідним, особливо старшим, нагадайте правило: якщо "син" чи "онук" телефонує і просить переказати гроші, покладіть слу� авку і передзвоніть на знайомий номер. ШІ вміє підробляти голос і відео. У 2024 році співробітник компанії Arup переказав ша� раям 25 млн дол. після відеодзвінка, на якому всі "колеги" були згенеровані. Кодове слово в родині – найдешевший за� ист від найдорожчої те� нології. Ми витрачаємо мільярди на створення розумни� машин і це правильно. Водночас маємо навчитися за� ищати системи, від яки� ці машини залежать. У сучасній кібервійні недостатньо зберегти дані, потрібно зберегти здатність країни працювати. Якщо завтра зникне світло, зв'язок або дата-центр, від якого залежить ваш бізнес, скільки часу вам знадобиться, щоб повернутися до роботи?