Юрій Шатило, Head of Cybersecurity MODUS X
Поява штучного інтелекту викликала хвилю захоплення його можливостями та перспективами. Сьогодні рішення й інструменти на основі ШІ використовуються у різних сферах життя та бізнесу. Проникнення цієї технології в робочі та бізнес-процеси щороку зростає. Однак паралельно з цим штучний інтелект активно використовують зловмисники. А це ставить перед глобальними й українськими компаніями серйозні виклики та змушує реагувати на нові ризики.
Найбільша зона ризику — корпоративні дані в зовнішніх хмарних і ШІ-сервісах
За різними джерелами, від 50% до 70% корпоративних даних уже є в хмарах і ШІ-сервісах, де ця інформація зберігається чи обробляється. Виникає цілком логічне запитання — як у таких умовах забезпечити захист конфіденційності корпоративної інформації? Думаю, не всі компанії усвідомлюють повʼязані з цим ризики.
У своїй роботі моя команда максимально обережно використовуємо зовнішні ШІ-сервіси — здебільшого у форматі асистентів. Такий ШІ-асістанс дозволяє пришвидшити аналіз і реагування на кіберінциденти.
Водночас ми розуміємо, що ШІ-рішення поки що перебувають на початкових етапах розвитку. Якщо подивитися на Gartner Hype Cycle, кожен інструмент чи продукт проходить свій шлях розвитку, доки досягне зрілості. І повноцінний штучний інтелект в кібербезпекових рішеннях — це перспектива 2030-их років.
Зараз ми на тому відрізку дистанції, коли ШІ-сервіси розвиваються та набирають силу. Повинен пройти певний період часу, щоб функціональність інструменту могла приносити реальну користь фахівцям із кібербезпеки та бізнесу.
Хакери все активніше використовують ШІ для планування й реалізації атак
Щодня кібератаки стають усе більш витонченими та цілеспрямованими. Близько двох років тому ми вперше зіткнулися з діпфейками в корпоративному середовищі. ШІ-технології дозволяють дуже правдоподібно, професійно та точно підробити голос і навіть відео керівника чи топменеджера.
Зловмисники телефонують працівникам, використовуючи такі діпфейки, просять відповідати на певні запитання чи навіть виконувати певні дії, що наражають компанію та внутрішні системи на витік даних. Такі кейси зʼявляються все частіше. І у більшості випадків жертва реагує. Просто уявіть ситуацію: телефонує керівник, голос, обличчя, відео — 100% його. Ну які є підстави для сумнівів?
На практиці відрізнити підроблений голос чи відео від реальної людини дуже складно. Сьогодні реальність легко фальсифікується. Тому ми в компанії робимо значний акцент саме на комплексне навчання команди: як відрізнити, на що звертати увагу, що має насторожити, яких навичок кібергігієни варто дотримуватися тощо. Це вже не питання тренду, це питання безпеки та виживання компанії.
Пріоритет №1 для українського бізнесу — вибудувати корпоративну стратегію роботи з ШІ-інструментами
Контроль даних, які користувачі завантажують в зовнішні ШІ-сервіси, — це основа безпеки будь-якої компанії. Проблема в тому, що IT-відділам і департаментам кібербезпеки дуже складно контролювати, якою саме інформацією працівники обмінюються з цими сервісами.
Ми у компанії розробили чітку стратегію роботи з ШІ-рішеннями:
· працівники можуть вільно використовувати корпоративні сервіси штучного інтелекту, які розвиває наша команда дата-менеджменту;
· доступ до зовнішніх ШІ-сервісів обмежений тими рішеннями, які ми можемо на 100% контролювати. Зараз таких ресурсів близько пʼяти. Всі запити, які користувачі вводять, чи файли, які вони завантажують, регулюються різними рівнями доступу та внутрішніми політиками;
· кожен новий зовнішній ШІ-сервіс проходить ретельну перевірку на відповідність внутрішнім технічним вимогам і загальним регуляторним регламентам;
· спеціалісти з кібербезпеки регулярно проводять навчальні сесії, пояснюючи команді, чому ці сервіси заборонені і як загалом безпечно взаємодіяти зі штучним інтелектом.
Що далі: автоматизація рутини й фаєрволи для ШІ
Зараз ми вже імплементуємо ШІ-асістанс у свої рішення, щоб проактивно реагувати на спроби атакувати корпоративну мережу та вебсервіси компанії. ШІ допомагає спеціалістам з кібербезпеки проактивно виявляти атаки ще на етапі задуму. Простими словами, атака ще не відбувається, вона тільки зароджується,
а наш фахівець уже бачить її ймовірність і потенційний вплив на бізнес-процеси та стійкість компанії.
Важливий клас рішень, який набиратиме обертів найближчим часом, — це фаєрволи для ШІ для захисту власних ШІ-моделей, які розвиває компанія. Логіка проста: з допомогою нетипових запитів зловмисник може знайти вразливості у моделях або розігнати DDOS-атаку. Фаєрвол для ШІ не дасть хакеру зірвати джекпот, потрапивши в корпоративну мережу й отримавши доступ до всіх корпоративних даних. Думаю, вже за 1-1,5 року ми побачимо дієві рішення цього класу.
Ще один напрям — автоматизація рутини з допомогою ШІ-помічників. Річ у тім, що повномасштабне вторгнення спричинило суттєвий кадровий дефіцит в Україні. Але брак досвідчених спеціалістів із кібербезпеки актуальний і для європейського й американського ринків. Це глобальна проблема.
Тому частину завдань, які раніше виконували фахівці, може розвʼязувати ШІ. Сьогодні копілоти, вбудовані в безпекові рішення, вже активно використовуються в повсякденній роботі, допомагаючи автоматизувати рутину. На мій погляд, левова частка типових рутинних операцій до 2030-2032 року буде делегуватися ШІ. Це дозволить нам оптимізувати безпекові процеси та звільнити час спеціалістів на більш важливі, стратегічні вектори.
