Галузь кібербезпеки завжди стикалася з важкою битвою, і виклики сьогодні крутіші та масштабніші, ніж будь-коли раніше.
Незважаючи на те, що організації застосовують все більше й більше цифрових інструментів для оптимізації операцій і підвищення ефективності, вони водночас збільшують свою поверхню для атаки – масштаби вразливих точок входу, якими можуть скористатися хакери – що робить їх більш сприйнятливими до піднімаючись кіберзагрози, навіть якщо їхній захист покращується. Що ще гірше, організаціям доводиться стикатися з цим швидко зростаючим набором загроз серед a дефіцит кваліфікованих фахівців з кібербезпеки.
На щастя, інновації в області штучного інтелекту, особливо Generative AI (GenAI), пропонують вирішення деяких найскладніших проблем галузі кібербезпеки. Але ми лише подряпали поверхню, хоча очікується, що роль GenAI у кібербезпеці зростатиме експоненціально у найближчі роки залишаються невикористані можливості, завдяки яким ця технологія може ще більше сприяти прогресу.
Поточні застосування та переваги GenAI у кібербезпеці
Однією з найбільш важливих сфер впливу GenAI на галузь кібербезпеки є його здатність надавати автоматизовану інформацію, яка раніше була недоступна.
Початкові етапи обробки даних, фільтрації та маркування все ще часто виконуються старими поколіннями машинного навчання, які перевершують обробку та аналізуючи величезні обсяги даних, наприклад сортування величезних наборів сповіщень про вразливості та виявлення потенційних аномалій. Справжня перевага GenAI полягає в тому, що відбувається потім.
Після попередньої обробки та визначення обсягу даних GenAI може втрутитися, щоб надати розширені можливості міркування, які виходять за рамки того, що може досягнути ШІ попереднього покоління. Інструменти GenAI пропонують глибшу контекстуалізацію, точніші прогнози та нюанси уявлення, які недоступні зі старими технологіями.
Наприклад, після того, як великий набір даних, скажімо, мільйони документів, оброблено, відфільтровано та позначено іншими засобами, GenAI надає додатковий рівень аналізу, перевірки та контексту поверх відібраних даних, визначаючи їх релевантність, терміновість і потенціал. ризики безпеки. Він навіть може повторювати своє розуміння, генеруючи додатковий контекст, переглядаючи інші джерела даних, удосконалюючи свої можливості прийняття рішень з часом. Цей багаторівневий підхід виходить за рамки простої обробки даних і зміщує фокус на передове міркування та адаптивний аналіз.
Виклики та обмеження
Незважаючи на нещодавні вдосконалення, залишається багато проблем, коли справа доходить до інтеграції GenAI в існуючі рішення кібербезпеки.
По-перше, можливості ШІ часто сприймаються з нереалістичними очікуваннями, що призводить до ризику надмірної довіри та недостатнього проектування. ШІ не магічний і не ідеальний. Ні для кого не секрет, що GenAI часто дає неточні результати через упереджені вхідні дані або неправильні виходи, відомі як галюцинації.
Ці системи вимагають ретельного проектування, щоб бути точними та ефективними, і їх слід розглядати як один із елементів ширшої системи кібербезпеки, а не як повну заміну. У більш випадкових ситуаціях або непрофесійному використанні GenAI галюцинації можуть бути несуттєвими, навіть комедійний. Але у світі кібербезпеки галюцинації та необ’єктивні результати можуть мати катастрофічні наслідки, які можуть призвести до випадкового виявлення критичні активипорушення та значні репутаційні та фінансові збитки.
Невикористані можливості: ШІ з агентством
Виклики не повинні заважати організаціям використовувати рішення ШІ. Технології все ще розвиваються, і можливості штучного інтелекту для підвищення кібербезпеки продовжуватимуть зростати.
У найближчі роки здатність GenAI міркувати та робити висновки з даних стане більш просунутою, зокрема розпізнавати тенденції та пропонувати дії. Сьогодні ми вже бачимо вплив передового штучного інтелекту, який спрощує та прискорює процеси, проактивно пропонуючи дії та стратегічні наступні кроки, що дозволяє командам менше зосереджуватися на плануванні, а більше на продуктивності. Оскільки можливості міркування GenAI продовжують удосконалюватися та можуть краще імітувати процес мислення аналітиків безпеки, він діятиме як розширення людського досвіду, роблячи складні кібернетичні засоби більш ефективними.
Під час оцінки стану безпеки агент штучного інтелекту може діяти разом із справжнім агентом, автономно приймаючи контекстуальні рішення під час дослідження взаємопов’язаних систем, таких як Okta, GitHub, Jenkins і AWS. Замість того, щоб покладатися на статичні правила, агент штучного інтелекту динамічно прокладає собі шлях через екосистему, виявляючи закономірності, регулюючи пріоритети та зосереджуючись на областях із підвищеними ризиками безпеки. Наприклад, агент може визначити вектор, де дозволи в Okta дозволяють розробникам отримати широкий доступ через GitHub до Jenkins і, нарешті, до AWS. Визнаючи цей шлях потенційним ризиком для незахищеного коду, що досягає продуктивності, агент може самостійно вирішити провести подальше дослідження, зосередившись на конкретних дозволах, робочих процесах і засобах безпеки, які можуть бути слабкими місцями.
Шляхом інкорпорації пошуково-доповнена генерація (RAG)агент використовує як зовнішні, так і внутрішні джерела даних, спираючись на останні звіти про вразливості, найкращі практики та навіть специфічні конфігурації організації, щоб сформувати своє дослідження. Коли RAG відкриває інформацію про загальні прогалини в безпеці в конвеєрах CI/CD, наприклад, агент може включити ці знання в свій аналіз, коригуючи свої рішення в режимі реального часу, щоб підкреслити ті області, де збігаються фактори ризику.
Крім того, тонке налаштування може підвищити автономність агента штучного інтелекту, пристосовуючи його прийняття рішень до унікального середовища, в якому він працює. Як правило, плавна настройка виконується з використанням спеціалізованих даних, які застосовуються в широкому діапазоні випадків використання, а не даних із середовища конкретного клієнта. Однак у деяких випадках, як-от продукти з одним клієнтом, точне налаштування може бути застосоване до даних конкретного клієнта, щоб дозволити агенту засвоїти певні нюанси безпеки, роблячи його вибір ще більш інформованим і нюансованим з часом. Цей підхід дозволяє агенту вчитися на основі попередніх оцінок безпеки, уточнюючи своє розуміння того, як визначати пріоритети певних векторів, наприклад тих, що включають прямі зв’язки від середовищ розробки до виробництва.
Завдяки поєднанню агентства, RAG і тонкого налаштування цей агент виходить за межі традиційного виявлення до проактивного та адаптивного аналізу, віддзеркалюючи процеси прийняття рішень кваліфікованими аналітиками. Це створює більш деталізований підхід до безпеки з урахуванням контексту, де штучний інтелект не просто реагує, але й передбачає ризики та коригується відповідно, подібно до того, як це робить експерт-людина.
Пріоритезація сповіщень на основі ШІ
Ще одна сфера, де підходи на основі штучного інтелекту можуть мати значний вплив, — це зменшення втоми від тривоги. AI може допомогти зменшити втому від сповіщень шляхом спільної фільтрації та визначення пріоритетності сповіщень на основі конкретної структури та ризиків в організації. Замість того, щоб застосовувати загальний підхід до всіх подій безпеки, ці агенти штучного інтелекту аналізують кожну дію в її ширшому контексті та спілкуються один з одним, щоб вивести сповіщення, які вказують на справжні проблеми безпеки.
Наприклад, замість того, щоб ініціювати сповіщення про всі зміни дозволів доступу, один агент може ідентифікувати чутливу область, на яку вплинула модифікація, тоді як інший оцінює історію подібних змін, щоб оцінити ризик. Разом ці агенти зосереджені на конфігураціях або діях, які справді підвищують ризики безпеки, допомагаючи групам безпеки уникати шуму від подій з нижчим пріоритетом.
Завдяки безперервному навчанню як із зовнішньої інформації про загрози, так і з внутрішніх шаблонів ця система агентів адаптується до нових ризиків і тенденцій в організації. Маючи спільне розуміння контекстних факторів, агенти можуть уточнювати попередження в режимі реального часу, переходячи від потоку сповіщень до спрощеного потоку, який висвітлює критичні відомості.
Цей спільний, контекстно-залежний підхід дає змогу групам безпеки зосередитися на питаннях високого пріоритету, зменшуючи когнітивне навантаження на керування сповіщеннями та підвищуючи ефективність роботи. Використовуючи мережу агентів, які спілкуються та адаптуються на основі нюансів у реальному часі, організації можуть досягти значних успіхів у пом’якшенні проблем, пов’язаних із втомою від тривоги, зрештою підвищуючи ефективність операцій безпеки.
Майбутнє кібербезпеки
Із зростанням цифрового ландшафту зростає витонченість і частота кіберзагроз. Інтеграція GenAI у стратегії кібербезпеки вже виявилася трансформаційною у протидії цим новим загрозам.
Але ці інструменти не є панацеєю від усіх проблем кіберіндустрії. Організації повинні усвідомлювати обмеження GenAI і тому використовувати підхід, за якого ШІ доповнює людський досвід, а не замінює його. Ті, хто використовує інструменти кібербезпеки штучного інтелекту з відкритим розумом і стратегічним поглядом, допоможуть сформувати майбутнє промисловості у щось більш ефективне та безпечне, ніж будь-коли раніше.
