Девід Келлерман -це польовий CTO в Cymulate та старший технічний професіонал, орієнтований на клієнтів у галузі інформації та кібербезпеки. Девід призводить клієнтів до успіху та стандартів високої безпеки.
Цимулювати – компанія з кібербезпеки, яка забезпечує постійну перевірку безпеки за допомогою автоматизованих моделювання атаки. Його платформа дозволяє організаціям проактивно перевіряти, оцінювати та оптимізувати свою позицію безпеки, імітуючи кіберзагрози в реальному світі, включаючи атаки викупу, фішинг та бічні рухи. Пропонуючи моделювання порушення та атаки (BAS), управління експозицією та управління позиціями безпеки, Cymulate допомагає бізнесу визначити вразливості та покращити їх захист у режимі реального часу.
Що ви бачите як основний рушій, що стоїть за підйомом загроз, пов’язаних з AI, у 2025 році?
Загрози кібербезпеки, пов’язані з AI, зростають через підвищену доступність AI. Актори загрози тепер мають доступ до інструментів AI, які можуть допомогти їм ітерувати зловмисне програмне забезпечення, створити більш правдоподібні фішинг -електронні листи та збільшити їх напади, щоб збільшити їх охоплення. Ці тактики не “нова”, але швидкість і точність, з якою вони розгортаються, значно додало до вже тривалого відставання команд безпеки кіберзагрів. Організації поспішають впровадити технологію AI, хоча не повністю розуміючи, що контроль безпеки потрібно обкладати навколо неї, щоб переконатися, що його не легко експлуатувати суб’єкти загрози.
Чи є якісь конкретні галузі чи сектори, більш вразливі до цих загроз, пов’язаних з AI, і чому?
Промисловості, які послідовно обмінюються даними між каналами між працівниками, клієнтами чи клієнтами, сприйнятливі до загроз, пов’язаних з AI, оскільки AI полегшує загрози суб’єктам загрози вступити в переконливі схеми соціальної інженерії фішинг-афери-це електронні листи з більшою кількістю автентифікації, що знаходяться більш автентично, до більш широкої кількості одержувачів, їхні успіхи будуть значно збільшиться. Організації, які піддають свої послуги, що працюють на AI, громадськості потенційно запрошують зловмисників спробувати його використати. Хоча це спадковий ризик оприлюднення послуг, важливо зробити це правильно.
З якими ключовими вразливими організаціями стикаються при використанні публічних LLM для бізнес -функцій?
Витік даних, ймовірно, викликає занепокоєння номер один. Використовуючи загальнодоступну модель великої мови (LLM), важко сказати напевно, куди йдуть ці дані – і останнє, що ви хочете зробити, – це випадково завантажувати конфіденційну інформацію в загальнодоступний інструмент AI. Якщо вам потрібні конфіденційні дані, проаналізовані, тримайте їх власноруч. Не звертайтеся до загальнодоступних LLM, які можуть обернутися і просочити ці дані до більш широкого Інтернету.
Як підприємства можуть ефективно захищати конфіденційні дані під час тестування чи впровадження систем AI у виробництві?
Під час тестування систем AI у виробництві організації повинні прийняти наступальний спосіб мислення (на відміну від оборонного). Під цим я маю на увазі, що групи з безпеки повинні проактивно тестувати та підтвердити безпеку своїх систем AI, а не реагувати на вхідні загрози. Послідовно моніторинг атак та перевірки систем безпеки може допомогти забезпечити захист конфіденційних даних, а рішення безпеки працюють за призначенням.
Як організації можуть активно захищатись від нападів, керованих AI, які постійно розвиваються?
Хоча суб’єкти загрози використовують AI для розвитку своїх загроз, групи безпеки також можуть використовувати AI для оновлення інструментів порушення та нападу на моделювання (BAS), щоб забезпечити їх захист від нових загроз. Інструменти, як, наприклад, щоденний корм загрози Cymulate, завантажують останні загрози в програмному забезпеченні Cymulate та Attack Simulation Software, щоб забезпечити, щоб групи безпеки перевіряли кібербезпеку своєї організації проти останніх загроз. AI може допомогти автоматизувати такі процеси, що дозволяє організаціям залишатися спритними та готовими зіткнутися з навіть новітніми загрозами.
Яку роль виконують автоматизовані платформи для перевірки безпеки, як-от Cymulate, грають у пом’якшенні ризиків, що спричиняють кіберзагрози, керовані AI?
Автоматизовані платформи для перевірки безпеки можуть допомогти організаціям залишатися на вершині нових кіберзагроз, керованих AI за допомогою інструментів, спрямованих на визначення, перевірку та пріоритетність загроз. Оскільки AI служить мультиплікатором сили для зловмисників, важливо не просто виявити потенційні вразливості у вашій мережі та системах, а підтвердити, які з них розміщують фактичну загрозу для організації. Лише тоді може бути ефективно пріоритетно, що дозволяє організаціям спочатку пом’якшити найнебезпечніші загрози, перш ніж перейти до менш актуальних предметів. Зловмисники використовують AI для зондування цифрових середовищ для потенційних слабких місць перед тим, як запустити високоочислені атаки, а це означає, що здатність вирішувати небезпечні вразливості автоматизовано та ефективно не була більш критичною.
Як підприємства можуть включати інструменти моделювання порушення та нападу, щоб підготуватися до атак, керованих AI?
Програмне забезпечення BAS є важливим елементом управління експозицією, що дозволяє організаціям створювати сценарії атаки в реальному світі, які вони можуть використовувати для перевірки контролю безпеки проти найактуальніших загроз сьогодні. Остання загроза Intel та первинні дослідження від дослідницької групи Cymulate Grows (у поєднанні з інформацією про нові загрози та нові моделювання) застосовуються щодня для інструменту BAS Cymulate, попереджаючи лідерів безпеки, якщо нова загроза не була заблокована або виявлена наявним їх контролем безпеки. За допомогою BAS організації також можуть адаптувати моделювання AI-керованих AI до їх унікальних середовищ та політики безпеки з відкритою рамкою для створення та автоматизації спеціальних кампаній та розширених сценаріїв атаки.
Які три найкращі рекомендації, які ви б надали командам безпеки, щоб випереджати ці загрози?
Загрози щодня стають складнішими. Організації, які не мають ефективної програми управління експозицією, ризикують, що небезпечно відстає, тому моя перша рекомендація – це реалізувати рішення, яке дозволяє організації ефективно визначити пріоритет їх експозиції. Далі переконайтеся, що рішення управління експозицією включає в себе можливості BAS, які дозволяють команді безпеки імітувати нові загрози (AI та в іншому випадку) оцінити, як виконують контроль безпеки організації. Нарешті, я б рекомендував використовувати автоматизацію, щоб переконатися, що перевірка та тестування можуть відбуватися безперервно, а не лише під час періодичних оглядів. Коли ландшафт загрози змінюється на хвилину до хвилини, важливо мати сучасну інформацію. Дані загрози з останнього кварталу вже безнадійно застаріли.
Які розробки в технології AI ви передбачаєте в найближчі п’ять років, які можуть або посилити, або зменшити ризики кібербезпеки?
Багато буде залежати від того, наскільки доступний AI продовжує залишатися. Сьогодні зловмисники низького рівня можуть використовувати можливості AI для підвищення рівня та підвищення рівня своїх атак, але вони не створюють нову, безпрецедентну тактику-вони просто роблять існуючу тактику більш ефективною. Зараз ми можемо (в основному) компенсувати це. Але якщо AI продовжить зростати більш досконалим і залишається дуже доступним, це може змінитися. Правила відіграватимуть тут певну роль – ЄС (і, меншою мірою, США) вжив заходів, щоб керувати тим, як AI розробляється та використовується, тому буде цікаво побачити, чи впливає це на розвиток ШІ.
Чи очікуєте ви, як організації надають пріоритетні пріоритетні загрози кібербезпеки, пов’язані з AI, порівняно з традиційними проблемами з кібербезпеки?
Ми вже бачимо, що організації визнають цінність таких рішень, як BAS та управління експозицією. AI дозволяє суб’єктам загрози швидко запустити передові, цілеспрямовані кампанії, а групи безпеки потребують будь -якої переваги, яку вони можуть отримати, щоб допомогти залишитися перед ними. Організації, які використовують інструменти для перевірки, значно простіше, зберігаючи голову над водою, пріоритетно спочатку та пом’якшуючи найактуальніші та небезпечні загрози. Пам’ятайте, більшість зловмисників шукають легкий бал. Можливо, ви не зможете зупинити кожну атаку, але ви можете уникнути того, щоб зробити себе легкою мішенню.
Дякуємо за чудове інтерв’ю, читачі, які бажають дізнатися більше, повинні відвідати Цимулювати.
