Прискорене впровадження генеративного штучного інтелекту на підприємствах відкриває критичні дані та сприяє кібератакам

Поспішна інтеграція інструментів генеративного штучного інтелекту в корпоративне середовище створює новий і небезпечний фронт уразливості. Недавній звіт автора

Цей сценарій зростаючого ризику підтверджується значним збільшенням обсягу цифрових загроз. Дослідження показує, що протягом минулого року глобальні організації стикалися в середньому з 2027 кібератаками на тиждень, що на 9% більше, ніж за попередній період.

Основне занепокоєння викликає явище, відоме як «тіньовий ШІ», коли співробітники використовують публічні платформи ШІ для виконання робочих завдань, вводячи конфіденційну інформацію компанії. Від фрагментів вихідного коду до стратегічних планів і даних клієнтів, ця інформація може зберігатися незахищено, і врешті-решт до неї можуть отримати доступ неавторизовані треті сторони.

Ескалація кібератак у цифрах

Зростання тижневих атак на 9% відображає глобальну тенденцію посилення цифрових загроз. Цифрова трансформація, яка прискорилася в останні роки, розширила поверхню атак компаній, зробивши їх більш сприйнятливими до різних типів інцидентів безпеки.

Регіони з високим рівнем цифровізації, такі як Estados Unidos і Reino Unido, знаходяться в епіцентрі цієї ескалації. На ринках Nestes понад 1440 організацій зазнавали щотижневих атак, що становить тривожне зростання на 39% порівняно з попереднім роком, демонструючи, що цифрова зрілість також збільшує складність ландшафту загроз.

Роль генеративного ШІ в інформаційному впливі

Простота використання та очевидна ефективність генеративних інструментів ШІ призвели до масового впровадження, але без належної уваги до безпеки. Funcionários у пошуках продуктивності часто вводять конфіденційні корпоративні дані в підказки системи, такі як ChatGPT та інші подібні платформи. Проблема полягає в тому, що багато з цих інструментів не гарантують конфіденційності введених даних, які можна використовувати для навчання мовних моделей або зберігати на зовнішніх серверах без належного шифрування. Estudos вказує на те, що приблизно один із кожних 80 запитів, зроблених працівниками до генеративного штучного інтелекту, містить інформацію, яка може вважатися критичною або конфіденційною. Відсутність управління та чіткої політики щодо використання цих технологій створює сліпу зону для команд безпеки, які не можуть відстежувати або контролювати потік інформації на ці зовнішні платформи, що збільшує ризик витоку, який може призвести до фінансових втрат, репутаційної шкоди та порушень відповідності.

Групи програм-вимагачів виділяються серед загроз

В екосистемі загроз атаки програм-вимагачів залишаються однією з найбільших проблем для компаній будь-якого розміру. Фахівці Grupos вдосконалили свою тактику, використовуючи недоліки в операційних системах, середовищах віртуалізації та хмарних інфраструктурах.

Серед найактивніших агресивну та послідовну діяльність демонструвала група Qilin російського походження, яка лідирувала за кількістю опублікованих жертв. Організація відома своїми методами подвійного вимагання, які передбачають шифрування даних і погрози оприлюднити їх.

Інші сумнозвісні групи включають LockBit5, яка продемонструвала велику стійкість, швидко повернувшись після поліцейських операцій, спрямованих на її демонтаж, і Akira, яка зосереджує свої зусилля на системах середнього та великого підприємства, що спричиняє значні збої.

Стратегія цих груп розвивалася, щоб максимізувати тиск на жертв. Викрадаючи великі обсяги даних перед шифруванням систем, вони забезпечують другу форму примусу, роблячи виплату викупу більш імовірним варіантом запобігання оприлюдненню конфіденційної інформації.

Leia Tambem

Colby Minifie підтверджує можливості Ешлі Барретт у п’ятому сезоні The Boys

Samsung випускає нове оновлення системи з новими функціями для користувачів Galaxy Watch 4

Цифровий роздрібний продаж знижує вартість смартфона Galaxy S25 5G завдяки банківським бонусам і обміну пристрою

Секторальна та географічна вразливість

Аналіз інцидентів показує, що певні сектори є кращими цілями для кіберзлочинців. Урядовий і освітній сектори, а також некомерційні установи зазнали великої кількості атак. Уразливість Essa часто пояснюється застарілою ІТ-інфраструктурою, обмеженим бюджетом безпеки та браком кваліфікованих спеціалістів для керування цифровим захистом.

У цих середовищах невідповідне використання даних у моделях штучного інтелекту ще більше підвищує ризик, оскільки відсутність суворого контролю дозволяє зловмисникам відносно легко використовувати лазівки. Тому модернізація застарілих систем та інвестиції в безпеку стають критично важливим пріоритетом для захисту публічної інформації та даних громадян, студентів і донорів.

Тривожне зростання програм-вимагачів

Наприкінці минулого року стався тривожний сплеск атак програм-вимагачів. Dezembro відзначено найвищим річним обсягом громадських інцидентів із збільшенням на 60% порівняно з тим самим місяцем попереднього року.

Це зростання було зумовлене здатністю зловмисників вдосконалювати свої методи проникнення. Експлуатація вразливостей нульового дня в корпоративному програмному забезпеченні та використання вкрадених облікових даних залишаються найпоширенішими векторами проникнення.

Крім того, самі злочинці використовують штучний інтелект для оптимізації своїх кампаній. AI використовується для створення переконливіших фішингових електронних листів, автоматизації розвідки мережі та виявлення цінних цілей швидше й ефективніше.

Стратегії пом’якшення наслідків для корпоративного середовища

Щоб протистояти цій новій хвилі загроз, компаніям необхідно прийняти проактивний підхід до управління ШІ. Isso передбачає реалізацію чітких політик використання, які визначають, які типи інформації можна, а які ні, передавати в зовнішні інструменти ШІ.

Автоматична класифікація конфіденційних даних є ще одним фундаментальним заходом, оскільки вона дозволяє рішенням безпеки ідентифікувати та блокувати спроби надсилання критичної інформації в режимі реального часу. Постійне навчання співробітників щодо ризиків тіньового штучного інтелекту також є важливим для зміцнення першої лінії захисту.

Необхідність уніфікованих платформ безпеки

Зіткнувшись зі зростаючою складністю загроз, використання кількох ізольованих та ізольованих рішень безпеки виявляється неефективним. Організації, які використовують уніфіковані та консолідовані платформи кібербезпеки, отримують кращу видимість у всьому своєму ІТ-середовищі, від мережі до хмари та кінцевих пристроїв. Інтегрований підхід Essa дозволяє швидше виявляти загрози та мати більш гнучке та скоординоване реагування на інциденти, що має вирішальне значення для стримування шкоди від атаки на ранніх стадіях.