Шахраї використовують діпфейки та штучний інтелект для нових схем в інтернеті

Про це повідомляють Forbes, The Independent.

Штучний інтелект швидко змінює цифровий світ і створює нові виклики для безпеки. Діпфейк-технології, які ще нещодавно виглядали як незграбна розвага, тепер здатні створювати відео та аудіо, які важко відрізнити від справжніх. У 2023 році публічно доступні генератори вже дозволяли створювати відео з відомими особами, а сьогодні ці продукти стали набагато реалістичнішими.

Експерти з безпеки відзначають, що кількість інструментів для підміни обличчя та голосу перевищує дві тисячі, і більшість із них є у відкритому доступі. Це дозволяє не лише розважатися, а й створювати шахрайські схеми. Наприклад, у 2024 році працівник фінансової компанії під час відеодзвінка став жертвою діпфейків і втратив 25 мільйонів доларів.

Особливу небезпеку становлять аудіофейки: для створення переконливого голосу достатньо кількох хвилин запису, які легко знайти у соцмережах. Зловмисники вже використовують ці технології для обману родичів, ідентифікуючи себе голосом близьких людей.

Разом із цим, зростає важливість контролю за ШІ. Фахівці наголошують на необхідності впровадження процедур аудиту, а також участі людини у фінальному контролі за рішеннями систем. У компаніях розробляють внутрішні процеси для перевірки роботи ШІ, щоб забезпечити якість та безпеку продуктів.

Кібербезпека стає дедалі складнішою, адже межі між реальною та віртуальною ідентичністю розмиваються. Люди стають головною ціллю атак, а новий "периметр" безпеки залежить від намірів користувачів і їхньої поведінки. Саме тому організації повинні швидко адаптуватися до нових загроз і впроваджувати сучасні засоби захисту від зловживань ШІ.

Теги: Технології/ШІ