[Ciko 0]

Нейронні мережі все більше проникають у різні аспекти нашого життя: від аналізу великих даних, синтезу мовлення та створення зображень до управління автономними транспортними засобами та дронами. У 2024 році творці Tesla додали підтримку нейронних мереж для автопілота, а на шоу дронами вже давно використовується штучний інтелект для координації пристроїв у різні формації та відображення QR-кодів у небі. Маркетологи та дизайнери також застосовують ШІ у своїй роботі для створення ілюстрацій та тексту. Після виходу ChatGPT наприкінці 2022 року та його популярності різні компанії почали активно розробляти свої сервіси на основі моделей GPT. За допомогою різних сервісів на основі ШІ та ботів Telegram нейронні мережі стали доступними для широкого кола користувачів. Однак, якщо не дотримуватися правил інформаційної безпеки, використання різних сервісів та нейронних мереж створює певні ризики.

Загрози та ризики використання нейронних мереж для користувачів.

Ейфорія, викликана впровадженням GPT-чату для багатьох людей, перетворилася на обережність. З появою численних сервісів на основі мовних моделей, як безкоштовних, так і платних, користувачі помітили, що чат-боти можуть надавати неточну або шкідливу інформацію. Особливо небезпечною є неправдива інформація, пов'язана зі здоров'ям, харчуванням, фінансами, а також інструкції з виробництва зброї, розповсюдження наркотиків тощо. Крім того, можливості нейронних мереж постійно розширюються, і останні версії можуть створювати надзвичайно реалістичні фейки, синтезуючи голоси або відео. Шахраї використовують ці функції, щоб обманювати своїх жертв, підробляючи повідомлення та дзвінки від їхніх знайомих та створюючи відео з відомими особистостями. Наприклад, у 2021 році відео, створене нейронною мережею, в якому нібито фігурує Олег Тиньков (визнаний іноземний агент у Росії), який рекламує інвестиції, поширилося в соціальних мережах. Після натискання на посилання поруч із відео відкривається фальшивий веб-сайт банку. З часом стає все складніше перевірити підроблений контент. Щоб захистити користувачів від цієї загрози, Міністерство цифрового розвитку, зв'язку та масових комунікацій планує створити платформу для виявлення діпфейків.

Головною загрозою є зростання довіри багатьох користувачів до нейронних мереж і, зокрема, чат-ботів. Нейронні мережі часто сприймаються як точні та неупереджені, але люди забувають, що нейронні мережі можуть оперувати вигаданими фактами, надавати неточну інформацію та робити помилкові висновки. Неодноразово було показано, що помилки трапляються. Якщо ви ставите пусті запитання, шкода, ймовірно, мінімальна. Однак, якщо ви використовуєте чат-ботів для вирішення фінансових чи медичних питань, наслідки можуть бути серйозними. Більше того, часто, щоб отримати відповідь від нейронної мережі, вам потрібно надати певні дані. Велике питання полягає в тому, як ці дані будуть оброблені та збережені згодом. Немає гарантії, що інформація, яку ви включаєте у свої запити, не з'явиться знову в даркнеті або не стане підставою для якісної фішингової атаки .

Навчання нейронної мережі може виконуватися за допомогою тренера, автономно або змішаним способом. Самонавчання має свої сильні сторони, але й недоліки – зловмисники знаходять способи обдурити нейронні мережі. У LLM ймовірні два основні типи вразливостей, які можуть вплинути на користувачів системи: вразливості, пов'язані з самою моделлю, та вразливості в додатку, де використовується ця модель. Деякі моделі можуть постійно навчатися на основі інформації від своїх користувачів. Цей процес дозволяє постійно вдосконалювати модель. Однак у цього процесу є і зворотний бік. У випадках помилок конфігурації моделі користувач А потенційно може запросити у моделі повернути запитання, які раніше задавав користувач Б. В результаті модель може надати цю інформацію, оскільки вона по суті стала частиною спільної бази даних, якою керує LLM.

Зловмисники можуть використовувати вразливості в нейронних мережах для отримання конфіденційних даних користувача. Вони використовують різні методи для атаки на чат-ботів та мовні моделі. Наприклад, вони застосовують метод "Prompt Injection", який передбачає зміну існуючих підказок або додавання нових. В результаті цієї атаки нейронна мережа може неправильно обробляти дані та видавати помилкові результати. Наразі найпомітнішою вразливістю є «швидке впровадження», коли конкретні запити до нейронної мережі, сформульовані певним чином, надають доступ до внутрішніх даних мережі, про які розробник може не знати. Зовсім недавно чат-бот від Microsoft розкрив дуже конфіденційну інформацію лише після одного запиту. У березні 2024 року мисливці за помилками з Offensive AI Lab виявили спосіб розшифрування та зчитування перехоплених відповідей завдяки функції шифрування даних у ChatGPT та Microsoft Copilot. Метод був недостатньо точним, і OpenAI відреагував на повідомлення та виправив проблему. Зловмисники також використовують вразливості в API для крадіжки конфіденційних даних, включаючи паролі або корпоративну інформацію. Крім того, вразливості дозволяють здійснювати DDoS-атаки на систему та обходити заходи безпеки.

Друга глобальна область вразливостей пов'язана з додатком, який використовує нейронну мережу. Моделі великих мов (LLM) не можуть функціонувати самостійно та потребують певної зовнішньої «обгортки», щоб користувачі могли з ними взаємодіяти. Як правило, ця «обгортка» є веб-додатком або сервісом, який надає кінцевим користувачам зручний механізм для формулювання запитів. Ці додатки можуть бути вразливими до всіх класичних вразливостей, які потенційні зловмисники можуть використати для крадіжки персональних даних та історії чатів користувачів .
Ще одним прикладом атаки на чат-ботів є SQL-ін'єкція. У цьому сценарії зловмисники можуть отримати доступ до баз даних сервісу або впровадити шкідливий код на сервер чат-бота. Існує кілька типів атак на ШІ, і важливо їх розрізняти. Наприклад , атаки можуть включати ухилення, отруєння, трояни, перепрограмування та вилучення прихованої інформації. Говорячи про важливість порушень, атаки ухилення (модифікація вхідних даних) є потенційно найпоширенішими. Якщо для функціонування моделі потрібні вхідні дані, зловмисники можуть спробувати змінити дані таким чином, щоб це порушило роботу ШІ. З іншого боку, атаки отруєння даних мають довготривалий вплив. Троян, присутній у моделі ШІ, зберігається навіть після перенавчання. Усі ці атаки можна класифікувати як змагальні атаки – спосіб обдурити нейронну мережу та змусити її видати неправильні результати. Нейронні мережі досі недостатньо захищені від атак, підробки даних та втручання в їхню роботу зі зловмисними цілями. Тому користувачам слід бути обережними та дотримуватися певних інструкцій під час роботи з чат-ботами.

Запобіжні заходи та рекомендації.
Технологія великих мовних моделей стрімко розвивається, глибоко інтегруючись у повсякденне життя та залучаючи все більше користувачів. Щоб захистити себе та свої дані від потенційних загроз під час взаємодії з нейронними мережами, важливо дотримуватися певних правил:

• Не діліться конфіденційною інформацією з чат-ботами.

• Ще раз перевірте інформацію, надану чат-ботом.

• Завантажуйте програми та сервіси нейронних мереж з перевірених джерел.

Найважливіша рекомендація — не вважати вашу розмову з публічними нейронними мережами приватною. Краще уникати ситуацій, коли ваші запитання містять будь-яку конфіденційну інформацію про вас чи вашу компанію. Винятком може бути робота з ізольованим екземпляром нейронної мережі, розташованим у вашому середовищі та під відповідальністю вашої компанії. Також ретельно перевіряйте сервіси, через які ви взаємодієте з нейронною мережею. Не варто довіряти невідомому Telegram-каналу, який обіцяє безкоштовну роботу з усіма відомими моделями LLM.

Висновок.

Як бізнес, так і окремі користувачі вже відчули переваги нейронних мереж. Вони допомагають вирішувати повсякденні завдання, економлять час і гроші в різних сферах. Наприклад, генеративні нейронні мережі суттєво вплинули на вартість виробництва фільмів, серіалів та інших відео, що потребують графіки та обробки. Однак ці ж нейронні мережі також призвели до хвилі діпфейків, таких як нова варіація атаки Fake Boss. Кожен користувач повинен розуміти, що нейронні мережі вразливі. Як і месенджер, обліковий запис електронної пошти чи планувальник завдань, вони можуть бути зламані або вразливі до інших збоїв. Тому важливо підходити до роботи з ними обдумано.