[Ciko 0]

Найновіша модель зображення від OpenAI дозволяє створювати переконливі підроблені документи за лічені секунди, потенційно підриваючи існуючі системи безпеки та надаючи будь-кому доступ до складних інструментів підробки. Користувач X, відомий як «Бог підказок» , поділився кількома прикладами, що демонструють можливості моделі, показуючи, як GPT-4o може генерувати оманливо реалістичні зображення повідомлень про скасовані рейси, банківських переказів, університетських дипломів або медичних рецептів.

Цю можливість ілюструє підроблений документ про скасований рейс, згенерований штучним інтелектом .

Хоча підробка документів завжди була можливою за допомогою традиційного програмного забезпечення для редагування зображень, автоматизація за допомогою штучного інтелекту радикально змінює ситуацію. Замість того, щоб витрачати години на роботу експертів, тепер кожен може створювати переконливі підроблені документи за лічені секунди.

Медичний сертифікат, згенерований штучним інтелектом, що підтверджує симптоми хвороби .

Потенційний обсяг підробок, створених штучним інтелектом, може перевантажити існуючі системи перевірки. Це стає особливо тривожним у ситуаціях, коли організації проводять лише поверхневі перевірки, такі як невеликі заяви про компенсацію, історія орендної плати або первинна перевірка заявок на працевлаштування. Поточні механізми контролю в компаніях та державних установах можуть дати збій через величезну кількість потенційних підробок. Навіть за стабільних показників виявлення, збільшення кількості підроблених документів підвищує ймовірність того, що деякі з них уникнуть виявлення.

Квитанція, згенерована штучним інтелектом, показує, як легко підробити підтвердження оплати .

OpenAI створив кілька функцій безпеки для запобігання несанкціонованому використанню. Кожне зображення, згенероване GPT-4o, постачається зі спеціальними метаданими C2PA, які позначають його як згенероване штучним інтелектом. Загвоздка полягає в тому, що будь-хто, хто перевіряє ці зображення, повинен використовувати спеціалізований інструмент перевіркидля виявлення цих метаданих. Крім того, досвідчені користувачі можуть знайти способи видалення цих цифрових маркерів.

знімок екрана, що показує, як спеціалізовані інструменти можуть зчитувати метадані C2PA для перевірки походження зображення .

За словами представників OpenAI, компанія також розробила власний внутрішній інструмент для відстеження того, чи були зображення створені за допомогою GPT-4o. У своїйсистемній карті для GPT-4o OpenAI зазначає, що її метою є «максимізація корисності та творчої свободи для наших користувачів, мінімізуючи при цьому шкоду». Компанія визнає, що безпека залишається постійним процесом, а рекомендації розвиваються на основі реального використання.