Після смертельної стрілянини за участю федеральних агентів у Міннеаполісі користувачі соціальних мереж швидко поширюють зображення, оброблені штучним інтелектом, які неправдиво показують офіцера, який стріляв. В інциденті, який стався в середу вранці, були задіяні агенти імміграційної та митної служби (ICE) в масках, які підійшли до транспортного засобу, перш ніж один із агентів вистрілив, убивши водія, Рене Ніколь Гуд.
Незважаючи на відсутність будь-яких незамаскованих відеоматеріалів з місця події, протягом кількох годин на таких платформах, як X, Facebook і TikTok, з’явилися численні підроблені зображення. Одним із яскравих прикладів є публікація Клода Тейлора, засновника PAC проти Трампа Mad Dog, яка набрала понад 1,2 мільйона переглядів і містить явно підроблене зображення агента без маски. Інші користувачі пішли ще далі, поширюючи неперевірені імена та навіть посилаючись на профілі невинних людей у соціальних мережах.
Проблема полягає не лише в дезінформації; полягає в тому, як легко штучний інтелект може створювати переконливі підробки. За словами професора Каліфорнійського університету в Берклі Хані Фаріда, сучасні інструменти штучного інтелекту не можуть надійно відтворити обличчя за маскованими кадрами. «Покращення штучного інтелекту має тенденцію до галюцинації деталей обличчя», — пояснює Фарід, тобто створені обличчя часто є повністю вигаданими.
Цей інцидент повторюється за схожою схемою, яка спостерігалася у вересні, коли оброблені ШІ зображення підозрюваного в іншій стрілянині були широко розповсюджені до того, як справжнього стрілка було ідентифіковано. Ця тенденція підкреслює зростаючий ризик: перетворення штучного інтелекту на озброєння для поширення дезінформації в ситуаціях з високими ставками. Ситуація посилюється такими платформами, як X, де неперевірені користувачі можуть легко поширювати неправдиві заяви, і де ця технологія зараз монетизується за платною стіною.
Поширення цих підроблених зображень підкреслює нагальність вирішення проблеми дезінформації, створеної ШІ, особливо в контексті правоохоронних органів. Легкість створення та поширення фальшивих ідентифікаційних даних створює пряму загрозу як суспільній довірі, так і особистій безпеці.
Зрештою, ця ситуація демонструє, що хоча штучний інтелект може покращувати зображення, він не може замінити підтверджені факти, а швидкість поширення дезінформації значно перевищує здатність її виправляти.
