Използването на технологията дийпфейк (deepfake) набира все по-голяма популярност в престъпния свят и вниманието към нея трябва да бъде приоритетно, предупреди европейската полицейска агенция.
Възможността да се карат хората да казват или правят неща онлайн, които никога не са правили, или да се създават изцяло нови личности, може да се има опустошителен ефект, ако попадне в неподходящи ръце, заяви Европол.
Нови правила във Фейсбук: Забраняват силно манипулирани видеоматериали
"Нарастващата достъпност на дезинформацията и дийпфейк ще окаже дълбоко въздействие върху начина, по който хората възприемат властта и информационните медии", добави агенцията.
Европол публикува доклад от 23 страници, в който се разглеждат начините, по които изкуственият интелект и дипфейк технологията могат да бъдат използвани от престъпността, включително за подкопаване на доверието във властта и официалните факти. "Експертите се опасяват, че това може да доведе до ситуация, в която гражданите вече нямат обща реалност, или може да създаде объркване в обществото относно това кои източници на информация са надеждни - ситуация, която понякога се нарича "информационен апокалипсис" или "апатия към реалността", заяви Европол.
Престъпниците биха могли да използват също така дийпфейк технологията, за да оказват онлайн натиск върху хората, включително да експлоатират деца за секс с непълнолетни, да правят порнография без съгласие и да фалшифицират или манипулират електронни доказателства при съдебни разследвания.
Бизнесът също е изложен на риск.
В един от примерите престъпниците използват технологията "дийпфейк", за да имитират гласа на изпълнителен директор на компания и да наредят на служител да преведе 35 млн. долара, съобщи Европол.
"Поради това е от съществено значение да се знае за тази манипулация и да се подготвим да се справим с явлението, за да разграничим добронамереното от злонамереното използване на тази технология", се посочва в доклада.
Въпреки че все още е възможно хората да откриват ръчно дийпфейк изображения, като забелязват размазани ръбове около лицето, липса на мигане и други несъответствия, технологията става все по-добра, а откриването - все по-трудно.
"В идеалния случай една система ще сканира всяко цифрово съдържание и автоматично ще докладва за неговата автентичност", заяви Европол.
Фейсбук осуети две операции за манипулиране на общественото мнение
"Такава система най-вероятно никога няма да бъде съвършена, но с нарастването на сложността на дийпфейк технологията, високата степен на сигурност от такава система може да струва повече от ръчната проверка", каза той.
Много интернет компании вече са въвели системи за забрана на дийпфейк, включително Meta, която е собственик на Facebook и Instagram, както и други гиганти в социалните медии като TikTok, Reddit и YouTube.
"Политиците и правоприлагащите органи трябва да оценят настоящите си политики и практики и да ги адаптират, за да бъдат подготвени за новата реалност на дийпфейк", заяви Европол.
