Facebook обяви, че ще използва изкуствен интелект, за да засича самоубийствени мисли у свои потребители. Системата ще сканира всички постове, коментари и видеа на профила и при индикации за възможно самоубийства, ще сигнализира на обучени модератори. Те от своя страна ще могат да се свързват със съответните служби, които да реагират на място. Планира се системата да бъде достъпна по целия свят, но вероятно ще срещне законови пречки да се използва в рамките на Европейския съюз.
Новата система се тества от 9 месеца в САЩ и чрез нея в около 100 случая на потенциално самоубийство на място са пристигнали служители от съответните спешни служби.
След няколко случая на насилие и самоубийства, излъчени на живо във Facebook, през март компанията добави опцията всеки потребител да може да докладва тревожно видео или съобщение от свой приятел.
Новата система с изкуствен интелект първоначално ще използва за модели именно докладваните до този момент случаи. Системата ще преглежда всички постове, коментари и видеа, излъчвани на живо, и в случай, че засече определени думи или фрази, ще сигнализира. Например ако в коментарите под видео на живо има въпроси като „Добре ли си?” и „Нуждаеш ли се от помощ?”, изкуственият интелект ще ги отчита.
По думите на създателя на Facebook Марк Зукърбърг с времето той ще може да разпознава все по-фини нюанси във всеки език и да става все по-полезен: „При целия страх колко щял да навреди изкуственият интелект в бъдеще, е хубаво да си напомним как изкуственият интелект ни помага да спасяваме човешки животи днес”.
Сигналите от новата система ще бъдат преглеждани от обучени модератори, които ще ги категоризират и приоритизират. Ако счетат за необходимо, могат да се свържат с приятели на потребителя или с различни местни служби, които да се отзоват на място.
По думите на вицепрезидента на Facebook Гай Роузен по време на тестовете е имало случаи, в които на терен са пристигали специалисти, докато видеото още се е излъчвало на живо: „Всичко е, за да се спечелят няколко минути във всяка една стъпка от процеса, особено при живите видеа. Имаше случаи, в които служители на съответните служби пристигаха на място, докато видеото още се излъчва. Скоростта наистина е от значение. Трябва да помагаме на хората в реално време“.
ThinkStock/Getty Images
Планира се новата система да бъде общодостъпна навсякъде по света. Очакват се обаче трудности при въвеждането й в Европейския съюз заради определени регулации на Европейската комисия.
Системата същевременно предизвика дискусии във Facebook и събуди страхове, че технологията може да се прилага не само за благородни цели – например да се засичат изказвания срещу определени партии и политици или дори да се улавят различни дребни престъпления.
От компанията обявиха, че потребителите няма да могат да изключват въпросния изкуствен интелект.
