Facebook учится распознавать потенциальных самоубийц

Компания Facebook разработала программное обеспечение с интеграцией искусственного интеллекта, которое поможет распознавать людей с суицидальными наклонностями. Об этом сообщает издание The Star.

Отмечается, что компания начала тестирование программного обеспечения в США еще в марте. Тест состоял в сканировании постов и комментариев в социальной сети, которые могут быть сигналом о готовности к самоубийству.

Facebook не раскрывает технические детали программы. Однако, компания заявила, что ее программное обеспечение ищет определенные ключевые фразы. Например, это могут быть вопросы: «с тобой все в порядке?» и «могу ли я помочь?».

Если программа обнаруживает потенциального самоубийцу, она направляет сообщение команде специалистов-психологов. Кроме того, система предлагает пользователю или его друзьям специализированные ресурсы, такие как телефонные линии помощи. В тяжелых случаях сотрудники Facebook могут позвонить местным властям с просьбой о вмешательстве.

Гай Розен, вице-президент Facebook по управлению продуктами, рассказал, что компания начала использовать программное обеспечение за пределами США, так как тестирование прошло успешно. В течение последнего месяца специалисты проверили людей более 100 раз, после того как программное обеспечение Facebook обнаружило суицидальные сообщения.

Facebook заявила, что квалифицированные психологи всегда должны быть на связи. «Скорость действительно важна. Мы должны оказывать помощь людям в реальном времени», - сказал Розен.

В прошлом году, когда Facebook запустил прямое видеовещание, видеоролики пользователей содержали разный контент, в том числе самоубийства и убийства, представляя угрозу имиджу компании. В мае Facebook заявила, что нанимает еще 3000 сотрудников для мониторинга видео и другого контента.

Розен не назвал страны, в которых Facebook запустит это программное обеспечение. Однако, он отметил, что в конечном итоге программа будет использоваться во всем мире, за исключением ЕС из-за тонкостей, которые пока не оглашаются.

Другие IT-компании также работают над ПО, которое поможет предотвратить самоубийства. Так, система Google выдает номер телефона горячей линии помощи в ответ на определенные поисковые запросы.

Facebook владеет информацией о своих 2,1 млрд пользователях - данные, которые компания использует для целевой рекламы. Тем не менее, ранее компания не сканировала посты и комментарии пользователей для поиска каких-либо тревожных моментов.

Единственным исключением является попытка компании выявлятьподозрительные разговоры между детьми и маньяками. По мнению профессора права университета Вашингтона Райана Кало, в других случаях IT-компаниям будет сложно оправдать сканирование разговоров и сообщений своих пользователей.