Как ученые-данные используют ИИ для предотвращения самоубийств

0
77

Когда ужасные новости — например, смерть самоубийства шеф-повара, автора и телезвезды Энтони Бурдена и модельера Кейт Спейд, или парижских атак 2015 года — перерывы, услуги по консультированию в кризисных ситуациях часто задерживаются призывами людей в отчаянии. Решение о том, кому помочь в первую очередь, может стать решением о жизни или смерти.

На линии «Кризисная текстовая линия», ориентированной на текстовые сообщения, ориентированной на кризисную консультацию, эти потоки могут нанести ущерб человеческому персоналу.

Поэтому ученые-аналитики из Crisis Text Line используют машинное обучение, тип искусственного интеллекта, чтобы вытащить слова и эмозисы, которые могут сигнализировать человеку с повышенным риском самоубийства или самоповреждения. Компьютер говорит тем, кто в ожидании должен прыгать к передней части линии, чтобы помочь.

Они могут это сделать, потому что Crisis Text Line делает что-то радикальное для службы консультирования по кризисным ситуациям: он собирает огромное количество данных по 30 миллионам текстов, которые он обменял с пользователями. В то время как Netflix и Amazon собирают данные о вкусах и привычках к покупкам, линия критического текста собирает данные об отчаянии.

Данные, некоторые из которых доступны здесь, получили всевозможные интересные сведения о психическом здоровье. Например, среда — самый тревожный день недели. Кризис, связанный с самоповреждением, часто случается в самые темные часы ночи.

CTL началась в 2013 году, чтобы обслуживать людей, которым может быть неудобно говорить об их проблемах вслух или которые скорее всего могут писать, чем звонить. Любой человек в Соединенных Штатах может указать номер «741741» и быть связан с консультантом по кризисным ситуациям. «У нас около 10 активных спасателей в день, где мы фактически отправляем аварийные службы для участия в активной попытке самоубийства», — сказал мне в прошлом году старший научный сотрудник CTL Боб Филбин.

В целом, состояние предотвращения самоубийств в этой стране крайне расстраивает. Центры по контролю и профилактике заболеваний недавно сообщили, что в период с 1999 по 2016 год почти в каждом штате наблюдалось увеличение числа самоубийств. Двадцать пять штатов видели увеличение на 30 процентов и более. Тем не менее, даже самые лучшие психиатрические клиницисты не могут понять, кто больше всего подвержен риску самоповреждения.

Если вы или кто-либо, кого вы знаете, рассматриваете самоубийство или самоповреждение или беспокоитесь, подавлены, расстроены или должны поговорить, есть люди, которые хотят помочь:

В США:

Кризисная текстовая строка: текст СТАРТ до 741741 из любой точки США, в любое время, о любом типе кризиса

Национальный план по предотвращению самоубийств: 1-800-273-8255

Проект Тревор: 1-866-488-7386

За пределами США:

Международная ассоциация по предотвращению самоубийств перечисляет ряд горячих линий для самоубийств по странам. Нажмите здесь, чтобы найти их.

Подружиться по всему миру

«У нас пока нет единого теста или группы тестов, которые точно идентифицируют возникновение кризиса самоубийства», — объясняет статья 2012 года в психотерапии. И это все еще так.

Доктора понимают риски для идеалов суицида лучше, чем они понимают риск физического самоповреждения. Усложняя вопросы, CDC находит, что 54 процента самоубийств связаны с лицами, не имеющими известных проблем в области психического здоровья.

Но мы можем сделать лучше. И именно там ученые-данные, такие как Filbin, считают, что они могут помочь заполнить пробелы, путем поиска данных, чтобы определить, кто подвержен наибольшему риску и когда вмешаться. Помогают даже небольшие идеи. Например, критическая текстовая строка обнаруживает, что когда человек упоминает домашний наркотик, например «Advil», он более предсказуем риска, чем если бы они использовали слово «разрез».

Отправка помощи людям в кризис — это только начало. Горячая линия надеется, что ее данные в один прекрасный день могут помочь предсказать и предотвратить случаи самоповреждения в первую очередь. В 2017 году я поговорил с Филбином о том, что наука о данных и искусственный интеллект могут узнать о том, как помочь людям. Этот разговор был отредактирован по длине и ясности.

Критическая текстовая строка — это круглосуточная служба, помогающая людям в самые трудные времена 
Брайан Резник

Расскажите мне об услуге, предоставляемой Crisis Text Line.

Боб Филбин

Идея состоит в том, что человек, находящийся в кризисе, может обратиться к нам — независимо от того, где он находится, — независимо от того, где они находятся, — 24/7 через текст и подключиться к консультанту-консультанту-добровольцу, который прошел подготовку. Самое замечательное в том, что люди имеют свои телефоны повсюду: вы можете быть в школе, работать на вас, и всякий раз, когда возникает кризис, мы хотим быть сразу доступны во время кризиса.

[Самоубийство] — самый большой риск, который мы пытаемся предотвратить.

Брайан Резник

Вы также собираете данные об этих взаимодействиях. Почему это необходимо для запуска службы?

Боб Филбин

У нас есть 33 миллиона сообщений, которые обмениваются с криминалистами. У нас было более 5300 активных спасателей [где они отправили службы экстренной помощи кому-то, кто пытался совершить самоубийство], и все сообщения и разговоры, связанные с ними.

Наши данные дают богатый контекст того, почему произошло конкретное кризисное событие. Мы получаем как причину, так и эффект, и мы получаем, как они действительно говорят об этих проблемах. Я думаю, что это даст гораздо больше контекста, как мы можем на самом деле выявить эти события и предотвратить их.

Как мы можем выявить эти события до их возникновения? Видеть, какой язык используется людьми, будет иметь решающее значение для [ответа].

С самого начала мы верили в то, что наши данные могут помочь улучшить кризисное пространство в целом. Собирая эти данные, а затем делившись ими с общественностью, с разработчиками политики, с учеными-исследователями … это может обеспечить ценность для людей в кризисе независимо от того, действительно ли они использовали наше обслуживание.

Как Кризисная текстовая линия занимается «событиями спайков» 
Брайан Ресник

Итак, кто-то в кризисе сообщает ваше служение. Мне интересно узнать конкретные данные, которые вы собираете из этого взаимодействия.

Боб Филбин

Мы собираем три типа данных:

Разговор — обмен между текстером и кризисным консультантом, а затем много метаданных вокруг этих разговоров (временные метки, люди, которые были вовлечены: кризисный советник, текстер). Если текстер вернется, мы знаем, хорошо, это тексер, который использовал наше обслуживание раньше, или этот кризисный советник имел другие [взаимодействия с текстером].

Второе: после беседы мы спрашиваем наших консультантов по вопросам кризиса [вопросы типа], «Какие проблемы возникли в разговоре?» И «Каков был уровень риска?».

Третья часть: набор вопросов для опроса для texter, требующих обратной связи: был ли этот разговор полезным? Какую помощь вы испытали? Что вы нашли ценным? Что бы вы надеялись, что другие люди будут в кризисе? Или то же самое.

Брайан Резник

Итак, как эти данные помогли вам улучшить свою работу?

Боб Филбин

Мы видели проблемы, возникающие, и затем мы думаем о том, как использовать данные для решения этих проблем.

Таким образом, одна из проблем — события с шипами.

Спайк — это когда мы видим огромный приток спроса на тексер — это всегда происходит с кризисными центрами. Когда Робин Уильямс умер от самоубийства, вокруг выборов, вокруг террористических атак в Париже в 2015 году или, возможно, тех, кто использовал эту услугу, и считал ее полезной, и это становится вирусной — у нас будет большой всплеск. Наш ежедневный объем будет более чем в два раза.

Брайан Резник

Итак, как вы реагируете на это?

Боб Филбин

Традиционно кризисные центры реагируют на людей в том порядке, в котором они входят в очередь. Но если вы удвоите свой объем мгновенно, это приведет к длительному времени ожидания.

Мы хотим помочь людям, у которых есть проблемы с самой высокой степенью тяжести: мы хотим помочь кому-то, кто чувствует себя неизбежно самоубийством перед тем, кто испытывает проблемы со своей девушкой или парнем или чем-то еще.

Мы подготовили алгоритм. Мы спросили: «Что говорят авторы в самом начале беседы, что свидетельствует о активном спасении?»

Поэтому мы можем сортировать и расставлять приоритеты для тех, кто говорит самые суровые вещи.

Как машинное обучение может помочь 
Брайану Резнику

Когда вы говорите, что вы «задаете» эти вопросы, вы имеете в виду, что вы используете компьютер? Машиноведение или некоторый тип ИИ?

Боб Филбин

Мы просим компьютер понять это.

[Мы просим об этом] в основном, посмотрите на активные разговоры о спасении и есть ли что-то другое в отношении начальных сообщений, которые отправляют эти авторы.

Брайан Резник

Итак, какие слова компьютер выбрал, что указывало на неизбежный риск?

Боб Филбин

До того, как мы использовали компьютер, у нас был список из 50 слов, которые [мы думали], вероятно, свидетельствовали о высоком риске. Такие слова, как «умереть», «вырезать», «самоубийство», «убить» и т. Д.

Когда ученый-аналитик провел анализ, он обнаружил тысячи слов и фраз, свидетельствующих о активном спасении, которые на самом деле более прогностичны.

Такие слова, как «Ибупрофен» и «Адвилл» и другие связанные с ним слова [то есть обычные домашние наркотики], в 14 раз указывали на самоубийство в качестве предиктора.

Брайан Резник

Вау.

Боб Филбин

Даже плачущее лицо смайлик — это в 11 раз более предсказуемо, чем слово «самоубийство», что кому-то понадобится активное спасение.

Это позволяет нам выполнять задачу, которую мы никогда бы не смогли сделать. У нас просто нет штатных сотрудников. И большинство [других кризисных] центров тоже. Таким образом, люди, которые подвергаются высокому риску, застревают в ожидании двух часов.

Это вся идея и сила, действительно, ИИ — со временем она становится умнее. Мы начали с базового уровня: «Вот что делают кризисные центры. Как мы можем использовать данные для улучшения? »Мы никогда не выкатываем продукт, который снижает производительность. И это то, что мы всегда контролируем.

Как насчет конфиденциальности? 
Брайан Резник

Как вы сохраняете всю эту информацию конфиденциальной?

Боб Филбин

Конфиденциальность наших авторов — наша проблема № 1. Один действительно конкретный способ, которым мы это делаем, — это ключевое слово, которое текстовые редакторы могут в любой момент использовать для текста — это «loofah» — это позволяет вам очищать ваши данные в любое время. (Это своего рода каламбур или хромая шутка.) Мы хотим, чтобы наши специалисты отвечали за данные. И у нас есть алгоритм, который мы создали, чтобы скрыть личную информацию. Он удаляет имена, местоположения, номера телефонов, электронные письма, даты рождения или другие подобные номера.

Это все после шифрования данных. Таким образом, для защиты данных существует много уровней безопасности и конфиденциальности.

Брайан Резник

Многие терапевты и люди, которые работают в терапевтическом пространстве, имеют давнее отвращение к данным, полагаясь вместо этого на их опыт и интуицию. (В последнее время у Атлантики была интересная особенность.) Что вы говорите людям, которые могут скептически относиться к использованию данных в кризисных консультациях?

Боб Филбин

Таким образом, философия подчеркивания, к которой я всегда возвращаюсь в науку о данных, заключается в следующем: «Можем ли мы предоставить наиболее возможное значение нашим пользователям?» И так, как вы это делаете, учась на каждом взаимодействии.

Это верно в отношении самых умных людей в мире, не так ли? Вы размышляете над опытом, вы учитесь на нем, и тогда вы будете вести себя по-другому в следующий раз. Я думаю, что данные — это способ сделать это в масштабе. Мы говорим: ни один человек не может понять сферу охвата и задуматься о производительности и обслуживании в целом, поэтому нам нужны данные, чтобы мы могли отражать и улучшать.

Мы помогаем людям, которые находятся в неминуемом кризисе, возможно, неизбежно самоубийством. И поэтому мы хотим, чтобы мы предоставили какие-либо рекомендации из наших компьютерных систем через объектив человека, что человек оценивает, является ли это правильным решением.

Брайан Резник

Что вы подразумеваете под «выкладывать какие-либо рекомендации из наших компьютерных систем через объектив человека»?

Боб Филбин

Одним из первых основных данных наших данных было то, что у нас было около 3% наших специалистов, использующих 34% времени наших консультантов по кризисным ситуациям, — истощающих огромный процент ресурсов наших консультантов по кризисным ситуациям.

Они относились к нам в некотором смысле как к замене терапии, а не к кризисной службе.

Это была проблема, которая была выявлена ​​в данных, но решение не было интуитивным. На самом деле это было философское решение, как организация сказать, что мы здесь для людей, находящихся в кризисе, мы не являемся заместительной терапией, это совсем другой вид обслуживания.

Наша цель состоит в том, чтобы идентифицировать этих [частых] авторов, которым может понадобиться [долгосрочная] терапия.

Данные действительно разоблачили этот сложный вопрос и заставили нас как организацию сделать философскую позицию, что мы здесь для людей, находящихся в кризисе. И поэтому он действительно приводит к данным, и это откровение приводит к трудным решениям, и это происходит.

Брайан Резник

Вы боитесь использовать данные в одиночку, чтобы принять это решение, чтобы подтолкнуть людей от службы? Что делать, если один из этих кругов действительно переживает кризис?

Боб Филбин

Первый шаг — это через наших руководителей. Мы отмечаем текстера, который, кажется, кружил. Затем супервизор делает вызов. Мы всегда принимаем решение.

Мы никого не блокируем, потому что этот человек может законно иметь огромный кризис. Мы никогда не заставляем людей войти в систему. Но мы ограничиваем доступ к дросселю.

Проведение этого объектива всегда очень важно, потому что мы не хотим ничего пропустить. И это так важно, что мы здесь для всех этих людей.

ОСТАВЬТЕ ОТВЕТ

Please enter your comment!
Please enter your name here

2 + 3 =