Дискурс скулшутеров: компьютерно-лингвистический анализ маркеров радикализации

Постановка проблемы

Феномен скул­шу­тин­га (насиль­ствен­ные инци­ден­ты с рас­стре­ла­ми в шко­лах) при­об­рел гло­баль­ный мас­штаб и вол­но­об­раз­ный харак­тер рас­про­стра­не­ния после инци­ден­та в стар­шей шко­ле «Колумбайн» в 1999 г. в США [Kostinsky, Bixler, Kettl 2001]. Ключевым фак­то­ром гло­ба­ли­за­ции скул­шу­тин­га ста­ла меди­а­ти­за­ция инци­ден­тов и геро­иза­ция скул­шу­те­ров, что при­ве­ло к акти­ва­ции меха­низ­ма под­ра­жа­ния, извест­но­го как «эффект Колумбайн»* [Chyi, McCombs 2004; Gaudette et al. 2023; Langman 2018; Lankford, Madfis 2018; Meindl, Ivy 2017; Towers 2015]. Современные иссле­до­ва­ния пока­зы­ва­ют, что скул­шу­тинг транс­фор­ми­ро­вал­ся в гло­баль­ную моло­деж­ную онлайн-субкультуру [Mizrahi-Werner et al. 2022], в кото­рой меха­низ­мом рас­про­стра­не­ния деструк­тив­ных прак­тик высту­па­ет циф­ро­вое посред­ни­че­ство и вирус­ное рас­про­стра­не­ние «куль­тур­ных сце­на­ри­ев наси­лия» [Langman 2018; Hofmann 2020].

Практика пока­зы­ва­ет, что акты целе­во­го наси­лия ред­ко явля­ют­ся вне­зап­ны­ми, им пред­ше­ству­ет дли­тель­ный про­цесс идео­ло­ги­че­ской и пове­ден­че­ской ради­ка­ли­за­ции, зна­чи­тель­ная часть кото­ро­го про­ис­хо­дит в онлайн-среде [Meindl, Ivy 2017]. Ключевая зада­ча на совре­мен­ном эта­пе — обна­ру­же­ние при­зна­ков это­го про­цес­са до его пере­хо­да в насиль­ствен­ную ста­дию. В этом кон­тек­сте ана­лиз пись­мен­ной ком­му­ни­ка­ции предо­став­ля­ет уни­каль­ную воз­мож­ность, так как потен­ци­аль­ные зло­умыш­лен­ни­ки актив­но остав­ля­ют сиг­на­лы — мар­ке­ры пре­ду­пре­жда­ю­ще­го пове­де­ния — в виде мани­фе­стов, днев­ни­ков, постов в соци­аль­ных сетях и дру­гих тек­сто­вых сви­де­тельств [Meloy et al. 2014; Kaati, Shrestha, Sardella 2016].

Цель иссле­до­ва­ния — выяв­ле­ние линг­ви­сти­че­ских мар­ке­ров пре­ду­пре­жда­ю­ще­го пове­де­ния в текстах пись­мен­ной ком­му­ни­ка­ции скул­шу­те­ров мето­да­ми ком­пью­тер­ной линг­ви­сти­ки на базе откры­тых пре­до­бу­чен­ных моде­лей обра­бот­ки есте­ствен­но­го языка.

История вопроса

Социальные кор­ни и детер­ми­нан­ты скул­шу­тин­га были обос­но­ва­ны на ран­нем эта­пе его изу­че­ния. Пятифакторная тео­рия Кэтрин Ньюман [Newman 2004], вклю­ча­ю­щая такие фак­то­ры, как соци­аль­ная мар­ги­на­ли­за­ция, инди­ви­ду­аль­ные уяз­ви­мо­сти, куль­тур­ные сце­на­рии, непри­мет­ность пла­ни­ро­ва­ния и доступ к ору­жию, оста­ет­ся одной из наи­бо­лее пол­ных объ­яс­ни­тель­ных моде­лей. Важнейшим вкла­дом социо­ло­ги­че­ской груп­пы К. Ньюман ста­ло обос­но­ва­ние кри­ти­че­ски важ­но­го аспек­та — необ­хо­ди­мо­сти меж­дис­ци­пли­нар­но­го под­хо­да к иссле­до­ва­нию дан­но­го фено­ме­на, а так­же обо­зна­че­ние роли систем выяв­ле­ния пре­ду­пре­жда­ю­щих сиг­на­лов и оцен­ки угроз.

В России тако­го рода систе­мы еще не созда­но, но пред­при­ни­ма­ют­ся зна­чи­тель­ные меры и ини­ци­а­ти­вы для созда­ния ком­плекс­ной систе­мы предот­вра­ще­ния инци­ден­тов скул­шу­тин­га. И наи­бо­лее важ­ным шагом по про­ти­во­дей­ствию скул­шу­тин­гу в России ста­ло при­ня­тие в фев­ра­ле 2022 г. зако­но­да­тель­но­го акта о при­зна­нии тер­ро­ри­сти­че­ским дви­же­ния «Колумбайн»*, а так­же внед­ре­ние общих алго­рит­мов реа­ги­ро­ва­ния пра­во­охра­ни­тель­ны­ми орга­на­ми. Это пер­вый при­мер при­ме­не­ния спе­ци­аль­ной зако­но­да­тель­ной нор­мы, уста­нав­ли­ва­ю­щей уго­лов­ную ответ­ствен­ность за скул­шу­тинг как вид тер­ро­ри­сти­че­ско­го пре­ступ­ле­ния¹, хотя зна­чи­тель­ное чис­ло иссле­до­ва­те­лей на про­тя­же­нии все­го пери­о­да изу­че­ния фено­ме­на наста­и­ва­ют и обос­но­ван­но дока­зы­ва­ют пря­мую связь меж­ду скул­шу­тин­гом и тер­ро­риз­мом [Karpova 2024; Karpova, Savelev, Maksimova 2021]. Кроме того, накоп­лен­ные эмпи­ри­че­ские дан­ные поз­во­ля­ют кон­ста­ти­ро­вать, что про­цесс ради­ка­ли­за­ции скул­шу­те­ров име­ет те же спе­ци­фи­че­ские осо­бен­но­сти про­те­ка­ния, как и в слу­ча­ях с тер­ро­ри­ста­ми и насиль­ствен­ны­ми экс­тре­ми­ста­ми. Поэтому осо­бое зна­че­ние при­об­ре­та­ет иссле­до­ва­ние меха­низ­мов про­цес­са онлайн-радикализации, под кото­рым пони­ма­ют «про­цесс, в ходе кото­ро­го люди под­вер­га­ют­ся вли­я­нию экс­тре­мист­ских убеж­де­ний и взгля­дов, ими­ти­ру­ют и усва­и­ва­ют их посред­ством интер­не­та, в част­но­сти соци­аль­ных сетей, и дру­гих форм онлайн-коммуникации» [Binder, Kenyon 2022].

Само направ­ле­ние иссле­до­ва­ний пре­ду­пре­жда­ю­ще­го пове­де­ния сфор­ми­ро­ва­лось лишь в сере­дине 2010‑х годов и на насто­я­щий момент при­зна­но наи­бо­лее пер­спек­тив­ным. Определение пре­ду­пре­жда­ю­ще­го пове­де­ния было пред­ло­же­но в 2012 г. меж­ду­на­род­ной груп­пой иссле­до­ва­те­лей и трак­ту­ет­ся как «дей­ствия, кото­рые сви­де­тель­ству­ют о воз­рас­та­ю­щем или уско­ря­ю­щем­ся рис­ке наси­лия» [Meloy et al. 2011]. Сигналы (мар­ке­ры) тако­го пове­де­ния явля­ют­ся осно­вой для созда­ния систем оцен­ки угроз и про­то­ко­лов реа­ги­ро­ва­ния, кото­рые нача­ли внед­рять­ся сна­ча­ла в США, а затем и в Европе.

Появление и раз­ви­тие этих иссле­до­ва­ний ста­ли воз­мож­ны­ми бла­го­да­ря зна­чи­тель­ным дости­же­ни­ям в обла­сти вычис­ли­тель­ных соци­аль­ных наук (computational social science) и открыв­шим­ся воз­мож­но­стям при­ме­не­ния мето­дов и инстру­мен­тов data science. В насто­я­щий пери­од осо­бое зна­че­ние при­об­ре­та­ет изу­че­ние меха­низ­мов онлайн-радикализации, пони­ма­е­мой как про­цесс, в ходе кото­ро­го люди под­вер­га­ют­ся вли­я­нию экс­тре­мист­ских убеж­де­ний и взгля­дов, ими­ти­ру­ют и усва­и­ва­ют их посред­ством интер­не­та [Hofmann 2020]. Специфические осо­бен­но­сти про­те­ка­ния про­цес­са ради­ка­ли­за­ции скул­шу­те­ров тре­бу­ют раз­ра­бот­ки адек­ват­ных инстру­мен­тов для его диа­гно­сти­ки по циф­ро­вым следам.

На совре­мен­ном эта­пе изу­че­ния пре­ду­пре­жда­ю­ще­го пове­де­ния скул­шу­те­ров иссле­до­ва­те­ли отме­ча­ют ряд вза­и­мо­свя­зан­ных проблем:

1. Традиционные инстру­мен­ты оцен­ки рис­ка наси­лия раз­ра­бо­та­ны для офлайн-среды и мало­при­ме­ни­мы к циф­ро­вым ком­му­ни­ка­ци­ям. Многие насиль­ствен­ные акты (напри­мер, мас­со­вые рас­стре­лы) пред­ва­ря­ют­ся онлайн-активностью, кото­рая оста­ет­ся нерас­по­знан­ной. Соответственно, тре­бу­ют­ся раз­ра­бот­ка или адап­та­ция уже име­ю­щих­ся инстру­мен­тов и мето­дов вычис­ли­тель­ной линг­ви­сти­ки для авто­ма­ти­за­ции выяв­ле­ния мар­ке­ров пре­ду­пре­жда­ю­ще­го пове­де­ния в пись­мен­ной ком­му­ни­ка­ции и про­вер­ка их валид­но­сти. Например, выяв­ле­ние мар­ке­ров праг­ма­ти­че­ских интен­ций (угро­зы), нар­ра­тив­ных струк­тур (иден­ти­фи­ка­ция с ролью «вои­на» или преды­ду­щи­ми пре­ступ­ни­ка­ми), рече­вых актов (вер­ба­ли­за­ция наме­ре­ния при­чи­нить вред), мораль­ной декон­струк­ции (оправ­да­ние наси­лия выс­ши­ми целями).

2. Люди неосо­знан­но кор­рек­ти­ру­ют свой язык, что­бы он соот­вет­ство­вал груп­по­вым нор­мам. Это мож­но исполь­зо­вать для обна­ру­же­ния идео­ло­ги­че­ской при­над­леж­но­сти, уста­но­вок и в целом мар­ке­ров иден­ти­фи­ка­ции суб­куль­тур­ной при­над­леж­но­сти к скул­шу­тин­гу. Необходимы уни­вер­саль­ные клас­си­фи­ка­то­ры для обна­ру­же­ния линг­ви­сти­че­ских мар­ке­ров — инди­ка­то­ров груп­по­вой иден­тич­но­сти. Лингвокогнитивные меха­низ­мы, такие как исполь­зо­ва­ние груп­по­во­го жар­го­на (напри­мер, сленг инце­лов), сиг­на­ли­зи­ру­ют о при­ня­тии груп­по­вых норм и когни­тив­ных схем. Это поз­во­ля­ет иден­ти­фи­ци­ро­вать не толь­ко мар­ке­ры угро­зы, но и про­цесс когни­тив­но­го при­ня­тия идео­ло­гии через язык.

3. Токсичный язык и «язык нена­ви­сти» широ­ко рас­про­стра­нен в интер­не­те, но его авто­ма­ти­че­ское обна­ру­же­ние ослож­не­но субъ­ек­тив­но­стью, кон­текст­ной зави­си­мо­стью и низ­ким каче­ством дан­ных. Необходима раз­ра­бот­ка новых или адап­та­ция уже име­ю­щих­ся моде­лей для обна­ру­же­ния ток­сич­но­го язы­ка на раз­но­род­ных дан­ных. Например, ток­сич­ность рас­смат­ри­ва­ет­ся как праг­ма­ти­че­ский фено­мен, зави­ся­щий от кон­тек­ста и интен­ции. Токсичный язык часто свя­зан с дегу­ма­ни­за­ци­ей, вер­ба­ли­за­ци­ей агрес­сии, мораль­ным оправ­да­ни­ем наси­лия, соот­вет­ствен­но, это отра­жа­ет когни­тив­ные иска­же­ния и нар­ра­ти­вы, харак­тер­ные для деструк­тив­ных сообществ.

4. Преступников-одиночек (скул­шу­те­ры, террористы-одиночки) труд­но обна­ру­жить из-за отсут­ствия обще­го про­фи­ля и мини­маль­ной ком­му­ни­ка­ции с сообщ­ни­ка­ми. Однако мно­гие из них остав­ля­ют пись­мен­ные сви­де­тель­ства (мани­фе­сты, посты), в кото­рых могут содер­жать­ся при­зна­ки пре­ду­пре­жда­ю­ще­го пове­де­ния. Необходимо исполь­зо­вать мето­ды и инстру­мен­ты машин­но­го обу­че­ния (ML) для выяв­ле­ния пси­хо­ло­ги­че­ских при­зна­ков пре­ду­пре­жда­ю­ще­го пове­де­ния в пись­мен­ных текстах преступников-одиночек.

5. Скулшутинг вос­при­ни­ма­ет­ся как новая и рас­ту­щая угро­за. Медиа и обще­ство кон­стру­и­ру­ют дис­курс чрез­вы­чай­ной ситу­а­ции вокруг этих собы­тий. Необходимо изу­чать, как медиа и обще­ство кон­стру­и­ру­ют дис­курс скул­шу­тин­га (медиа репре­зен­та­ции скул­шу­тин­га), кото­рый мож­но назвать куль­тур­ным дис­кур­сом чрез­вы­чай­ной ситу­а­ции», и выяв­лять глу­бин­ные куль­тур­ные стра­хи. Например, иссле­до­ва­те­ли фик­си­ру­ют: 1) линг­ви­сти­че­ские мар­ке­ры (праг­ма­ти­че­ские интен­ции медиа создать дра­ма­ти­че­ский нар­ра­тив, вызвать эмо­ци­о­наль­ный отклик; нар­ра­тив­ные струк­ту­ры — типич­ные сце­на­рии осве­ще­ния, такие как хро­но­ло­гия собы­тия, рекон­струк­ция лич­но­сти стрел­ка, поиск при­чин; рече­вые акты — обви­не­ния, при­зы­вы к уже­сто­че­нию мер, оправ­да­ние поли­ти­че­ских реше­ний); 2) линг­во­ко­гни­тив­ные меха­низ­мы (декон­струк­ция мораль­ных норм через обви­не­ние медиа, видео­игр и поп-культуры в наси­лии, что упро­ща­ет слож­ные соци­аль­ные при­чи­ны; вер­ба­ли­за­ция куль­тур­ных стра­хов — язык чрез­вы­чай­ной ситу­а­ции, кри­зи­са, угро­зы буду­ще­му; когни­тив­ное упро­ще­ние — нар­ра­ти­вы казу­аль­но­сти слу­жат для вос­ста­нов­ле­ния чув­ства кон­тро­ля и дове­рия к соци­аль­но­му порядку).

Перечисленные про­бле­мы не явля­ют­ся исчер­пы­ва­ю­щи­ми, но отра­жа­ют наи­бо­лее зна­чи­мые век­то­ры иссле­до­ва­ний в обла­сти вычис­ли­тель­ной линг­ви­сти­ки для изу­че­ния пре­ду­пре­жда­ю­ще­го пове­де­ния скул­шу­те­ров. В целом, под­черк­нем, ком­плекс­ное изу­че­ние дис­кур­са скул­шу­тин­га тре­бу­ет соче­та­ния линг­ви­сти­че­ско­го ана­ли­за тек­стов пре­ступ­ни­ков и кри­ти­че­ско­го ана­ли­за медий­но­го и соци­аль­но­го кон­тек­ста, в кото­ром эти тек­сты про­из­во­дят­ся и интер­пре­ти­ру­ют­ся. Общие линг­во­ко­гни­тив­ные меха­низ­мы, кото­рые на насто­я­щий момент фик­си­ру­ют­ся иссле­до­ва­те­ля­ми, сле­ду­ю­щие: 1) когни­тив­ное иска­же­ние (бинар­ное мыш­ле­ние «мы — они», дегу­ма­ни­за­ция жертв); 2) язы­ко­вая декон­струк­ция мора­ли через пере­опре­де­ле­ние поня­тий спра­вед­ли­во­сти, вины, наси­лия; 3) вер­ба­ли­за­ция сце­на­ри­ев наси­лия (деталь­ное опи­са­ние пла­нов, исполь­зо­ва­ние воен­ной и агрес­сив­ной лек­си­ки); соци­аль­ная функ­ция нар­ра­ти­ва (у скул­шу­те­ров — само­оправ­да­ние, в медиа — вос­ста­нов­ле­ние поряд­ка через объ­яс­не­ние, при­зы­вы к дей­ствию, обви­не­ния, укреп­ле­ние соци­аль­ных норм).

Практика пока­зы­ва­ет, что акты целе­во­го наси­лия, такие как скул­шу­тинг, ред­ко явля­ют­ся вне­зап­ны­ми вспыш­ка­ми яро­сти. Чаще им пред­ше­ству­ет дли­тель­ный про­цесс идео­ло­ги­че­ской и пове­ден­че­ской ради­ка­ли­за­ции, зна­чи­тель­ная часть кото­ро­го сего­дня про­ис­хо­дит в онлайн-среде. Ключевая зада­ча иссле­до­ва­те­лей — обна­ру­жить при­зна­ки это­го про­цес­са до того, как он перей­дет в насиль­ствен­ную ста­дию. Анализ пись­мен­ной ком­му­ни­ка­ции предо­став­ля­ет для это­го уни­каль­ную воз­мож­ность. Выявление линг­ви­сти­че­ских мар­ке­ров пре­ду­пре­жда­ю­ще­го пове­де­ния в ком­му­ни­ка­ции скул­шу­те­ров не изо­ли­ро­ван­ная зада­ча, а важ­ней­ший ком­по­нент в ана­ли­зе более широ­ко­го и дина­мич­но­го про­цес­са ради­ка­ли­за­ции. Этот про­цесс, осо­бен­но в его онлайн-формате, мож­но кон­цеп­ту­а­ли­зи­ро­вать как поэтап­ную эво­лю­цию инди­ви­ду­аль­но­го созна­ния, дви­жу­ще­го­ся по пути усво­е­ния экс­тре­мист­ских убеж­де­ний и под­го­тов­ки к наси­лию. Лингвистические мар­ке­ры слу­жат вер­баль­ны­ми инди­ка­то­ра­ми про­хож­де­ния инди­ви­дом через клю­че­вые ста­дии это­го пути.

Описание методики исследования

Выявление мар­ке­ров пре­ду­пре­жда­ю­ще­го пове­де­ния скул­шу­те­ров мето­да­ми ком­пью­тер­ной линг­ви­сти­ки вклю­ча­ет три основ­ных этапа:

1) фор­ми­ро­ва­ние набо­ра дан­ных — кол­лек­ции тек­стов за автор­ством извест­ных скулшутеров;

2) при­ме­не­ние пред­ва­ри­тель­но обу­чен­ных моде­лей ана­ли­за дан­ных для опре­де­ле­ния линг­ви­сти­че­ских мар­ке­ров для харак­тер­ных когни­тив­ных, эмо­ци­о­наль­ных и пове­ден­че­ских признаков;

3) срав­не­ние резуль­та­тов ком­пью­тер­но­го ана­ли­за тек­стов скул­шу­те­ров с фоно­вым кор­пу­сом тек­стов для оцен­ки зна­чи­мо­сти харак­тер­ных для пись­мен­ной ком­му­ни­ка­ции стрел­ков выяв­лен­ных маркеров.

Формирование набо­ра дан­ных. В каче­стве источ­ни­ка дан­ных исполь­зо­ва­ны откры­тые набо­ры тек­стов с сай­та SchoolShooters​.info — про­ек­та Питера Лангмана, одно­го из наи­бо­лее извест­ных иссле­до­ва­те­лей фено­ме­на скул­шу­тин­га. Сайт содер­жит тек­сты пись­мен­ной ком­му­ни­ка­ции (днев­ни­ки, онлайн-посты, мани­фе­сты и пр.), а так­же мате­ри­а­лы СМИ, про­то­ко­лы рас­сле­до­ва­ний инци­ден­тов, интер­вью, сгруп­пи­ро­ван­ные по персоналиям-стрелкáм. Для целей иссле­до­ва­ния ото­бра­ны толь­ко тек­сты, создан­ные стрел­кá­ми. После пред­ва­ри­тель­ной обра­бот­ки дан­ных, в резуль­та­те кото­рой были исклю­че­ны тек­сты с пло­хим каче­ством рас­по­зна­ва­ния, а так­же тек­сты объ­е­мом менее деся­ти пред­ло­же­ний, оста­лось 33 набо­ра тек­стов общим объ­е­мом от 16 до 29 тысяч предложений.

Применение пред­ва­ри­тель­но обу­чен­ных моде­лей. В рам­ках иссле­до­ва­ния были исполь­зо­ва­ны сле­ду­ю­щие пред­ва­ри­тель­но обу­чен­ные моде­ли ана­ли­за есте­ствен­но­го языка.

1. Bert Tiny Cognitive Bias² — модель для рас­по­зна­ва­ния линг­ви­сти­че­ских пат­тер­нов, харак­тер­ных для раз­лич­ных когни­тив­ных иска­же­ний. Эти пат­тер­ны про­яв­ля­ют­ся через исполь­зо­ва­ние опре­де­лен­ной лек­си­ки, син­так­си­че­ских кон­струк­ций и модаль­но­сти. Модель рас­по­зна­ет при­зна­ки сле­ду­ю­щих типов когни­тив­ных искажений:

— наве­ши­ва­ние ярлы­ков (labeling), про­яв­ля­ю­ще­е­ся как исполь­зо­ва­ние рез­ко оце­ноч­ных суще­стви­тель­ных или устой­чи­вых выра­же­ний для гло­баль­ной харак­те­ри­сти­ки чело­ве­ка или явле­ния, а не его кон­крет­ных действий;

— пер­со­на­ли­за­ция (personalization), заклю­ча­ю­ща­я­ся в интер­пре­та­ции чело­ве­ком внеш­них собы­тий как име­ю­щих к нему пря­мое и пер­со­наль­ное отно­ше­ние без объ­ек­тив­ных на то при­чин; про­яв­ля­ет­ся через исполь­зо­ва­ние место­име­ний пер­во­го лица (я, мне, меня) в каче­стве цен­траль­ной фигу­ры в повест­во­ва­нии о ней­траль­ном или нега­тив­ном событии;

— дол­жен­ство­ва­ние (should statement), харак­те­ри­зу­ю­ще­е­ся исполь­зо­ва­ни­ем модаль­ных кон­струк­ций, выра­жа­ю­щих жест­кое обя­за­тель­ство, пред­пи­са­ние или негиб­кие внут­рен­ние пра­ви­ла (дол­жен, обя­зан, надо, необ­хо­ди­мо);

— эмо­ци­о­наль­ное рас­суж­де­ние (emotional reasoning), при кото­ром эмо­ции пре­под­но­сят­ся как объ­ек­тив­ный факт и дока­за­тель­ство истин­но­сти утвер­жде­ния; чув­ство при­рав­ни­ва­ет­ся к реаль­но­сти, часто выра­жа­ет­ся через кон­струк­ции типа Я чув­ствую, что…, Это так, пото­му что я так чув­ствую;

— свер­хо­боб­ще­ние (overgeneralizing), про­яв­ля­ю­ще­е­ся через исполь­зо­ва­ние абсо­лют­ных кван­то­ров общ­но­сти, не допус­ка­ю­щих исклю­че­ний (все­гда, нико­гда, все, никто);

— ката­стро­фи­за­ция (catastrophizing), заклю­ча­ю­ща­я­ся в исполь­зо­ва­нии эмо­ци­о­наль­но заря­жен­ной лек­си­ки, опи­сы­ва­ю­щей край­нюю сте­пень нега­тив­ных послед­ствий (ката­стро­фа, кош­мар, конец све­та), и грам­ма­ти­че­ских кон­струк­ций, ука­зы­ва­ю­щих на неми­ну­е­мость подоб­но­го исхода;

— заблуж­де­ние о воз­на­граж­де­нии (reward fallacy), харак­те­ри­зу­ю­ще­е­ся в убеж­ден­но­сти, что само­по­жерт­во­ва­ние и посто­ян­ное «пра­виль­ное» пове­де­ние долж­ны быть немед­лен­но воз­на­граж­де­ны дру­ги­ми людь­ми или все­лен­ной. Часто выра­жа­ет­ся через ожи­да­ние спра­вед­ли­во­сти (долж­но быть спра­вед­ли­во…) и кон­струк­ции с гла­го­лом заслу­жи­вать, исполь­зу­е­мые для выра­же­ния оби­ды или разочарования.

2. Emotion English DistilRoBERTa-base³ — модель выяв­ле­ния в пред­ло­же­ни­ях при­зна­ков сле­ду­ю­щих эмоций:

— гнев, про­яв­ля­ю­щий­ся как исполь­зо­ва­ние рез­ких оце­ноч­ных слов, руга­тельств и выра­же­ний непри­я­тия, а так­же вос­кли­ца­тель­ных корот­ких пред­ло­же­ний и повто­ря­ю­щих­ся кон­струк­ций для уси­ле­ния эмоций;

— отвра­ще­ние, выра­жа­е­мое через сло­ва, опи­сы­ва­ю­щие физи­че­ские или мораль­ные непри­ят­ные ощу­ще­ния, исполь­зо­ва­ние гипер­бол, мета­фор и опи­са­тель­ных конструкций;

— страх, для кото­ро­го харак­тер­но выра­же­ние тре­во­ги, опа­се­ния, упо­ми­на­ние угроз и неопре­де­лен­но­сти, а так­же при­ме­не­ние пас­сив­ных кон­струк­ций для пере­да­чи беспомощности;

— радость, про­яв­ля­ю­ща­я­ся через вос­тор­жен­ные оцен­ки, пози­тив­но окра­шен­ные сло­ва, вос­кли­ца­ния и исполь­зо­ва­ние уси­ли­те­лей (so, very, absolutely);

— печаль, для выра­же­ния кото­рой исполь­зу­ют­ся сло­ва поте­ри, разо­ча­ро­ва­ния, горя и длин­ные слож­ные пред­ло­же­ния с пау­за­ми (мно­го­то­чи­ем), сни­жа­ю­щие интен­сив­ность речи;

— удив­ле­ние, про­яв­ля­ю­ще­е­ся через исполь­зо­ва­ние слов, обо­зна­ча­ю­щих неожи­дан­ность, корот­кие пред­ло­же­ния, а так­же вопро­си­тель­ные и вос­кли­ца­тель­ные конструкции.

Модель осно­ва­на на ней­ро­се­ти RoBERTa (Robustly Optimized BERT Pretraining Approach) [Liu et al. 2019], явля­ю­щей­ся раз­ви­ти­ем BERT.

3. T5-base fine-tuned on event2Mind⁴ — модель на осно­ве транс­фер­но­го обу­че­ния, пред­на­зна­чен­ная для синтаксико-семантического раз­бо­ра с целью извле­че­ния смыс­ла и пре­об­ра­зу­ю­щая каж­дое пред­ло­же­ние в кон­струк­цию вида to be <intent>, отра­жа­ю­щую выска­зан­ное в пред­ло­же­нии наме­ре­ние [Raffel et al. 2020].

4. WikiNEuRal Multilingual NER⁵ — муль­ти­я­зы­ко­вая модель для извле­че­ния из тек­ста упо­ми­на­е­мых в нем име­но­ван­ных сущ­но­стей (людей, мест, дат), настро­ен­ная на набо­ре дан­ных WikiNEuRal язы­ко­вой моде­ли mBERT [Tedeschi et al. 2021].

5. Unbiased Toxic RoBERTa⁶ — муль­ти­я­зы­ко­вая модель для клас­си­фи­ка­ции ком­мен­та­ри­ев с при­зна­ка­ми ток­сич­но­сти, ана­ли­зи­ру­ю­щая текст на лек­си­че­ском (исполь­зо­ва­ние кон­крет­ных слов и фраз), син­так­си­че­ском (струк­ту­ра пред­ло­же­ний) и семан­ти­че­ском (общий смысл и кон­текст) уров­нях. В рам­ках насто­я­щей рабо­ты была выпол­не­на обра­бот­ка для обна­ру­же­ния при­зна­ков сле­ду­ю­щих классов:

— ток­сич­ный (toxic), отли­ча­ю­щий­ся общей нега­тив­ной эмо­ци­о­наль­ной окрас­кой, исполь­зо­ва­ни­ем оце­ноч­ной лек­си­ки с уни­чи­жи­тель­ным или агрес­сив­ным под­тек­стом. Часто встре­ча­ют­ся обоб­ще­ния, нега­тив­ные харак­те­ри­сти­ки без конкретики;

— крайне ток­сич­ный (severe toxic), пред­став­ля­ю­щий собой край­нее выра­же­ние ток­сич­но­сти, часто с эле­мен­та­ми дегу­ма­ни­за­ции, край­ней агрес­сии и при­зы­ва­ми к насилию.

— непри­стой­ность (obscene), харак­те­ри­зу­ю­ща­я­ся исполь­зо­ва­ни­ем нецен­зур­ной лек­си­ки, вуль­гар­ных выра­же­ний или сек­су­а­ли­зи­ро­ван­ных оскорб­ле­ний, вклю­чая табу­и­ро­ван­ную лексику;

— угро­за (threat), содер­жа­щая упо­ми­на­ния пря­мой или кос­вен­ной физи­че­ской рас­пра­вы, наси­лия или вре­да. Может вклю­чать пре­ду­пре­жде­ния, уль­ти­ма­ту­мы или опи­са­ния потен­ци­аль­ных действий;

— оскорб­ле­ние (insult), отли­ча­ю­ще­е­ся нали­чи­ем пер­со­наль­ных оскорб­ле­ний, уни­зи­тель­ных харак­те­ри­стик, в том чис­ле направ­лен­ных на внеш­ность, интел­лект и лич­ные качества.

Выбор пре­до­бу­чен­ных моде­лей ана­ли­за есте­ствен­но­го язы­ка обу­слов­лен необ­хо­ди­мо­стью выяв­ле­ния в текстах спе­ци­фи­че­ских линг­ви­сти­че­ских пат­тер­нов, кото­рые, соглас­но суще­ству­ю­щим иссле­до­ва­ни­ям, кор­ре­ли­ру­ют с пре­ду­пре­жда­ю­щим поведением.

Модель когни­тив­ных иска­же­ний выбра­на для иден­ти­фи­ка­ции устой­чи­вых дефор­ма­ций в язы­ко­вой кар­тине мира авто­ров. В част­но­сти, инте­рес пред­став­ля­ют пат­тер­ны, кото­рые в пись­мен­ной ком­му­ни­ка­ции могут сиг­на­ли­зи­ро­вать о ригид­но­сти мыш­ле­ния и склон­но­сти к деструк­тив­ной интер­пре­та­ции реальности.

Модель эмо­ци­о­наль­но­го ана­ли­за при­ме­не­на для вери­фи­ка­ции гипо­те­зы о доми­ни­ро­ва­нии в дис­кур­се скул­шу­те­ров аффек­тив­но окра­шен­ных высказываний.

Модель выяв­ле­ния наме­ре­ний поз­во­ля­ет рекон­стру­и­ро­вать иди­о­ди­на­ми­ку авто­ра через синтаксико-семантический ана­лиз пре­ди­ка­тив­ных конструкций.

Модель извле­че­ния име­но­ван­ных сущ­но­стей исполь­зо­ва­на для иден­ти­фи­ка­ции рефе­рен­тов, зна­чи­мых для фор­ми­ро­ва­ния «куль­тур­но­го сце­на­рия» напа­де­ния. Упоминание кон­крет­ных предшественников-скулшутеров рас­смат­ри­ва­ет­ся как линг­ви­сти­че­ский мар­кер иден­ти­фи­ка­ции с деструк­тив­ной роле­вой моде­лью и геро­иза­ции насилия.

Модель клас­си­фи­ка­ции ток­сич­ных выска­зы­ва­ний при­ме­не­на для вери­фи­ка­ции гипо­те­зы о повы­шен­ной кон­цен­тра­ции в дис­кур­се скул­шу­те­ров вер­баль­ной агрес­сии, выра­жен­ной в пря­мых оскорб­ле­ни­ях, угро­зах, исполь­зо­ва­нии непри­стой­ной лек­си­ки и дегу­ма­ни­зи­ру­ю­щих выска­зы­ва­ний. Выявление подоб­ных мар­ке­ров пред­став­ля­ет­ся кри­ти­че­ски важ­ным, так как вер­баль­ная агрес­сия часто пред­ше­ству­ет агрес­сии физи­че­ской и явля­ет­ся одним из явных инди­ка­то­ров эска­ла­ции наси­лия в коммуникации.

Отметим, что из-за зна­чи­тель­ной раз­ни­цы в объ­е­мах тек­стов раз­лич­ных стрел­ков полу­чен­ные резуль­та­ты были нор­ми­ро­ва­ны на общее коли­че­ство пред­ло­же­ний в набо­ре, что поз­во­ли­ло выпол­нить срав­ни­тель­ный анализ.

Сравнение резуль­та­тов обра­бот­ки тек­стов стрел­ков с ины­ми тек­ста­ми раз­лич­ной при­ро­ды. Формирование фоно­во­го (рефе­рент­но­го) кор­пу­са тек­стов — кри­ти­че­ски важ­ный этап для вери­фи­ка­ции зна­чи­мо­сти выяв­лен­ных мар­ке­ров. Поскольку отсут­ству­ет воз­мож­ность срав­не­ния тек­стов одно­го и того же инди­ви­да в раз­ные пери­о­ды вре­ме­ни (до и после ради­ка­ли­за­ции), валид­ность обна­ру­жен­ных осо­бен­но­стей может быть уста­нов­ле­на лишь путем их сопо­став­ле­ния с раз­но­род­ны­ми мас­си­ва­ми пись­мен­ной ком­му­ни­ка­ции. Такой под­ход поз­во­ля­ет оце­нить, насколь­ко выяв­лен­ные линг­ви­сти­че­ские чер­ты харак­тер­ны имен­но для дис­кур­са скул­шу­те­ров, а не при­су­щи пись­мен­ной речи как тако­вой или кон­крет­ным жан­рам (напри­мер, постам в соци­аль­ных сетях).

С этой целью был сфор­ми­ро­ван фоно­вый кор­пус, вклю­ча­ю­щий тек­сты раз­лич­ной жан­ро­вой и тема­ти­че­ской при­над­леж­но­сти (табл. 1):

— тек­сты соци­аль­ных медиа (SM. R. 1–2, SM. T. 1–2, SM. B. 1–3), репре­зен­ти­ру­ю­щие повсе­днев­ную, спон­тан­ную, часто эмо­ци­о­наль­но окра­шен­ную меж­лич­ност­ную ком­му­ни­ка­цию, близ­кую по фор­ма­ту к мно­гим тек­стам скул­шу­те­ров (посты, комментарии);

— новост­ные тек­сты (News.1, News.2, News.3), пред­став­ля­ю­щие собой образ­цы инсти­ту­ци­о­наль­но­го, фак­то­ло­ги­че­ско­го дис­кур­са, лишен­но­го выра­жен­ной лич­ност­ной эмо­ци­о­наль­но­сти и ори­ен­ти­ро­ван­но­го на депер­со­ни­фи­ци­ро­ван­ное изло­же­ние инфор­ма­ции. Их вклю­че­ние поз­во­ля­ет про­ве­рить, явля­ют­ся ли выяв­лен­ные мар­ке­ры (напри­мер, высо­кая эмо­ци­о­наль­ность, пер­со­на­ли­за­ция) при­зна­ком имен­но личностно-окрашенного выска­зы­ва­ния, а не пись­мен­ной речи вообще;

— эссе (Essay.1, Essay.2), высту­па­ю­щие при­ме­ром более рефлек­сив­но­го, струк­ту­ри­ро­ван­но­го и раци­о­на­ли­зи­ро­ван­но­го пись­ма, что поз­во­ля­ет отде­лить осо­бен­но­сти когни­тив­но­го сти­ля скул­шу­те­ров от осо­бен­но­стей, при­су­щих про­ду­ман­но­му пись­мен­но­му выска­зы­ва­нию на лич­ные темы;

— худо­же­ствен­ная лите­ра­ту­ра (Lit.1), содер­жа­щая широ­кий спектр смо­де­ли­ро­ван­ных эмо­ций, наме­ре­ний и когни­тив­ных иска­же­ний, вопло­щен­ных в речи пер­со­на­жей. Сравнение с этим кор­пу­сом помо­га­ет опре­де­лить, насколь­ко обна­ру­жен­ные в текстах скул­шу­те­ров мар­ке­ры явля­ют­ся есте­ствен­ны­ми и спон­тан­ны­ми, а не лите­ра­тур­но стилизованными.

Таблица 1. Описание набо­ров дан­ных, про­ана­ли­зи­ро­ван­ных для срав­ни­тель­но­го ана­ли­за
резуль­та­тов обра­бот­ки тек­стов скулшутеров

Сравнительный ана­лиз с таким раз­но­род­ным фоно­вым кор­пу­сом поз­во­ля­ет утвер­ждать, что ста­ти­сти­че­ски зна­чи­мые раз­ли­чия ука­зы­ва­ют имен­но на спе­ци­фи­ку дис­кур­са скул­шу­те­ров, а не на арте­фак­ты, свя­зан­ные с жан­ром или тема­ти­кой текстов.

Анализ материала

Для оцен­ки зна­чи­мо­сти выяв­лен­ных общих для тек­стов скул­шу­те­ров мар­ке­ров выпол­не­но срав­не­ние с резуль­та­та­ми ана­ло­гич­ной обра­бот­ки набо­ров тек­стов, не свя­зан­ных с тема­ти­кой скулшутинга.

Результаты ста­ти­сти­че­ско­го срав­не­ния (t‑тест) кор­пу­са тек­стов скул­шу­те­ров с каж­дым из фоно­вых набо­ров дан­ных по клю­че­вым линг­ви­сти­че­ским при­зна­кам пред­став­ле­ны в таб­ли­цах 2–4. В таб­ли­цах при­ве­де­ны сред­ние зна­че­ния (M) и стан­дарт­ное откло­не­ние (SD) для долей каж­до­го при­зна­ка, зна­че­ния t‑статистики, p‑value, а так­же раз­мер эффек­та (Cohen’s D) с каче­ствен­ной интер­пре­та­ци­ей его вели­чи­ны («Мал.», «Сред.», «Знач.»).

1. Наличие при­зна­ков когни­тив­ных искажений.

На рис. 1 при­ве­ден гра­фик, отра­жа­ю­щий резуль­та­ты клас­си­фи­ка­ции пред­ло­же­ний в рас­смат­ри­ва­е­мых набо­рах тек­стов стрел­ков по нали­чию при­зна­ков когни­тив­ных иска­же­ний (КИ). Результаты соот­вет­ству­ю­ще­го ста­ти­сти­че­ско­го срав­не­ния с фоно­вым набо­ром при­ве­де­ны в таб­ли­це 2.

Таблица 2. Результаты ста­ти­сти­че­ско­го срав­не­ния при­зна­ков когни­тив­ных иска­же­ний в пись­мен­ной ком­му­ни­ка­ции скулшутеров

Анализ таб­ли­цы (когни­тив­ные иска­же­ния) под­твер­жда­ет, что имен­но пер­со­на­ли­за­ция — наи­бо­лее устой­чи­вый и ста­ти­сти­че­ски зна­чи­мый мар­кер тек­стов скул­шу­те­ров. Высокий раз­мер эффек­та (Cohen’s D > 0,8) наблю­да­ет­ся при срав­не­нии с боль­шин­ством кор­пу­сов (Essay.1, Lit.1, News.2, SM. B. 2–3, SM. M. 2, SM. T. 1–2). Заметным исклю­че­ни­ем явля­ет­ся кор­пус SM. R. 1 (ано­ним­ные при­зна­ния на Reddit), где раз­ли­чие ста­ти­сти­че­ски незна­чи­мо (p = 0,7016), что ука­зы­ва­ет на схо­жий уро­вень пер­со­на­ли­за­ции в этом типе спон­тан­ной личностно-окрашенной ком­му­ни­ка­ции. Другие когни­тив­ные иска­же­ния, такие как «наве­ши­ва­ние ярлы­ков» или «свер­хо­боб­ще­ние», не демон­стри­ру­ют столь выра­жен­ной и уни­вер­саль­ной зна­чи­мо­сти при срав­не­нии со всем раз­но­род­ным фоно­вым кор­пу­сом, что огра­ни­чи­ва­ет их цен­ность как уни­каль­ных мар­ке­ров пре­ду­пре­жда­ю­ще­го поведения.

2. Эмоциональная окрас­ка предложений.

На рис. 2 при­ве­ден гра­фик, отра­жа­ю­щий резуль­та­ты клас­си­фи­ка­ции пред­ло­же­ний в рас­смат­ри­ва­е­мых набо­рах тек­стов стрел­ков по нали­чию при­зна­ков эмо­ций. Отметим, что исполь­зо­ван­ная модель фор­ми­ру­ет резуль­тат в виде эмо­ции и веро­ят­но­сти нали­чия ее при­зна­ков в тек­сте. В иссле­до­ва­нии при­ня­то сле­ду­ю­щее допу­ще­ние: пред­ло­же­ние мар­ки­ро­ва­лось по эмо­ции, полу­чив­шей наи­боль­шую оценку.

Данные табл. 3 нагляд­но иллю­стри­ру­ют ано­маль­но высо­кий уро­вень гне­ва в текстах скул­шу­те­ров. Подавляющее боль­шин­ство срав­не­ний пока­зы­ва­ет ста­ти­сти­че­ски зна­чи­мые раз­ли­чия (p < ,0001) с боль­шим или сред­ним раз­ме­ром эффек­та. Единственное исклю­че­ние — кор­пус SM.R. 1, где уро­вень гне­ва ста­ти­сти­че­ски не отли­ча­ет­ся от тек­стов стрел­ков (p = 0,757), что еще раз под­чер­ки­ва­ет спе­ци­фи­ку ано­ним­ных сооб­ществ. Также наблю­да­ет­ся зна­чи­мое пре­об­ла­да­ние печа­ли по срав­не­нию с боль­шин­ством фоно­вых кор­пу­сов (за исклю­че­ни­ем Essay.2, SM.R. 1 и неко­то­рых новост­ных набо­ров). Напротив, доля ней­траль­ных пред­ло­же­ний у скул­шу­те­ров ста­ти­сти­че­ски зна­чи­мо ниже, чем в боль­шин­стве дру­гих типов текстов.

Таблица 3. Результаты ста­ти­сти­че­ско­го срав­не­ния при­зна­ков эмо­ций
в пись­мен­ной ком­му­ни­ка­ции скул­шу­те­ров и фоно­во­го корпуса

3. Токсичность.

Результаты в таб­ли­це 4 демон­стри­ру­ют, что тек­сты скул­шу­те­ров содер­жат ста­ти­сти­че­ски зна­чи­мо более высо­кие доли всех кате­го­рий ток­сич­но­сти по срав­не­нию с прак­ти­че­ски все­ми фоно­вы­ми кор­пу­са­ми. Наиболее пока­за­тель­ны раз­ли­чия по кате­го­ри­ям «угро­за» и «оскорб­ле­ние», где раз­мер эффек­та часто явля­ет­ся боль­шим (Cohen’s D>0.8) даже при срав­не­нии с дру­ги­ми поль­зо­ва­тель­ски­ми гене­ра­тив­ны­ми кор­пу­са­ми (SM. B, SM. M, SM. T). Это под­твер­жда­ет гипо­те­зу о том, что вер­баль­ная агрес­сия, направ­лен­ная на уни­же­ние или запу­ги­ва­ние, слу­жит ярким мар­ке­ром пре­ду­пре­жда­ю­ще­го пове­де­ния. Как и в преды­ду­щих слу­ча­ях, кор­пус ано­ним­ных тек­стов SM. R. 1 явля­ет­ся исклю­че­ни­ем, не пока­зы­вая зна­чи­мых раз­ли­чий по боль­шин­ству пара­мет­ров ток­сич­но­сти, что дела­ет его ано­ма­ли­ей сре­ди фоно­вых дан­ных, тре­бу­ю­щей отдель­но­го изучения.

Таблица 4. Результаты ста­ти­сти­че­ско­го срав­не­ния при­зна­ков ток­сич­но­сти в пись­мен­ной ком­му­ни­ка­ции скул­шу­те­ров и фоно­во­го корпуса

4. Выявление намерений.

Данные таб­ли­цы 5 демон­стри­ру­ют зна­чи­мое пре­вы­ше­ние усред­нен­ной часто­ты отдель­ных видов наме­ре­ний в текстах скул­шу­те­ров по срав­не­нию с ана­ло­гич­ны­ми пока­за­те­ля­ми объ­еди­нен­но­го фоно­во­го кор­пу­са. Наиболее выра­жен­ные раз­ли­чия наблю­да­ют­ся для анти­со­ци­аль­но­го наме­ре­ния to be mean («быть злым/жестоким»), что под­твер­жда­ет повы­шен­ную кон­цен­тра­цию агрес­сив­ных и деструк­тив­ных интен­ций. Парадоксальным явля­ет­ся так­же пре­вы­ше­ние частот про­со­ци­аль­ных наме­ре­ний to be helpful («быть полез­ным») и to be nice («быть добрым/милым»), а так­же интен­ции to be alone («быть одно­му»), отра­жа­ю­щей соци­аль­ную изо­ля­цию. Данное соче­та­ние деструк­тив­ных и про­со­ци­аль­ных пат­тер­нов может сви­де­тель­ство­вать о глу­бо­ком внут­рен­нем кон­флик­те, поис­ке соци­аль­ной иден­тич­но­сти и оправ­да­нии сво­их дей­ствий — извест­ном пси­хо­ло­ги­че­ском при­зна­ке лиц, склон­ных к наси­лию или совер­шив­ших насилие.

Таблица 5. Таблица с выяв­лен­ны­ми намерениями

5. Выявление име­но­ван­ных сущностей.

Результаты извле­че­ния име­но­ван­ных сущ­но­стей ука­зы­ва­ют на нали­чие спе­ци­фи­че­ско­го рефе­рент­но­го поля в дис­кур­се скул­шу­те­ров. Качественный ана­лиз пока­зал, что един­ствен­ным тема­ти­че­ски зна­чи­мым клас­сом пер­со­наль­ных имен явля­ют­ся извест­ные мас­со­вые убий­цы, преж­де все­го perpetrators школь­ных рас­стре­лов (на их долю при­хо­дит­ся 21 % сре­ди наи­бо­лее частот­ных упо­ми­на­ний). В част­но­сти, наблю­да­ет­ся устой­чи­вая рефе­рен­ция к Эрику Харрису и Дилану Клиболду — клю­че­вым фигу­рам инци­ден­та в Колумбайн, что интер­пре­ти­ру­ет­ся как линг­ви­сти­че­ский мар­кер иден­ти­фи­ка­ции с деструк­тив­ной роле­вой моде­лью и геро­иза­ции наси­лия. В отли­чие от это­го, упо­ми­на­ния иных пуб­лич­ных лиц (поли­ти­ков, музы­кан­тов, акте­ров) не демон­стри­ру­ют ста­ти­сти­че­ской зна­чи­мо­сти и не могут рас­смат­ри­вать­ся как спе­ци­фи­че­ский инди­ка­тор пре­ду­пре­жда­ю­ще­го поведения.

6. Ограничения.

Следует отме­тить огра­ни­че­ния пред­ло­жен­ной мето­ди­ки ана­ли­за тек­стов скул­шу­те­ров для выяв­ле­ния мар­ке­ров пре­ду­пре­жда­ю­ще­го поведения.

Использованные пре­до­бу­чен­ные моде­ли не явля­ют­ся спе­ци­а­ли­зи­ро­ван­ны­ми для ана­ли­за тек­стов имен­но ради­ка­ли­зо­ван­ных инди­ви­дов. Их точ­ность может сни­жать­ся при обра­бот­ке иди­о­лек­тов, харак­те­ри­зу­ю­щих­ся высо­кой сте­пе­нью ирра­ци­о­наль­но­сти, наме­рен­ной сти­ли­сти­че­ской мар­ги­наль­но­стью или слож­ны­ми праг­ма­ти­че­ски­ми кон­тек­ста­ми (напри­мер, иро­ния, сар­казм, аллю­зии), кото­рые встре­ча­ют­ся в пись­мен­ной ком­му­ни­ка­ции скул­шу­те­ров. Кроме того, обра­бот­ка зна­чи­тель­ных объ­е­мов тек­ста мето­дом слу­чай­ной выбор­ки хотя и оправ­дан­на с вычис­ли­тель­ной точ­ки зре­ния, потен­ци­аль­но может ниве­ли­ро­вать ред­кие, но кри­ти­че­ски важ­ные мар­ке­ры, рас­пре­де­лен­ные по все­му корпусу.

Наиболее зна­чи­мое огра­ни­че­ние — неиз­беж­ное упро­ще­ние при авто­ма­ти­че­ском ана­ли­зе. Лингвистические моде­ли выяв­ля­ют пат­тер­ны на уровне лек­си­ки, син­так­си­са и ста­ти­сти­че­ских ано­ма­лий, но зача­стую неспо­соб­ны адек­ват­но интер­пре­ти­ро­вать глу­бо­кий семан­ти­че­ский и праг­ма­ти­че­ский кон­текст выска­зы­ва­ния. Например, наме­ре­ние to be nice в одном кон­тек­сте может быть про­яв­ле­ни­ем искрен­не­го стрем­ле­ния, а в дру­гом — демон­стра­ци­ей циниз­ма или частью нар­цис­си­че­ской мани­пу­ля­ции. Качественная интер­пре­та­ция таких резуль­та­тов невоз­мож­на без при­вле­че­ния экс­перт­но­го линг­ви­сти­че­ско­го и пси­хо­ло­ги­че­ско­го ана­ли­за, что выхо­дит за рам­ки насто­я­щей работы.

Прямое срав­не­ние кор­пу­са тек­стов скул­шу­те­ров с гете­ро­ген­ны­ми фоно­вы­ми кор­пу­са­ми явля­ет­ся вынуж­ден­ной мерой в усло­ви­ях отсут­ствия иде­аль­но­го кон­троль­но­го кор­пу­са — лич­ных тек­стов пси­хи­че­ски нор­ма­тив­ных сверст­ни­ков ана­ло­гич­но­го воз­рас­та, соци­аль­но­го ста­ту­са и куль­тур­но­го бэк­гра­ун­да, не совер­шав­ших наси­лия. Хотя исполь­зо­ван­ный под­ход с фор­ми­ро­ва­ни­ем раз­но­род­но­го фоно­во­го кор­пу­са поз­во­ля­ет ниве­ли­ро­вать жан­ро­вые арте­фак­ты и вычле­нить имен­но спе­ци­фи­че­ские чер­ты дис­кур­са скул­шу­те­ров, он не исклю­ча­ет пол­но­стью вли­я­ния экс­тра­линг­ви­сти­че­ских фак­то­ров. Таким обра­зом, обна­ру­жен­ные раз­ли­чия, оста­ва­ясь ста­ти­сти­че­ски зна­чи­мы­ми, долж­ны рас­смат­ри­вать­ся как мар­ке­ры дис­кур­сив­ной прак­ти­ки имен­но рас­смат­ри­ва­е­мой груп­пы, тре­бу­ю­щие даль­ней­ше­го изу­че­ния и вери­фи­ка­ции на более сба­лан­си­ро­ван­ных выборках.

Результаты исследования

Применение мето­дов ком­пью­тер­ной линг­ви­сти­ки для ана­ли­за кор­пу­са тек­стов скул­шу­те­ров выяви­ло ряд ста­ти­сти­че­ски зна­чи­мых и линг­ви­сти­че­ски реле­вант­ных зако­но­мер­но­стей, отли­ча­ю­щих их дис­курс от раз­но­род­ных фоно­вых корпусов.

1. Доминирование когни­тив­но­го иска­же­ния «пер­со­на­ли­за­ция» в текстах скул­шу­те­ров. Это выра­жа­ет­ся в син­так­си­че­ском постро­е­нии пред­ло­же­ний, где место­име­ния пер­во­го лица зани­ма­ют цен­траль­ную пози­цию в нар­ра­ти­ве о внеш­них, зача­стую ней­траль­ных или нега­тив­ных собы­ти­ях. Такая язы­ко­вая кар­ти­на мира сви­де­тель­ству­ет о ригид­ной моде­ли вос­при­я­тия, при кото­рой инди­вид интер­пре­ти­ру­ет про­ис­хо­дя­щее через приз­му лич­ной вовле­чен­но­сти, вины или обви­не­ния, что явля­ет­ся ярким мар­ке­ром дез­адап­тив­но­го мышления.

2. Дискурс скул­шу­те­ров отли­ча­ет­ся исклю­чи­тель­но высо­кой кон­цен­тра­ци­ей линг­ви­сти­че­ских мар­ке­ров гне­ва (исполь­зо­ва­ние рез­ко оце­ноч­ной лек­си­ки, руга­тельств, повто­ров и вос­кли­ца­тель­ных кон­струк­ций для вер­ба­ли­за­ции непри­я­тия) и зна­чи­тель­ным при­сут­стви­ем мар­ке­ров печа­ли (лек­си­ка поте­ри и горя, слож­ные син­так­си­че­ские кон­струк­ции с пау­за­ми). Низкая доля ней­траль­ных выска­зы­ва­ний допол­ни­тель­но под­чер­ки­ва­ет аффек­тив­ную заря­жен­ность их ком­му­ни­ка­ции. Это ука­зы­ва­ет на глу­бо­кое нега­тив­ное эмо­ци­о­наль­ное состо­я­ние, вер­ба­ли­зу­е­мое через спе­ци­фи­че­ские язы­ко­вые средства.

3. Синтаксико-семантический ана­лиз наме­ре­ний выявил ком­плекс­ную и про­ти­во­ре­чи­вую кар­ти­ну. Наряду с ожи­да­е­мы­ми деструк­тив­ны­ми интен­ци­я­ми в текстах зна­чи­мо пред­став­ле­ны про­со­ци­аль­ные интен­ции с поло­жи­тель­ной кон­но­та­ци­ей. Это может сви­де­тель­ство­вать о внут­рен­нем кон­флик­те и поис­ке иден­тич­но­сти, а так­же слу­жит мар­ке­ром, ука­зы­ва­ю­щим на попыт­ку само­оправ­да­ния или фор­ми­ро­ва­ния иска­жен­ной кар­ти­ны соб­ствен­ных действий.

4. Повышенный уро­вень вер­баль­ной агрес­сии и ток­сич­но­сти. Тексты скул­шу­те­ров содер­жат более высо­кие доли во всех рас­смот­рен­ных кате­го­ри­ях ток­сич­но­сти, но наи­бо­лее пока­за­тель­ны мар­ке­ры пря­мой вер­баль­ной агрес­сии — «оскорб­ле­ние» и «угро­за». Анализ пока­зал устой­чи­вое исполь­зо­ва­ние инвек­тив­ной лек­си­ки, уни­чи­жи­тель­ных харак­те­ри­стик и пря­мых или кос­вен­ных угроз, что кор­ре­ли­ру­ет с вер­ба­ли­за­ци­ей насиль­ствен­ных сце­на­ри­ев и дегу­ма­ни­за­ци­ей потен­ци­аль­ных жертв. Данный при­знак явля­ет­ся одним из наи­бо­лее пря­мых линг­ви­сти­че­ских инди­ка­то­ров эска­ла­ции насилия.

Несмотря на пере­чис­лен­ные в соот­вет­ству­ю­щем раз­де­ле огра­ни­че­ния исполь­зо­ван­ной мето­ди­ки авто­ма­ти­зи­ро­ван­но­го ана­ли­за тек­стов на базе откры­тых моде­лей обра­бот­ки есте­ствен­но­го язы­ка, отме­тим, что полу­чен­ные резуль­та­ты долж­ны учи­ты­вать­ся при раз­ра­бот­ке инстру­мен­та­рия оцен­ки рис­ков и про­фи­лак­ти­ки скулшутинга.

Выводы

Настоящее иссле­до­ва­ние иллю­стри­ру­ет воз­мож­но­сти при­ме­не­ния мето­дов ком­пью­тер­ной линг­ви­сти­ки для выяв­ле­ния спе­ци­фи­че­ских линг­ви­сти­че­ских мар­ке­ров пре­ду­пре­жда­ю­ще­го пове­де­ния скул­шу­те­ров в пись­мен­ной ком­му­ни­ка­ции. Основным резуль­та­том ста­ло уста­нов­ле­ние ста­ти­сти­че­ски зна­чи­мых раз­ли­чий меж­ду кор­пу­сом тек­стов скул­шу­те­ров и раз­но­род­ны­ми кон­троль­ны­ми набо­ра­ми дан­ных. Наиболее реле­вант­ны­ми мар­ке­ра­ми пре­ду­пре­жда­ю­ще­го пове­де­ния ока­за­лись доми­ни­ро­ва­ние когни­тив­но­го иска­же­ния «пер­со­на­ли­за­ция», выра­жа­ю­ще­е­ся в склон­но­сти интер­пре­ти­ро­вать внеш­ние собы­тия через приз­му лич­ной вины или обви­не­ния окру­жа­ю­щих; ано­маль­но высо­кая кон­цен­тра­ция мар­ке­ров гне­ва и зна­чи­тель­ное при­сут­ствие мар­ке­ров печа­ли, отра­жа­ю­щих интен­сив­ное нега­тив­ное эмо­ци­о­наль­ное состо­я­ние; пара­док­саль­ное соче­та­ние деструк­тив­ных наме­ре­ний с выра­жен­ны­ми про­со­ци­аль­ны­ми интен­ци­я­ми, что может сви­де­тель­ство­вать о внут­рен­нем кон­флик­те и поис­ке соци­аль­ной иден­ти­фи­ка­ции; а так­же повы­шен­ный уро­вень вер­баль­ной агрес­сии и ток­сич­но­сти. Эти осо­бен­но­сти кор­ре­ли­ру­ют с извест­ны­ми пси­хо­ло­ги­че­ски­ми про­фи­ля­ми лиц, склон­ных к наси­лию, и под­чер­ки­ва­ют роль лич­ност­ной дез­адап­та­ции в про­цес­се радикализации.

Несмотря на ука­зан­ные огра­ни­че­ния пред­ло­жен­ной мето­до­ло­гии, вклю­чая слож­но­сти обра­бот­ки боль­ших объ­е­мов дан­ных и необ­хо­ди­мость кон­тек­сту­аль­ной интер­пре­та­ции резуль­та­тов, полу­чен­ные выво­ды обла­да­ют при­клад­ным потен­ци­а­лом. Выделенные линг­ви­сти­че­ские мар­ке­ры могут слу­жить осно­вой для раз­ра­бот­ки инстру­мен­тов авто­ма­ти­зи­ро­ван­но­го скри­нин­га тек­сто­вой инфор­ма­ции (соци­аль­ные сети, фору­мы, лич­ные запи­си) при реа­ли­за­ции мер ран­не­го пре­ду­пре­жде­ния и про­фи­лак­ти­ки соот­вет­ству­ю­щих рис­ков и угроз. Внедрение таких инстру­мен­тов в прак­ти­ку обра­зо­ва­тель­ных учре­жде­ний спо­соб­но повы­сить эффек­тив­ность выяв­ле­ния «уяз­ви­мых» лиц на докри­ми­наль­ной ста­дии. Дальнейшее раз­ви­тие иссле­до­ва­ния может быть направ­ле­но на уточ­не­ние зна­чи­мо­сти выяв­лен­ных мар­ке­ров с уче­том ген­дер­ных, воз­раст­ных и куль­тур­ных осо­бен­но­стей авто­ров, а так­же на раз­ра­бот­ку более точ­ных моде­лей, учи­ты­ва­ю­щих семан­ти­че­ский кон­текст и праг­ма­ти­ку высказываний.