Способ ограничения доступа пользователю к подозрительным объектам социальной сети

Изобретение относится к области вычислительной техники. Технический результат заключается в повышении достоверности кластеризации профилей и уменьшении избыточности объектов в полученных кластерах. Раскрыт способ ограничения доступа пользователю социальных сетей к профилям других пользователей или элементам контента, содержащих запрещенный законом характер информации, заключающийся в том, что формируют социальный граф и выделяют в нем кластеры профилей, затем для каждого полученного кластера определяют в социальной сети список объектов, с которыми связаны профили из этого кластера, далее полученные списки объектов сравнивают с базой запрещенных объектов и в случае выявления совпадений осуществляют блокировку доступа пользователя ко всем профилям конкретного кластера, при этом после формирования социального графа и выделения в нем кластеров профилей выполняют процедуру декомпозиции полученных кластеров до групп однотипных объектов с использованием алгоритмов классификации и кластеризации, позволяющих сформировать дерево решений относительно исходных кластеров. 6 ил., 1 табл.

 

Область техники

Изобретение относится к области информационных технологий, а именно способам ограничения доступа пользователю социальных сетей к профилям других пользователей или элементам контента, содержащих запрещенный законом характер информации.

Уровень техники

В настоящее время не существует такой сферы жизнедеятельности человека, в которой компьютерные технологии не занимали важную ее часть. В частности, для выражения своих эмоций и общения, пользователи используют такую компьютерную технологию, как социальные сети. В свою очередь, социальные сети развиваются и предоставляют все больше различных функций пользователям, тем самым «вынуждая» пользователей проводить все больше свободного времени в них, а порой выкладывать различную (иногда даже личную) информацию для получения доступа к той или иной функции. Именно поэтому социальные сети стали местом наживы для злоумышленников. Мошенники создают в социальных сетях подложные профили пользователей или групп для привлечения определенной категории пользователей, создают ботов для сбора различной статистической информации, распространяют вредоносные программы и используют различные другие способы для получения доступа к профилям обычных пользователей или навязывания определенного мнения (часто заведомо ложного) за счет фальсификации фактов. Множество пользователей становятся жертвами таких действий. Ввиду возрастающей угрозы, возникшей в связи с использованием детьми сети Интернет, все большую популярность набирают программные средства, ограничивающие доступ пользователя к нелегальным ресурсам социальных сетей и средства защиты персональных данных. Но с использованием таких средств, зачастую ограничивая доступ к подозрительным объектам социальной сети (профили других пользователей, профили групп, элементы контента - фотографии, аудио и видеозаписи и пр.), ограничивается доступ и к объектам, которые лишь в первом приближении схоже с запрещаемыми (например, блокировка по словарю запрещенных слов). Возникает техническая проблема, заключающаяся в низкой достоверности кластеризации профилей и высокой избыточности объектов в полученных кластерах, что приводит не эффективному ограничению доступа к подозрительным объектам сети.

Для решения похожих задач проведен патентный поиск и выявлено три патента: RU 2651252 C1, US 8909646 и US 9202052.

В патенте RU 2651252 С1 определят способ ограничения доступа к подозрительным объектам социальной сети. В данном способе определяют кластеры для заданного пользователя социальной сети на основе определенного метода кластеризации (к примеру: иерархическая кластеризация на основе модулярности), и в случае выявления в определенных кластерах (или во всех) запрещенных объектов происходит ограничение доступа ко всему кластеру, в независимости от его размеров. Недостатком способа является низкая достоверность кластеризации профилей и высокая избыточность объектов в полученных кластерах.

В патенте US 8909646 описан способ быстрого определения схожих групп пользователей. Для этого система выделяет критерии сходства и создает набор идентификаторов пользователей с характеристиками, удовлетворяющими этим критериям. В результате, ребра созданного социального графа характеризуют прямую или косвенную связь между идентификаторами пользователей, что приводит к низкой достоверности кластеризации профилей и высокой избыточности объектов в полученных кластерах.

В патенте US 9202052 определяют аномальные кластеры пользователей и аномальных пользователей путем анализа изменений в таких кластерах. Например, если большое количество кластеров пользователей объединилось в один кластер, такой кластер будет считаться аномальным. Недостатком способа является низкая достоверность кластеризации профилей и высокая избыточность объектов в полученных кластерах.

Наиболее близким по технической сущности и выполняемым функциям к заявляемому является способ ограничения доступа пользователя к подозрительным объектам социальной сети (патент RU 2651252 С1, МПК G06F 21/55, 2018 г.), позволяющий разбить социальные граф на множество кластеров при помощи определенного метода кластеризации.

В данной области техники существует техническая проблема, заключающаяся в том, что известный способ ограничения доступа пользователя к подозрительным объектам социальной сети имеет низкую достоверность кластеризации профилей и высокую избыточность объектов в полученных кластерах, что приводит не эффективному ограничению доступа к подозрительным объектам сети. Эта техническая проблема обусловлена тем, что в процессе кластеризации объекты могут не являться запрещенными, но по критериям кластеризации попадут в кластер, который подлежащий блокировки.

Раскрытие сущности изобретения

Данная техническая проблема решается использованием дополнительной процедуры декомпазиции полученных кластеров до групп однотипных объектов с использованием алгоритмов классификации и кластеризации (например, с использованием алгоритмов: k - средних, с - средних, минимальное покрывающее дерево и выделение связных компонент)¹(1 Далее - многоуровневая кластеризация), позволяющих сформировать дерево решений относительно исходных кластеров. Технический результат обеспечиваемый использованием изобретения состоит в повышении достоверности кластеризации профилей и уменьшении избыточности объектов в полученных кластерах.

Техническая проблема решается тем, что способ ограничения доступа пользователю к подозрительным объектам социальной сети, содержащих запрещенный законом характер информации, содержащий базу данных объектов социальной сети, социальный граф, базу данных запрещенных объектов, средство обработки, средство анализа и средство блокировки, выход из базы данных объектов социальной сети является входом для средства обработки, первый выход из средства обработки является входом для средства анализа, второй выход является входом для социального графа, первый выход из средства анализа является входом для социального графа, второй выход является входом для средства блокировки, выход из социального графа и выход из средства блокировки является входом в базу запрещенных объектов, согласно изобретению дополнен процедурой декомпозиции, где выход со средства анализа является входом для процедуры декомпозиции и соответственно, выход процедуры декомпозиции является вторым входом для средства анализа.

Перечисленная новая совокупность позволяет повысить достоверность кластеризации профилей и снизить избыточность объектов в полученных кластерах за счет процедуры декомпозиции исходных кластеров на основе многоуровневой кластеризации (с использованием алгоритмов: k - средних, с - средних, минимальное покрывающее дерево и выделение связных компонент) и преобразованием их в дерева решений относительно групп однотипных объектов для дальнейшего избирательного ограничения доступа.

Проведенный анализ уровня техники позволил установить, что аналоги, характеризующиеся совокупностью признаков, тождественных всем признакам заявленного технического решения, отсутствуют, что указывает на соответствие изобретения условию патентоспособности «новизна».

Результаты поиска известных решений в данной и смежных областях техники с целью выявления признаков, совпадающих с отличительными от прототипа признаками заявленного объекта, показали, что они не следуют явным образом из уровня техники. Из уровня техники также не выявлена известность влияния предусматриваемых существенными признаками заявленного изобретения преобразований на достижение указанного технического результата. Следовательно, заявленное изобретение соответствует условию патентоспособности «изобретательский уровень».

Заявляемое устройство поясняется схемами, на которых показаны:

фиг. 1 - представлена схема настоящего изобретения;

фиг. 2 - представлен пример социального графа с выхода средства обработки;

фиг. 3 - представлен пример социального графа с выхода процедуры декомпозиции средства анализа и построения дерева решений;

фиг. 4 - представлен вариант способа осуществления настоящего изобретения;

фиг. 5 - представлен еще один вариант способа осуществления настоящего изобретения;

фиг. 6 - иллюстрирует способ пополнения базы данных запрещенных объектов.

Осуществление изобретения

Способ ограничения доступа пользователю к подозрительным объектам социальной сети станет очевиден посредством отсылки к примерным вариантам осуществления. Стоит отметить, что настоящее изобретение не ограничивается примерными вариантами осуществления, раскрытыми ниже, оно может воплощаться в различных видах. Сущность, приведенная в описании, является ничем иным, как конкретными деталями, обеспеченными для помощи специалисту в области техники в исчерпывающем понимании изобретения, и настоящее изобретение определяется в объеме приложенной формулы. На Фиг. 1 представлена схема настоящего изобретения. Система содержит средство обработки 101, предназначенное для получения социального графа 105, построенного для заданного профиля пользователя (далее - профиль). Социальный граф 105 является графом, вершинами которого являются заданные объекты социальной сети, а наличие ребра между двумя вершинами свидетельствует о наличии социальной связи между двумя объектами социальной сети, находящимися в упомянутых двух вершинах. Объектами социальной сети являются, в частности, профили пользователей. Таким образом, все объекты социального графа 105 являются объектами социальной сети, но не всегда все объекты социальной сети содержатся в построенном социальном графе 105. Под объектами социальной сети понимаются профили пользователей или групп и элементы контента (текстовая информация, фотография, видео, аудио). Социальный граф 105 содержит заданный профиль и другие профили, которые связаны напрямую с заданным профилем. Данные объектов социальной сети хранятся в базе данных объектов социальной сети 104. Профили пользователей могут включать, один или несколько следующих атрибутов: идентификатор, тип объекта, ссылка на профиль пользователя в социальной сети, имя, дата рождения и т.д. Профили групп могут включать один или несколько следующих атрибутов: идентификатор, тип объекта, ссылка на профиль группы в социальной сети, тематика, дата создания, описание группы и другое. Под социальной связью (далее - связь) понимается установленная социальной сетью связь между объектами социальной сети. Например, если пользователь А, которому принадлежит профиль пользователя А, добавил в друзья (с использованием элементов управления социальной сети), подписался на обновления или добавил в подписчики пользователя Б, которому принадлежит профиль пользователя Б, то между профилями пользователей А и Б установилась соответствующая социальная связь. В зависимости от установленной социальной связи пользователи А и Б будут иметь доступ к соответствующей информации и возможностям социальной сети. Например, если между профилями А и Б установлена связь «дружба», пользователь А будет видеть информацию профиля пользователя Б и будет иметь возможность писать сообщения пользователю Б. Аналогичные возможности будут и у пользователя Б. Средство обработки 101 также служит для выделения в социальном графе 105 кластеров пользователей согласно определенному алгоритму (методу) кластеризации (пример выделения кластеров указан на фиг. 2). Выделение кластеров пользователей происходит таким образом, чтобы количество социальных связей между профилями пользователей из одного кластера было не ниже количества социальных связей между профилями пользователей из разных выделенных кластеров. Например, если первый профиль пользователя будет определен к первому кластеру, то количество социальных связей первого профиля пользователя с каждым профилем из первого кластера будет не ниже, чем количество социальных связей первого профиля пользователя с любым другим профилем пользователя, не содержащимся в первом кластере.

Средство анализа 102 связано со средством обработки 101 и содержит процедуру декомпозиции. Процедура декомпозиции 102.1 служит для построения дерева решений с использованием многоуровневой кластеризации (с использованием алгоритмов: k - средних, с - средних, минимальное покрывающее дерево и выделение связных компонент). Данная процедура получает на вход кластера определенные в средстве обработки 101 и за счет декомпозиции исходных кластеров путем многоуровневой кластеризации (основанной на использование алгоритмов k - средних, с - средних, минимальное покрывающее дерево и выделение связных компонент) преобразованием их в дерева решений относительно групп однотипных объектов (фиг. 3). В результате кластера разбиваются на простые группы, которые содержат один или группу объектов с настолько схожими свойствами, что повышения уровня кластеризации не позволит проводить дальнейшее построения дерево решений.

Процедура анализа 102 в средстве анализа служит для определения одного или нескольких выделенных кластеров в социальной сети по меньшей мере одного объекта, с которым связано не менее определенного числа профилей, содержащихся в выделенном кластере. В частном варианте реализации профилями являются профили групп пользователей. Таким образом, средство анализа 102 служит для определения для каждого выделенного кластера профилей групп пользователей, в которых состоит не менее определенного числа пользователей этого кластера. Считается, что пользователь состоит в группе, если между вершиной социального графа «профиль пользователя» и вершиной «профиль группы пользователей» присутствует ребро, характеризующее наличие социальной связи. С использованием средства анализа 102 из определенного ранее по крайней мере одного объекта определяют по меньшей мере один объект соответственно, как запрещенный, путем обнаружения упомянутого объекта в базе данных запрещенных объектов 106. База данных запрещенных объектов 106 содержит список объектов социальной сети, являющихся запрещенными. В частном варианте реализации в базе данных запрещенных объектов 106 могут содержаться идентификаторы запрещенных объектов или содержаться атрибуты объектов, наличие которых свидетельствует о том, что объекты социальной сети является запрещенным. База данных запрещенных объектов 106 может быть заранее сформирована аналитиком, с использованием, например, списков запрещенных объектов, экспертизы аналитиков и т.д. С использованием средства анализа 102 определяют в социальной сети по меньшей мере один объект социальной сети как подозрительный, если упомянутый объект связан по меньшей мере с одним объектом, определенным как запрещенный ранее. Средство блокировки 103 связано со средством анализа 102 и осуществляет ограничение доступа заданному профилю к подозрительным объектам социальной сети. В частном случае, в базе данных запрещенных объектов 106 содержатся объекты, в частности, из следующих категорий: вредоносное содержимое; мошеннические группы; радикальные религиозные течения и секты; оружие; наркотики; алкоголь; табак; насилие; экстремизм; расизм; самоповреждение; самоубийство; азартные игры и прочие аналогичные и запрещенные категории контента и.т.д.

На Фиг. 2 представлен пример социального графа после средства обработки. В данном примере профили пользователей представлены вершинами графа П0-П9, профили групп - вершины Г1, Г2, а элементы контента - вершинами О1, О2 (например, фотографии, видео, аудио (музыка) и т.д.). В рассматриваемом примере П0 является заданным профилем пользователя. В результате кластеризации было выделено 3 кластера (обведены пунктиром на фигуре). В одном примере реализации профиль П0 содержится в каждом из кластеров. В другом примере реализации профиль П0 не относится ни к одному кластеру. Для простоты изложения, далее считается, что профиль П0 не принадлежит ни к одному кластеру. К первому кластеру определены профили пользователей П1-П4, ко второму кластеру - профили П5-П8 и профиль группы Г1, а к третьему кластеру лишь профиль П9. Такой способ выделения в социальном графе 105 кластеров пользователей иллюстрирует частный пример реализации - каждый кластер пользователей содержит такие профили пользователей, между которыми количество социальных связей не ниже количества социальных связей между профилями пользователей из разных выделенных кластеров. Например, в кластере 1 между собой соединены вершины П1-П8 и Г1, и не соединены только две вершины - П8 и Г1. Вершина П5 имеет одну связь с вершиной П2 из кластера 2, однако в кластере 1 вершина П5 имеет пять связей - поэтому П5 была определена к кластеру 1. Аналогично, вершина П2 имеет пять связей в кластере 2 и одну связь с вершиной П5 из кластера 1. Вершина П9 единственная в кластере 3. Профиль группы Г2 и элементы контента О1, О2 не принадлежат ни к одному кластеру, т.к. они не связаны с заданным профилем П0. В частном варианте реализации кластеры выделяют с использованием, в частности, одного из следующих алгоритмов кластеризации: иерархическая кластеризация на основе модулярности (англ. Louvain modularity); - обнаружение пересекающихся кластеров (англ. clique percolation method); - выведение стохастических блочных моделей.

На Фиг. 3 представлен пример социального графа и примерное дерево решений после процедуры декомпозиции на основе многоуровневой кластеризации. В данном примере на вход процедуры декомпозиции подаются кластера 1 и 2. Производится многоуровневая кластеризация, позволяющая на каждом уровне делить много объектные кластера на менее объектные с разделением по различным критериям (уровень 1: алгоритм k - средних, уровень 2: алгоритм выделения связных компонент). В результате, деление происходит до получения одиночных объектов или групп объектов с близкими характеристиками.

На Фиг. 4 представлен вариант способа осуществления настоящего изобретения. На шаге 401 средство обработки 101 получает социальный граф 105, построенный для заданного профиля и содержащий заданный профиль и по меньшей мере один другой профиль социальной сети, с которым связан заданный профиль. Далее на шаге 402 средство обработки выделяет в социальном графе 105 кластеры профилей согласно определенному методу кластеризации. В частном варианте реализации, определение метода классификации осуществляется средством обработки 101. На шаге 403 процедура декомпозиции 102.1 получает на выход кластера определенные в 402 и стоит дерево решений относительно каждого объекта кластера. На шаге 404 процедура анализа 102 для каждого выделенного кластера полученного из процедуры декомпозиции 102.1 определяет в социальной сети по крайней мере один объект, с которым связано не менее определенного числа профилей, содержащихся в упомянутом выделенном кластере. С использованием средства анализа 102 на шаге 405 из определенного по крайней мере одного объекта определяют по меньшей мере один объект соответственно, как запрещенный, путем обнаружения упомянутого объекта в базе данных запрещенных объектов 106. С использованием средства анализа 102 на шаге 406 определяют в социальной сети по меньшей мере один объект социальной сети как подозрительный, если упомянутый объект связан по меньшей мере с одним объектом, определенным как запрещенный на этапе 405. В результате, на шаге 407 с использованием средства блокировки 103 осуществляют ограничение доступа заданному профилю к подозрительным объектам социальной сети. Таким образом, за счет построения дерева решений на шаге 403, решается техническая проблема, заключающаяся в низкой результативности доступности подозрительных объектов социальных сетей, и достигается заявленный технический результат, который заключается в повышении результативности выявления подозрительных объектов социальной сети и ограничения пользователю доступа к ним. Рассмотрим пример социального графа 105, изображенного на Фиг. 2 и Фиг. 3. В данном примере на шаге 402 будут выделены 3 кластера. На шаге 403 построено дерево решений и тем самым кластера 1 и 2 будут разбиты на 4 и на 3 более простых и содержащих однотипные объекты кластера. На шаге 404 будет определен профиль группы Г1, так как с этой группой связаны 4 профиля кластера 1 (П5-П8). Группа Г2 не будет определена на шаге 404, т.к. с ней связан только профиль П7. На шаге 405 будет проверено, содержится ли группа Г1 в базе данных запрещенных объектов 107, и в случае утвердительного ответа, на шаге 406 профили пользователей П5-П8 не будут определены как подозрительные, т.к. они хоть и связаны с запрещенным профилем группы Г1, но при многоуровневой кластеризации перестали быть подозрительными. В итоге, на шаге 307 будет осуществлено ограничение доступа заданного профиля П0 к элементу контента Г1.

На Фиг. 5 представлен еще один вариант способа осуществления настоящего изобретения. Часть этапов способа совпадают с этапами способа, представленного на Фиг. 4. Так, на шаге 501 средство обработки 101 получает социальный граф 105, построенный для заданного профиля пользователя и содержащий заданный профиль и по меньшей мере один другой профиль социальной сети, с которым связан заданный профиль. Далее на шаге 502 средство обработки выделяет в полученном социальном графе 105 кластеры профилей согласно определенному алгоритму (методу) кластеризации. На шаге 503 процедура декомпозиции 102.1 получает на выход кластера определенные в 502 и стоит дерево решений относительно каждого объекта кластера. На шаге 504 с использованием процедуры анализа 102 выявляют профили социального графа 105, отнесенные к кластеру с количеством профилей, меньшим чем заданное предельное число (например, меньше двух профилей или только один профиль. Далее на шаге 505 с использованием процедуры анализа 102.1 определяют объекты социальной сети подозрительными, если упомянутые объекты социальной сети имеют социальную связь с выявленными профилями пользователей социального графа 105. В итоге, на шаге 506 с использованием средства блокировки 103 осуществляют ограничение доступа заданному профилю пользователя к подозрительным объектам социальной сети. Способ по Фиг. 5 отличается от способа по Фиг. 4 тем, что на шаге 504 дополнительно с использованием процедуры анализа 102 выявляют профили, отнесенные к кластеру с количеством профилей, меньшим чем заданное предельное число. Фиг. 6 иллюстрирует способ пополнения базы данных запрещенных объектов. Способ может быть выполнен, например, с использованием средства блокировки 103. Так, на первом шаге 601 выбирают известный объект социальной сети (например, профиль группы пользователей) из базы данных запрещенных объектов 106. Далее на шаге 602 выбирают объекты, которые связаны с выбранным известным объектом. Затем на шаге 603 выбирают неизвестные объекты, которые отсутствуют в базе данных запрещенных объектов 106 и с которыми связаны выбранные объекты. На шаге 604 определяют меру сходства известного объекта с каждым неизвестным объектом по общим профилям, которые имеют связь как с известным объектом, так и с упомянутым неизвестным объектом. В итоге на шаге 605 добавляют неизвестный объект в базу данных запрещенных объектов 105 в качестве запрещенного объекта соответственно, если мера сходства известного объекта и указанного неизвестного объекта превышает заданный предел (например, более 50%). Указанный предел может быть заранее задан аналитиком или, например, средством блокировки 103. В заключение следует отметить, что приведенные в описании сведения являются примерами, которые не ограничивают объем настоящего изобретения, определенного формулой.

Проведенные практические испытания показали, что новая совокупность обладает меньшей избыточностью и позволяет уменьшить процент ошибки при выявлении подозрительных объектов за счет уменьшения количества объектов в кластерах (см. таблицу 1).

В таблице приведено сравнение исходного изобретения и его модификация дополненная механизмами процедуры анализа и декомпозиции данных кластеров на менее объемные путем применения алгоритмов классификации и кластеризации, тем самым позволяющих сформировать дерево решений относительно исходных кластеров, которое позволяет провести декомпозицию данных кластеров до групп однотипных объектов или, в частном случае, до каждого отдельного объекта из кластера. В таблице видно, что при большом количестве исходных подозрительных объектов, качество исходного прототипа и модифицированного приблизительно равно, когда количество подозрительных объектов уменьшается, то количество неправильно заблокированных объектов в исходном прототипе существо выше, чем модифицированного. Опытным путем выявлено, что модифицированный прототип показывает существенную разницу по сравнению с исходным прототипом при количестве подозрительных объектов равных или меньше 7,8% от исходного количества объектов.

Способ ограничения доступа пользователю социальных сетей к профилям других пользователей или элементам контента, содержащих запрещенный законом характер информации, заключающийся в том, что формируют социальный граф и выделяют в нем кластеры профилей, затем для каждого полученного кластера определяют в социальной сети список объектов, с которыми связаны профили из этого кластера, далее полученные списки объектов сравнивают с базой запрещенных объектов и в случае выявления совпадений осуществляют блокировку доступа пользователя ко всем профилям конкретного кластера, отличающийся тем, что после формирования социального графа и выделения в нем кластеров профилей выполняют процедуру декомпозиции полученных кластеров до групп однотипных объектов с использованием алгоритмов классификации и кластеризации, позволяющих сформировать дерево решений относительно исходных кластеров.