Эксперт усомнился в способе блокировки Telegram-каналов с помощью ИИ

Он отметил, что механизм блокировки подобных каналов может быть эффективно настроен только самим мессенджером.

Важно отметить, что в настоящее время обсуждается возможность использования ИИ для автоматической блокировки подозрительных Telegram-каналов. Депутат Госдумы Олег Морозов предложил разработать такой механизм, который будет реагировать на ключевые слова и автоматически блокировать каналы, вербующие террористов.

Роскомнадзор заявил, что готов рассмотреть предложение о внедрении автоматической блокировки Telegram-каналов. Однако, необходимо учитывать сложности и ограничения в использовании искусственного интеллекта в данной сфере, чтобы избежать ложных срабатываний и нарушения прав пользователей.

Эксперт по искусственному интеллекту Андрей Бирюков подчеркивает, что настройка контекстного поиска без ложных срабатываний практически невозможна. Он приводит пример с чатом, где пользователи могут пересылать сообщения новостных каналов о различных событиях, включая террористические атаки. В таких случаях ключевые слова могут быть обнаружены искусственным интеллектом, но это может привести к ошибочным выводам. Например, система может предложить забанить почти весь Telegram, что приведет к появлению "белого шума" искаженной информации.

По мнению Бирюкова, для анализа контента чата и поиска ключевых слов боту необходим доступ к самому чату. Это означает, что по умолчанию нейросеть будет анализировать только публичные чаты и доступную для всех информацию. Однако, в случае с закрытыми чатами или приватными сообщениями, система может столкнуться с ограничениями в доступе к данным, что усложняет точность анализа контента и увеличивает вероятность ложных срабатываний.

Эксперт подчеркивает, что вопрос вербовки и проведения подобных переговоров в публичных чатах не стоит. Скорее всего, такие действия происходят в закрытых группах, доступ к которым ограничен для сторонних пользователей или ботов. Это усложняет задачу получения целевого контента для анализа искусственным интеллектом.

По мнению специалиста, для эффективной блокировки сомнительных Telegram-каналов необходимо разрабатывать механизмы прямо в самом мессенджере. Использование сторонних приложений, включая ботов, для блокировки каналов является неэффективным, особенно в автоматическом режиме.

Важно понимать, что без активного участия администрации платформы разработка и внедрение механизмов блокировки каналов могут столкнуться с препятствиями. Критически важно, чтобы сам Telegram предоставил инструменты для борьбы с недобросовестными контентом и деятельностью.

Тема блокировки экстремистских высказываний в интернете становится все более актуальной в современном мире. Гендиректор Telecom Daily Денис Кусков высказал мнение, что использование подобных слов может быть двусмысленным – например, слово "терроризм" может встречаться и в контексте противодействия террористическим актам. Это создает сложности при автоматической фильтрации контента.

Однако, несмотря на сложности в определении контекста, существует реальная опасность, что экстремистские высказывания могут привести к реальным негативным последствиям. Необходимо разрабатывать инновационные программные решения для более точной фильтрации контента и предотвращения потенциальной угрозы.

Кусков также подчеркнул важность сотрудничества социальных сетей и мессенджеров в этом вопросе. Блокировка экстремистского контента требует совместных усилий и строгих мер, учитывая масштаб использования таких платформ миллионами людей. Важно найти баланс между свободой выражения и обеспечением безопасности онлайн-сообщества.

После трагических событий в "Крокус сити холле" основатель Telegram Павел Дуров принял решительные меры по борьбе с аккаунтами, связанными с инициированием терактов. Он объявил о блокировке тысяч пользователей и внедрении новых функций для безопасности. Пользователи из России, Украины и Белоруссии получат возможность самостоятельно настраивать фильтрацию сообщений, что поможет им избежать нежелательной информации.

Подчеркивая важность безопасности и борьбы с экстремизмом, Павел Дуров подчеркнул, что Telegram активно работает над улучшением системы фильтрации сообщений. Это позволит пользователям более эффективно контролировать информацию, поступающую к ним через мессенджер.

Новые функции, основанные на искусственном интеллекте, позволят Telegram еще точнее выявлять и блокировать аккаунты, распространяющие экстремистский контент. Пользователи смогут быть уверены в том, что их коммуникации в мессенджере будут более защищены и контролируемы.

Источник и фото - ria.ru