Более 74% представителей поколения Z проводят свободное время в Сети — в среднем около 10 часов в день. Можно с уверенностью сказать, что их онлайн- и офлайн-миры переплетаются. Поскольку использование социальных сетей стало нормой и все мы проводим жизнь в Интернете, мы должны искать способы снизить риски, защититься и отфильтровать сообщения, вызывающие беспокойство. Поможет в этом искусственный интеллект — передовая технология машинного обучения, играющая важную роль в современной жизни и основополагающую для функционирования современных социальных сетей.

Всего один щелчок мыши — и инструменты ИИ, такие как чат-боты, алгоритмы и автоматические предложения, повлияют на то, что вы видите на экране и как часто вы это видите, создавая настроенную ленту, которая полностью изменит способ вашего взаимодействия на этих платформах. Анализируя наше поведение, инструменты глубокого обучения могут определять привычки, симпатии и антипатии и отображать только те материалы, которые, как они ожидают, нам понравятся. Человеческий интеллект в сочетании с этими системами глубокого обучения не только делает прокрутку наших лент более персонализированной, но также обеспечивает ключевой и эффективный способ отслеживания и быстрого реагирования на вредное и угрожающее поведение, с которым мы сталкиваемся в Интернете, что может иметь разрушительные последствия в долгосрочной перспективе.

Важность ИИ в повышении безопасности социальных платформ

Отсутствие родительского контроля в большинстве социальных сетей означает, что это может быть токсичная среда, и количество пользователей, которые вам неизвестны на этих платформах, несёт в себе большую степень риска. Реальность такова, что сегодня подростки имеют постоянный доступ к Интернету, но большинство из них не контролируется родителями. Дети ежедневно сталкиваются с проблемами в Интернете, серьёзными угрозами, такими как радикализация, эксплуатация детей, рост просуицидных чатов и многие другие, становясь свидетелями травли, и всё это происходит без присмотра родителей и опекунов.

ИИ создан для улучшения жизни людей, но всегда существовал страх, что «роботы» начнут заменять людей — это классическая «битва» между человеком и машиной. Вместо этого мы должны быть готовы принимать и использовать его возможности. Кибербезопасность — одна из величайших проблем нашего времени, и, используя мощь ИИ, мы можем начать бороться с действиями, которые имеют пагубные последствия, и снизить риски в Сети.

Расширенные функции безопасности

ИИ оказался эффективным оружием в борьбе с онлайн-домогательствами и распространением вредоносного контента, и теперь эти инструменты глубокого обучения играют важную роль в нашем обществе, повышая безопасность как в виртуальном, так и в реальном мире. ИИ можно использовать для модерации контента, загружаемого на социальные платформы, а также для отслеживания взаимодействия между пользователями, что было бы невозможно делать вручную из-за огромного объёма. В Yubo мы используем форму искусственного интеллекта, называемую обучением нейронной сети, Yoti Age Scan, чтобы точно оценить возраст пользователя в учётных записях, где есть подозрения или сомнения, — нашим пользователям должно быть 13 лет, чтобы зарегистрироваться, и существуют отдельные учётные записи для взрослых людей. Помеченные аккаунты проверяются в течение нескольких секунд, и пользователи должны подтвердить свой возраст и личность, прежде чем они смогут продолжить использование платформы — это всего лишь один жизненно важный шаг, который мы предпринимаем для защиты молодых людей в Интернете. С более чем 100 миллионами часов видео и 350 миллионами фотографий, загружаемых только на Facebook каждый день, алгоритмы запрограммированы так, чтобы перемещать огромные объёмы контента и удалять как сообщения, так и пользователей, когда контент является вредным и не соответствует стандартам платформы. Алгоритмы постоянно развиваются и обучаются и могут распознавать повторяющиеся сообщения, понимать контекст сцен в видео и даже определять настроения, распознавая такие интонации, как гнев или сарказм. Если сообщение не получается идентифицировать, оно будет помечено для проверки людьми. Использование ИИ для просмотра большей части онлайн-активности защищает модераторов-людей от нежелательного контента, который в противном случае мог бы привести к проблемам с психическим здоровьем.

ИИ также использует инструменты обработки естественного языка (NLP) для отслеживания взаимодействия между пользователями в социальных сетях и выявления недопустимых сообщений, отправляемых несовершеннолетним и уязвимым пользователям. На практике наиболее вредоносный контент создаётся меньшинством пользователей, поэтому методы искусственного интеллекта могут использоваться для выявления злонамеренных участников и определения приоритетности их контента для проверки. Машинное обучение позволяет этим системам находить невидимые для человека закономерности в поведении и разговорах и предлагать новые категории для дальнейшего исследования. Обладая расширенными аналитическими возможностями, ИИ также может автоматизировать проверку информации и проверку подлинности сообщения, чтобы исключить распространение дезинформации и вводящего в заблуждение контента.

Раскрытие возможностей ИИ в образовании

Молодым людям нужна безопасная и стимулирующая среда, когда они находятся в Сети. ИИ можно использовать для упреждающего обучения пользователей ответственному поведению в Интернете с помощью предупреждений и блокировщиков в режиме реального времени. В Yubo, где наша база пользователей состоит только из представителей поколения Z, мы используем сочетание сложной технологии искусственного интеллекта и взаимодействия с людьми для отслеживания поведения пользователей. Наши функции безопасности предотвращают обмен личной информацией или неприемлемыми сообщениями, вмешиваясь в режиме реального времени, — например, если пользователь собирается поделиться конфиденциальной информацией, такой как личный номер, адрес или даже неприемлемое изображение, он получит всплывающее сообщение от Yubo, подчёркивающее последствия, которые могут возникнуть в результате обмена этой информацией. Затем пользователю необходимо будет подтвердить, что он хочет продолжить, прежде чем ему будет разрешено это сделать. Кроме того, если пользователи попытаются поделиться откровенными изображениями или несоответствующим запросом, Yubo заблокирует передачу этого контента предполагаемому получателю, прежде чем они смогут нажать кнопку «Отправить». Мы активно информируем наших пользователей не только о рисках, связанных с обменом личной информацией, но и побуждаем их переосмыслить свои намерения, прежде чем участвовать в действиях, которые могут иметь негативные последствия для них самих или других. Мы стремимся предоставить поколению Z безопасную платформу для связи и общения — мы знаем, что наша аудитория находится в том возрасте, когда, если мы сможем обучить их онлайн опасностям и осторожности сейчас, мы сможем сформировать их поведение позитивным образом в будущем.

Применение инструментов искусственного интеллекта на благо общества

Социальные сети при безопасном использовании становятся мощным инструментом, который позволяет людям сотрудничать, налаживать связи, поощряет инновации и помогает повысить осведомлённость о важных социальных проблемах, а также имеют множество других положительных моментов. Поскольку этим цифровым мирам уделяется такое большое внимание, крайне важно, чтобы пользователи были обучены и защищены, чтобы они могли перемещаться по этим платформам и пользоваться ими самым ответственным образом. Мы уже видим положительное влияние технологий ИИ на социальные сети — они жизненно важны для анализа и мониторинга огромного количества данных и пользователей, которые ежедневно активны на этих платформах.

В Yubo мы знаем, что наш долг — защищать наших пользователей, и внедрили сложную технологию искусственного интеллекта, чтобы помочь снизить любые риски. Мы продолжим использовать ИИ для защиты наших пользователей от вредоносных взаимодействий и контента, а также для начала постоянного диалога о последствиях неподобающего поведения. Эти инструменты предоставляют неограниченный потенциал для повышения безопасности социальных пространств, и нам необходимо использовать их силу для увеличения благополучия всех нас.

Источник: https://artificialintelligence-news.com/2021/03/30/opinion-how-ai-protect-users-in-online-world/