Meta запустит инструменты на базе ИИ для защиты несовершеннолетних от сексторшна
- Meta тестирует новые инструменты и функции для защиты подростков от сексторсии в Instagram.
- Для этого будет использоваться технология искусственного интеллекта, а также будут распространяться рекомендации и советы по безопасности.
- Платформу Meta Instagram обвиняют во вреде психическому здоровью подростков.
Недавно Meta подверглась обвинениям в нанесении ущерба психическому здоровью подростков, и более 40 штатов подают на нее в суд, утверждая, что компания «извлекает прибыль из страданий детей». Американские политики обвинили Meta в нарушении психологического благополучия молодежи. В четверг Meta объявила, что разрабатывает инструменты на основе искусственного интеллекта для защиты детей от мошеннических схем сексторшна на Instagram.
Мошеннические схемы сексторшна, организованные бандами в Instagram, убеждают подростков делиться их интимными фотографиями, а затем требуют деньги или угрожают опубликовать эти изображения в интернете.
Финансовый сексторш и меры безопасности
Meta объявила, что тестирует инструменты на основе искусственного интеллекта для противодействия финансовым аспектам проблемы. Сообщается, что эти инструменты обеспечивают защиту от непристойного контента, размывая изображения, которые ИИ определяет как содержащие наготу, при их отправке несовершеннолетним в сообщениях Instagram. Капсин Тюфье, отвечающая за защиту детей в Meta France, рассказала AFP, что это поможет защитить детей от нежелательного интимного контента и даст им выбор, хотят ли они видеть изображение или нет: когда кто-то получает такое сообщение, над размытым изображением появится предупреждающий экран.
Meta заявила, что также предложит советы по безопасности и рекомендации всем, кто получает или отправляет такие сообщения, оказывая своевременную помощь. На экране появится сообщение, которое побудит пользователя не чувствовать давления для ответа на потенциальную уловку, а также предоставит возможность заблокировать отправителя и сообщить о происшествии.
Согласно статистике властей, только в 2022 году в Соединенных Штатах около 3000 подростков стали жертвами мошеннических схем сексторшна. Еще в октябре более 40 штатов подали в суд на материнскую компанию Instagram, Meta, в иске, утверждая, что компания извлекала прибыль из страданий детей. Компанию обвинили в создании бизнес-модели, которая эксплуатирует молодых пользователей, заставляя их проводить максимальное время на платформе, несмотря на ущерб их психическому здоровью и благополучию.
Meta работает над решениями машинного обучения на устройстве
В начале нового года Meta раскрыла, что выпустит стратегии по защите несовершеннолетних младше 18 лет путем ограничения политик использования контента и усиления родительского контроля на своей платформе. Вчера Meta заявила, что ее новейшие инструменты опираются на глубокую работу по защите несовершеннолетних от потенциально негативного или вредного взаимодействия.
Meta сказала в публикации,
«Мы тестируем новые функции, чтобы помочь защитить молодых людей от сексторшна и злоупотреблений интимными изображениями, а также сделать более трудным для потенциальных мошенников и преступников поиск и взаимодействие с подростками.»
Источник: Meta
Meta также добавила,
«Защита от непристойного контента использует машинное обучение на устройстве для анализа того, содержит ли изображение, отправленное в личных сообщениях Instagram, наготу. Поскольку изображения анализируются непосредственно на устройстве, защита от непристойного контента будет работать в чатах с сквозным шифрованием, где у Meta не будет доступа к этим изображениям – если только кто-то не решит сообщить нам о них.»
Источник: Meta
Meta также призвала проверять потенциальные аккаунты, отправляющие неприемлемый контент, и применять к ним строгие ограничения при контакте с несовершеннолетними пользователями. Хотя нам известно, что Meta неоднократно обвинялась в нарушении конфиденциальности данных пользователей, эти меры кажутся правильным шагом. Однако компания также отметила, что не будет иметь доступа к неприемлемым изображениям, если они не будут сообщены пользователями.
Этот материал основан на публикации в блоге Meta.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Амир Шейх
Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.
