Недавно компанию Meta обвинили в нанесении вреда психическому здоровью подростков, и более 40 штатов подали на нее в суд, утверждая, что она «наживалась на страданиях детей». Американские политики обвиняют Meta в нарушении психологического благополучия молодежи. В четверг Meta объявила о разработке инструментов на основе искусственного интеллекта для защиты детей от мошенничества с использованием интимных фотографий в Instagram.
Мошеннические схемы с вымогательством интимных фотографий, организованные преступными группировками в Instagram, убеждают подростков делиться своими откровенными изображениями, а затем требуют деньги или угрожают опубликовать эти изображения в интернете.
Финансовый шантаж с использованием интимных фотографий и меры безопасности
Компания Meta объявила о тестировании инструментов на основе искусственного интеллекта для противодействия сложившейся финансовой ситуации. Эти инструменты, как утверждается, обеспечивают защиту от изображений, содержащих обнаженную натуру, путем размытия изображений, которые ИИ обнаруживает как содержащие обнаженную натуру, в сообщениях, отправляемых несовершеннолетним в Instagram. Капусин Тюффье, ответственная за защиту детей в Meta France, сообщила AFP, что это поможет защитить детей от нежелательного интимного контента и даст им возможность выбора: видеть изображение или нет, поскольку при получении такого сообщения поверх размытого изображения появится предупреждающий экран.
Компания Meta заявила, что также будет предлагать советы и рекомендации по безопасности всем, кто получает или отправляет подобные сообщения, оказывая своевременную помощь. На экране появится сообщение, призывающее пользователя не чувствовать давления и не отвечать на потенциальные мошеннические действия, а также предоставляющее возможность заблокировать отправителя и сообщить обdent.
Согласно статистике властей, в 2022 году только в США жертвами шантажа с использованием интимных фотографий стали около 3000 молодых людей. Еще в октябре более 40 штатов подали в суд на материнскую компанию Instagram, Meta, утверждая, что компания наживалась на страданиях детей. Компанию обвиняли в создании бизнес-модели, которая эксплуатирует молодых пользователей, заставляя их проводить на платформе максимальное количество времени, несмотря на вред, наносимый их психическому здоровью и благополучию.
Компания Meta работает над решениями для машинного обучения на устройствах
В начале нового года компания Meta сообщила о планах внедрения стратегий по защите несовершеннолетних младше 18 лет путем ограничения правил использования контента и усиления родительского контроля на своей платформе. Вчера Meta заявила, что ее новейшие инструменты основаны на многолетней работе по защите несовершеннолетних от потенциально негативного или вредного взаимодействия.
Мета написала в своем посте:
«Мы тестируем новые функции, призванные защитить молодых людей от шантажа с использованием интимных изображений и затруднить потенциальным мошенникам и преступникам поиск и взаимодействие с подростками»
Источник: Meta
Мета также добавила:
«Защита от изображений с обнаженным телом использует машинное обучение на самом устройстве для анализа того, содержит ли изображение, отправленное в личном сообщении в Instagram, обнаженное тело. Поскольку изображения анализируются на самом устройстве, защита от изображений с обнаженным телом будет работать в чатах с сквозным шифрованием, где Meta не будет иметь доступа к этим изображениям — если только кто-то не решит сообщить нам об этом»
Источник: Meta
Meta также настоятельно призвала проверять потенциальные аккаунты, отправляющие неприемлемый контент, и применять к ним строгие ограничения при контакте с несовершеннолетними пользователями. Хотя известно, что Meta неоднократно обвиняли в нарушении конфиденциальности данных , эти меры кажутся правильным решением. Однако компания также отметила, что не будет иметь доступа к неприемлемым изображениям, если на них не пожалуются пользователи.
Эта статья взята из блога Meta .
