Meta объявляет о планах использовать ИИ для оценки рисков конфиденциальности и социальных рисков

- Meta планирует использовать искусственный интеллект для оценки рисков в области конфиденциальности и социальных последствий, связанных с продуктами.
- Платформа хочет изменить подход к оценке рисков, автоматизировав 90% всех проверок.
- Meta также отметила, что человеческая экспертиза по-прежнему будет применяться при рассмотрении новых и сложных вопросов.
Meta Platforms планирует использовать искусственный интеллект для оценки рисков в области конфиденциальности и общества. На протяжении многих лет компания привлекала человеческих оценщиков для анализа рисков, связанных с новыми продуктами и функциями, но с этим новым обновлением ситуация должна измениться.
Согласно внутренним разговорам и документам, Meta планирует автоматизировать 90% всех оценок рисков. Это означает, что аспекты, касающиеся критических обновлений алгоритмов компании, функций безопасности и изменений в правилах распространения контента на платформах Meta, будут в основном утверждаться системой на базе искусственного интеллекта. Также это означает, что эти изменения больше не будут подвергаться проверке сотрудниками, задача которых — обсуждать, как изменения на платформе могут привести к непредвиденным последствиям или быть использованы во зло.
Meta намерена перейти к системе проверки на основе искусственного интеллекта
Согласно источникам внутри Meta, это развитие рассматривается как победа для разработчиков продуктов, так как оно дает им достаточно времени для выпуска обновлений приложений и новых функций. Однако внутри компании все еще есть опасения относительно того, насколько сложной является ситуация, отмечая, что разрешение компанией ИИ сложных вопросов, касающихся приложений Meta, может привести к реальному вреду. Эта точка зрения разделяется как бывшими, так и нынешними сотрудниками.
«Поскольку этот процесс фактически означает более быстрый запуск большего количества продуктов при менее строгом контроле и противодействии, это создает более высокие риски», — сказал бывший исполнительный директор Meta, попросивший сохранить анонимность из страха перед репрессиями со стороны компании. «Негативные внешние эффекты изменений продуктов с меньшей вероятностью будут предотвращены до того, как они начнут вызывать проблемы в реальном мире».
В недавнем заявлении Meta упомянула, что вложила миллиарды долларов в поддержку конфиденциальности пользователей. Компания также находится под пристальным вниманием Федеральной торговой комиссии (FTC) с 2012 года, когда агентство достигло с компанией соглашения о том, как она обрабатывает личную информацию своих пользователей. В результате, по словам бывших и нынешних сотрудников Meta, всегда существовала необходимость в проверке конфиденциальности продуктов.
В своем заявлении компания добавила, что изменения в обзоре рисков продуктов помогут оптимизировать принятие решений, отметив, что она по-прежнему использует человеческий опыт в новых и сложных вопросах. Meta также отметила, что в настоящее время автоматизируются только решения с низким риском, но внутренние документы, просмотренные NPR, показывают, что Meta изучала возможность автоматизации обзоров для чувствительных аспектов, включая безопасность ИИ, риски для молодежи и другую категорию, известную как «целостность», которая отвечает за такие вещи, как дезинформация и насильственный контент.
В рамках предыдущей системы обновления продуктов и функций сначала направлялись оценщикам рисков перед их выпуском для широкой публики. Однако, согласно слайду, демонстрирующему работу нового процесса, команды продуктов будут получать мгновенные решения после заполнения анкеты о проекте. Решение на основе ИИ выявит несколько рискованных областей и требований, которые могут их устранить. Перед запуском таких проектов команда продуктов также проверит, выполнены ли требования.
Новая система подчеркивает, что инженеры, создающие продукты Meta, должны сами оценивать риски. Согласно слайду, в некоторых случаях, включая новые риски или когда команде продукта требуется дополнительная обратная связь, проекты будут проходить ручной обзор, который выполняется людьми.
Однако бывший директор Meta по инновациям до 2022 года Звика Кригер отметил, что менеджеры продуктов и инженеры не являются экспертами в области конфиденциальности. «Большинство менеджеров продуктов и инженеров не являются экспертами в области конфиденциальности, и это не является основной задачей их работы. Это не то, по чему их в первую очередь оценивают, и не то, что они поощряются ставить в приоритет», — сказал он. Он также добавил, что некоторые из этих самооценок превратились в упражнения, в которых упускаются некоторые важные риски.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Овотунсе Адебайо
Адебайо — писатель с четырёхлетним опытом работы в сфере криптовалют. Он окончил Университет Лагоса, где изучал городское и региональное планирование. Адебайо работал в Tokenhell и CryptoTicker, освещая новости криптовалют и финтеха. В настоящее время он является новостным автором в Cryptopolitan.














