Компания Meta объявляет о планах использовать ИИ для оценки рисков для конфиденциальности и общества

Компания Meta Platforms планирует использовать искусственный интеллект для оценки рисков, связанных с конфиденциальностью и социальными аспектами. На протяжении многих лет компания привлекала экспертов-оценщиков для анализа рисков, связанных с новыми продуктами и функциями, но с этим обновлением ситуация изменится.

Согласно внутренним обсуждениям и документам, Meta планирует автоматизировать 90% всех своих оценок рисков. Это означает, что аспекты, касающиеся критически важных обновлений алгоритмов компании, функций безопасности и изменений в способах обмена контентом на платформах Meta, будут в основном утверждаться системой, поддерживаемой искусственным интеллектом. Это также означает, что эти изменения больше не будут подвергаться проверке со стороны сотрудников, которым поручено обсуждать, как изменения на платформе могут иметь непредвиденные последствия или быть использованы не по назначению.

Компания Meta планирует перейти на систему рецензирования, основанную на искусственном интеллекте

По данным источников внутри Meta, это событие рассматривается как победа для разработчиков продуктов, поскольку дает им достаточно времени для выпуска обновлений и новых функций своих приложений. Однако внутри компании по-прежнему существуют опасения относительно сложности ситуации, поскольку использование ИИ для принятия сложных решений о приложениях Meta может привести к реальному вреду. Такое предвзятое мнение разделяют как бывшие, так и нынешние сотрудники.

«Поскольку этот процесс функционально означает более быстрый запуск большего количества продуктов с меньшим количеством строгих проверок и возражений, это означает, что вы создаете более высокие риски», — сказал бывший руководитель Meta, пожелавший остаться анонимным из-за опасений мести со стороны компании. «Негативные внешние эффекты изменений продукта с меньшей вероятностью удастся предотвратить до того, как они начнут создавать проблемы в мире»

В недавнем заявлении компания Meta упомянула, что вложила миллиарды долларов в защиту конфиденциальности пользователей. Кроме того, с 2012 года компания находится под наблюдением Федеральной торговой комиссии, которая заключила с ней соглашение о порядке обработки персональных данных пользователей. В результате, по словам бывших и нынешних сотрудников Meta, всегда существовала необходимость в проверке продуктов на предмет конфиденциальности.

В своем заявлении компания добавила, что изменения в процедуре оценки рисков продукта помогут оптимизировать процесс принятия решений, отметив, что она по-прежнему использует человеческий опыт в новых и сложных вопросах. Meta также отметила, что в настоящее время автоматизируются только решения с низким уровнем риска, но внутренние документы, изученные NPR, показывают, что Meta рассматривала возможность автоматизации проверок по деликатным аспектам, включая безопасность ИИ, риски для молодежи и еще одну категорию, известную как «целостность», которая отвечает за такие вещи, как дезинформация и контент, содержащий сцены насилия.

В рамках предыдущей системы обновления продукта и функций сначала отправлялись специалистам по оценке рисков, прежде чем внедряться для широкой публики. Однако, согласно слайду, демонстрирующему работу нового процесса, команды разработчиков будут получать мгновенные решения после заполнения анкеты о проекте. Решение, принимаемое с помощью ИИ,dentнесколько рискованных областей и требования, которые могут их устранить. Перед запуском таких проектов команда разработчиков также проверит, были ли выполнены все требования.

Новая система подчеркивает, что инженерам, разрабатывающим продукты Meta, придется самостоятельно оценивать риски. Согласно слайду, в некоторых случаях, включая новые риски или когда команде разработчиков продукта требуется дополнительная обратная связь, проекты будут проходить ручную проверку, проводимую людьми.

Однако бывший директор Meta по инновациям (до 2022 года) Цвика Кригер отметил, что менеджеры по продуктам и инженеры не являются экспертами в области конфиденциальности. «Большинство менеджеров по продуктам и инженеров не являются экспертами в области конфиденциальности, и это не является предметом их работы. Их оценивают не по этому критерию, и их не мотивируют уделять этому приоритетное внимание», — сказал он. Он также добавил, что некоторые из этих самооценок превратились в упражнения, которые упускают из виду важные риски.