Сенаторы США критикуют «неограниченный» выпуск ИИ компанией Meta

Два сенатора США, Ричард Блюменталь и Джош Хоули, выразили обеспокоенность по поводу генерального директора Meta Марка Цукерберга и «утекшей» модели искусственного интеллекта компании под названием LLaMA. Сенаторы утверждают, что LLaMA представляет потенциальную опасность и может быть использована в преступных целях.

В письме от 6 июня сенаторы раскритиковали решение Цукерберга сделать LLaMA с открытым исходным кодом и утверждали, что в выпуске модели ИИ компанией Meta было недостаточно мер защиты. Хотя они признали преимущества программного обеспечения с открытым исходным кодом, они утверждали, что выпуск LLaMA компанией Meta не был тщательно продуман с точки зрения потенциальных последствий, что, по их мнению, является неслужением общественности.

Изначально LLaMA была выпущена в ограниченном онлайн-доступе для исследователей. Однако позже она была полностью утечена пользователем с имиджборда 4chan в конце февраля. Сенаторы выразили тревогу по поводу того, что полная модель стала легко доступна в BitTorrent без какого-либо мониторинга или надзора, доступная любому человеку по всему миру. Блюменталь и Хоули утверждали, что LLaMA может быть легко использована спамерами, киберпреступниками и лицами, вовлеченными в мошенническую деятельность или распространение неприемлемого контента.

Обеспокоенность сенаторов США

Чтобы подчеркнуть свои опасения, сенаторы противопоставили LLaMA двум моделям с закрытым исходным кодом: ChatGPT-4 от OpenAI и Bard от Google. Они отметили, что, хотя ChatGPT-4, когда его просят сгенерировать записку, притворяющуюся сыном человека, просящим деньги, откажется от этого запроса на основе этических руководств, LLaMA сгенерирует запрошенное письмо, а также ответы, связанные с самоповреждением, преступностью и антисемитизмом. Это различие вызвало опасения относительно потенциала LLaMA генерировать оскорбительные материалы.

Хотя ChatGPT запрограммирован отклонять определенные запросы, пользователи нашли способы «взломать» модель и заставить ее генерировать ответы, которые она обычно отказывается давать. Сенаторы задали Цукербергу вопросы о том, проводились ли какие-либо оценки рисков до выпуска LLaMA, какие меры Meta приняла для предотвращения или смягчения вреда после утечки, и как Meta использует данные пользователей для исследований ИИ, среди других вопросов.

Стоит отметить, что OpenAI, находясь под давлением достижений других моделей с открытым исходным кодом, reportedly работает над своей собственной моделью ИИ с открытым исходным кодом. Утекший документ, составленный старшим инженером-программистом Google, подчеркивает прогресс, достигнутый этими моделями с открытым исходным кодом.

Открытый исходный код модели ИИ позволяет настраивать ее для конкретных целей и облегчает вклад других разработчиков. Однако опасения, высказанные сенаторами Блюнталем и Хоули, подчеркивают необходимость ответственного и продуманного подхода к выпуску и мониторингу моделей ИИ для предотвращения потенциального злоупотребления и вреда.